<table id="ej5zp"></table>

  • 展會信息港展會大全

    中科院院士張鈸:我們正處在AI算法不可控的危險狀態
    來源:互聯網   發布日期:2022-08-22 09:37:59   瀏覽:8140次  

    導讀:8月19日,2022世界機器人大會主論壇正式開幕,期間,有三位院士到場,就未來機器人:目標、路徑和挑戰的主題進行了一場深刻的談話。 三位院士分別為中國科學院院士,清華大學計算機系教授、現任清華大學人工智能研究院院長 ,微軟亞洲研究院技術顧問的張鈸;...

    8月19日,2022世界機器人大會主論壇正式開幕,期間,有三位院士到場,就“未來機器人:目標、路徑和挑戰”的主題進行了一場深刻的談話。

    三位院士分別為中國科學院院士,清華大學計算機系教授、現任清華大學人工智能研究院院長 ,微軟亞洲研究院技術顧問的張鈸;中國工程院院士、機器人技術國家工程研究中心主任,遼寧省科學技術協會主席,北京郵電大學自動化學院院王天然;中國科學院院士,中國科學院自動化研究所研究員、機器人理論與應用專家喬紅。

    短短一個小時內,三位機器人領域的頂尖專家就人工智能與機器人的區別、智能機器人的未來、為什么要人機共融、機器人目前面臨的倫理思考等多個話題進行了探討。

    在會上,張鈸提到,第二代人工智能的算法是利用深度神經網絡和對數據的訓練來形成人工智能的,而純粹靠數據驅動的方法必然不可解釋、不可靠,因此即使機器人的智能還很低,但人工智能算法的不可控仍然可能使人類處于危險狀態。

    中科院院士張鈸:我們正處在AI算法不可控的危險狀態

    機器人“不是人”,人工智能“不夠智能”

    在很多人的印象里,“機器人”和“人工智能”好像是兩個不分家的概念,甚至于現在的機器人只要一被提起,就自帶“智能”的先天屬性。然而,在張鈸看來,機器人和人工智能是兩個完全獨立的領域。

    “最明顯的一點,它們的目標完全不同。人工智能是用機器來模仿人類的智能行為,追求的是機器行為與人類行為的相似性,甚至是越相似越好;而機器人則是為了協助人類完成一些本來是由人來完成的任務,追求的是完成任務或者人類信任。”張鈸說。

    而在這個以機器人為核心主題的世界機器人大會上,張鈸也詳細科普了機器人的三大主要研究內容:

    執行結構;機器人的目的就是要(在物理世界里)完成任務,所以必須要有執行機構,這種機構可以是仿真動物,也可以建立在電機和齒輪傳動的基礎上。而這項內容在人工智能領域中就不一定要做。

    能源;尤其是針對移動機器人,高效的能源是關鍵問題。

    智能控制;這部分是一個“大口袋”,包括控制、人工智能、傳感器和環境感知。

    張鈸表示,機器人的三大主要研究內容里,只有“智能控制”部分與人工智能有所重疊,這也就是為什么他認為說人工智能包含機器人,或者機器人包含人工智能都是不對的,這本身就是兩個追求目標不同的學科。

    “所以我認為這兩個領域的名字也起得不好,‘機器人’這個名字讓大家誤解成它是一個人或者必須像人;人工智能則讓人家以為人工智能做智能的,但實際上人工智能只能在模仿智能行為,即智能的外部表現,并非在模仿智能。”張鈸補充道。

    他也談到了機器人的未來,同人工智能領域近些年熱議的“通用人工智能”一樣,機器人領域也有相似的爭論:即系統是否需要具備一定的通用性,去完成很多任務?

    在張鈸看來,這個問題在人工智能領域是有討論的必要性的,但是在機器人領域之中,沒有必要做一個通用機器人去代替人,因為機器人本身就是為了完成一定的任務而制造的,比如專門做手術、專門舉重等等,基本表現都是專用的,那么就不必讓一個手術機器人去扛重。

    所以他預言,將來會使多種多樣的智能機器人出現,每個機器人來完成一定或一類工作。

    中科院院士張鈸:我們正處在AI算法不可控的危險狀態

    機器人的未來:奴隸、朋友、還是同類?

    就著張鈸對機器人未來的暢想,另外兩位院士也提出了自己的看法。

    喬紅認為,將來的機器人主要有三個要求:

    智能發育;就像人類會有意識、情感和自己的目標,但機器人沒有自主產生的目標,因此“發育”就是指自主學習,自由運動。

    機理不能復制;指人在感性上的不可復制,獨一無二。

    永遠的學習。

    中科院院士張鈸:我們正處在AI算法不可控的危險狀態

    王天然則進一步認為,不管未來機器人做成什么樣子,有一個問題肯定是共通的:機器人與人類應該保持什么樣的關系?換句話說,也就是“人機共融”問題,這是人與機器人關系的一種抽象概念,具體指人與機器人可以相互理解、相互感知、相互幫助,實現人機共同演進。

    對于現在兩種甚囂塵上的觀點,王天然也發表了他的看法,一種是“將來機器人會統治人類”,他認為過于科幻,人造的機器不可能達到這個目標;而‘機器人造出來是為了取代人’的說法,王天然也認為是在故意挑起人和機器的矛盾,在他看來,機器人的目的不是和人爭奪,現在整體的目標就是機器換人,人取代人。

    那么機器人和人類最好的關系是什么呢?王天然用了四個字:“宛如同類。”

    他解釋道:“如果機器人要能替人類服務,那最好是伙伴關系,雖然你是機器我是人,但是我們倆感覺卻好像是同類,而不是一個人和一個機器在一起。這樣就能使得機器人能夠更好為人類服務,而不是統治人類。”

    中科院院士張鈸:我們正處在AI算法不可控的危險狀態

    人工智能算法不可控問題并非遠慮

    而要談到機器人與人類的關系,那么必然還會面臨另一個問題:倫理。

    阿西莫夫認為,關于機器的倫理問題有兩個需要思考的方面:機器人如果智能超過人類,或有意識以后,我們應該如何讓機器人按照倫理準則來行為;人類如何按照倫理原則來設計和使用機器人。

    張鈸認為,上述兩個方面表面看起來簡單,實際上卻關系到三大難題:

    首先是標準和法規問題:什么是道德?什么時候不道德?這本身就有非常大的爭議

    對于人類來說,有人會在設計使用機器人的時候遵守倫理原則,但有些人不會

    如果假設道德規范有了,還有涉及到機器人行為是否可控

    張鈸展開說明了第三個問題,他表示,如果機器人完全按照規則來執行,那就不是智能機器人,只有人類制造者給予了它一定的自主性,機器才能有創造性,才能逐漸學會自主解決問題,而這必然就要付出一個代價機器人可能會不受控制。

    張鈸說:“當20世紀人工智能發展起來以后,雖然機器人還處在智能很低的階段,但我們已經處在了一個危險狀態,為什么呢?因為我們處于不可控狀態,比如說用深度學習的方法開發出來的人工智能算法沒有可靠性保證的。”

    張鈸最后提到了人工智能的三次浪潮:第一次是1956年到1974期間的人工智能1.0,科學家將符號方法引入統計方法中進行語義處理,出現了基于知識的方法;20世紀80年代初至20世紀末則是人工智能2.0,與人工智能相關的數學模型取得了一系列重大發明成果,進一步催生了能與人類下象棋的高度智能機器;而從21世紀初開始至今,人工智能3.0的浪潮正在掀起。

    “我們要提出來第三代人工智,必須要解決第二代人工智能的算法不安全、不可靠、不可信、不可控的狀態或問題,而這種擔心現在看起來已經是一個近憂,而并非遠慮了。”

    采寫:南都見習記者楊博雯

    贊助本站

    人工智能實驗室
    AiLab云推薦
    展開
    Copyright © 2010-2022 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯系我們 | 廣告服務 | 公司動態 | 免責聲明 | 隱私條款 | 工作機會 | 展會港 | 站長號
    18禁无遮拦无码国产在线播放

    <table id="ej5zp"></table>