展會信息港展會大全

聚焦AI治理|爭鳴:人類能否掌控能力強大的通用人工智能?
來源:互聯網   發布日期:2021-01-20   瀏覽:12140次  

導讀:通用人工智能可能無法被治理,因為傳統的責任分配和懲罰執行方法并不適用。 近日,美國路易斯維爾大學教授羅曼揚波爾斯基(Roman Yampolskiy)就人工智能治理問題接受了澎湃新聞(www.thepaper.cn)記者專訪。 他認為,在某些重要方面,我們無法治理比人類更...

“通用人工智能可能無法被治理,因為傳統的責任分配和懲罰執行方法并不適用。”

近日,美國路易斯維爾大學教授羅曼揚波爾斯基(Roman Yampolskiy)就人工智能治理問題接受了澎湃新聞(www.thepaper.cn)記者專訪。

他認為,在某些重要方面,我們無法治理比人類更聰明的人工智能。“一個能力強大、富有創造力且不受控制的通用人工智能最終可能會隱式甚至明確地控制管理此類智能軟件的一些機構和個人。”

羅曼揚波爾斯基是美國路易斯維爾大學網絡安全實驗室的創始人和主任,著有《人工超級智能:未來的方法》等書籍。他的主要研究興趣有人工智能安全、模式識別、生物行為識別等。揚波爾斯基曾受邀出席2020年首屆清華大學人工智能合作與治理國際論壇。

通往通用人工智能的嘗試

通用人工智能( Artificial general intelligence,簡稱AGI),有時也被稱作強人工智能,它所描述的機器智能可以理解或學習人類所能完成的任何智力任務。

多智能體系統教父、牛津大學計算機科學系主任Michael Wooldridge在接受澎湃新聞(www.thepaper.cn)采訪時表示,如果我們能構建具有人類全部能力和智力的程序,那我們就將實現通用人工智能。但當前,“我們連通用人工智能的皮毛都還沒有碰到”。

關于人工通用智能能否實現、何時實現的問題,業內有不同的觀點。部分人工智能學者認為,人工通用智能的概念并不嚴肅,在實踐中基本不可能實現。另一些人則十分看好人工通用智能的發展,認為它有可能塑造人類的發展軌跡。

例如,圖靈獎得主拉吉雷迪(Raj Reddy)認為,研究通用用途的人工智能毫無用處。“用AI能開發出的東西是無窮無盡的,但研究人員應專注研究如何用AI增強人的能力,而不只是增強AI的能力”。 清華大學類腦計算中心主任施路平則表示,從未來發展的角度看,人工通用智能是一個必然的趨勢。

盡管學界對是否應發展通用人工智能存在分歧,科研公司和高校已經開始相關嘗試,通用人工智能的倫理問題也日漸顯現。

2019年7月,微軟宣布向非營利性人工智能研究公司OpenAI投資10億美元研發人工通用智能。2019年8月,清華大學在學術期刊《自然》發表《面向人工通用智能的異構天機芯片架構》研究。2021年1月,谷歌和微軟相繼在一份權威自然語言理解榜單中表現超越人類,微軟宣稱這“標志著邁向通用人工智能的重要里程碑。”

政府的監管嘗試可能是徒勞

在采訪中,揚波爾斯基介紹,為了使未來的人工智能造福于全人類,針對人工智能的治理計劃試圖通過建立監管框架和行業標準等方式,使人工智能可以被各國政府、國際組織和跨國公司控制。

但他指出,直接治理人工智能是沒有意義的,“‘人工智能治理’這個術語暗示的是,通過規定允許開發什么樣產品和服務以及如何開發,來管理人工智能研究員和創造者”。

他認為,無論對從事人工智能研究的科學家和工程師實施何種管理,都取決于創建人工通用智能(AGI)的難度。

“如果創造通用人工智能所必需的計算資源和數據收集工作,在資金和人力資本方面與美國的曼哈頓計劃(美國研制原子彈的計劃)相當,那么各國政府就有許多‘胡蘿卜加大棒’,可以用來指導研究人員,并按照自己的規范塑造未來的人工智能。”

但另一種情況下,他分析道,如果有更有效的方法來創造第一個通用人工智能,那么政府的監管嘗試可能是徒勞的。“例如,一個青少年在車庫里用一臺價值僅1000美元的筆記本電腦創造出第一個通用人工智能。雖然可能性很小,但這種情況也需要考慮。”

總而言之,“歷史上,很多對軟件治理的嘗試,例如垃圾郵件、計算機病毒和深度偽造技術(Deepfake)等,都只取得了非常有限的成功。而作為一個獨立代理,通用人工智能可能無法被治理,因為傳統的責任分配和懲罰執行方法并不適用。”

揚波爾斯基認為,即使遇到第一種情況,即創造通用人工智能需要密集的資源,我們仍然對人工智能的可預測性、可解釋性和可控制性存在一些既定的技術限制。“至少需要這三種能力才能夠部分實現對人工智能的成功監管,這也就意味著,在某些重要方面,我們無法治理比人類更聰明的人工智能。”

“最后,即使AI治理是可以實現的,那些負責人也可能不愿意為AI的失敗承擔個人責任。因此,一個能力強大、富有創造力且不受控制的通用人工智能最終可能會隱式甚至明確地控制管理此類智能軟件的一些機構和個人。”

贊助本站

人工智能實驗室
AiLab云推薦
展開
Copyright © 2010-2021 AiLab Team. 人工智能實驗室 版權所有    關于我們 | 聯系我們 | 廣告服務 | 公司動態 | 免責聲明 | 隱私條款 | 工作機會 | 展會港
AG体育app,AG体育投注,AG手机平台,AG体育平台