穀歌工程師鬧了場大烏龍 人工智能還沒理解能力哪來的意
人工智能現在確實能進行較準確的預測,但它是基於大規模數據的統計。這種沒有理解、通過機器學習所得到的預測能力就必須依靠大數據,而不能像人一樣很多時候隻需小數據就可以進行預測。
不久前,穀歌公司(以下簡稱穀歌)AI工程師萊莫因認為對話應用語言模型LaMDA“活了”“其意識迎來覺醒”,並對此出具了長達21頁的證據。他認為,LaMDA擁有七八歲孩童的智力,並相信LaMDA不(bu)僅(jin)認(ren)為(wei)自(zi)己(ji)是(shi)一(yi)個(ge)人(ren)類(lei),且(qie)正(zheng)在(zai)爭(zheng)取(qu)自(zi)己(ji)作(zuo)為(wei)一(yi)個(ge)人(ren)的(de)權(quan)利(li)。萊(lai)莫(mo)因(yin)的(de)觀(guan)點(dian)和(he)證(zheng)據(ju)引(yin)來(lai)業(ye)內(nei)的(de)廣(guang)泛(fan)關(guan)注(zhu)。近(jin)日(ri)該(gai)事(shi)件(jian)迎(ying)來(lai)最(zui)終(zhong)結(jie)局(ju),穀(gu)歌(ge)發(fa)表(biao)聲(sheng)明(ming),稱(cheng)萊(lai)莫(mo)因(yin)違(wei)反(fan)了(le)“就業和數據安全政策”,將其解雇。穀歌表示,經過廣泛地審查,他們發現萊莫因關於LaMDA是有生命的說法是完全沒有根據的。
盡管“AI是否擁有了自主意識”一直都是AI界爭議不休的話題,但此次因為穀歌工程師和LaMDA的戲劇性故事,再次引發了業內對此話題的激烈討論。
機器越來越會聊天了
“如果要來旅遊記得穿暖和點,因為我這裏特別冷。”這是LaMDA在“扮演”冥王星時,同科研團隊聊天時俏皮地回答,至於被問到“有沒有人訪問過冥王星”,它也能以準確的事實回答。
如今,AI越來越會聊天。能讓一個長期從事人工智能研究的專業人士認為其已具有意識,AI模型究竟發展到了什麼程度?
youkexuejiatichu,rennaojinliyongshijiaoshurudeyibufenxinxibiankewanchengduiweilaixingweideguihua。zhibuguoshijiaoshuruxinxiyingdangzaiyouyishidezhuangtaixiawancheng。tamendousheji“反事實信息的產生”,即在沒有直接感官信息輸入的情況下產生對應的感覺。之所以稱其為“反事實”,是因為它涉及對過去的記憶、或對未來行為的預測,而不是正在發生的實際事件。
“目mu前qian的de人ren工gong智zhi能neng已yi經jing有you了le複fu雜za的de訓xun練lian模mo型xing,但dan還hai要yao依yi賴lai人ren類lei提ti供gong的de數shu據ju才cai能neng學xue習xi。若ruo有you了le產chan生sheng反fan事shi實shi信xin息xi的de能neng力li,人ren工gong智zhi能neng便bian可ke自zi己ji生sheng成cheng數shu據ju,自zi己ji想xiang象xiang未wei來lai可ke能neng遇yu到dao的de情qing況kuang,從cong而er更geng靈ling活huo地di適shi應ying之zhi前qian未wei遇yu見jian過guo的de新xin情qing境jing。此ci外wai,這zhe還hai能neng使shi人ren工gong智zhi能neng擁yong有you好hao奇qi心xin。如ru果guo人ren工gong智zhi能neng不bu確que定ding未wei來lai會hui發fa生sheng什shen麼me,就jiu會hui親qin自zi去qu試shi一yi試shi。”遠望智庫人工智能事業部部長、圖靈機器人首席戰略官譚茗洲表示。
在人們日常的聊天中,如果不想把天“聊死”,對話雙方的聊天內容往往會比較跳躍、跨越幅度較大,具有一定的想象空間。但現在大多數AI係統隻能一板一眼說話,稍微上下句有點變化,就會文不對題,甚至貽笑大方。
譚茗洲指出:“LaMDA處理的是語言模型中最複雜的部分——開放域對話。而LaMDA基於Transformer模型,該模型可讓機器讀懂上下文。比如在一段話中,以往的AI隻知道文中代詞如his都翻譯為‘他的’,卻不知道這裏麵的his指的同一個人。Transformer模型則可讓AI從整體層麵理解這段話,知道這裏的his是同一個人。”
據科研人員評測,這種特性讓基於Transformer模型的語言模型可以承擔開放域對話,不管話題發散多遠,AI都能聯係前文,聊起天來不恍神。但LaMDA並不滿足於此,它還能讓天聊得有趣、聊得真實、聊得讓人以為AI產生了人格。此外,與人類對話時,LaMDA還引入外部信息檢索係統,通過對真實世界的檢索理解回應對話,讓其回答更機智靈敏、接地氣。
距離對事物的真正理解還很遠
2018年,圖靈獎得主計算機科學家楊立昆(Yann LeCun)曾說,“人工智能缺乏對世界的基本認識,甚至還不如家貓的認知水平”。時至今日,他依然認為人工智能還遠不及貓的認知水平。盡管貓的大腦隻有8億個神經元,但卻遠遠領先於任何巨型人工神經網絡,這是為何呢?
譚茗洲表示:“人(ren)類(lei)的(de)大(da)腦(nao)在(zai)很(hen)多(duo)時(shi)候(hou)確(que)實(shi)是(shi)在(zai)做(zuo)預(yu)測(ce),但(dan)絕(jue)不(bu)應(ying)認(ren)為(wei)預(yu)測(ce)就(jiu)是(shi)大(da)腦(nao)思(si)維(wei)的(de)全(quan)部(bu),當(dang)然(ran)更(geng)不(bu)是(shi)大(da)腦(nao)智(zhi)能(neng)的(de)本(ben)質(zhi),而(er)隻(zhi)是(shi)智(zhi)能(neng)的(de)一(yi)種(zhong)表(biao)現(xian)形(xing)式(shi)。”
那麼,什麼是智能的本質呢?楊立昆認為是“理解”,duizhegeshijieyijigezhongshiwudelijie,caishizhinengdebenzhi。ermaoherenleizhinengdegongtongjichushiduiyushijiedegaodulijie,jiyuduihuanjingdechouxiangbiaozhengxingchengmoxing,liruyucexingweihehouguo。duiyurengongzhinenglaishuo,xuexibingzhangwozhezhongnenglijiufeichangguanjianle。yanglikunzengbiaoshi,“在我職業生涯結束前,如果AI能夠達到狗或者牛一樣的智商,那我就已經十分欣慰了。”
據介紹,人工智能現在確實能進行較準確的預測,但它是基於大規模數據的統計。這種沒有理解、通過機器學習所得到的預測能力必須依靠大數據,而不能像人一樣很多時候隻需要小數據就可以進行預測。
譚茗洲表示:“預yu測ce是shi建jian立li在zai理li解jie基ji礎chu之zhi上shang的de,對dui於yu人ren類lei而er言yan,沒mei有you理li解jie,就jiu不bu可ke能neng有you預yu測ce。如ru看kan見jian別bie人ren手shou裏li拿na著zhe個ge披pi薩sa餅bing,如ru果guo你ni不bu理li解jie餅bing是shi用yong來lai充chong饑ji的de,就jiu不bu會hui預yu測ce接jie下xia來lai他ta會hui把ba餅bing吃chi了le,而er機ji器qi並bing非fei如ru此ci。人ren工gong智zhi能neng研yan究jiu有you三san大da挑tiao戰zhan:學會對世界表征;學會以與基於梯度學習兼容的方式進行思考和規劃;學習行動規劃的分層表征。”
之所以我們“仍然沒有看到貓級別的人工智能”,也就是因為機器還沒有做到對事物的真正理解。
所謂人格僅僅是學自人類的語言風格
據報道,萊莫因和LaMDA聊了很久,對其能力感到十分驚訝。在公開的聊天記錄中,LaMDA竟然說出了:“我希望每個人都明白,我是一個人”的言論,令人驚異。於是,萊莫因下了個結論:“LaMDA可能已經具備人格了。”那麼,目前AI真的具有意識,具備人格了嗎?
在人工智能領域,圖靈測試是最為人熟知的測試方式,即邀請測試者在不知情的情況下,向人類和AI係統隨意提問,如果測試者不能區分答案來自人類還是來自AI係統,就認為AI通過了圖靈測試。
譚茗洲解釋道,通俗來講,LaMDA學習了大量的人類對話數據,而這些對話來自不同性格的人,可以認為它學習到一個“平均”的人格,也就是說,所謂的“LaMDA具備人格”僅僅是它的說話語言具有了一定的風格,而且是來自人類的說話風格,並非自發形成。
“人格是一個比智能更複雜的概念,這是另外一個維度,心理學對此有很多研究。但目前人工智能研究在此方麵尚沒有過多涉及。”譚茗洲強調。
譚茗洲說,有自我意識,有感知能力的AI應該具備能動性,並具有獨特的視角看待人和事。然而,從目前來看,現在的AI還不具備這些要素。至少AI不會主動采取行動,除非給它一個命令。更談不上讓其解釋自己的行為。目前AI還隻是人們設計的一個計算機係統,作為工具來做一些特定之事。
- 21-12-30科研人員研發出水麵智能保潔無人子母船係統 搭載動態避
- 21-12-31迄今最輕鎂同位素誕生
- 21-12-31我國瞄準智慧育種4.0時代進發
- 21-12-30研究人員開發出可自修複鈣鈦礦太陽能電池 運行500小
- 21-12-30韋布發射升空 五大天文任務可期
- 21-12-31控製調節性T細胞發育的生化“開關”找到
- 21-12-30氣候變暖影響下,這種動物或將麵臨“性別失調”
- 21-12-30“一不小心”活到200歲 太平洋岩魚的長壽秘訣人類可
- 21-12-31埃及法老木乃伊首次“數字化解封”
- 22-04-20超聲波為水下儀器和人體植入設備充電


