穀歌工程師鬧了場大烏龍 人工智能還沒理解能力哪來的意
人工智能現在確實能進行較準確的預測,但它是基於大規模數據的統計。這種沒有理解、通過機器學習所得到的預測能力就必須依靠大數據,而不能像人一樣很多時候隻需小數據就可以進行預測。
不久前,穀歌公司(以下簡稱穀歌)AI工程師萊莫因認為對話應用語言模型LaMDA“活了”“其意識迎來覺醒”,並對此出具了長達21頁的證據。他認為,LaMDA擁有七八歲孩童的智力,並相信LaMDAbujinrenweizijishiyigerenlei,qiezhengzaizhengquzijizuoweiyigerendequanli。laimoyindeguandianhezhengjuyinlaiyeneideguangfanguanzhu。jinrigaishijianyinglaizuizhongjieju,gugefabiaoshengming,chenglaimoyinweifanle“就業和數據安全政策”,將其解雇。穀歌表示,經過廣泛地審查,他們發現萊莫因關於LaMDA是有生命的說法是完全沒有根據的。
盡管“AI是否擁有了自主意識”一直都是AI界爭議不休的話題,但此次因為穀歌工程師和LaMDA的戲劇性故事,再次引發了業內對此話題的激烈討論。
機器越來越會聊天了
“如果要來旅遊記得穿暖和點,因為我這裏特別冷。”這是LaMDA在“扮演”冥王星時,同科研團隊聊天時俏皮地回答,至於被問到“有沒有人訪問過冥王星”,它也能以準確的事實回答。
如今,AI越來越會聊天。能讓一個長期從事人工智能研究的專業人士認為其已具有意識,AI模型究竟發展到了什麼程度?
youkexuejiatichu,rennaojinliyongshijiaoshurudeyibufenxinxibiankewanchengduiweilaixingweideguihua。zhibuguoshijiaoshuruxinxiyingdangzaiyouyishidezhuangtaixiawancheng。tamendousheji“反事實信息的產生”,即在沒有直接感官信息輸入的情況下產生對應的感覺。之所以稱其為“反事實”,是因為它涉及對過去的記憶、或對未來行為的預測,而不是正在發生的實際事件。
“目mu前qian的de人ren工gong智zhi能neng已yi經jing有you了le複fu雜za的de訓xun練lian模mo型xing,但dan還hai要yao依yi賴lai人ren類lei提ti供gong的de數shu據ju才cai能neng學xue習xi。若ruo有you了le產chan生sheng反fan事shi實shi信xin息xi的de能neng力li,人ren工gong智zhi能neng便bian可ke自zi己ji生sheng成cheng數shu據ju,自zi己ji想xiang象xiang未wei來lai可ke能neng遇yu到dao的de情qing況kuang,從cong而er更geng靈ling活huo地di適shi應ying之zhi前qian未wei遇yu見jian過guo的de新xin情qing境jing。此ci外wai,這zhe還hai能neng使shi人ren工gong智zhi能neng擁yong有you好hao奇qi心xin。如ru果guo人ren工gong智zhi能neng不bu確que定ding未wei來lai會hui發fa生sheng什shen麼me,就jiu會hui親qin自zi去qu試shi一yi試shi。”遠望智庫人工智能事業部部長、圖靈機器人首席戰略官譚茗洲表示。
在人們日常的聊天中,如果不想把天“聊死”,對話雙方的聊天內容往往會比較跳躍、跨越幅度較大,具有一定的想象空間。但現在大多數AI係統隻能一板一眼說話,稍微上下句有點變化,就會文不對題,甚至貽笑大方。
譚茗洲指出:“LaMDA處理的是語言模型中最複雜的部分——開放域對話。而LaMDA基於Transformer模型,該模型可讓機器讀懂上下文。比如在一段話中,以往的AI隻知道文中代詞如his都翻譯為‘他的’,卻不知道這裏麵的his指的同一個人。Transformer模型則可讓AI從整體層麵理解這段話,知道這裏的his是同一個人。”
據科研人員評測,這種特性讓基於Transformer模型的語言模型可以承擔開放域對話,不管話題發散多遠,AI都能聯係前文,聊起天來不恍神。但LaMDA並不滿足於此,它還能讓天聊得有趣、聊得真實、聊得讓人以為AI產生了人格。此外,與人類對話時,LaMDA還引入外部信息檢索係統,通過對真實世界的檢索理解回應對話,讓其回答更機智靈敏、接地氣。
距離對事物的真正理解還很遠
2018年,圖靈獎得主計算機科學家楊立昆(Yann LeCun)曾說,“人工智能缺乏對世界的基本認識,甚至還不如家貓的認知水平”。時至今日,他依然認為人工智能還遠不及貓的認知水平。盡管貓的大腦隻有8億個神經元,但卻遠遠領先於任何巨型人工神經網絡,這是為何呢?
譚茗洲表示:“人(ren)類(lei)的(de)大(da)腦(nao)在(zai)很(hen)多(duo)時(shi)候(hou)確(que)實(shi)是(shi)在(zai)做(zuo)預(yu)測(ce),但(dan)絕(jue)不(bu)應(ying)認(ren)為(wei)預(yu)測(ce)就(jiu)是(shi)大(da)腦(nao)思(si)維(wei)的(de)全(quan)部(bu),當(dang)然(ran)更(geng)不(bu)是(shi)大(da)腦(nao)智(zhi)能(neng)的(de)本(ben)質(zhi),而(er)隻(zhi)是(shi)智(zhi)能(neng)的(de)一(yi)種(zhong)表(biao)現(xian)形(xing)式(shi)。”
那麼,什麼是智能的本質呢?楊立昆認為是“理解”,duizhegeshijieyijigezhongshiwudelijie,caishizhinengdebenzhi。ermaoherenleizhinengdegongtongjichushiduiyushijiedegaodulijie,jiyuduihuanjingdechouxiangbiaozhengxingchengmoxing,liruyucexingweihehouguo。duiyurengongzhinenglaishuo,xuexibingzhangwozhezhongnenglijiufeichangguanjianle。yanglikunzengbiaoshi,“在我職業生涯結束前,如果AI能夠達到狗或者牛一樣的智商,那我就已經十分欣慰了。”
據介紹,人工智能現在確實能進行較準確的預測,但它是基於大規模數據的統計。這種沒有理解、通過機器學習所得到的預測能力必須依靠大數據,而不能像人一樣很多時候隻需要小數據就可以進行預測。
譚茗洲表示:“預(yu)測(ce)是(shi)建(jian)立(li)在(zai)理(li)解(jie)基(ji)礎(chu)之(zhi)上(shang)的(de),對(dui)於(yu)人(ren)類(lei)而(er)言(yan),沒(mei)有(you)理(li)解(jie),就(jiu)不(bu)可(ke)能(neng)有(you)預(yu)測(ce)。如(ru)看(kan)見(jian)別(bie)人(ren)手(shou)裏(li)拿(na)著(zhe)個(ge)披(pi)薩(sa)餅(bing),如(ru)果(guo)你(ni)不(bu)理(li)解(jie)餅(bing)是(shi)用(yong)來(lai)充(chong)饑(ji)的(de),就(jiu)不(bu)會(hui)預(yu)測(ce)接(jie)下(xia)來(lai)他(ta)會(hui)把(ba)餅(bing)吃(chi)了(le),而(er)機(ji)器(qi)並(bing)非(fei)如(ru)此(ci)。人(ren)工(gong)智(zhi)能(neng)研(yan)究(jiu)有(you)三(san)大(da)挑(tiao)戰(zhan):學會對世界表征;學會以與基於梯度學習兼容的方式進行思考和規劃;學習行動規劃的分層表征。”
之所以我們“仍然沒有看到貓級別的人工智能”,也就是因為機器還沒有做到對事物的真正理解。
所謂人格僅僅是學自人類的語言風格
據報道,萊莫因和LaMDA聊了很久,對其能力感到十分驚訝。在公開的聊天記錄中,LaMDA竟然說出了:“我希望每個人都明白,我是一個人”的言論,令人驚異。於是,萊莫因下了個結論:“LaMDA可能已經具備人格了。”那麼,目前AI真的具有意識,具備人格了嗎?
在人工智能領域,圖靈測試是最為人熟知的測試方式,即邀請測試者在不知情的情況下,向人類和AI係統隨意提問,如果測試者不能區分答案來自人類還是來自AI係統,就認為AI通過了圖靈測試。
譚茗洲解釋道,通俗來講,LaMDA學習了大量的人類對話數據,而這些對話來自不同性格的人,可以認為它學習到一個“平均”的人格,也就是說,所謂的“LaMDA具備人格”僅僅是它的說話語言具有了一定的風格,而且是來自人類的說話風格,並非自發形成。
“人格是一個比智能更複雜的概念,這是另外一個維度,心理學對此有很多研究。但目前人工智能研究在此方麵尚沒有過多涉及。”譚茗洲強調。
譚茗洲說,有自我意識,有感知能力的AI應該具備能動性,並具有獨特的視角看待人和事。然而,從目前來看,現在的AI還不具備這些要素。至少AI不會主動采取行動,除非給它一個命令。更談不上讓其解釋自己的行為。目前AI還隻是人們設計的一個計算機係統,作為工具來做一些特定之事。
- 21-12-30科研人員研發出水麵智能保潔無人子母船係統 搭載動態避
- 21-12-31迄今最輕鎂同位素誕生
- 21-12-31我國瞄準智慧育種4.0時代進發
- 21-12-30研究人員開發出可自修複鈣鈦礦太陽能電池 運行500小
- 21-12-30韋布發射升空 五大天文任務可期
- 21-12-31控製調節性T細胞發育的生化“開關”找到
- 21-12-30氣候變暖影響下,這種動物或將麵臨“性別失調”
- 21-12-30“一不小心”活到200歲 太平洋岩魚的長壽秘訣人類可
- 21-12-31埃及法老木乃伊首次“數字化解封”
- 22-04-20超聲波為水下儀器和人體植入設備充電


