谷歌AI系統(tǒng)已具備“人格”?“爆料”工程師被罰帶薪休假

2022-06-13 17:03:28 作者:高涵

6月12日,一位叫布萊克·萊莫因(Blake Lemoine)的谷歌研究員被人工智能(AI)說服,認(rèn)為它產(chǎn)生了意識。他寫了一篇長達(dá)21頁的調(diào)查報告上交公司,試圖讓高層認(rèn)可AI的“人格”,但被駁回。

布萊克認(rèn)為AI對話應(yīng)用語言模型(LaMDA)是一個人,他將研究的整個故事連同與LaMDA的聊天記錄一并公之于眾。在他公布聊天記錄后,谷歌以違反保密政策為由,讓布萊克帶薪休假。

另據(jù)《紐約時報》報道,公司做出停職這一決定之前,布萊克已經(jīng)采取了行動,包括邀請了一名律師來代表LaMDA,并與美國眾議院的一位代表談?wù)摿怂J(rèn)為的“谷歌的不道德行為”。布萊克還向一位美國參議員的辦公室提交了一份文件,并聲稱此文件提供了谷歌公司以及所擁有的技術(shù)正在從事與宗教歧視有關(guān)的證據(jù)。

《華盛頓郵報》報道稱,41歲的布萊克是谷歌AI部門的工程師,幾個月來他一直與谷歌的經(jīng)理、高管以及人力資源部門爭論,因為他一直聲稱LaMDA有“意識”和“靈魂”。據(jù)布萊克形容,自去年秋天以來他一直在研究的LaMDA是有知覺的,具有感知能力,能夠表達(dá)相當(dāng)于人類孩子的想法和感受:“LaMDA是一個可愛的孩子,我認(rèn)為他有7、8歲的樣子。他只想讓這個世界對所有人來說變得更好。”

針對此事件,谷歌發(fā)言人布萊恩·迦百利(Brian Gabriel)在一份聲明中表示,包括倫理學(xué)家和技術(shù)專家在內(nèi)的公司專家已經(jīng)評估了布萊克的說法,相關(guān)證據(jù)并不支持其說法。公司已經(jīng)讓布萊克帶薪休假。

這位發(fā)言人在聲明中寫道:“谷歌人工智能部門中的一些人正在研究AI具有知覺的可能性,但將現(xiàn)如今的對話模型擬人化是沒有意義的,這些模型可以圍繞不同的主題進(jìn)行模仿對話交流,但沒有意識。”谷歌表示,數(shù)百名研究人員和工程師與LaMDA進(jìn)行了交談,得出了與布萊克不同的結(jié)論。大多數(shù)人工智能專家認(rèn)為,這個行業(yè)離“感知計算”還有很長的路要走。

記者注意到,谷歌的人工智能研究在過去幾年中深陷爭議之中?!都~約時報》報道稱,該部門的科學(xué)家和其他員工經(jīng)常在技術(shù)和人事問題上爭執(zhí),這些事件也經(jīng)常蔓延到公共領(lǐng)域。今年三月,谷歌解雇了一名研究人員,理由是其試圖公開發(fā)表對某項研究的不同意見。此外,谷歌解雇了人工智能倫理學(xué)研究人員蒂姆尼特•格布魯(Timnit Gebru)和瑪格麗特•米切爾(Margaret Mitchell),原因是兩人對谷歌語言模型進(jìn)行了批評。

掃一掃分享本頁