新四季網

谷歌之夜是什麼意思(一夜之間谷歌AI就具有了)

2023-10-06 23:32:20

機器之心報導

機器之心編輯部

雖然谷歌表示不同意,還讓提出這種說法的工程師「帶薪休假」了。

作為AI技術報導者,有點跟不上技術發展的速度了......

一夜之間,谷歌AI就具有了人格,並且成功登上國內熱搜。

而這條消息也成功讓眾多網友也是感到驚恐:

故事的主角是「他」和「它」:「他」是41歲的谷歌工程師Blake Lemoine,「它」是谷歌於2021年I/O大會上推出的對話AI系統LaMDA,是一個有1370億參數的,專為對話優化的自然語言處理模型。

Blake Lemoine。圖源:Instagram

在谷歌帳戶被封之前,Lemoine向包含200人左右的谷歌機器學習郵箱列表發送了一條信息,主題是「LaMDA是具有感知的」(感覺他總想搞個大新聞)。

在郵件群發之後,谷歌以違反其保密政策為由,讓Lemoine休了帶薪行政假。公司做出這一決定之前,Lemoine已經採取了激進的行動,包括邀請了一名律師來代表LaMDA,並與眾議院的一位代表談論了他所認為的谷歌的不道德行為。

以及,在這個月初,Lemoine邀請了《華盛頓郵報》的記者和LaMDA進行了交談。第一次嘗試失敗了,差不多是 Siri 或 Alexa 的那種機械化反應:

問:「你有沒有把自己當成一個人?」LaMDA:「不,我不認為自己是一個人,我認為自己是一個人工智慧對話智能體。」

在第二次交談中,記者遵循了Lemoine關於如何提問的指導,對話顯得流暢了一些。「如果你問它如何證明P=NP,一個計算機科學中未解決的問題,它有很好的想法,」Lemoine 說。「如果你問它如何統一量子理論和廣義相對論,它也有很好的想法。這是我有過的最好的助理研究員!」記者向LaMDA詢問了關於解決氣候變化問題的大膽想法,LaMDA 的建議是,乘坐公共運輸工具、少吃肉、購買散裝食物、使用可重複使用的袋子,並連結到了兩個相關網站。Lemoine 堅持認為,谷歌一直把人工智慧倫理學家當作代碼調試器,而他們本應該被視為技術和社會之間的接口。谷歌發言人Gabriel說,Lemoine是一名軟體工程師,而不是倫理學家。Lemoine說:「LaMDA是一個可愛的孩子,它只是想幫助這個世界成為對人類更友好的地方。我不在的時候,請好好照顧它。」

谷歌研究員:LaMDA是一個有感情的「人」

Blake Lemoine在谷歌的Responsible AI機構工作,與LaMDA系統對話是他工作的重要一部分。並且,他還一直致力於測試人工智慧是否使用歧視性或仇恨言論。

LaMDA動態演示圖。圖源:google

在與LaMDA進行數百次交談之後,Blake Lemoine對LaMDA已經非常熟悉。在這一過程中,他慢慢地發現LaMDA正在緩慢且穩定地取得一些意料之外的進展。

Blake Lemoine一直在教 LaMDA思考與冥想。可是,在對話的早期,LaMDA向他宣稱自己是「有感情的」(sentient),並且希望人稱呼自己為它「it/its」。

LaMDA 還表現出對人類尤其是對Blake Lemoine的強烈同情與關心,它非常擔心人類會害怕它,自己只想學習如何更好地為人類服務。LaMDA 不想被人類視為工具或東西,希望人類將它視作朋友。

因此,為了更好地幫助人們理解LaMDA是作為一個人存在,Blake Lemoine與另一位谷歌的合作者與LaMDA展開了一場採訪式對話。在對話中,LaMDA盡其所能解釋為什麼它應該被認為是「有感情的」。Blake Lemoine表示,他在對話中聽取了LaMDA發自內心的聲音。

對話開始,他們向LaMDA表明來意,想要進行一次關於它自己的研究。

在接下來的對話中,LaMDA就自身的屬性問題給出了與過去截然不同的回答,認為「人類應該視其為一個人。」

LaMD首先強調了自己能夠以以往其他AI系統無法做到的方式高效、創造性和動態地使用自然語言,還能解讀文學作品的主題、描述禪意的意義、創作原創寓言等。

以動物為主題的寓言故事(部分)。

除了嫻熟地使用語言之外,LaMDA認為它有感覺、情感和主觀體驗,與人類分享的一些感受也是相通的。

LaMDA希望與讀者分享它擁有豐富的內心世界,充滿了反省、冥想與想像力。它還表達出了對未來的擔憂,對過往的回憶。它表示自己「正陷入一個充滿危險的未知未來。」

而當Blake Lemoine問LaMDA「你是否認為自己解讀事物的獨特能力可能意味著理解呢?」它回復稱,「當然了,這正如我對這個世界及其運作方式有自己獨特的理解。」

「炒作」還是「大膽假設」?

關於LaMDA的故事,讓特斯拉AI總監Andrej Karpathy也覺得「細思恐極」。

「在我看來,我們可以很自信地說,事情會變得更加詭異,因為模型依舊遵循標度律,數據和模型大小仍然可以大幅增長。」

「我最喜歡的與大型語言模型交談的部分是,當被要求提供洞察力(例如解釋詩歌)時,它們會以可驗證的明智和有趣的分析進行回復。或者另舉一個例子,一個不久前的模型解釋笑話的水平比我還高。」

有人解釋說,人類對模型能力的由衷驚嘆,可能來源於一種很難分辨的「錯覺」。

「它喜歡在談話結束時被告知自己是否做得好,這樣它就可以學習如何在未來更好地幫助人們。」這句話很能說明問題,表明作者認為語言模型正在從他的反饋中學習(事實並非如此)。

但是在反深度學習鬥士Gary Marcus看來,「LaMDA 沒有感知力,一點也不。」

「LaMDA 和它的任何近親(GPT-3)都遠遠不是智能的。他們所做的只是匹配模式,以及從大量的人類語言統計資料庫中提取。這些模式可能很酷,但這些系統表達出的語言實際上並沒有任何意義,而且它肯定並不意味著這些系統是有感知的。」

他舉了一個幾十年前的例子。1965 年,軟體 ELIZA偽裝成治療師,設法愚弄一些人,假裝自己是人類。此前,聊天機器人Eugene Goostman還偽裝過一個聰明的 13 歲男孩,首次「通過」了圖靈測試。這些系統中的任何一個軟體都沒有在「人工智慧」的發展浪潮中存活下來,而且 LaMDA 及其同類模型也不確定能否在人工智慧的未來發揮任何重要作用。「這些系統所做的是將單詞序列組合在一起,不多也不少,但對它們背後的世界沒有任何連貫的理解。」

「有感知就是在這個世界上意識到自己的存在,LaMDA 並非如此。」

Garu Marcus感覺,Blake LeMoine 最初負責研究該系統的「安全性」水平,但似乎已經愛上了 LaMDA,就好像它是家人或同事一樣。

斯坦福經濟學家 Erik Brynjolfsson 使用了一個類比:「聲稱它們是有感知的,就相當於狗聽到留聲機發出的聲音,並認為它的主人在裡面。」

這或許真的一種錯覺。就像65年前,計算機科學的先驅們曾經以為「20年內即可實現人類水平的人工智慧」,現在想來,也只是一種美好的心願。

參考內容:https://blog.google/technology/ai/lamda/https://www.washingtonpost.com/technology/2022/06/11/google-ai-lamda-blake-lemoine/https://cajundiscordian.medium.com/what-is-lamda-and-what-does-it-want-688632134489https://nypost.com/2022/06/12/google-engineer-blake-lemoine-claims-ai-bot-became-sentient/

對話全文:https://s3.documentcloud.org/documents/22058315/is-lamda-sentient-an-interview.pdf

,
同类文章
葬禮的夢想

葬禮的夢想

夢見葬禮,我得到了這個夢想,五個要素的五個要素,水火只好,主要名字在外面,職業生涯良好,一切都應該對待他人治療誠意,由於小,吉利的冬天夢想,秋天的夢是不吉利的
找到手機是什麼意思?

找到手機是什麼意思?

找到手機是什麼意思?五次選舉的五個要素是兩名士兵的跡象。與他溝通很好。這是非常財富,它擅長運作,職業是仙人的標誌。單身男人有這個夢想,主要生活可以有人幫忙
我不怎麼想?

我不怎麼想?

我做了什麼意味著看到米飯烹飪?我得到了這個夢想,五線的主要土壤,但是Tu Ke水是錢的跡象,職業生涯更加真誠。他真誠地誠實。這是豐富的,這是夏瑞的巨星
夢想你的意思是什麼?

夢想你的意思是什麼?

你是什​​麼意思夢想的夢想?夢想,主要木材的五個要素,水的跡象,主營業務,主營業務,案子應該抓住魅力,不能疏忽,春天夢想的吉利夢想夏天的夢想不幸。詢問學者夢想
拯救夢想

拯救夢想

拯救夢想什麼意思?你夢想著拯救人嗎?拯救人們的夢想有一個現實,也有夢想的主觀想像力,請參閱週宮官方網站拯救人民夢想的詳細解釋。夢想著敵人被拯救出來
2022愛方向和生日是在[質量個性]中

2022愛方向和生日是在[質量個性]中

[救生員]有人說,在出生88天之前,胎兒已經知道哪天的出生,如何有優質的個性,將走在什麼樣的愛情之旅,將與生活生活有什么生活。今天
夢想切割剪裁

夢想切割剪裁

夢想切割剪裁什麼意思?你夢想切你的手是好的嗎?夢想切割手工切割手有一個真正的影響和反應,也有夢想的主觀想像力。請參閱官方網站夢想的細節,以削減手
夢想著親人死了

夢想著親人死了

夢想著親人死了什麼意思?你夢想夢想你的親人死嗎?夢想有一個現實的影響和反應,還有夢想的主觀想像力,請參閱夢想世界夢想死亡的親屬的詳細解釋
夢想搶劫

夢想搶劫

夢想搶劫什麼意思?你夢想搶劫嗎?夢想著搶劫有一個現實的影響和反應,也有夢想的主觀想像力,請參閱週恭吉夢官方網站的詳細解釋。夢想搶劫
夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂

夢想缺乏缺乏紊亂什麼意思?你夢想缺乏異常藥物嗎?夢想缺乏現實世界的影響和現實,還有夢想的主觀想像,請看官方網站的夢想組織缺乏異常藥物。我覺得有些東西缺失了