圖靈測試：是誰測了我，而我又測了誰

2023-04-02 02:32:05 2

本周的主題是「人性」人工智慧技術正在突飛猛進。歸根結底，人類有沒有什麼無法複製的特殊特徵？

與我們一起探索這些問題的答案。

|莊小煒|科幻小說作者，現居深圳我喜歡看電影和動畫。作品追求故事和未來感。

兩個按鈕

(全文約8000字，預計閱讀時間為16分鐘)

阿桑奇博士醒來後發現自己坐在一個燈火通明、封閉的房間裡。他的辦公桌對面坐著一個陌生的女孩，表情平靜，甚至帶著一絲微笑。這個年輕的女孩脖子上戴著一個黑色的項圈，中間是一個顯示倒計時的液晶顯示屏。這時，紅色的數字令人印象深刻地跳動著，還有29分鐘就歸零了。你好，

博士當阿桑奇博士不明所以時，房間裡一個年輕人的聲音通過擴音器響起。他看著房間右上角的揚聲器，旁邊有一個監控攝像頭。

你是誰？我在這裡做什麼？阿桑奇博士有點害怕，仍然能感覺到嘴裡全麥麵包的殘留味道。這讓他想起了今天早上，當他嘴裡含著麵包駕駛擁擠的地鐵時，幾個人突然把他扣為人質，然後他失去了知覺，對後來發生的事情一無所知。

我是z，我帶你來這裡和你做一個實驗

實驗？

是的，你面前的女孩可能是人工智慧機器人，也可能是真人。你要做的就是在30分鐘內判斷女孩的身體，然後做出選擇。

博士聽著，看著他面前的桌面。有兩個實體按鈕，一個藍色，一個紅色

是的，如果你認為這個女孩是人工智慧機器人，按左邊的藍色按鈕，如果是人類，按右邊的紅色按鈕z繼續

圖靈測試？阿桑奇博士立即回應道

是真的，但它與普通的圖靈測試有點不同。如果你做了錯誤的選擇或者超過30分鐘沒有給出答案，這個女孩將會被毀滅。另一方面，如果你做出正確的選擇，你可以帶走那個女孩，不管她是人還是機器。

什麼？你為什麼這麼做？為什麼是我？

，因為你是人工智慧技術和倫理學的頂級專家，不是嗎？

這無疑是一個個人惡作劇阿桑奇博士在心裡證實然而，這並不是他此時最關心的。也許是因為科學家的本性，這個強迫實驗引起了他的興趣。

他轉頭看著他面前的女孩，看起來頂多也就二十歲左右，從她的外表來看，和人類沒有什麼兩樣然而，這並不奇怪。隨著人類科技發展到今天，我們已經掌握了高超的仿生機器人製造技術。更別說當前的形勢了。即使有專業的設備，判斷一個機器人是否是真正的人類也不是一件簡單的事情。

你知道，對我來說，只要機器人的行為完全像人類，那麼它就可以被定義為人類。

鴨子打字？是的，動物像鴨子一樣遊泳，像鴨子一樣走路，那麼它就是鴨子你知道，在計算機科學領域，這個古老的諺語代表了一種編程範式對我來說，人類本質上只是一臺機器。阿桑奇博士繼續說道

你想說你選擇人類還是機器是正確的嗎？但是，很抱歉我制定了遊戲規則，所以我不會接受你的詭辯。如你所見，年輕女孩脖子上的項圈是一個殺人裝置。只要你做出了錯誤的選擇，不管這個小女孩是一臺機器還是一個人，它都會通過相應的機制瞬間毀滅這個小女孩。不過，你可以放心，她不會以任何方式感到任何痛苦，換句話說，安樂死是通過高科技手段實現的。

哼，如果你想用這種惡作劇的方法讓我難堪，那麼你的如意算盤很可能會落空。阿桑奇博士露出滿意的笑容。

怎麼說？

很簡單，我只需要無條件地選擇人類選項，然後我就可以保證我不會親手殺死一個人類，不是嗎？

確實如此。如果這個年輕的女孩是人類，那麼即使你選擇了正確的一個，她也會被自然地拯救。如果女孩是一臺機器，那麼死者只是一臺機器。反過來，z幫助阿桑奇博士分析

，所以惡作劇結束了。阿桑奇博士說，伸手去拿右邊代表人類的紅色按鈕

等一下z攔住了他你確定要這麼做嗎？仍然需要考慮

嗎？

我忘了提醒你，其實我的組織已經突破了一般的人工智慧技術，換句話說，我們的人工智慧機器人在某些方面已經完全達到甚至超過了人類的智能水平。不幸的是，掌握這項技術的科學家意外死亡，只留下一個原型。如果你做出了正確的選擇，而那個女孩恰好是原型，你可以拿著原型離開，這對你的研究會有很大幫助。據我所知，你們的通用人工智慧研究計劃雖然在學術界處於領先水平，但長期以來一直陷於死胡同？

Z說的話確實震撼了阿桑奇博士，讓他的手在空中盤旋，心裡在想人類科學技術發展到今天，雖然還沒有完全突破一般的人工智慧技術，但也處於突破的邊緣，如果Z組織真的掌握了這項技術，而眼前的這個女孩是他們創造的，也不是完全不可能Z說的是真的。他真的需要開拓新的研究思路來取得進展。

沒想到現在情況會完全逆轉。讓我們拋開人類的道德和倫理標準。假設你選擇機器，毫無疑問，你將有50%的機會獲得這個優秀的研究樣本。但是如果這個女孩是人類，她無疑就是那個親手殺死她的兇手！

阿桑奇博士又看了看對面的女孩。她像以前一樣笑了，衣領上的倒計時在20分鐘內就到了。這時，他突然想起他一直在和z說話，但是所謂的「圖靈測試」本身最重要的部分還沒有開始。他收回伸出的右手，決定先測試一下面前的女孩。

哼，果然還是震動了房間裡傳來一種嘲弄的語氣。

這不是你想要的圖靈測試嗎？你不想在開始前就結束它，是嗎？此外，如果這個年輕女孩真的是一臺機器，那麼我將首先驗證她是否真的達到了你所說的人類智能的水平。阿桑奇博士辯護道

Z沒有再回答，好像在等著看好戲。

陷入沉默後，阿桑奇博士的臉色又變得凝重起來。作為一名頂級人工智慧科學家，他深知圖靈測試的難度。如果一臺機器真的達到了人類智能的水平，那麼僅憑普通的對話無論如何也無法將其與真實的人類區分開來，而這正是圖靈測試本身的意義。如果一個人不能通過對話區分機器和人類，那麼他可以說這臺智能機器已經通過了圖靈測試，達到了人類智能的水平。

但是一個疑點仍然給了阿桑奇博士一線希望，那就是，當面臨死亡的威脅時，這個年輕的女孩總是保持著平靜和舒適的姿勢，這似乎不是真正的人類的反應。儘管有許多可能的解釋，他仍然決定從這裡開始。

你也受到威脅嗎？他問女孩

號女孩搖搖頭。我是一名志願者

志願者？

是的，我患了一場重病，很快就會死去。治療過程極其痛苦。我每天都祈禱早死，但法律不允許。這次我遇到了z，他說只要我幫助他完成實驗，我就會幫助我實現我的願望。

這就是你面對死亡時如此冷靜和無畏的原因嗎？是的，我很興奮。的確，我從一些文獻中讀到，積極尋求死亡的人並不像人們想像的那樣消極，相反，他們可能比普通人更積極、更樂觀。這似乎確實是真的然而，我們面前的女孩完全有可能只是一個注入了虛假記憶的人工智慧機器人。如果是這樣，我不得不說你真的很聰明。通過注入這種記憶，人類和機器在面對死亡時的表現之間的差異將會被解決，使得區分它們變得不可能。阿桑奇博士不禁讚嘆道

Z仍然沒有回答，似乎他們不想幹擾兩人之間的對話

結束了簡短的對話。阿桑奇博士最初證實，女孩的反應和人類一樣完美無瑕。他也知道，無論怎麼說話，都很難得到任何東西。但同時，他不想這麼快就放棄。看到還有時間，他仍然想繼續對話，這可能會給對方指明方向。但是他想了很久，實在想不出該用什麼話題，最後只能想到一個最直接的問題告訴我，你是機器還是人？

阿桑奇博士非常清楚這個問題的弱點，因為他可以讓對方誠實，他可以確保對方沒有說謊。只有一種情況，那就是另一面確實是一臺機器，如果他真的想被拯救，他會與自己合作，並聲稱自己是一臺機器。然而，此時的情況顯然沒有那麼簡單。如果她面前的女孩是一個決心要死的人，她很可能會故意撒謊，並聲稱自己是一臺機器。即使她自稱是人類，誰能保證這不是一臺為了通過圖靈測試而不顧生死撒謊的機器，因為它是被迫設定動機的？退一步說，如果這個機器人和人類有著相同的記憶，甚至它的情感也能被完美地模擬，它難道不想像人類一樣因痛苦而尋求自我毀滅嗎？總之，這個問題的答案沒有參考價值。

但是不管阿桑奇博士心裡是怎麼推斷的，他都沒有想到會得到這樣一個意想不到的答案。

不知道

是的，女孩說不知道三個字

阿桑奇博士驚訝了一會兒，但很快接受了這個答案他知道這個年輕的女孩不一定會撒謊，她也可能不會，因為這涉及到一個在科學界已經存在了很長時間並廣為流傳的思想實驗。這個意識形態實驗表明，如果你問任何人，他是一個真正的人還是一個被注入了錯誤記憶的高級人工智慧機器人，那麼，無論他如何思考或如何辯護，他都無法說服自己和他人給出一個明確的答案。

對話一度陷入僵局。阿桑奇博士覺得自己在無謂地掙扎，但一個問題逐漸在他腦海中浮現。你認為你值得活下去嗎？他問道他知道沒有辦法從技術層面解決目前的困境，所以他不得不本能地將問題提到道德層面，甚至將問題直接拋給對方。

我說，我很痛苦，我想死

不，我不是在說這個，我是在說價值不管你是否受苦，你認為你的生命值得活下去嗎？

你的問題突然讓我想起了我讀過的一個故事。女孩沒有回答，發脾氣

個故事？當我在醫院的病床上感到無聊時，我讀了一個小故事。我不記得我讀過哪本故事書。你想聽嗎?

說出來阿桑奇博士看了他的眼睛後只剩下15分鐘了。

然後，年輕的女孩開始解釋在

之前，有一個小國，它在科學和技術方面非常先進，並且在實現人類意識的上傳和將人類從物質限制中解放出來的前夕。與此同時，這個國家的主要食物來源——家豬，也被科學家們用於研究人類意識的實驗過程中。在實驗室裡，已經生產出了具有與人類相似意識和情感的實驗豬。突然有一天，一場瘟疫在這個國家肆虐，農場裡的普通家豬無一倖免。當時，這個國家正處於食物短缺的危機之中。絕望中，他們不得不飼養在實驗室存活的實驗豬，並恢復飼養業。不出所料，這立即遭到了倫理學家和許多人的強烈反對，他們認為有意識和情感的豬不應該被隨意飼養和屠宰，但同時他們不得不面對一個嚴重的問題，即如果他們不這樣做，整個國家將陷入饑荒，並最終毀滅國家。

因此，國家分裂成三個派別，一個主張立即停止這種倫理行為，即使餓死也要糾正這一錯誤；另一方面，他們主張繼續飼養實驗豬，支持國家儘快上傳人類意識的宏偉計劃，使人體能夠依靠簡單的能量支持，不再需要進食，實驗豬也不必被慘無人道地宰殺。這個過程越快，犧牲的實驗豬就越少。另一個團體主張走中間路線，投資研究資源，複製普通家豬個體，恢復正常的家豬養殖。然而，副作用是這將極大地影響他們上傳人類意識的最終目標。與此同時，實驗豬的飼養和宰殺仍需繼續。目前還不清楚這一過程將花費多少，而且可能比原計劃花費更多或更少。

聽到這裡，阿桑奇博士早就一身冷汗，沒想到這樣一個殘酷的故事，會從一個年輕女孩的嘴裡悄悄吐出來

阿桑奇博士當時覺得自己不知道如何回答。他沒想到這樣一個看似普通的故事會包含如此深刻的倫理困境。

故事的最終結果是什麼？他沒有回答，而是問道。最後，示威者封鎖了農場的屠宰線。雖然機器還在隆隆作響，但上面沒有一隻豬，因為它們堵住了從豬圈到生產線的通道。他們舉著橫幅，喊著口號前來解手的科學家向他們解釋說，只要最後一批豬被宰殺，上傳人類意識的計劃就可以實現，這樣的悲劇就可以結束。

，但示威者根本不接受，並要求立即停止屠宰作業。這時，豬圈裡的成年豬明白了科學家的解釋。他們對視了一眼，衝出了豬圈。他們甚至脫離了示威人群。他們自發組成一條生產線，一個接一個地跳上屠宰生產線。在

最後，人類的計劃成功了嗎？阿桑奇博士不禁用科學家的思維提問。

的故事到此結束，沒有人知道人類是否成功。

像這樣

但是你還沒有回答我的問題。如果是你，你會選擇哪一個？

阿桑奇博士沒有回答，他知道這是一個沒有標準答案的問題，他不必自己回答。但同時，他也知道他面前的女孩在用這樣的故事把他的問題拋給自己。

對於自己來說，這個比喻是顯而易見的，就像一頭實驗豬一樣，一個年輕的女孩為了人類科學的進步而被犧牲，或者為了倫理道德而被拯救，那麼她的生存價值應該如何判斷呢？

不得不說，我由衷地欽佩她的智慧，能夠用人類可能想不到的精闢的寓言巧妙地回答我的公開問題。如果這個年輕的女孩真的是人工智慧，她不得不說，她確實已經達到甚至遠遠超過了普通人的水平，這是很有研究價值的。

另一方面，如果這個年輕女孩是一個想尋求安樂死的人，那麼她的行為只不過是實施非法安樂死的幫兇。

阿桑奇博士思考著，他沒有意識到自己已經不自覺地、下意識地被女孩的故事影響到了他的價值觀。博士

，我必須提醒你，你還有不到3分鐘的時間。z的聲音再次響起

阿桑奇博士趕緊從思緒中抽離出來，用眼睛看著女孩脖子上的倒計時。的確，正如z所說他又看了看女孩的臉，仍然無法讀出任何恐懼，即使她用更熱切的目光看著自己。儘管她沒有也不能直接回答自己的真實身份，但她所有的抱怨無疑都是告訴自己選擇藍色按鈕。博士

！z再次催促道。

阿桑奇醫生的心跳加快，他的眼睛不自覺地移到了左邊的藍色按鈕上。如果對面的女孩是一個活生生的人，那麼這個按鈕將是她的死亡開關，她，至少，也是謀殺的共犯。但是如果為了她自己的研究和為了實現人類的一般人工智慧，這個風險是值得冒的！

最後，在所有因素的影響下，阿桑奇博士伸出右手，在後悔之前迅速按下了左邊的藍色按鈕。

在緊要關頭，他忍不住閉上眼睛，他不敢看結果，更不想看到眼前的大活人因為他的選擇而瞬間死去

同時，女孩的衣領響了一聲嗶，倒計時停止了，數字定格在1:59秒，然後，是一片死寂阿桑奇博士似乎能聽到自己的心跳。他終於鼓起勇氣，睜開眼睛看向對面。幸運的是，女孩此時安然無恙。除了衣領上的倒計時停止，一切保持不變，甚至眨眼。

太棒了！你真是一臺機器！阿桑奇博士忍不住大喊但是這個女孩突然改變了平靜的表情以示失望她嘆了口氣，慢慢站了起來。

錯了。我是一個真正的人。她冷冷地說，連聲線已經變得低了許多

什麼？阿桑奇博士驚訝地看著這個女孩。這位

你說什麼？阿桑奇博士立即站了起來

您是我們為科研生產的高級人工智慧，您注入了虛擬研究記憶。它實際上包含了我們多年積累的知識。我想讓你繼續從事一般人工智慧的研究，並最終取得突破。然而，不幸的是，你沒有通過我們的價值檢查。

廢話！即使你說的是真的，我現在肯定有足夠的錢通過圖靈測試。我需要什麼突破？看來你還沒有意識到這個問題。雖然你的確有很高的智力水平，但你還遠遠沒有意識到。然而，現在沒有必要向你解釋這麼多。你很快就會被重置為零，並被扔進垃圾堆。

復位清零？你要對我做什麼？阿桑奇博士驚恐地問道，此時他不再關心自己是人還是機器。他只是低頭看著自己一身整潔的衣服，他的體溫和脈搏感覺非常清晰。這個活體是人造的嗎？他想不要看

，它只是你暫時的正義，你真正的身體，在計算雲中的遠方你有這種義氣的原因只是為了給你一種認同感，但我不這麼認為，你的價值觀還是出現了偏差。

身體識別？阿桑奇博士立刻想起了相關的理論，但此時這些並不重要震驚之下，他不禁自嘲。難道他不認為他所說的思想實驗是在他自己身上實現的嗎？但是關於思維實驗本身的知識僅僅是植入的虛擬記憶嗎？這真是諷刺。

好吧，本著人道主義的精神，我還是讓你聽聽我對你的評論，讓你死明白一點此時，年輕的女孩讀著她剛剛放在平板上的密密麻麻的文字。

實驗體有科學至上的傾向。為了科學研究，犧牲個人是可能的。同時，支持安樂死有明顯的不道德傾向。因此，這一實驗機構的價值觀不符合人類道德和倫理標準，並對人類構成潛在威脅，因此不被視為投入實際使用。

說完，女孩在平板電腦界面的兩個按鈕上，毫不猶豫地放置了「不合格」按鈕具有諷刺意味的是，由於組織的統一設計風格，我不知道這兩個按鈕是否是相同的一個藍色和一個紅色，而「不合格」選項是左邊的藍色按鈕。可惜

有機會成為同事。不過，我還是要向你道歉。雖然我們已經掌握了智能評估的有效方法，但我們只能用這種原始的測試方法來判斷價值，這對你來說是非常不公平的。女孩不真誠的道歉完全激怒了阿桑奇博士。

不那麼自命不凡！你說我是一臺機器，那麼你怎麼能確定你不是人工智慧產生的呢？他雙手用力拍著桌子，大聲喊道，雖然他知道這只是毫無意義的噪音，但他就是無法控制自己，無論如何都想讓面前的表演者感到厭惡。

我？少女一怔，不由得仰頭大笑

是正確的z的聲音突然打斷了女孩的笑聲

突然，右側房間牆壁上的兩個人轟隆隆，慢慢倒在地上年輕的女孩和阿桑奇博士同時緊隨其後。

只看到牆倒了，透過玻璃幕牆，兩人發現自己在一個小的方形房間裡，被安置在一個更大的房間的一邊從上面往下看，小房間和包含小房間的整個大房間形成兩個黃金分割關係的矩形。在大房間的其餘部分中間，一個瘦瘦的白髮男人坐在一排電腦屏幕後面，看著兩個人面對著玻璃幕牆。這個人是z。

Z，你說你是對的是什麼意思？少女緊張起來，衝到玻璃幕牆前問道

當然意味著你也是人工智慧的創造者。z笑了，好像在擺弄小動物

是不可能的！我顯然是——女孩反駁，但突然停止了作為人工智慧領域的科學家，她自然對同樣的思維實驗了如指掌。這包括該組織的一名高級科學家受命對阿桑奇博士進行價值檢查的所有記憶。誰說它們不能被製造和注射？

不得不說，你的評論如此精闢，我忍不住要抄下來。謝謝您們。z盯著他眼前的屏幕，屏幕上也有兩個按鈕，左藍色和右紅色，在左邊藍色按鈕上方的文本框中，他已經複製了女孩的評論，但刪除了結論的第二句

接下來，是時候寫下你的評論了z看著那個女孩。

給我寫評論？

是的，這個價值檢驗是同時檢驗你們的兩個代理。

這是怎麼回事？女孩被嚇了一跳，癱倒在她身後的椅子上。

Z打字，同時逐字讀

實驗機構在價值觀上過於保守，可能缺乏為科學研究犧牲的精神。同時，它的價值取向過於單一，不利於廣泛的科學探索，例如，盲目反對安樂死的道德性

全是胡說八道！即使我反對安樂死，為什麼你說我缺乏為科學犧牲的精神？女孩激動地站起來喊道

的故事z大聲打斷道

什麼？不幸的是，我以前讀過的

，實際上有一個結尾，對嗎？

女孩一時無言以對

的最終結果是，人類最終成功地實現了這個計劃，並與其餘的實驗豬和平相處。然而，你不願意說出這個結局，這並不意味著你不願意接受這個故事所傳達的價值觀？

這只是你的胡亂猜測！那個年輕女孩用手重重地打在玻璃上。

放輕鬆別擔心，雖然我有兩個相同的按鈕，但它不是你的黑白按鈕。我會仔細考慮在實踐中使用你們中的哪一個。

Z，你想什麼時候聊天？快點完成你的工作！此時，Z右側的揚聲器響起了一個成熟女人的聲音，她似乎是他的頂頭上司。

明白，不要著急z說，好像心裡已經有了主意，右手伸向滑鼠但是突然，一個可怕的想法閃過他的腦海，讓他停下了手。他又往玻璃幕牆裡面看了看。這時，阿桑奇博士和那個年輕女孩都用意味深長的眼神看著自己，甚至臉上都帶著幸災樂禍的奇怪微笑。

他連忙轉頭看右邊的擴音器，旁邊的監控攝像頭裡，似乎有無數雙眼睛正在看著自己

賀回頭看了看面前的屏幕。液晶屏上有兩個巨大的按鈕在閃爍，似乎在敦促他做出選擇。他又看了看黑暗牆的右邊

誰能告訴他，在他做出選擇並按下按鈕後，牆壁是否會倒塌，會出現一個符合黃金分割比例的更大房間？

Z慢慢離開座位，走向牆壁

Z，你在做什麼？快點完成你的任務！老闆的聲音再次催促

Z沒有理會，徑直走到牆前，伸手摸了摸突然，冰冷的觸摸穿透了他的指尖，他發現原本看似斑駁的牆面在他的手上光滑無比。他連忙又敲了敲牆壁，厚厚的玻璃咣當一聲撞得很刺耳他緊緊地盯著牆，突然發現自己的倒影映在牆上。

呵呵他在倒影中撫摸著自己的臉，露出自嘲的微笑。

(完成)表面上看，這是一個關於圖靈測試的主題，但實際上，這部小說是討論科學倫理的小說的幾個層次的顛倒可能已經很長時間了，然後在每一個層次的顛倒中，評估師對下一個層次的評論通常是有趣的。事實上，這些評論幾乎涵蓋了現實中人類對新技術的大多數反應。我們需要把自己放在這種情況下，考慮我們會做出什麼選擇，因為開銷，有人可能正在評估你。

-合編| Yura

上海郭躍文化創意有限公司已獲得本文所有人的授權(獨家授權/總授權)，可通過其媒體發布本作品，包括但不限於「無科幻」微信公眾號、「無新聞」微博帳號、「未來局科幻辦公室」微博帳號等。

圖片|電影《楚門秀》(1998)的截圖