2014年6月7日,在倫敦的皇家學會,三十位評審與幾個程式進行了五分鐘的鍵盤對話。其中一個程式Eugene Goostman——一個設定為來自敖德薩、養了一隻天竺鼠的13歲男孩的聊天機器人——被十位評審當成真人,占33%。主辦該活動的雷丁大學Kevin Warwick宣稱,艾倫·圖靈的測試首次被通過了。

媒體將其放大為「世界首次」:BBC以「電腦AI通過圖靈測試」為頭條。然而,30%這個數字並不是門檻——那是圖靈本人在1950年的預測,認為到了2000年機器將能騙過三分之一的評審。Eugene並非新面孔:它自2001年起就參賽,在Loebner獎中排名落後於其他系統。甚至它自己的合作者John Denning也語帶保留:「我認為我們通過了『一個』圖靈測試,但我不知道那是不是『那個』圖靈測試。」

不到一天,學界就提出反駁。「這是胡說,完全是胡說。我們甚至還差得遠,」Stevan Harnad說。Marvin Minsky:「從設計拙劣的『實驗』中什麼也學不到。」Gary Marcus稱Eugene是「一段寫得很巧妙的軟體」,其「幻覺轉瞬即逝」;Murray Shanahan說這一主張「完全錯置,貶低了真正的AI研究」。Noel Sharkey點出了箇中伎倆:「一個非常聰明的花招,假裝自己是13歲的烏克蘭男孩,這會限制對話的走向。」

這個人設就是策略:一個養寵物的非母語小孩,能為每一個答非所問開脫。當被追問駱駝有幾條腿時,Eugene回答「大概2到4條之間。也許,三條?」——這個答案被解讀為孩子氣,而非故障。這場噱頭真正的代價在於公眾理解:「AI通過了圖靈測試」成了反覆出現的頭條,真正的研究者至今仍在反駁,而與一個照本宣科的人設進行五分鐘閒聊,取代了圖靈那種開放式對話,成為公眾心目中「通過」的含義。

33%是圖靈的預測,不是及格線,而13歲的人設為每一個答非所問開脫,所以這場噱頭衡量的是偽裝,不是機器。

圖靈的30%是預測,不是及格線——該活動卻把它當成門檻,一達到就宣布勝利。

人設起了作用:一個養天竺鼠的13歲小孩讓每個答非所問都顯得有人味,所以測試衡量的是偽裝,不是機器。

五分鐘不受限的閒聊,門檻低於25分鐘的Loebner獎,而在該獎項中Eugene排名落後於另外七個系統。

宣布跑在了審視之前:「世界首次」當天就宣告,學界還來不及置評,所以更正始終追不上頭條。

圖靈的30%是預測,不是及格線;一個能為每個答非所問開脫的人設,衡量的是偽裝,不是機器。

Eugene的勝利沒有人撤回,也鮮有人接受:這個聊天機器人保留了它的人設,其創造者繼續前行,而這起事件成了圖靈測試主張跑在證據之前的教科書案例。真正的傷害在於公共語言——「通過圖靈測試」成了頭條的簡寫,而真正的AI里程碑至今仍得與之抗衡。該活動自身的辯護——對話是「不受限的」——只凸顯了這個測試已從圖靈那種開放式、長達數年的詰問,縮水到與一個無法被逼問出底細的青少年聊五分鐘,差距有多大。

追溯依據

參考來源

  1. Wikipedia — Eugene Goostman (event details: 7 Jun 2014 Royal Society, 33% of 30 judges, 300 five-minute conversations, Turing's 30% as prediction, prior 'passes', Aaronson camel exchange, critics) en.wikipedia.org
  2. BBC News — 'Computer AI passes Turing test in "world first"' (8 Jun 2014, Warwick declaration, Sharkey and Harnad rebuttals, Loebner's 25-minute criticism) bbc.co.uk
  3. The Guardian — 'Scientists dispute whether computer "Eugene Goostman" passed Turing test' (9 Jun 2014, 10 of 30 judges, Harnad 'nonsense', Minsky 'poorly designed experiments', Denning 'a' vs 'the' Turing test) theguardian.com