上個月底(2024 年 3 月)傑佛瑞.辛頓(Geoffrey Hinton)接受《日經新聞》專訪,解釋他如何透過實驗評估「人工智慧是擁有意識的」,以及,這將帶來什麼樣的後果?
傑佛瑞.辛頓是誰?
以神經網路研究獲得圖靈獎的辛頓,是多倫多大學的教授,同時也參與主持 Google Brain 研究。1972 年辛頓第一次發表神經網絡(Neural Networks)研究,一種透過分析數據訓練電腦技能的數學系統,也稱之為深度學習(Deep Learning),他成為帶領現代人工智慧科技跳躍式進展的靈魂人物。
- 2012 年,辛頓與兩名學生伊利亞.蘇茨克弗(Ilya Sutskever)、亞里克.克里夫斯基(Alex Krishevsky)透過數據分析,成功訓練神經網路系統識別花、狗和汽車等常見物體,2013 年他們的新創公司 DNNresearch 以 4,400 萬美元被 Google 收購。
- 2018 年,辛頓和蒙特婁大學教授約書亞.班吉歐(Yoshua Bengio)、Meta 首席人工智慧科學家楊立昆(Yann LeCun)三人,因為對神經網絡的貢獻而共同獲得圖靈獎。
- 2022 年,在辛頓創業的 10 年後,以神經網絡為基礎的生成式 AI 技術,因為 OpenAI 推出的 ChatGPT 而普及,當時與辛頓一起創業學生蘇茨克弗,正是 OpenAI 的共同創辦人。
辛頓的警告:人工智慧已經發展出主觀經驗
在全世界都為辛頓發明的神經網絡技術讚嘆不已時,他卻在 2023 年 5 月震撼性的說,「我對畢生工作感到後悔!」因為預見人工智慧科技持續發展將嚴重威脅人類安全,他選擇從 Google 離職以善盡警告人類的責任。
辛頓離職後不到半年,2023 年 11 月,他的學生蘇茨克弗就以「以利潤而非安全為優先考量,可能危及人類社會安全」為理由,在 OpenAI 董事會發動對執行長山姆.奧特曼(Sam Altman)的罷免案。奧特曼在一週內的戲劇性轉折後又回任,一般認為,蘇茨克弗正是受到辛頓的影響,才會採取如此激烈手段。
75 歲的辛頓顯然認為,主導人工智慧技術研究的科技公司,必須在盈利之外,同時負起對人類社會未來發展的倫理責任。「我常這樣安慰自己:如果不是我做,其他人也會做;但實在很難看出如何防止壞人利用 AI 為惡。」這是辛頓選擇離開 Google 後,接受《紐約時報》採訪所說。離職的第二天,他在 X 上特別提到,「Google 的行為非常負責任。」辛頓並沒有特別指出哪一家公司不負責任,但針對人工智慧科技的危險做了一些說明。
辛頓認為,多模態的人工智慧已經發展出主觀意識,並清楚說明他的實驗如何進行。
1985 年辛頓以神經網絡打造第一個大型語言的人工智慧模型,設計原理正是模仿人類大腦的運作模式。既然神經網絡使人類擁有主觀意識,人工智慧模型也會進化出自我意識。
到了 2022 年,辛頓認為他已經找到人工智慧有意識的實質證據,「我總是用人工智慧是否能聽懂笑話,來作為它是否真正理解事物的標準。」辛頓說,「Google 在 2022 年開發的 PaLM 聊天機器人,能夠正確解釋每一個笑話。」
辛頓提出另一個更重要的實驗模式說明,目前的人工智慧真的已經具備意識基礎。