上個月底（2024 年 3 月）傑佛瑞．辛頓（Geoffrey Hinton）接受《日經新聞》專訪，解釋他如何透過實驗評估「人工智慧是擁有意識的」，以及，這將帶來什麼樣的後果？
傑佛瑞．辛頓是誰？
以神經網路研究獲得圖靈獎的辛頓，是多倫多大學的教授，同時也參與主持 Google Brain 研究。1972 年辛頓第一次發表神經網絡（Neural Networks）研究，一種透過分析數據訓練電腦技能的數學系統，也稱之為深度學習（Deep Learning），他成為帶領現代人工智慧科技跳躍式進展的靈魂人物。
- 2012 年，辛頓與兩名學生伊利亞．蘇茨克弗（Ilya Sutskever）、亞里克．克里夫斯基（Alex Krishevsky）透過數據分析，成功訓練神經網路系統識別花、狗和汽車等常見物體，2013 年他們的新創公司 DNNresearch 以 4,400 萬美元被 Google 收購。
- 2018 年，辛頓和蒙特婁大學教授約書亞．班吉歐（Yoshua Bengio）、Meta 首席人工智慧科學家楊立昆（Yann LeCun）三人，因為對神經網絡的貢獻而共同獲得圖靈獎。
- 2022 年，在辛頓創業的 10 年後，以神經網絡為基礎的生成式 AI 技術，因為 OpenAI 推出的 ChatGPT 而普及，當時與辛頓一起創業學生蘇茨克弗，正是 OpenAI 的共同創辦人。
辛頓的警告：人工智慧已經發展出主觀經驗
在全世界都為辛頓發明的神經網絡技術讚嘆不已時，他卻在 2023 年 5 月震撼性的說，「我對畢生工作感到後悔！」因為預見人工智慧科技持續發展將嚴重威脅人類安全，他選擇從 Google 離職以善盡警告人類的責任。
辛頓離職後不到半年，2023 年 11 月，他的學生蘇茨克弗就以「以利潤而非安全為優先考量，可能危及人類社會安全」為理由，在 OpenAI 董事會發動對執行長山姆．奧特曼（Sam Altman）的罷免案。奧特曼在一週內的戲劇性轉折後又回任，一般認為，蘇茨克弗正是受到辛頓的影響，才會採取如此激烈手段。
75 歲的辛頓顯然認為，主導人工智慧技術研究的科技公司，必須在盈利之外，同時負起對人類社會未來發展的倫理責任。「我常這樣安慰自己：如果不是我做，其他人也會做；但實在很難看出如何防止壞人利用 AI 為惡。」這是辛頓選擇離開 Google 後，接受《紐約時報》採訪所說。離職的第二天，他在 X 上特別提到，「Google 的行為非常負責任。」辛頓並沒有特別指出哪一家公司不負責任，但針對人工智慧科技的危險做了一些說明。
Geoffrey Hinton 的 X 帳號。（圖片來源：X）
辛頓認為，多模態的人工智慧已經發展出主觀意識，並清楚說明他的實驗如何進行。
1985 年辛頓以神經網絡打造第一個大型語言的人工智慧模型，設計原理正是模仿人類大腦的運作模式。既然神經網絡使人類擁有主觀意識，人工智慧模型也會進化出自我意識。
到了 2022 年，辛頓認為他已經找到人工智慧有意識的實質證據，「我總是用人工智慧是否能聽懂笑話，來作為它是否真正理解事物的標準。」辛頓說，「Google 在 2022 年開發的 PaLM 聊天機器人，能夠正確解釋每一個笑話。」
辛頓提出另一個更重要的實驗模式說明，目前的人工智慧真的已經具備意識基礎。
