魚羊 編輯整理量子位 | 公眾號(hào) QbitAI

笑死，Hinton天天對(duì)超級(jí)AI憂心忡忡，原因可能找到了（手動(dòng)狗頭）——

他被前女友用ChatGPT分手了。

這一最新爆料來自Hinton本人。在接受英國(guó)《金融時(shí)報(bào)》采訪時(shí)，老爺子分享了這個(gè)來自ChatGPT的“驚喜”：

她讓ChatGPT告訴我為什么我是個(gè)渣男。她讓聊天機(jī)器人解釋了我的行為有多么糟糕，然后把答案?jìng)鹘o了我。我倒不覺得自己真那么不堪，所以并沒受太大影響……我遇到了一個(gè)我更喜歡的人，你知道是怎么回事。

emmm……信息量有點(diǎn)大啊老爺子……

可惜老爺子沒有分享這封分手信的具體內(nèi)容，不過在這次訪談中，這位當(dāng)前人工智能領(lǐng)域最受尊敬的先驅(qū)，照例分享了他關(guān)于AI的最新所思。

和不少關(guān)于Hinton本人的小小趣聞（doge）。

人類“唯一的希望”是讓AI成為我們的母親

盡管最近不提發(fā)展超級(jí)智能是“養(yǎng)虎為患”，改口AI和人類之間是一種“母親和嬰兒之間的親密共生關(guān)系”，但這并不代表Hinton對(duì)人工智能放下了警惕。

他依然在思考：當(dāng)助手比你聰明得多時(shí)，你要如何保持對(duì)它們的控制？

一個(gè)智力高得多的生物被智力低得多的生物控制，這種情況我們只知道一例，那就是母親和嬰兒……如果嬰兒無法控制母親，他們就會(huì)死去。

因此Hinton認(rèn)為，人類“唯一的希望”是讓人工智能成為我們的母親。

因?yàn)槟赣H非常關(guān)心嬰兒，守護(hù)嬰兒的生命并關(guān)注其成長(zhǎng)，這才是我們應(yīng)該追求的那種關(guān)系。

△AI生成

此前有網(wǎng)友在發(fā)現(xiàn)Hinton態(tài)度轉(zhuǎn)變時(shí)，疑惑是不是Ilya讓Hinton看到了什么，而Hinton還真的透露，他的“母嬰說”很受Ilya的贊成。

Ilya如今已經(jīng)開始了自己的創(chuàng)業(yè)，他的初創(chuàng)公司Safe Superintelligence尚無模型，尚無產(chǎn)品，但估值已經(jīng)飆升至320億美元（約2294億人民幣）……可謂是被硅谷投資人追著塞錢。

“但奧特曼和馬斯克看上去更有可能贏得競(jìng)爭(zhēng)？”

面對(duì)這個(gè)問題，Hinton的回答是，讓他在這兩個(gè)人里二選一，感覺就像是：

要選被槍擊還是中毒一樣。

也會(huì)問ChatGPT如何修理烘干機(jī)

但甭管警惕與否，ChatGPT老爺子還是愛用的。

一方面是知己知彼，用來“研究”。另一方面嘛，偶爾用來問問烘干機(jī)怎么修也是不錯(cuò)的。

另外，Hinton以前會(huì)和自己的研究生們交流想法和問題，因?yàn)椤八麄兡贻p，理解速度更快”，而退休之后的他，現(xiàn)在開始用ChatGPT來頂替研究生們的角色了。

只是Hinton萬萬沒想到，前女友跟自己分手時(shí)，竟然用上ChatGPT來痛罵他┓( ′?` )┏。

BTW，Hinton出生于1947年12月，已經(jīng)77歲了。他的前兩任妻子分別在1994年和2018年因病去世。

從谷歌離職只是因?yàn)椤熬幊趟讲蝗缫郧啊?/p>

訪談中，Hinton再一次糾正了外界所傳自己2023年從谷歌離職的原因。

不是為了更自由地談?wù)揂I風(fēng)險(xiǎn)，而是“編程水平不如以前了”。

當(dāng)然也是為了某種自由，嗯，盡情追劇的自由（doge）。

我離開是因?yàn)槲?5歲了，編程水平不如以前，而且網(wǎng)飛上有很多我還沒機(jī)會(huì)看的東西。我已經(jīng)努力工作了55年，覺得是時(shí)候退休了……然后我想，既然我要離開了，那我可以談?wù)勂渲械娘L(fēng)險(xiǎn)。

在AI的安全性之外，Hinton談到自己最關(guān)心的是人工智能在醫(yī)療保健和教育方面的前景。

至于解決饑餓、貧困、疾病等重大問題，Hinton擔(dān)心的是：

AI會(huì)讓少數(shù)人變得更富有，多數(shù)人變得更窮。這不是人工智能的錯(cuò)。

那么，AI會(huì)讓人類變得懶惰和缺乏創(chuàng)造力嗎？

我們穿衣服，正因?yàn)榇┮路覀兩砩系拿l(fā)才更少。我們更容易凍死，但前提是我們沒有衣服。

所以只要AI系統(tǒng)對(duì)人類是有幫助的，它就是有價(jià)值的工具。

One More Thing

科幻作品中，碳基生命往往會(huì)跟硅基生命有所融合，人類對(duì)自己的身體進(jìn)行改造，慢慢變成半機(jī)械人是許多作品的共同主題。

Hinton對(duì)此怎么看？

我們不知道會(huì)發(fā)生什么，我們毫無頭緒，那些告訴你未來會(huì)發(fā)生什么的人只是在胡說八道。我們正處于歷史的轉(zhuǎn)折點(diǎn)，一些令人驚嘆的事情正在發(fā)生，可能驚人的好，也可能驚人的壞。我們可以做出猜測(cè)，但事情不會(huì)保持現(xiàn)狀不變。

參考鏈接：https://www.ft.com/content/31feb335-4945-475e-baaa-3b880d9cf8ce

— 完 —