編輯：犀牛

【新智元導讀】Hassabis和Dario近日罕見同框，接受《經濟學人》的深度訪談。兩人對AGI時間表的預測產生分歧——2026年還是更遠？還探討了AI安全的緊迫性，以及他們是否擔憂成爲“AI界的奧本海默”。

當今世界，誰最有可能成爲“AI時代的奧本海默”？

DeepMind的創始人Hassabis與Anthropic的創始人Dario無疑是熱門人選。

近日，這兩位AI巨頭罕見地坐到了一起，在《經濟學人》的訪談中，直面AGI（通用人工智能）帶來的種種爭議與挑戰。

想象一下，幾年後，你身邊出現一個比愛因斯坦還聰明的AI，能設計出圍棋這樣精妙遊戲的規則，甚至推導出全新的科學理論。

這不是科幻，而是Hassabis和Dario正在努力的方向。Dario大膽預測AGI 2026年到來，Hassabis卻謹慎表示可能還要再等等。

他們一致認同的是：AI的威力遠超以往任何技術，而我們是否準備好了迎接這場變革。

AGI時間表

Dario首先明確說明了什麼是他認爲的AGI。

“當我們擁有一種AI模型能夠做到人類能做的所有事情時，比如像坐在旁邊的這位諾貝爾獎得主（Hassabis）那樣，在多個領域都能做得很好，可以執行任何一個人類能遠距離完成的任務，這些任務可能需要幾分鐘、幾小時、幾天或幾個月的時間。”Dario說。

“我的猜測是在2026年或者2027年能夠實現這一點。”

隨後，Dario問Hassabis是否同意他的看法。

Hassabis則認爲AGI的出現可能會更遠一點，只有50%的機會在5年內出現。他定義AGI的方式是，“一個能夠展示所有人類認知能力的系統。”

“我認爲我們現在還沒有這樣的系統，能夠像愛因斯坦那樣利用當時可獲得的信息發明廣義相對論。我給出的另一個例子是，你能創造出如圍棋一樣的遊戲嗎？不只是下出第37步這樣的一手妙棋或構建一個可以擊敗世界冠軍的AlphaGo，你能否真正設計出一種同樣美麗的遊戲？所以我認爲要達到那種能力還需要一點時間。”Hassabis說。

AI的發展與平衡

隨後，主持人問，在未來幾年很快達到AGI的同時，各國政府需要如何意識到所面臨的利害關係？

“我認爲人們還沒有充分理解這一點。”Hassabis說。

Hassabis認爲，雖然AI在短期內被過度炒作，但仍然低估了AI在未來中長期帶來的變革程度。他認爲一旦這一點得到更多理解，那麼就會有更多的基礎來推動國際間的合作。

Hassabis說，“我們不能單打獨鬥，需要一些全球性的規範。我過去曾多次談到過類似CERN（歐洲核子研究組織）的AGI研究合作模式，基本上是一個國際研究合作，專注於我們在構建第一個AGI時所需邁出的最後幾步。”

Dario形容AI是“世界上突然出現了一個新國家，擁有1000萬比當今世上任何人類都要聰明的人。”

“你知道，你會問他們的意圖是什麼？”他說，“特別是如果他們能夠自主行動的話。”

Hassabis表示。AI的開發與監管平衡點需要在中間位置。“我認爲我們應該擁抱AI帶來的巨大機遇。我特別熱衷於科學和醫學領域。我認爲它將徹底改變這些領域。”他說。

但他同時也強調需要意識到存在的風險。一個是是惡意人士將這項通用技術用於不法目的，另一個是來自AGI系統自身失控，或者沒有正確的價值觀和目標的風險。

AI界的奧本海默

接下來，主持人問了一個比較刺激的問題，“因爲你們親自領導着可能處於這一領域前沿的公司。所以你們做出的個人決定將塑造這項技術。你有沒有擔心會像羅伯特·奧本海默那樣？”

對於這個問題，Hassabis表示一直都在擔心這種情景的發生，“看，我一直在擔心那樣的場景。這就是爲什麼我睡得不多。”

Hassabis說領導這項技術的人身上肩負着巨大的責任。他認爲社會需要考慮什麼樣的治理機構是必要的，理想情況下，會像聯合國一樣。

他說，有些人可能認爲我們在杞人憂天，或者認爲我們是在鼓吹放慢腳步之類的。“但我從沒見過有哪個領域會出現這樣的情況：就是帶頭的研究者們自己也在提出警告。我們現在面對的東西實在是顛覆性極強，威力巨大，而且是前所未有的。”

Hassabis覺得AI它並不是“又一項新技術”那麼簡單。他注意到，仍然有人在談“這是非常重要的技術，但也只是又一個技術而已”。

“可我覺得它完全不同於以往任何技術。我感覺並不是所有人都真正明白這一點。”，Hassabis表示。

Dario的想法和Hassabis完全一致。他說，“我做的幾乎每一個決定都像是在刀刃上保持平衡。”

“我認爲我們還是得找到一種方式來建立一個更加穩健的治理結構，不能讓這個技術只掌握在少數人手中。”Dario說。

Dario說早在2023年，他們就做了一些關於AI系統能否生成在谷歌或教科書中找不到的、可用於製造生物武器的信息的工作。

他們的結論是可以。Dario表示，AI剛剛開始能夠做到這一點。目前還不太危險，但是每個模型都比之前的更好。

Dario表示，AI模型的風險最好在實驗室觀察到，如果這種風險在現實中觀察到將是一個非常糟糕的結果。

智能體與未來

最後，主持人用了一個更積極的話題來結束。

“能不能各自舉出一件事，就是你們認爲在未來一年裏，我們會看到的一個跡象，顯示我們正在往你們所期望的方向前進，以及這件事將帶來什幺正面的影響？”

Hassabis首先說我們會看到更多智能體的出現，這些系統可以在某種程度上自主完成任務，達成一些目標，在現實世界裏行動。

他認爲這會催生一整類全新的實用系統，比如助理型系統，爲人節約時間，提高生產力。

Hassabis認爲這些智能體系統會變得更廣泛地應用於日常生活，而不再只是侷限在某些小衆領域。再往後看，他則希望看到AI系統真正具有創造發明能力，“不僅僅是去解決某個數學猜想，而是能夠自己提出一個非常有趣的新猜想，或者提出一套新的理論。”

Dario表示會關注在AI寫代碼，以及AI是否能用來做AI研究這一層面。

他說假如到了今年年底，我們能“構建更強AI系統的整體生產率提高50%，甚至翻一倍，那就證明我之前所說的2026或2027年左右實現AGI的時間表還是比較可信的。”

“要是比這個速度慢很多，那我就會傾向於相信Demis的設想更有可能——雖然他的時間表依然非常激進，但相比之下還是要稍微長一點。”

參考資料：

https://www.youtube.com/watch?v=4poqjZlM8Lo