盡管網民們早在7月份就已經向這位科學家提出了這個問題,但霍金直到最近才對此進行了回復。在這次活動中網民們提出的問題五花八門,從人工智能一直到他個人最喜歡的歌曲曲目。
有網民向霍金教授提問:您覺得什么是生活中最大的謎?霍金回復道:“女人。我的私人助理提醒我,盡管我擁有物理學博士學位,但應該讓女人繼續保持她們的神秘。”
在回復提問時,霍金也再次重申了他此前所一直堅持的觀點,那就是人工智能技術未來必將對人類構成威脅。但他也強調表示這其中最大的危險將不會是機器人們將有計劃的摧毀人類,而是源自它們拋開人類自主決策的能力。
霍金認為,機器人不太可能對人類產生敵對意圖,但最終將對人類利益造成損害的將會是它們開始追求自身設定的目標的行為。霍金表示:“真正的風險不在于敵意,而在于能力。超級人工智能機器人將極善于達成自己所設定的目標,而如果它所設定的目標與我們的目標并不相互吻合,那么我們就有麻煩了。舉個例子,你有時候踩死一些螞蟻,但這并非出于你對螞蟻們的主觀惡意,但如果你恰好準備在某個地區修建一個水電站,而那片地區正好有一個蟻穴——對于螞蟻們來說,這可真是個壞消息。”他說:“不要把我們人類自己放到那些螞蟻的位置上去。”
霍金教授目前擔任英國劍橋大學應用數學與理論物理系研究主管,他表示,一臺人工智能計算機最終將會進化出對生存的渴望。他說:“未來一臺高度先進的人工智能設備將逐漸發展出求生的本能,并將努力獲取實現其自身所設定目標所需要的資源。因為生存下來并獲取更多資源將能夠增加其實現其他目標的機會。對于人類而言這將導致問題的發生,因為我們的資源將會被掠奪。”
霍金指出,如果人工智能機器人獲得了能夠在不依賴人類而進行自我完善和升級的能力,那將導致一次機器人世界的“技術大爆炸”,最終機器人們的技術能力將遠遠超越人類,就如同我們的技術能力遠遠超越蝸牛一樣。
在2012年慶祝霍金教授70歲生日的一次訪談活動中,他承認自己一天里的大部分時間都在想女人。他說:“她們完全是個謎。”這張照片是霍金與他的第一任妻子簡在一起。
不過,霍金也表示,目前科學界距離研制出具備與人腦相當甚至超越人腦能力的人工智能設備還相當遙遠。他說:“當這件事最終發生時,那或許將成為人類歷史上發生過的最好或是最壞的事,因此把這個問題弄清楚將具有極大的價值。我們或許將花上幾十年的時間才能找出問題的答案,那么就讓我們從今天開始啟動這項研究,而不是拖到超級機器人即將被啟動的前一天晚上。”
Reddit網站舉行的這一向霍金教授提問的活動一共獲得超過9000條的提問和評論,這是該網站舉行的所有類似活動中獲得關注度第三高的一次。在網民提出問題之后過了差不多4個月之后,霍金教授才有時間回復一部分網民提問。霍金一共回復了其中的11個問題,其中大部分都涉及人工智能話題,近期霍金教授在這一問題上頻繁表達自己的擔憂。
就在今年早些時候,霍金曾經與其他幾位頂尖科學家以及美國企業家埃隆·馬斯克一同簽署一份公開信,警告稱未來人工智能將對人類構成威脅。
霍金同時還警告稱,在下一個世紀,機器人的能力將逐漸超越人類,因此科學家們應當確保它們的未來目標是與人類相一致的。Reddit上的這番討論也并非霍金教授首次談及對女性的看法。霍金此前兩次結婚又兩次離異,他多次表示過自己對于女人感到的困惑。