//OpenAI創(chuàng)始人：AI可能毀滅人類，必須開發(fā)新技術(shù)來解決！//

OpenAI創(chuàng)始人兼首席執(zhí)行官Sam Altman上周六（3月25日）在接受科技博客主Lex Fridman的采訪時表態(tài)，他不會回避“人工智能可能殺死全人類”的說法。

在Youtube平臺公布的視頻中，F(xiàn)ridman在訪談中提到了人工智能研究者、LessWrong研究所創(chuàng)始人Eliezer Yudkowsky的觀點。Yudkowsky此前指出“人工智能可能殺死所有人”，并認(rèn)為，當(dāng)人工智能發(fā)展為超級智能時，幾乎無法與人類站在統(tǒng)一戰(zhàn)線上。

對于此，Altman回應(yīng)道，“我認(rèn)為有這種可能性，并且承認(rèn)這一點很重要，因為如果我們不談?wù)撍?、不把它視為潛在的事實，那么我們就不會投入足夠的努力去解決這個問題。”

“我認(rèn)為我們必須開發(fā)新的技術(shù)來解決這個問題…我所知道的解決這類問題的*方法就是不斷迭代，盡早學(xué)習(xí)?！?/p>

GPT的推理能力

在此次采訪中，Altman提出了一點關(guān)于GPT的新穎之處，即推理能力。

“這個模型的神奇之處在于…對于很多它都不準(zhǔn)確的定義，它可以進(jìn)行某種推理?！?/p>

Altman指出，“我認(rèn)為這很了不起，最令人興奮的是，在提取人類知識的過程中，它產(chǎn)生了這種推理能力。”

關(guān)于偏向性的爭議

在與Lex Fridman的談?wù)撝?，Sam Altman討論了關(guān)于語言模型GPT的一個爭議性話題，即GPT是否太過“woke”（有清醒、覺醒之意）了，也就是說該語言模型給出的答案是否存在偏向性。

例如，世界各地許多存在右翼傾向的新聞媒體指責(zé)OpenAI的ChatGPT在某些交互示例中，表現(xiàn)出自由主義偏見。

“Woke”這個詞*是埃隆·馬斯克在推特上提出的。他寫道，“訓(xùn)練AI覺醒的風(fēng)險，換句話說就是訓(xùn)練其撒謊，是相當(dāng)致命的”。

對此，Altman在此次采訪中表示，“說實話，我甚至不知道‘woke’是什么意思”。

不過Altman也承認(rèn)，“GPT確實存在偏見，而且可能永遠(yuǎn)都是如此?！?/p>

Altman繼續(xù)解釋道，任何一個版本的GPT都不會是完全沒有偏見的、能被全世界公認(rèn)是公正的。這是因為ChatGPT在推出之際，借助了外部力量進(jìn)行迭代更新，也就是讓全世界的人參與進(jìn)來去“塑造”它，所以該模型所存在的偏見是無法避免的。

Altman還指出，OpenAI已經(jīng)對模型進(jìn)行了重大改進(jìn)，以減輕固有偏見并提高其準(zhǔn)確性，一些對GPT模型批評最嚴(yán)厲的人，也贊揚了OpenAI在GPT-3.5版本升級為GPT-4版本之時所做的改進(jìn)。Altman同時也承認(rèn)，未來還有很多工作要做。

與馬斯克的恩怨

在此次訪談中，他也提到了OpenAI和埃隆·馬斯克之間的恩怨。自O(shè)penAI推出ChatGPT后，馬斯克一直在推特上提出批評。

Altman，“埃隆顯然正在推特上從不同角度攻擊我們”。

馬斯克是OpenAI的聯(lián)合創(chuàng)始人，但之后由于理念不同，在2019年與該公司徹底分道揚鑣。而最近幾個月，在ChatGPT帶動的人工智能熱潮中，馬斯克重新燃起了他對OpenAI的“關(guān)心“。

這位億萬富翁指責(zé)OpenAI與微軟的合作讓它從以前的非營利組織變成了現(xiàn)在“*的營利公司”。據(jù)悉，微軟已向OpenAI投資了100多億美元。

馬斯克還把矛頭對準(zhǔn)了該公司的熱門聊天機(jī)器人ChatGPT，他在推特上諷刺這項技術(shù)“好得嚇人”，并表示“我們離危險的強(qiáng)大人工智能不遠(yuǎn)了”。

對于馬斯克的“非營利性”指控，Altman回應(yīng)道，“我們很早就意識到，我們需要的資金遠(yuǎn)遠(yuǎn)超過我們作為非營利組織所能籌集到的資金?！?/p>

Altman回應(yīng)道，他理解馬斯克對人工通用智能（AGI）的保留意見，AGI是一種能夠像人類一樣思考和學(xué)習(xí)智力任務(wù)的人工智能系統(tǒng)。也有不少該領(lǐng)域的專家同樣對AGI技術(shù)表示擔(dān)憂，稱如果這些系統(tǒng)以意想不到的方式運行或變得難以控制，可能會導(dǎo)致“災(zāi)難性的結(jié)果”。

與此同時，Altman也提到，“馬斯克在我心中是英雄，我支持也理解他的擔(dān)憂…但希望馬斯克能承認(rèn)OpenAI在解決AGI安全問題是所付出的努力。”

目前，OpenAI公司鼓勵對監(jiān)管這些系統(tǒng)展開討論，并表示正在收集公眾的反饋，以完善其技術(shù)。