前OpenAI首席科學(xué)家成立新公司
從OpenAI離開一個(gè)月后，伊爾亞成立了一家公司。
6月20日，OpenAI聯(lián)合創(chuàng)始人、前首席科學(xué)家伊爾亞·蘇茨克維（Ilya Sutskever）在社交平臺(tái)X上發(fā)文宣布成立新公司SSI（safe superintelligence，安全超級(jí)智能）。
他表示新公司將致力于追求安全超級(jí)智能，“只有一個(gè)重點(diǎn)、一個(gè)目標(biāo)和一個(gè)產(chǎn)品。我們將通過(guò)一支精干的小團(tuán)隊(duì)取得革命性的突破，從而實(shí)現(xiàn)這一目標(biāo)。”
伊爾亞的推文
根據(jù)SSI的公告，該公司由伊爾亞以及丹尼爾·格羅斯（Daniel Gross）和丹尼爾·利維（Daniel Levy）共同成立。格羅斯為前蘋果高管、Y-Combinator合伙人，利維是前OpenAI研究員。
“不讓商業(yè)壓力影響技術(shù)安全和進(jìn)步”
三位SSI的創(chuàng)始人在公告中表示，超級(jí)智能已經(jīng)觸手可及，構(gòu)建安全超級(jí)智能（SSI）是這個(gè)時(shí)代最重要的技術(shù)難題。
公告稱：“我們已經(jīng)啟動(dòng)了世界上首個(gè)專注于SSI的實(shí)驗(yàn)室，目標(biāo)和產(chǎn)品都只有一個(gè)：安全超級(jí)智能。這個(gè)實(shí)驗(yàn)室名為Safe Superintelligence Inc。SSI是我們唯一的關(guān)注點(diǎn)，我們的團(tuán)隊(duì)、投資人和商業(yè)模式都致力于實(shí)現(xiàn)SSI。我們將安全性和能力視為通過(guò)革命性工程和科學(xué)突破來(lái)解決的技術(shù)難題。我們計(jì)劃盡快提高能力，同時(shí)確保安全性始終保持領(lǐng)先地位。這樣我們就可以安心擴(kuò)展規(guī)模。我們專注于一個(gè)目標(biāo)，這意味著不會(huì)受管理開銷或產(chǎn)品周期的干擾。我們的商業(yè)模式可以保證安全和進(jìn)步等都不受短期商業(yè)壓力的影響。”
該公告或許也解釋了伊爾亞為何離開OpenAI。
日前，據(jù)外媒報(bào)道，自去年12月以來(lái)，OpenAI的年化收入翻倍，達(dá)到34億美元，其中32億美元來(lái)自訂閱和API（應(yīng)用接口）訪問(wèn)。而公司CEO山姆·奧特曼（Sam Altman）也被曝已告知股東，公司正在考慮調(diào)整治理結(jié)構(gòu)，將轉(zhuǎn)為不受非營(yíng)利性董事會(huì)控制的營(yíng)利性公司，此舉被指意在為IPO（首次公開募股）鋪路。
伊爾亞在5月宣布離職時(shí)表示，OpenAI的發(fā)展軌跡堪稱奇跡，相信OpenAI將在山姆·奧特曼（Sam Altman）、總裁格雷戈里·布羅克曼（Greg Brockman）、首席技術(shù)官米拉·穆拉蒂（Mira Murati）以及雅庫(kù)布·帕喬基（Jakub Pachocki，新任首席科學(xué)家）的領(lǐng)導(dǎo)下，打造既安全又有益的AGI（通用人工智能）。
伊爾亞在2015年參與創(chuàng)立了OpenAI。當(dāng)年，他參加了時(shí)任Y Combinator總裁奧特曼的一場(chǎng)晚宴，并遇到了埃隆·馬斯克（Elon Musk）和布羅克曼，當(dāng)時(shí)他們就公司的非營(yíng)利性達(dá)成一致。
2022年底，聊天機(jī)器人ChatGPT發(fā)布，OpenAI瞬間出圈，走紅全球。
此后，OpenAI每年都會(huì)推出重磅新品，2023年3月，GPT-4發(fā)布；今年5月，多模態(tài)全能大模型GPT-4o發(fā)布，此后與蘋果合作接入GPT。
要“光鮮的產(chǎn)品”還是安全
人們對(duì)GPT-5、超級(jí)智能更加期待的同時(shí)，對(duì)于安全的擔(dān)憂也開始出現(xiàn)。
2023年底，奧特曼就曾因此陷入“宮斗”風(fēng)波，被OpenAI董事會(huì)解雇。事件最終以?shī)W特曼重返公司復(fù)職并重組董事會(huì)告終，伊爾亞也從董事會(huì)名單中消失。
彼時(shí)，據(jù)消息人士稱，穆拉蒂曾告訴員工，一封關(guān)于Q*（發(fā)音為 Q-Star）AI取得突破的信件促使董事會(huì)采取了解雇行動(dòng)。
OpenAI在Q*上取得的進(jìn)展，讓部分公司內(nèi)部人士相信，這可能是他們找到“超級(jí)智能（即AGI）”的突破。OpenAI將AGI定義為“比人類更聰明的AI系統(tǒng)”。
伊爾亞是否真的看見了Q*也一直是人們關(guān)注的焦點(diǎn)，奧特曼在公開采訪中也被多次問(wèn)及，而他反復(fù)表示了對(duì)伊爾亞的愛戴和尊敬。
今年5月，伊爾亞宣布離職，幾小時(shí)后，OpenAI核心安全團(tuán)隊(duì)“超級(jí)對(duì)齊”的負(fù)責(zé)人楊·萊克（Jan Leike）也宣布離職。據(jù)報(bào)道，隨著兩位領(lǐng)導(dǎo)的離開，超級(jí)對(duì)齊團(tuán)隊(duì)也被解散，將納入其他研究工作當(dāng)中。
消息人士透露，注重AI系統(tǒng)安全的員工已對(duì)奧特曼的領(lǐng)導(dǎo)失去信心。萊克在宣布離職后，也發(fā)帖怒斥OpenAI及領(lǐng)導(dǎo)層“重視光鮮的產(chǎn)品，安全文化和流程不再受到重視”。
作為OpenAI早期投資人的馬斯克也多次抨擊OpenAI忘記初衷，并一度將其告上法庭，要求OpenAI恢復(fù)開源，并要求法院下達(dá)禁令，禁止OpenAI、布羅克曼和奧特曼以及微軟從該公司的通用人工智能技術(shù)中獲利。
在OpenAI與蘋果合作后，馬斯克更是炮轟稱集成了OpenAI技術(shù)的iPhone將會(huì)是令人毛骨悚然的“間諜軟件”。
OpenAI也采取了多項(xiàng)措施，包括引入新的團(tuán)隊(duì)、成立由董事會(huì)主導(dǎo)的安全委員會(huì)，也不止一次發(fā)布聲明強(qiáng)調(diào)對(duì)于安全的重視。
當(dāng)?shù)貢r(shí)間6月11日，穆拉蒂在一場(chǎng)《財(cái)富》雜志的活動(dòng)上就IPO傳聞及馬斯克的批評(píng)等作出了回應(yīng)，她表示近期OpenAI的招聘意味著公司將進(jìn)入下一階段，而最大的風(fēng)險(xiǎn)是利益相關(guān)者誤解了技術(shù)。
穆拉蒂在活動(dòng)上透露，OpenAI實(shí)驗(yàn)室里的模型，其實(shí)與公開模型之間不存在很大差距。
她表示：“這是一種與以往完全不同的技術(shù)推廣方式。這是個(gè)很好的機(jī)會(huì)，因?yàn)樗茏屓藗儏⑴c進(jìn)來(lái)，并對(duì)這些技術(shù)的能力和風(fēng)險(xiǎn)有更直觀的了解，從而為先進(jìn)AI的到來(lái)做好準(zhǔn)備，這里面蘊(yùn)含著巨大的機(jī)會(huì)。”她認(rèn)為，經(jīng)常談?wù)擄L(fēng)險(xiǎn)是正常的，因?yàn)榇_實(shí)非常重要，“但如果我們不相信這些機(jī)會(huì)是巨大的，我們也不會(huì)去做這件事。”
（原題：《前OpenAI首席科學(xué)家成立新公司：安全超級(jí)智能是唯一目標(biāo)》）本文鏈接：http://www.albanygandhi.com/news-3-382.html前OpenAI首席科學(xué)家成立新公司
聲明：本網(wǎng)頁(yè)內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
