導(dǎo)讀:在OpenAI著力攻克下一代模型的挑戰(zhàn)的當(dāng)下,核心人員離職或長(zhǎng)期休假,或也反映出OpenAI內(nèi)部仍存在分歧。
北京時(shí)間8月6日上午消息,OpenAI再迎高層人事變動(dòng)。
OpenAI創(chuàng)始團(tuán)隊(duì)成員約翰·舒爾曼(John Schulman)在社交平臺(tái)上宣布,他將離開(kāi)OpenAI,并加入另一家人工智能創(chuàng)業(yè)企業(yè)Anthropic。OpenAI總裁、聯(lián)合創(chuàng)始人格雷格·布羅克曼(Greg Brockman)在社交媒體上宣布,他將休假到年底,未提及可能離職的消息。另有消息稱(chēng),OpenAI的產(chǎn)品負(fù)責(zé)人彼得·鄧(Peter Deng)也將離職。
此前OpenAI聯(lián)合創(chuàng)始人兼首席科學(xué)家伊利亞·蘇茨克沃(Ilya Sutskever)離職后,OpenAI人事仍然不穩(wěn)。值得注意的是,此次宣布離職的約翰·舒爾曼與伊利亞·蘇茨克沃此前都負(fù)責(zé)OpenAI的人工智能對(duì)齊工作。而OpenAI此前已解散“超級(jí)智能對(duì)齊”團(tuán)隊(duì),約翰·舒爾曼此次離職或意味著OpenAI更不愿重押人工智能對(duì)齊。
此外,雖然格雷格·布羅克曼并未透露離職,但在OpenAI著力攻克下一代模型的挑戰(zhàn)的當(dāng)下,核心人員長(zhǎng)期休假,或也反映出OpenAI內(nèi)部仍存在分歧。
再迎人事變動(dòng)
約翰·舒爾曼表示,作出離開(kāi)OpenAI并加入Anthropic這一決定是因?yàn)樗MM(jìn)一步關(guān)注人工智能對(duì)齊,并重返實(shí)際技術(shù)工作!拔译x開(kāi)并不是因?yàn)镺penAI缺乏對(duì)對(duì)齊研究的支持,相反,公司一直致力于投資這一領(lǐng)域,我的決定是個(gè)人決定,我希望在職業(yè)生涯下一階段集中精力! 約翰·舒爾曼表示。
約翰·舒爾曼表示,到目前為止,除了實(shí)習(xí),OpenAI還是他工作過(guò)的唯一一家公司,他非常感謝OpenAI CEO薩姆·奧爾特曼 (Sam Altman)和聯(lián)合創(chuàng)始人格雷格·布羅克曼一開(kāi)始就招募了他,“相信沒(méi)有我,OpenAI和我所在的團(tuán)隊(duì)也會(huì)繼續(xù)蓬勃發(fā)展!
薩姆·奧爾特曼則在社交平臺(tái)上回復(fù)約翰·舒爾曼,稱(chēng)”感謝你為OpenAI所做的一切,你是一位才華橫溢的研究員,一位對(duì)產(chǎn)品和社會(huì)有深刻思考的人,你是我們所有人的好朋友“。
記者留意到,今年早些時(shí)候,OpenAI解散了“超級(jí)智能對(duì)齊”團(tuán)隊(duì),并于當(dāng)?shù)貢r(shí)間5月28日成立了一個(gè)新的安全委員會(huì),約翰·舒爾曼是該安全委員會(huì)的成員之一。彼時(shí)OpenAI對(duì)他的職位描述為對(duì)齊科學(xué)主管。
聯(lián)合創(chuàng)始人格雷格·布羅克曼雖然長(zhǎng)期休假,但并未透露離職意向,他僅在社交媒體上表示,這是9年前共同創(chuàng)立OpenAI以來(lái)他第一次可以放松。“任務(wù)還遠(yuǎn)未完成,我們?nèi)匀恍枰獦?gòu)建安全的AGI(通用人工智能)!备窭赘瘛げ剂_克曼表示。
彼得·鄧則還未在社交媒體上提及他離職的消息。彼得·鄧是硅谷知名產(chǎn)品經(jīng)理,曾任谷歌(160.54, -0.10, -0.06%)、Instagram、Facebook、Uber等公司的產(chǎn)品經(jīng)理,去年加入OpenAI任消費(fèi)產(chǎn)品副總裁,負(fù)責(zé)ChatGPT背后的產(chǎn)品、設(shè)計(jì)和工程團(tuán)隊(duì)。在今年早些時(shí)候的播客對(duì)談中,他提及AI安全和ChatGPT的價(jià)值觀時(shí)表示,理想(18.94, 0.08, 0.42%)的情況是人工智能能契合每個(gè)使用者個(gè)人的價(jià)值觀,這不應(yīng)該是規(guī)范性的,并不是我們想要為ChatGPT灌輸什么價(jià)值觀,而是希望能以某種方式將世界各地的價(jià)值觀融入到人工智能中。
自去年薩姆·奧爾特曼被OpenAI董事會(huì)解雇又重新聘用后,OpenAI人事動(dòng)蕩未止。有傳聞稱(chēng)薩姆·奧爾特曼罷免事件與內(nèi)部對(duì)AI安全問(wèn)題的分歧有關(guān),薩姆·奧爾特曼與伊利亞·蘇茨克沃在AI安全和商業(yè)化問(wèn)題上存在分歧。作為內(nèi)斗風(fēng)波關(guān)鍵人物,伊利亞·蘇茨克沃已于今年5月宣布離開(kāi)工作了近10年的OpenAI。
此外,OpenAI另一名創(chuàng)始團(tuán)隊(duì)成員Andrej Karpathy今年2月已離開(kāi)OpenAI,并于7月宣布創(chuàng)辦了一家AI+教育公司。OpenAI仍在職的創(chuàng)始團(tuán)隊(duì)成員越來(lái)越少。
是否影響GPT開(kāi)發(fā)進(jìn)展?
OpenAI再迎人事變動(dòng),或意味著OpenAI對(duì)AI安全的關(guān)注點(diǎn)變化,下一代GPT是否會(huì)受人事變動(dòng)的影響還需繼續(xù)觀察。
記者留意到,據(jù)OpenAI描述,此前成立的安全委員會(huì)的首要任務(wù)是在接下來(lái)90天評(píng)估和進(jìn)一步開(kāi)發(fā)OpenAI的流程和保障措施,并在90天結(jié)束時(shí)與全體董事會(huì)成員分享建議,在董事會(huì)審查后公開(kāi)已采納的建議。按照時(shí)間規(guī)劃,這些建議將在8月底之后公開(kāi),而約翰·舒爾曼在此之前就決定離開(kāi)OpenAI。
在AI安全方面,從OpenAI對(duì)新成立的安全委員會(huì)的介紹看,該團(tuán)隊(duì)的職責(zé)與已解散的“超級(jí)智能對(duì)齊”團(tuán)隊(duì)不完全一致。而隨著對(duì)齊科學(xué)主管約翰·舒爾曼離開(kāi),這或意味著OpenAI對(duì)人工智能對(duì)齊方面關(guān)注變得更少。
“對(duì)齊”的意思是要求AI系統(tǒng)的目標(biāo)與人類(lèi)價(jià)值觀與利益相一致,原本“超級(jí)智能對(duì)齊”團(tuán)隊(duì)的職責(zé)包括研究防止AI系統(tǒng)異常的技術(shù)解決方案。伊利亞·蘇茨克沃曾在采訪(fǎng)中提到ChatGPT可能有意識(shí),世界需要清醒認(rèn)識(shí)到他的公司和其他公司正在創(chuàng)造的技術(shù)的真正力量。奧爾特曼的看法與之不完全相同,他近期回應(yīng)稱(chēng)“(前董事會(huì))他們對(duì)我和我們所做的事有一些看法,盡管我非常強(qiáng)烈地反對(duì)他們的想法。人工智能對(duì)齊問(wèn)題還不能說(shuō)完全解決,但目前讓人工智能系統(tǒng)學(xué)會(huì)如何按一套價(jià)值觀行事,效果比我想象的更好。”
約翰·舒爾曼將加入的Anthropic則被認(rèn)為是OpenAI的頭號(hào)競(jìng)爭(zhēng)對(duì)手。Anthropic是由前OpenAI研究高管和員工創(chuàng)建的公司,旗下?lián)碛蠧laude系列大模型。今年6月,Anthropic發(fā)布最新模型Claude 3.5 Sonnet,該模型在研究生水平推理 (GPQA)、編碼能力 (HumanEval) 、文本推理(DROP)等方面的成績(jī)均好于GPT-4o。
從下一代GPT研發(fā)進(jìn)展看,OpenAI似乎遇到了一些困難。今年7月,薩姆·奧爾特曼稱(chēng),開(kāi)發(fā)GPT-5還需要一些時(shí)間,GPT-5相關(guān)的技術(shù)仍處于早期階段,存在數(shù)據(jù)和算法方面的問(wèn)題。
隨著約翰·舒爾曼離職并加入競(jìng)爭(zhēng)對(duì)手Anthropic、格雷格·布羅克曼休假,核心人物離場(chǎng)對(duì)OpenAI研發(fā)進(jìn)展是否有影響還需繼續(xù)觀察。
值得注意的是,OpenAI聯(lián)合創(chuàng)始人間還另有矛盾。撤訴不到兩個(gè)月后,曾聯(lián)合創(chuàng)辦了OpenAI的特斯拉(200.64, 1.76, 0.88%)CEO馬斯克近日又在美國(guó)法院起訴薩姆·奧爾特曼、格雷格·布羅克曼,指控相關(guān)人員將商業(yè)利益置于公共利益之上,違反了公司的創(chuàng)立合約。起訴書(shū)稱(chēng),薩姆·奧爾特曼等人故意討好和欺騙馬斯克,以共同創(chuàng)立非營(yíng)利企業(yè)OpenAI,但隨后用各種手段使之成為營(yíng)利實(shí)體。OpenAI數(shù)月前針對(duì)馬斯克的指控則曾發(fā)截圖回應(yīng),表示馬斯克曾同意該公司籌集更多資金、創(chuàng)建營(yíng)利性組織并逐步放棄開(kāi)源產(chǎn)品發(fā)布的計(jì)劃。