出品｜虎嗅科技組
作者｜孫曉晨
編輯｜苗正卿
頭圖｜視覺中國
11月9日，OpenAI安全系統團隊負責人Lilian Weng宣佈將於當地時間11月15日離職，而3個月前，她剛剛上任OpenAI研究與安全副總裁。
Lilian Weng本科就讀於北京大學，後在印第安納大學伯明頓分校取得博士學位，是GPT-4專案的重要貢獻者之一。
2023年，Lilian Weng建立並領導了OpenAI的安全系統團隊，以期解決現有模型被惡意使用等AI安全問題。
2024年5月，OpenAI第三位安全主管Jan Leike離職。不久之後，Lilian Weng升任為OpenAI新一任安全主管。
如今，Lilian Weng選擇離開。
“在GPT-4釋出之後，我被要求接受一個新的挑戰，重新考慮OpenAI安全系統的願景，並將工作集中在一個擁有完整安全堆疊的團隊之下。這是我做過的最困難、壓力最大、最激動人心的事情之一。”Lilian Weng在社交平臺X中分享道，“如今，安全系統團隊擁有80多名傑出的科學家、工程師、經理、政策專家，我對我們團隊取得的成就感到非常自豪。”
在離職宣告中，Lilian Weng對團隊取得的成果表示非常滿意，尤其對o1-preview模型的最新成就讚不絕口，“它是我們迄今為止最安全的模型，在保持真實性的同時，表現出了對越獄攻擊的卓越抵抗力。”
為什麼要培養一個安全型AI？
Lilian Weng在B站“超級科學晚”活動中表示“AI安全是保障智慧世界的關鍵”。隨著AI的快速發展和廣泛應用，惡意使用、有害資訊輸出、資料偏見、資料汙染、對抗性攻擊以及與人類價值不符等安全挑戰也成為了AI發展不得不面對的問題，AI安全成為重要課題。
然而，OpenAI或已無暇顧及AI安全問題。
在此之前，OpenAI超級對齊團隊的兩名負責人Ilya Sutskever和Jan Leike便已離職。Jan Leike在個人推文中奉勸“OpenAI必須成為一家以安全為首位的AGI公司”。
“AGI Readiness”團隊的高階顧問Miles Brundage也於近日離職，並在離職宣告中指出專注於AI安全研究的“AGI Readiness”團隊將被解散。他本人則希望從外部繼續進行AI安全方面的工作。
包括Lilian Weng在內多位AI安全部門核心員工的離開，證明AI安全在OpenAI內部已被置於次要位置。
與AI安全相比，OpenAI不得不先考慮營收問題。
據CNBC證實，今年OpenAI預計收入約為37億美元，而虧損約50億美元。報道中稱，該公司8月份實現了3億美元的收入，自去年初以來增長了1700% ，並預計明年將實現116億美元的銷售額。
儘管前景廣闊，但短期之內，資金壓力會是OpenAI的主要問題之一。在考量之中，安全為利潤讓了路。
同時，離職潮也展露了OpenAI的內部問題。
OpenAI人員動盪中，Lilian Weng並非第一位離開OpenAI的華人高管。此前，曾任ChatGPT消費產品副總裁的Peter Deng便已離職。
2023年智譜研究釋出的《ChatGPT團隊背景研究報告》顯示，ChatGPT 團隊共有華人9人，佔團隊總人數10%，Lilian Weng便是其中之一。
儘管是OpenAI的資深員工，而且居功甚偉，Lilian Weng依然選擇離開這裡。
華人科學家出走，是OpenAI離職潮的縮影。
然而，離職風波中的OpenAI終於傳來好訊息。11月13日，OpenAI聯合創始人兼總裁Greg Brockman宣佈提前結束休假，迴歸公司。
據外媒報道，Greg Brockman迴歸，將專注於應對重大技術挑戰。
如今，除Sam Altman、Wojciech Zaremba以及剛剛休假迴歸的Greg Brockman外，當年其餘幫助創立OpenAI的元老均已不在團隊之中。
大量早期員工的離開，說明在人工智慧的發展航程中，不僅僅是技術問題有待解決，員工管理和理念衝突更是不得不謹慎處理的隱痛。
“現在，在OpenAI工作了7年了，我準備重新開始並探索一些新東西。OpenAI正以火箭般的增長趨勢上，希望這裡的每個人一切都順利。”Lilian Weng未在推文中介紹離職原因，但作為公司目前職位最高的華人科學家之一，她的出走表明OpenAI人員動盪遠未平息。
Greg Brockman迴歸是否能讓OpenAI的高層動盪回穩，尚是未知數。
本內容為作者獨立觀點，不代表虎嗅立場。未經允許不得轉載，授權事宜請聯絡 [email protected]
