开云·(Kaiyun) 官方网站 登录入口

出品｜虎嗅科技组

作家｜孙晓晨

裁剪｜苗正卿

头图｜视觉中国

11 月 9 日，OpenAI 安全系统团队认真东谈主 Lilian Weng 晓示将于当地时候 11 月 15 日下野，而 3 个月前，她刚刚上任 OpenAI 征询与安全副总裁。

Lilian Weng 本科就读于北京大学，后在印第安纳大学伯明顿分校得回博士学位，是 GPT-4 项看法紧要孝顺者之一。

2023 年，Lilian Weng 创建并联接了 OpenAI 的安全系统团队，以期贬责现存模子被坏心使用等 AI 安全问题。

2024 年 5 月，OpenAI 第三位安全摆布 Jan Leike 下野。不久之后，Lilian Weng 升任为 OpenAI 新一任安全摆布。

如今，Lilian Weng 选择离开。

"在 GPT-4 发布之后，我被条目采纳一个新的挑战，再行辩论 OpenAI 安全系统的愿景，并将使命荟萃在一个领有竣工安全堆栈的团队之下。这是我作念过的最清贫、压力最大、最欢叫东谈主心的事情之一。" Lilian Weng 在应酬平台 X 均共享谈，"如今，安全系统团队领有 80 多名了得的科学家、工程师、司理、策略人人，我对咱们团队得回的树立感到格外骄慢。"

在下野声明中，Lilian Weng 对团队得回的效力暗示格外欢欣，尤其对 o1-preview 模子的最新树立拍桌感概，"它是咱们迄今为止最安全的模子，在保合手的确性的同期，发扬出了对逃狱挫折的超卓反抗力。"

为什么要培养一个安全型 AI？

Lilian Weng 在 B 站"超等科学晚"活动中暗示"AI 安全是保险智能寰宇的要道"。跟着 AI 的快速发展和平凡运用，坏心使用、无益信息输出、数据偏见、数据混浊、对抗性挫折以及与东谈主类价值不符等安全挑战也成为了 AI 发展不得不靠近的问题，AI 安全成为紧要课题。

谋划词，OpenAI 或已无暇顾及 AI 安全问题。

在此之前，OpenAI 超等对皆团队的两名认真东谈主 Ilya Sutskever 和 Jan Leike 便已下野。Jan Leike 在个东谈主推文中奉劝" OpenAI 必须成为一家以安全为首位的 AGI 公司"。

" AGI Readiness "团队的高档照看人 Miles Brundage 也于近日下野，并在下野声明中指出专注于 AI 安全征询的" AGI Readiness "团队将被远离。他本东谈主则但愿从外部不绝进行 AI 安全方面的使命。

包括 Lilian Weng 在内多位 AI 安沿途门中枢职工的离开，解释 AI 安全在 OpenAI 里面已被置于次要位置。

与 AI 安全比较，OpenAI 不得不先辩论营收问题。

据 CNBC 阐述，本年 OpenAI 瞻望收入约为 37 亿好意思元，而归天约 50 亿好意思元。报谈中称，该公司 8 月份杀青了 3 亿好意思元的收入，自客岁初以来增长了 1700% ，并瞻望来岁将杀青 116 亿好意思元的销售额。

尽管出息广大，但短期之内，资金压力会是 OpenAI 的主要问题之一。在考量之中，安全为利润让了路。

同期，下野潮也展露了 OpenAI 的里面问题。

OpenAI 东谈主员飘荡中，Lilian Weng 并非第一位离开 OpenAI 的华东谈主高管。此前，曾任 ChatGPT 耗尽家具副总裁的 Peter Deng 便已下野。

2023 年智谱征询发布的《ChatGPT 团队配景征询论述》披露，ChatGPT 团队共有华东谈主 9 东谈主，占团队总东谈主数 10%，Lilian Weng 就是其中之一。

尽管是 OpenAI 的资深职工，并且居功甚伟，Lilian Weng 仍是选择离开这里。

华东谈主科学家出走，是 OpenAI 下野潮的缩影。

谋划词，下野风云中的 OpenAI 终于传来好音讯。11 月 13 日，OpenAI 集中独创东谈主兼总裁 Greg Brockman 晓示提前扫尾放假，转头公司。

据外媒报谈，Greg Brockman 转头，将专注于应付紧要期间挑战。

如今，除 Sam Altman、Wojciech Zaremba 以及刚刚放假转头的 Greg Brockman 外，往常其余匡助创立 OpenAI 的元老均已不在团队之中。

多数早期职工的离开，阐扬在东谈主工智能的发展航程中，不单是是期间问题有待贬责，职工料理和理念防碍更是不得不严慎处理的苍凉。

"咫尺，在 OpenAI 使命了 7 年了，我准备再行启动并探索一些新东西。OpenAI 正以火箭般的增长趋势上，但愿这里的每个东谈主一切都顺利。" Lilian Weng 未在推文中先容下野原因，但手脚公司咫尺职位最高的华东谈主科学家之一，她的出走标明 OpenAI 东谈主员飘荡远未平息。

Greg Brockman 转头是否能让 OpenAI 的高层飘荡回稳开云·(Kaiyun) 官方网站 登录入口，尚是未知数。