"); //-->
当地时间 8 月 5 日,人工智能领域的领先者 OpenAI 同时遭遇了内忧和外患。
一方面,公司突发关键人物离职:联合创始人之一约翰·舒尔曼(John Schulman)宣布离开公司,加入竞争对手 Anthropic;公司总裁格雷格·布罗克曼(Greg Brockman)也开始了长期休假;去年加入该公司的产品负责人彼得·邓(Peter Deng),也已经离开 OpenAI,他此前曾就职于 Meta、Uber 和 Airtable 等公司。
舒尔曼的离职尤其引人注目。作为 OpenAI 的核心人物之一,他在 ChatGPT 的开发中扮演了关键角色,领导了大模型后训练(post-training)的团队,并且最近还接手了 AI 超级对齐的研究工作。
他在社交媒体上表示,离职是个人决定,原因是想要更深入地关注 AI 对齐问题,并从事更多的实际技术工作。
图 | 舒尔曼的离职推文(来源:X,舒尔曼)
随着舒尔曼的离职,OpenAI 的 11 位早期创始人中只剩下 3 位:CEO 山姆·奥特曼(Sam Altman)、布罗克曼和沃伊切赫·扎伦巴(Wojciech Zaremba)。
这些高层人事变动无疑会对公司的未来发展产生影响,特别是在 AI 安全研究方面。
另一方面,特斯拉和 SpaceX 的创始人埃隆·马斯克(Elon Musk)对 OpenAI 及其 CEO 奥特曼提起了新的诉讼,指控公司和他背离了最初的使命。
马斯克对 OpenAI 提起的诉讼引发了人们对 AI 发展方向的深思,也揭示了理想与现实之间的巨大鸿沟。
这场法律战不仅关乎公司的过去和现在,更可能影响整个 AI 行业的未来走向。
马斯克在 83 页的诉讼文件中指控 OpenAI 背离了造福人类的创立使命,转而追求利润。这份诉状被提交到加利福尼亚北区联邦地区法院,是马斯克今年早些时候在州法院提起诉讼的扩展版本。
马斯克声称,他在 2015 年作为非营利组织共同创立 OpenAI 时,投入了 4400 万美元的种子资金。
他指责奥特曼等公司领导人“蓄意欺骗”了他,利用他对先进 AI 可能带来的存在性风险的担忧。诉讼称,这是一个“关于利他主义与贪婪的教科书式案例”。
马斯克的指控称,当 OpenAI 的技术接近突破性的通用人工智能(AGI,Artificial General Intelligence)时,奥特曼改变了叙事,开始“套现”。诉讼文件使用了不同寻常的戏剧性语言,称这种“背信弃义和欺骗达到了莎士比亚式的程度”。
(来源:资料图)
他的核心论点是,OpenAI与微软的合作关系以及向更商业化模式的转变违背了公司的创立原则:“通过与微软合作,奥特曼建立了一个不透明的营利性 OpenAI 附属公司网络,控制了 OpenAI 的董事会,并系统地抽空了非营利组织的宝贵技术和人员。”
马斯克认为,如果没有他在 OpenAI 最初五个关键年份的参与和资金支持,就不会有 OpenAI。
他声称,当奥特曼等人多次提出将 OpenAI 转变为营利模式的计划时,马斯克坚持自己的道德立场,将他持续出资的条件设定为 OpenAI 保持非营利性质,并将其大部分技术保持开源。
然而,随着 OpenAI 在 2023 年将 GPT-4 和所有 pre-AGI 技术独家授权给微软,同时设置付费墙并“未能公开披露非营利组织的研究和开发,包括 GPT-4、GPT-4 Turbo 和 GPT-4o 架构、硬件、训练方法和训练计算的细节”时,马斯克感到自己被愚弄了。
马斯克在诉讼中要求法院对 OpenAI 的所谓欺诈、违约、虚假广告、不公平竞争行为等违规行为判处最高赔偿金。
他还要求法院裁定一个技术性问题:OpenAI 最近的模型是否应被视为 AGI,从而使微软的许可协议失效。
这是确保私营公司不控制 OpenAI 的 AGI 模型的唯一方法,而马斯克多次设定其出资条件就是为了防止这种情况发生。
马斯克认为,OpenAI 的欺骗行为不仅损害了他的声誉,还对公众造成了伤害:“这种行为已经并可能继续欺骗公众,是不道德的、对消费者造成重大伤害的,并违反了公共政策。”
在更大的背景下,OpenAI 正面临越来越多监管审查。
美国联邦贸易委员会正在调查该公司可能违反消费者保护法的行为,同时几位知名的研究人员也相继离开了 OpenAI,包括前首席科学家伊利亚·苏茨克韦尔(Ilya Sutskever)、人类反馈强化学习技术发明者之一简·莱克(Jan Leike)和从事对齐工作的赖安·洛(Ryan Lowe)等等,理由是担心公司优先考虑快速产品发布而非安全考虑。
在这复杂的背景下,OpenAI 正面临着前所未有的挑战。公司如何在保持技术领先地位的同时,平衡商业利益与道德责任,势必成为业界关注的焦点。
来源:DeepTech深科技
*博客内容为网友个人发布,仅代表博主个人观点,如有侵权请联系工作人员删除。