超级对齐团队负责人Leike直接撕破脸皮，揭露离职内幕
2024-05-20 07:59:19 来源: 财经新闻网
财经新闻网消息：
不同于苏茨克维（伊利亚）离开时礼貌的告别——“我相信在奥特曼等人的领导下，AGI一定会被建成既安全又有益的”，以及奥特曼温暖的话语——“这使得‘我太悲伤了……他（伊利亚）有一些对个人来说意义重大的事情要做，我永远感激他在这里所做的一切。”
最新离职的高管、超级对齐团队负责人简·雷克直接爆料，透露了他离职的内幕——奥特曼拒绝提供资源，不顾安全地推动商业化。
雷克也是联合创始人，属于“保守”阵营。 他在宣布辞职几小时后就发文：我辞职了。
正式宣布辞职的第二天，雷克就连续发了十多条帖子，公开解释了自己辞职的原因——
团队没有分配足够的资源：过去几个月，Super 团队一直在“逆风航行”，在计算上举步维艰，完成研究变得越来越困难；
安全并不是 的核心优先事项：过去几年，安全文化和流程已经让位于更华丽的产品。 “很长一段时间以来，我一直与领导层在公司的核心优先事项上存在分歧，直到我们最终达到了临界点。”
这是首次有高管层人物公开承认公司重视产品开发而非安全。
奥特曼的回应仍然不错，他表示感谢自己对一致性研究和安全文化的贡献，并对他的离开感到遗憾。 “他是对的，我们还有很多事情要做，我们致力于做到这一点。未来几天我将发布更长的帖子。”
▍投资未来？奥特曼选择抓住时机
超级校准团队成立于2023年7月，由雷克领衔，成员包括原校准部门的科学家和工程师以及公司其他机构的研究人员。 可以说是一个技术人员团队。 该团队旨在确保人工智能与其制造者的目标保持一致，以解决未来控制超级智能人工智能的核心技术挑战为目标，“解决企业成功构建AGI时实际可能出现的不同类型的安全问题” ”。
换句话说，Super 团队正在为更强大的AI模型创建安全盾，而不是为当前的AI模型。
正如 Leik 所说，“我认为我们应该投入更多精力来准备下一代模型，重点关注安全、监控、准备情况，使人工智能具有强大的对抗性、（超级）一致性，重点关注机密性、社会影响和其他相关主题。 这些问题很难解决，我担心我们没有朝着正确的方向前进。”
Leik还指出，尽管超智能AI目前看来还很遥远，但它可能会在这十年内出现，而管理这些风险将需要新的治理机构和对齐技术来确保超智能AI系统遵循人类意图。
从奥特曼的角度来看，维持一支高度一致的团队是一笔巨大的开支。 承诺团队将获得公司20%的计算资源，这势必会削弱新产品开发的资源，而投资超级对齐的团队实际上就是投资未来。
据Super 团队的一位人士透露，承诺的20%计算资源被打了折扣，并且对一小部分计算资源的请求经常被拒绝，这阻碍了团队的工作。
▍Super 战队解散后会发生什么？
据《连线》等媒体报道，雷克、雷克相继辞职后，Super 团队已经解散。 它不再是一个专门的团队，而是分布在公司各个部门的松散的研究人员群体。 该公司发言人将其描述为“（团队的）更深层次的整合”。
消息人士称，另一位联合创始人约翰·舒尔曼(John )可能会接管与更强大的模型相关的风险研究。
这不免让人产生疑问，当前的任务是保证当前产品的安全，他会不会把重点放在面向未来的安全团队上？
阿尔特曼受到批评的另一个方面是对离职员工“捂嘴”。
自去年11月以来，至少有7名具有安全意识的员工辞职或被解雇，但大多数离职员工不愿公开谈论此事。
据 Vox 报道，部分原因是让员工在离职时签署带有非贬低条款的协议。 如果拒绝签字，你将失去之前获得的期权，这意味着发声的员工可能会损失巨额资金。
一名前员工爆料，公司的入职文件说明包括：“在离开公司后六十天内，你必须签署一份包含‘一般豁免’的离职文件。 如果您没有在 60 天内完成，您的权益将会丢失。” 福利将被取消。”
奥特曼变相承认了此事，回应称公司离职文件中有关于离职员工“潜在股权取消”的条款，但从未实施，他表示，“我们从未收回过任何人的既得股权。”他还表示，公司修改离职协议的条款，“如果签署这些旧协议的前雇员对此感到担忧，可以联系我。”
回到高层之争的原点，也是这场旷日持久的宫斗之争的核心矛盾——“保守派”强调安全第一、产品次之，而“利润派”则希望尽快实现商业化。
您将如何平衡产品安全和商业化？ 如何挽回日益糟糕的公众形象？
期待奥特曼接下来的日子里的“小作文”。
免责声明 ① 本网所刊登文章均来自网络转载;文章观点不代表本网立场,其真实性由作者或稿源方负责 ② 如果您对稿件和图片等有版权及其他争议,请及时与我们联系,我们将核实情况后进行相关删除 ③ 联系邮箱:215858170@qq.com
