投票开除奥尔特曼的董事发声:OpenAI之乱跟AI安全没关系

发布日期:2024-01-08 18:27    点击次数:128

专题:OpenAI称奥特曼将回归担任CEO 并组建新的董事会

  财联社

  在上个月令全球科技圈震惊的OpenAI“内乱100小时”中,AI圈的顶流明星山姆·奥尔特曼在遭到董事会扫地出门后又迅速凯旋而归。即便如此,由于事发后核心人物鲜少谈及幕后的考量,整件事情至今还留有诸多疑问。

  当地时间周四,已经离开OpenAI董事会的Helen Toner公开发声,对于外界的诸多疑问和“知情人士消息”做出一些回应。

  为何要开除奥尔特曼

  Toner表示,董事会开除奥尔特曼的原因与AI安全没有关系,而是“缺乏信任”。她进一步解释称:“我们解雇山姆的目的,是为了加强OpenAI并使其更有能力实现其使命。”

  在面对OpenAI的律师试图施压董事会辞职时,她也坚持了这一立场。Toner介绍称:“律师试图声称,如果我们不立即辞职,将会违法。因为若公司因此崩溃,我们将违反受托责任。但OpenAI是一个非常特殊的组织,非营利使命——确保人工通用智能(AGI)惠及全人类——是最重要的。”

  事实上,在面对律师强调“公司会因此崩溃”时,Toner回应称“这样也符合我们的使命”,令房间里的一众公司高管感到吃惊。

  对于这一点,Toner也补充道,这句话是对律师“恐吓策略”的回应。她试图表达的是:对于创建造福全人类的AGI这一使命而言,OpenAI的持续存在并不是必要条件。

  据知情人士透露,这场内乱的源头是奥尔特曼与Toner之间的矛盾。今年10月,在一篇Toner作为共同作者的论文中,OpenAI推出ChatGPT引发了主要科技公司内部的“紧迫感”,导致他们加快研发AI产品;与此同时,OpenAI的竞争对手Anthropic通过延迟发布其聊天机器人,避免了“助长AI炒作”的现象。

  文章发表后,奥尔特曼质问Toner为何要如此公开批评公司,随后他联系了其他的董事会成员,试图炒掉Toner。

  然而,一些董事会成员私下里交换了与奥尔特曼的聊天记录,发现他在与一名董事讨论时提供了误导性的看法,即另一名董事也认为Toner应该离开。而在那个时间点,多名董事已经对奥尔特曼的诚实性感到担忧。他的一系列行为一点一点地削弱了这些成员对奥尔特曼的信任,并最终导致了他被解雇。

  在最新的专访中,Toner并没有回应她与奥尔特曼之间的事情,仅强调她的所有行为都是出于好意。

  据知情人士表示,在奥尔特曼回归OpenAI前,他已经向Toner就“论文事件”中的行为进行过道歉。

  与有效利他主义的关系?

  在这起事件中,奥尔特曼的支持者经常拿Toner和另一名董事Tasha McCauley与“有效利他主义”运动之间的关系发起攻击。

  举例而言,OpenAI投资人柯斯拉(Vinod Khosla)就曾公开撰文称,像“乔治城大学安全与新兴技术中心战略总监”这样的华丽头衔,可能会导致Toner对创新创业的复杂过程存在误解。OpenAI董事会成员对“有效利他主义”的信仰及其误用,可能已经阻碍了人工智能带来巨大好处的世界进程。

  不过近年来Toner也一直试图与有效利他主义运动保持距离。她表示:“像任何群体一样,自从2014年以来,这个运动和我自己都已经发生了很大的变化。”

  Toner于2014年从墨尔本大学毕业,获得化学工程学位。之后她在Open Philanthropy等一系列公司担任研究分析师,Open Philanthropy是一个基于有效利他主义哲学提供赠款的基金会。2019年结束在中国有关AI生态的学习后,Toner回到美国帮助创立安全与新兴技术中心,并一直工作至今。

  2021年时,Open Philanthropy的联席CEO Holden Karnofsky(他的妻子Daniela Amodei是Anthropic的联合创始人)退出OpenAI董事会,随后年仅29岁的Toner被任命为OpenAI董事。

股市回暖,抄底炒股先开户!智能定投、条件单、个股雷达……送给你>> 海量资讯、精准解读,尽在新浪财经APP

责任编辑:周唯