Hinton签署联名信，公开抵制OpenAI重组！10名前OpenAI员工也参与了

新智元报道

编辑：桃子

【新智元导读】日前，诺奖得主、AI教父Geoffrey Hinton联合10名前OpenAI员工及其他业内人士联合发表公开信反对OpenAI的重组计划，理由非常直接：OpenAI违背了他们的慈善宗旨，即确保AGI的安全开发和造福人类。

在刚刚签署的公开信中，Hinton表示，OpenAI独特的非营利法律结构是防止商业利益凌驾使命的保障，重组将削弱公众利益的保护机制，违反公司章程，构成对其非营利责任的威胁。

他们在公开信中呼吁：要求OpenAI解答根本问题。OpenAI并未公开解释其拟议的重组将如何推进该非营利组织的慈善目标，即安全地开发AGI，造福人类。它也没有充分解释，为什么CEO奥特曼在国会作证时所强调的治理保障措施在2023年对OpenAI的使命至关重要，却在2024年却成为了其使命的障碍。

确保非营利组织保留控制权，从而保护慈善信托和宗旨。要求OpenAI停止重组，并保护治理保障措施（包括非营利组织的控制权），OpenAI领导层一直坚称，这些措施对于「确保其继续专注于其长期使命」至关重要。

公开信签署者名单如下：

公开信链接：https://notforprivategain.org/

为何阻止OpenAI重组？

想要理解OpenAI的慈善宗旨：非营利控制为何能保护使命，我们可以先理解OpenAI所说的「AGI」是什么意思。OpenAI将AGI定义为「一种高度自主的系统，在最具经济价值的工作上表现优于人类」。

而另一方面，OpenAI警告称，「AGI还会带来严重的滥用风险、重大事故和社会混乱。失调的超级智能AGI可能会对世界造成严重伤害。」奥特曼和OpenAI的高级员工此前与Hinton在内的数百人一起签署了一份声明，该声明指出，「缓解AI灭绝的风险应该是全球优先事项，优先于其他社会规模的风险，如大流行病和核战争。」

OpenAI的成立目的即是因为担忧一家营利性公司开发AGI。为了实现其使命，同时避免成为另一个以利润为导向的谷歌竞争对手或对尖端AI没有直接影响力的学术安全实验室，OpenAI尝试构建AGI。为了确保他们在构建AGI的竞赛中的动力永远不会损害他们的使命，他们注册为非营利组织，并在法律和结构上将构建AGI的目标置于使命之下。

2019年，OpenAI决定，除了作为一家非营利性非股份公司所能筹集的捐款和债务资本外，还需要筹集股权资本。为了在保持其使命优先地位的同时实现这一目标，OpenAI成立了一家受控的营利性子公司。通过这家受控子公司「OpenAI-profit」，OpenAI将向寻求回报的投资者筹集资金。然而，新的营利性实体将是原非营利组织「OpenAI-nonprofit」的子公司，原非营利组织将保留其信托责任，将慈善事业置于首位。

拟议的重组将颠覆OpenAI的慈善使命。OpenAI近期宣布，计划再次进行重组，据称是为了满足投资者简化资本结构的需求。根据这项新的重组方案，OpenAI-profit将转型为特拉华州的一家公益公司「OpenAI-PBC」。届时，OpenAI-PBC将「运营和控制OpenAI的运营和业务，而该非营利组织将聘请领导团队和员工，在医疗保健、教育和科学等领域开展慈善事业」。OpenAI-nonprofit的「对现有营利性组织的重大权益将以PBC股份的形式持有」。

通过取消非营利组织的控制权，拟议的重组将消除OpenAI一直坚称对其慈善宗旨至关重要的大部分治理保障措施。而且，任何金额都比控制一家全球领先的AI公司更能促进OpenAI非营利组织的慈善宗旨。

OpenAI公开的重组理由是，其优先考虑竞争优势而非慈善宗旨，且未能阐明放弃非营利组织控制权如何与其使命相兼容。尽管OpenAI目前的架构可能存在局限性，且竞争定位可能间接支持其使命，但任何拟议的解决方案都必须在不损害核心原则的情况下，针对实际缺陷进行量身定制。

OpenAI尚未公开证明，其重组对使命的所谓益处如何大于拆除旨在确保OpenAI忠于其使命的保障措施所带来的巨大风险。非营利组织可能因失去控制权而一无所获。

如何阻止OpenAI重组？

公开信中写道，「我们恳请Bonta和Jennings总检察长采取以下行动...」即上述提到的「要求回答基本问题」和「确保非营利组织保留控制权，保护慈善信托和宗旨」。

1.OpenAI需要回答哪些基本问题

OpenAI尚未公开回答有关重组的一些基本问题。他们敦促总检察长调查以下问题：

1）董事会决定的理由

取消非营利组织的控制权是推进OpenAI慈善目标的最佳途径吗？如果是，为什么？做了哪些分析，又考虑了哪些替代方案？

2023年5月，奥特曼在国会作证时表示，OpenAI的治理「确保其始终专注于其长期使命」。他当时提到的许多（如果不是全部）保障措施，在拟议的重组方案下都将不复存在。2023年5月至2024年9月之间发生了什么变化，以至于对OpenAI使命至关重要的保障措施反而变成了障碍？

奥特曼曾多次表示，营利性机构会给试图构建AGI的组织带来不良激励。现在情况不是这样吗？如果是这样，原因是什么？

投资者压力对重组决策有何影响？董事会是否正式批准了一轮包含以重组为条件的投资？如果是，董事会提供了哪些信息来支持其批准？

2）利益相关董事的参与

哪些现任董事已经参与或计划参与有关拟议重组的决策，哪些（如果有）没有参与，以及各自有哪些潜在的利益冲突？

根据拟议的重组，任何董事是否会获得OpenAI-PBC的股权、额外股权或其他直接或间接个人利益？

3）OpenAI提出的重组计划

OpenAI-PBC的治理结构是怎样的？谁会加入这个致力于构建AGI的实体的董事会？

OpenAI-PBC需要什么样的架构来保证其行动符合其使命，即确保AGI的安全开发并造福全人类？具体来说，他们将采取哪些保障措施来确保其发布的AI系统是安全的，并且AGI的收益能够惠及全人类，而不是优先惠及投资者？

如果OpenAI-PBC采取明显对人类有害的行动，谁能采取补救措施？

OpenAI-PBC是否会重新承诺章程中的原则，包括承诺停止与接近构建AGI的使命一致的组织竞争并为其提供帮助？

OpenAI的立场是否是，其他前沿AI公司的目标与OpenAI不一致？OpenAI的立场是否是，如果任何一家公司抢在OpenAI之前开发AGI，人类的利益就会受到威胁？如果是这样，OpenAI的立场又有何依据？

新投资者的利润是否仍会受到限制？超过上限的利润还会归OpenAI-nonprofit所有吗？过去投资者的利润上限会被取消吗？利润上限结构的任何变化将为非营利组织带来什么价值？所有关于超过上限的利润预期值的内部分析都应被要求提供。

如果OpenAI构建了AGI，谁将拥有并控制它？微软对AGI的知识产权是否与 OpenAI现有AI系统的知识产权相同？

2.OpenAI需要保护最初的慈善宗旨

他们呼吁不要让OpenAI的重组按计划进行。他们敦促总检察长通过保留OpenAI和奥特曼反复声称对其使命至关重要的核心治理保障措施来保护OpenAI的慈善宗旨：

OpenAI的领导层（试图构建AGI的实体）应该对使命负有信托责任：确保 AGI安全开发并造福人类。

除了使命之外的所有目标——包括利润和赢得AGI竞赛——都应该服从于使命。

OpenAI将使命放在首位的义务必须至少由总检察长、董事和对此事有特殊利益的各方依法强制执行。

投资者的利润应该继续受到限制，超过限制的利润应该专门直接用于造福人类。

OpenAI应该保留其章程中的承诺，停止竞争并开始协助接近构建AGI的使命一致的项目。

AGI本身（如果OpenAI创建的话）应该属于非营利组织或类似的实体，其唯一责任是确保AGI得到负责任的使用并造福人类。它不应由商业实体或其投资者拥有或控制。

然而，仅仅停止重组是不够的，因为这些治理保障措施显然不足以阻止管理层推动将其移除。他们还请求您确保董事会拥有必要的独立性、资源、信息和意愿，以履行其受托责任，抵制管理层。具体如下：

罢免董事。任何被发现破坏董事会重组决策完整性的董事均应被罢免。

独立性：董事会的大多数成员不应在OpenAI-profit中拥有直接或间接的个人利益。

专业知识。董事会应具备必要的专业知识，以了解OpenAI-profit何时采取与使命相悖的行动。

资源。董事会应拥有必要的人员和预算，以监督这家拥有数千名员工、估值达3000亿美元的组织的运营。

信息。OpenAI应定期及时向董事会汇报任何可能与其使命相冲突的活动。董事向管理层提出的任何问题都应得到及时、详细的答复。

监督。监督这些变更的实施，或指定一个独立机构来监督其实施。在这些变更最终确定之前，董事会的任何决定都应接受仔细审查。

他们在公开信的最后写道，OpenAI的成立是为了确保AGI的安全发展并造福全人类，其目前的架构在法律上将营利动机置于「确保AGI的安全发展，造福全人类」的使命之下。

拟议中的重组将取消必要的保障措施，实际上将这项可能是有史以来最强大的技术的控制权和利润，交给一个有法律义务优先考虑股东回报的营利性实体。

「我们敦促您停止这一重组，恢复适当的治理，并确保OpenAI继续对您、公众及其慈善宗旨负责。」

本文转自学术头条，若二次转载联系原作者。