前openai员工要求加州和特拉华州的AGs阻止ChatGPT制造商的盈利性转换

OpenAI的前雇员要求加利福尼亚州和特拉华州的高级执法官员阻止该公司将其人工智能技术的控制权转移到一家营利性企业。

他们担心的是，如果ChatGPT制造商实现了打造超越人类的人工智能的雄心，但却不再对保护这项技术不造成严重伤害的公共使命负责，会发生什么。

OpenAI前政策和道德顾问佩奇·赫德利（Page Hedley）在接受美联社（The Associated Press）采访时说，“归根结底，我担心的是，一旦这项技术被创造出来，谁拥有和控制它。”

在三位诺贝尔奖获得者和其他倡导者和专家的支持下，Hedley和其他九名前openai员工本周向两个州的总检察长发了一封信。

该联盟要求加州总检察长罗伯·邦塔和特拉华州总检察长凯西·詹宁斯（都是民主党人）利用他们的权力保护OpenAI的慈善目的，并阻止其计划中的重组。OpenAI在特拉华州注册成立，在旧金山运营。

OpenAI回应称，“对我们现有结构的任何改变都将有助于确保更广泛的公众从人工智能中受益。”该公司表示，其盈利机构将是一家公益公司，类似于Anthropic和科技亿万富翁埃隆·马斯克（Elon Musk）的xAI等其他人工智能实验室，只是OpenAI仍将保留一个非营利部门。

该公司在一份声明中表示：“这种结构将继续确保，随着营利性机构的成功和发展，非营利机构也会成功和发展，从而使我们能够实现使命。”

这封信是本月第二次向州政府官员请愿。最后一封来自一群劳工领袖和非营利组织，他们专注于保护OpenAI的数十亿美元。

詹宁斯去年秋天表示，她将“审查任何此类交易，以确保公众利益得到充分保护”。去年年底，Bonta办公室向OpenAI寻求更多信息，但表示无法置评，甚至无法确认或否认是否正在调查。

OpenAI的联合创始人，包括现任首席执行官萨姆·奥特曼和马斯克，最初是作为一个非营利性研究实验室开始的，其使命是为了人类的利益安全建造所谓的东西。近十年后，OpenAI的市值已达到3000亿美元，其旗舰产品ChatGPT的每周用户数量达到4亿。

OpenAI已经有了一个以营利为目的的子公司，但在转变其核心治理结构方面面临着许多挑战。其中一位是a，他指责特斯拉公司和奥特曼背叛了促使这位特斯拉首席执行官投资该慈善机构的创始原则。

虽然本周这封信的一些签署人支持马斯克的诉讼，但海德利表示，其他人“可以理解地愤世嫉俗”，因为马斯克也经营着自己的竞争对手人工智能公司。

签名者包括两位诺贝尔经济学奖得主奥利弗•哈特（Oliver Hart）和约瑟夫•斯蒂格利茨（Joseph Stiglitz），以及去年获得诺贝尔奖的人工智能先驱和斯图尔特•罗素（Stuart Russell）。

辛顿在周三的一份声明中表示：“我喜欢OpenAI‘确保人工智能造福全人类’的使命，我希望他们执行这一使命，而不是让投资者发财。”“我很高兴有人在努力让OpenAI完成自己的使命，而不是埃隆·马斯克。”

在这家旧金山研究所，关于OpenAI目的的冲突一直在酝酿，导致马斯克于2018年辞职，奥特曼和其他知名人士也相继离职。

海德利是一名受过培训的律师，曾于2017年和2018年在OpenAI工作，当时这家非营利组织仍在寻找管理其想要构建的技术的最佳方式。就在2023年，奥特曼还表示，先进的人工智能前景光明，但也警告说，从严重事故到社会混乱，存在着非常大的风险。

然而，赫德利说，近年来，他担心OpenAI在ChatGPT成功的鼓舞下，越来越多地在安全测试上走捷径，并急于推出新产品，以领先于商业竞争对手。

“随着技术变得更加强大，这些决策的成本将继续上升，”他说。“我认为，在OpenAI想要的新结构中，急于做出这些决定的动机将会上升，再也没有人能真正告诉他们不要，告诉他们这是不对的。”

软件工程师Anish Tondwalkar在去年之前一直是OpenAI技术团队的成员，他说OpenAI的非营利章程中有一个重要的保证是“停止和协助条款”，该条款指示OpenAI在其他组织接近实现优于人类的人工智能时退出并提供帮助。

“如果OpenAI被允许以营利为目的，这些保障措施和OpenAI对公众的责任可能会在一夜之间消失，”Tondwalkar在周三的一份声明中说。

另一位在信上签了名的前员工说得更直白。

2018年至2020年在OpenAI工作的人工智能工程师尼桑·斯蒂农（Nisan Stiennon）说：“OpenAI可能有一天会开发出能让我们所有人丧命的技术。”“OpenAI是由一个对人类负有责任的非营利组织控制的，这是值得赞扬的。这种责任排除了放弃这种控制的可能性。”

＿＿＿

美联社和OpenAI允许OpenAI访问美联社的部分文本档案。