部分用户信息遭泄露，千名科技从业者叫停训练更高级 AI，GPT-4 会被按下暂停键吗？

赞誉累积数日之后，有史以来最强大的人工智能系统GPT-4最近如同在坐“过山车”，开始面对争议与危机。

当地时间3月29日，在OpenAI公开发布GPT-4两周后，马斯克和一群人工智能专家和行业高管在一封公开信中称，他们呼吁暂停六个月训练比 GPT-4 更强大的系统，理由是人工智能的最新进展对社会和人类带来了“深远的风险”。

“先进的人工智能可能代表地球生命史上的深刻变化，应该以相应的关怀和资源来规划和管理，”信中说，“不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——可以理解、预测或可靠地控制。”

千人响应：叫停GPT-4后续AI大模型训练

这封“叫停公开信”由非营利组织未来生命研究所（Future of Life Institute）发布。3月29日，封面新闻记者查看该公开信时发现，该网站显示签名者名单上共有 1125人，其中包括马斯克、苹果联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、《智人》作者尤瓦尔·诺亚·哈拉里，以及负责机器学习多项突破的一些最杰出的人工智能学者，但没有 OpenAI 员工在这封信上签名。

“叫停公开信”官网已有 1125人签名。（图片来源：官网截图）

据外媒报道， OpenAI CEO Sam Altman 的名字曾短暂出现，然后从签名者名单中消失。至少有四名谷歌员工，包括其子公司 AI 实验室 DeepMind 的三名员工、Stability AI的首席执行官 Emad Mostaque 也出现在了名单上。

“在一般任务上，现在人工智能系统变得与人类（一样）具有竞争力，”公开信中写道：“我们必须扪心自问：我们是否应该让机器用宣传和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该发展最终可能超越我们并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？此类决定不得委托给未经选举的技术***。”

这封公开信还呼吁所有人工智能实验室同意用六个月时间暂停训练比GPT-4更强大的人工智能系统，并进行安全研究。“人工智能实验室和行业学者应该利用这次暂停，共同开发和实施一套，由独立的外部学者严格审计和监督的先进人工智能设计和开发共享安全协议，”

除了呼吁暂停高级人工智能开发，直到共享此类安全协议设计由独立专家开发、实施和审核，该公开信还详细说明了具有人类竞争力的人工智能系统以经济和政治破坏的形式对人类社会和文明造成的潜在风险，并呼吁开发人员与政策制定者就治理和监管机构进行合作。

“这些协议应确保遵守AI的系统是安全的，无可置疑。”这封信的呼吁者指出，他们并不是在呼吁全面暂停 AI 开发，而是“从危险的竞赛中退后一步”。“只有当我们确信它们的影响将是积极的并且它们的风险将是可控的时候，才应该开发强大的人工智能系统。”

在该公开信上签名的知名人工智能科学家、纽约大学心理系教授 加里·F. 马库斯（Gary F. Marcus）公开表示：“事实上，我的信念并没有改变，我仍然认为大型语言模型与超级智能或人工智能（AGI）没有多大关系；我仍然认为LLMS是通往AGI道路上的一个‘出口’，我的预测可能与马斯克的不一样，据我所知，他们貌似主要关注的是——计算机是否能迅速而彻底地自我改进。”

知名人工智能科学家、纽约大学心理系教授 加里·F. 马库斯（Gary F. Marcus）在公开信上签名。（图片来源：官网截图）

尽管很多研究将人工智能风险等同于超级智能或人工智能的风险，但加里·F. 马库斯认为，实际上不需要超级智能，也能制造出严重的问题。加里·F. 马库斯认为，“AGI风险”是人类无法控制的超级智能机器的风险，在当前这并不需要担心。“在短期内，我担心的是“MAI风险”－不可靠的普通AI（比如 Bing和GPT-4）正在进行广泛应用，无论是在使用它的人数方面，还是在软件对世界的访问方面。前不久，一家名为Adept.AI的公司刚刚筹集了3.5亿美元去实现这一目标，让大型语言模型能够访问几乎所有的东西（目标是‘在世界上任何软件工具或API上增强你的能力’，尽管LLMs明显倾向于幻觉和不可靠）。”

目前，这封仅仅出现数小时的公开信仍在持续发酵，在国外 AI 社区已经引起了极大的关注与讨论，也有用户对该公开信内容的真实性表示质疑。

但对人工智能产生威胁的担心，已经从人工智能行业外溢。在这封公开信发布之前，当地时间3月27日，欧盟警察部队欧洲刑警组织开展了对 ChatGPT 等先进人工智能的道德和法律问题的讨论，并整理成《ChatGPT－大型语言模型对执法的影响》的报告，警告世人该系统可能被滥用于网络钓鱼企图、虚假信息和网络犯罪。