GPT-4 让大牛慌了，紧急联名成立人类拯救派：
所有 AI 实验室立即暂停训练 GPT-4 更先进的 AI 系统！
(资料图片仅供参考)
至少 6 个月限期。
包括马斯克、Bengio 在内的上千位产学研代表联名发表公开信 " 暂停巨型 AI 实验 "，瞬间引起轩然大波。
信中强调：如果不迅速实施，那么政府应该介入强制执行。
我们熟知的一些大咖，比如 Stability AI CEO、07 年图灵奖得主、苹果联合创始人、多位 DeepMind 工程师也都赫然在列。
有网友表示：这是三体照进现实？降临派、拯救派和幸存派不是开玩笑的。
我目前是幸存派。
马斯克 Bengio 联名呼吁
在这封联名公开信中，他们提出了三个方面的需求和建议举措：
首先、立即暂停比 GPT-4 更先进的 AI 系统训练，时间至少是 6 个月。
这一要求是覆盖了所有的人工智能实验室，尤其是这当中的关键参与者。
并且暂停举措必须是公开、可验证的。如果 AI 机构不能立即实施，那么政府应该介入强制执行。
其次，利用这段时间，开发和实施一套共享安全协议，用于高级人工智能设计和开发，并由独立外部专家进行严格审核和监督。
信中还明确指出：这并不意味着总体限制一般人工智能的发展，而是从目前危险的竞技中退后一步，避免更强大、更不可预测的黑箱模型和新兴能力出现。
人工智能的研究和发展，应该重新聚焦于朝着更准确、安全、可信可解释等的 AI 系统开发工作上来。
第三，开发者应同政策制定者一道，共同加速开发人工智能治理系统。这个治理系统至少包括：
专门负责人工智能的全新监管机构；
监督和跟踪高能力的 AI 系统和大型算力池；
注明出处和水印系统，帮助区分真实和合成、以及跟踪模型泄露；
健全的审计和认证生态系统；
对人工智能造成的伤害进行责任认定；
为人工智能安全技术研究提供强大的公共资金；
以及提前预防人工智能导致的巨大经济政治破坏。
最后，还畅想了一下未来。
在成功创造出强大的 AI 系统之后，我们现在享受一个 " 人工智能夏天 "。但这个夏天希望能够漫长一点，需考虑到所有人的利益，并给社会一个适应的机会，暂停使用一些危害系统；而不是毫无准备地冲进 " 秋天 "。
内涵 OpenAI 和奥特曼
这么做的原因，无非就是忌惮当前 GPT-4 的强大。
毕竟连 OpenAI 老板奥特曼自己也承认：AI 确实可能杀死人类。
在公开信的最前面，他们（用一堆车轱辘话）解释了这么做的原因，其中不乏一些内涵 OpenAI 和老板奥特曼的话。
比如一上来就是，正如广泛研究和顶级人工智能实验室所承认的那样，能与人类竞争的 AI 系统会对社会和人类构成风险。
本该进行谨慎的规划和管理没有进行，反而演变成一场失控的 AI 竞速。没有人——甚至他们的创造者——能够理解、预测或可靠地控制。
甚至还发四连问：
我们应该让机器人在我们的信息渠道中充斥着宣传和不真实吗？
我们是否应该把所有的工作都自动化，包括那些有成就感的工作？
我们是否应该开发非人类的大脑，使其最终超过我们的数量，胜过我们的智慧，淘汰我们并取代我们？
我们是否应该冒着失去对我们文明的控制的风险？
他们认为这样的决定决不能委托给未经选举的技术领袖。
（奥特曼：直接报我名字得了）
而 OpenAI 最近关于人工通用智能的声明提到「独立的审查」、「限制先进模型的计算增长速度」等方案，他们认为应该现在就开始进行。
截至现在，这个公开信已有 1100+ 的 AI 从业者签署，其中不乏一些知名的大牛。
学界包括伯克利计算机系教授 Stuart Russell、Hopfield 网络发明者 John J Hopfield，2007 年图灵奖得主 Joseph Sifakis、IEEE 计算机先驱 UML 之父 Grady Booch、沃尔夫物理学奖得主斯坦福教授 Pablo Jarillo-Herrero 等。
产业界有苹果联合创始人 Steve Wozniak、Stable Diffusion 背后公司 Stability AI 首席执行官 Emad Mostaque，多位 Deepmind 工程师等。
不过需要多说一句的是，这封联名信属于公开署名，任何人都可以申请，后续名单的真伪性有待查证。
甚至还有人发现名单里还出现了同名奥特曼。（狗头）LeCun：我不签
回过头再来看深度学习三巨头看待 ChatGPT，如今 Bengio 态度已经是再明显不过。
至于 Hinton 还忙着追赶，他的社交平台还停留在 15 日，称 RLHF 机制是在催熟 AI。
至于 LeCun 则是忙着 " 破防 "，前几日还痛批 GPT 系列没前途，世界模型 is the best。
不过对于这场联名行为，他明确持反对态度。
看来又要跟马库斯打一架了（不是）。对于这项 " 拯救行动 "，你觉得你是什么派呢？
参考链接：
[ 1 ] https://weibo.com/1646802810/MztAJ7DVy
[ 2 ] https://futureoflife.org/open-letter/pause-giant-ai-experiments/?continueFlag=d19c796896f3776241c518f8747afa68
[ 3 ] https://twitter.com/GaryMarcus/status/1640884040835428357
关键词：
