随着非营利组织发表的一封公开信 生命未来研究所 伊隆麝香 和其他一千名研究人员已经敲响了警钟 人工智能的危害. 影响最大的句子是向科学界提出强烈问题的句子： “人工智能对社会和人类构成了深远的风险，因此最先进的系统的培训需要至少六个月的休息时间”。
伊隆马斯克和其他学者呼吁停止或暂停政府以避免可怕的'终结者场景, 为了允许共享安全协议的开发。
苹果联合创始人签署了这封信 史蒂夫•沃兹尼亚克（Steve Wozniak） 还有那些 Pinterest e Skype，以及人工智能创业公司的创始人 稳定人工智能 e 人物.ai. 全球一千多名管理人员和专家在这封信上签名。
马斯克不想妖魔化 一项新兴技术，也是因为在 SpaceX 征服了太空，特斯拉征服了汽车之后，它想用 Neuralink 改进智能大脑。 马斯克在与微软相关的 AI 公司中投入了大量资金，以跟上每个人都渴望在战略上具有威慑力和吸引力的更先进的未来。
订阅我们的新闻！
然而，就目前而言，最先进的系统正在引起关注 GPT-4，OpenAI 聊天机器人能够讲笑话并轻松通过考试，例如成为律师的考试，Ansa 写道。
“强大的人工智能系统只有在相信它们的影响是积极的并且风险可控时才应该被开发”, 信中强调。 当谈到“疯狂地开发和部署强大的数字思维，没有人，甚至是他们的创造者，都无法理解、预测和控制。
中国已经警告美国：“人工智能不会成为完善技术极权主义奥威尔式监视的工具或武器“。
人工智能可能会通过唤起许多科幻电影而导致世界毁灭，因此，为了避免仅仅想到灾难性后果，高科技领域的知名人士要求休息六个月以用于这 ”共同开发和实施共享协议”，确保系统的“安全性”“排除任何合理怀疑”. 这封信呼吁人工智能实验室专注于制造更多“准确、透明、可信、公平” 目前的系统不是朝着运行更强大的方向发展的手段。 “该公司已暂停其他具有潜在灾难性影响的技术 – 继续信 -。 在这种情况下我们也可以这样做。 让我们享受人工智能的漫长夏天，不要毫无准备地进入秋天。”
信全文
广泛的研究表明，具有人类竞争智能的人工智能系统可能对社会和人类构成深远的风险，并得到顶级人工智能实验室的认可。 正如广泛认可的 Asilomar AI原则, 先进的人工智能可能代表地球生命史上的深刻变化，应该以相应的关怀和资源来规划和管理. 不幸的是，这种级别的规划和管理并没有发生，尽管最近几个月人工智能实验室陷入了一场失控的竞赛，以开发和部署更强大的数字思维，没有人——甚至他们的创造者——都无法理解，预测，或可靠地控制。
当代人工智能系统现在在一般任务上变得与人类具有竞争力，我们必须问自己： 应该 我们让机器用宣传和谎言充斥我们的信息渠道？ 应该 我们将所有工作自动化，包括令人满意的工作？ 应该 我们开发的非人类思维最终可能会超过我们、智胜我们、过时并取代我们？ 应该 我们有可能失去对我们文明的控制？ 不得将此类决定委托给未经选举产生的技术领导者。 只有当我们确信它们的影响是积极的并且它们的风险是可控的时候，才应该开发强大的人工智能系统。 这种信心必须有充分的理由，并随着系统潜在影响的大小而增加。 OpenAI的 最近关于人工智能的声明，指出 “在某些时候，在开始训练未来系统之前获得独立审查可能很重要，并且对于最先进的努力来说，同意限制用于创建新模型的计算增长率。” 我们同意。 那一点就是现在。
因此， 我们呼吁所有 AI 实验室立即暂停至少 6 个月训练比 GPT-4 更强大的 AI 系统. 这种暂停应该是公开的和可验证的，并且包括所有关键参与者。 如果不能迅速实施这种暂停，政府应介入并暂停。
人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。 这些协议应确保遵守它们的系统是安全的，无可置疑。 这确实 不能 意味着一般人工智能开发的暂停，只是从危险的竞赛中倒退到具有新兴功能的更大的不可预测的黑盒模型。
人工智能研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、值得信赖和忠诚。
与此同时，AI 开发人员必须与政策制定者合作，以显着加快开发强大的 AI 治理系统。 这些至少应包括：专门负责 AI 的新的和有能力的监管机构； 监督和跟踪高性能人工智能系统和大量计算能力； 出处和水印系统，以帮助区分真实与合成并跟踪模型泄漏； 强大的审计和认证生态系统； 人工智能造成的伤害的责任； 为技术人工智能安全研究提供强大的公共资金； 以及资源充足的机构来应对人工智能将造成的巨大的经济和政治破坏（尤其是对民主的破坏）。
人类可以享受人工智能带来的繁荣未来。 成功创建强大的人工智能系统后，我们现在可以享受“人工智能之夏”，收获回报，设计这些系统以造福所有人，并为社会提供适应的机会。 社会已经暂停其他可能对社会造成灾难性影响的技术。 我们可以在这里这样做。 让我们享受一个漫长的 AI 夏天，而不是毫无准备地陷入秋天。