10月22日，未来生命研究所（Future of Life Institute，FLI）宣布，包括AI教父杰弗里·辛顿在内的超800名科技领袖及公众人物，日前共同签署发布一份倡议，呼吁在“超级智能”技术被科学界普遍认定为可控、安全，并获得公众广泛支持之前，暂停其进一步发展。
这份联合声明的签名名单包含了世界上最有影响力的科技领袖、科学家和公众人物。其中不仅有苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）、维珍集团董事长理查·布兰森（Richard Branson）等科技产业界大佬，名单覆盖范围甚至已远远超出了硅谷。
前美国国家安全顾问苏珊·赖斯、前参谋长联席会议主席迈克·马伦也位列其中，显示了对国家科技安全的严重担忧。甚至连英国王妃梅根、特朗普的盟友史蒂夫·班农也出现在签署名单上，这种跨越政治立场的联合极为罕见。这份跨领域联合阵容显示出超级AI的风险议题已从学术圈蔓延至政治与社会治理层面，成为全球公共议题之一。
据统计截至23日中午，这份声明的签署人数已经超过3000人。在中国学术界，多位知名学者参与联署此次倡议，包括姚期智、清华大学公共管理学院院长薛澜、清华大学智能产业研究院院长张亚勤以及人工智能伦理与治理专家曾毅。他们的参与和主张呼应了中国长期倡导的“安全、可靠、可控”和“以人为本”的人工智能发展理念。
“超级智能的前景已经引起了人们的关注，其影响从人类经济的落伍和权力的剥夺，自由、公民权利、尊严和控制权的丧失，到国家安全风险，甚至可能导致人类灭绝。”签名者们严正警告。倡议明确指向，超级智能并非传统意义上的“算法偏见”或“就业冲击”问题，而是潜在的系统性风险；一旦AI能力全面超越人类，其目标函数若与人类利益错位，可能导致不可逆的社会后果。
事实上，早在人工智能爆发元年的2023年，出于对AI的担忧，包括马斯克、斯蒂夫·沃兹尼亚克在内的1000多名人工智能专家和行业高管就曾集体签署过一份公开信，呼吁人类暂停开发更强大的人工智能至少6个月。而更早之前，著名物理学家霍金生前曾与多位科技界名人发表联署公开信，表示人工智能对人类的威胁更甚于核武器。
“世界尚未准备好迎接不是可控工具的超级智能。”参与本次联署的北京前瞻人工智能安全与治理研究院院长，中国科学院自动化研究所研究员曾毅在个人微信朋友圈直言:“目前我们还没有坚实的科学证据和切实可行的方法来确保超级智能的安全，使其不会给人类带来灾难性的风险。”