“AI 教父”杰弗里·辛顿指出，人工智能导致人类灭绝的概率难以精确估算，但并非为零。他在接受 BBC《新闻之夜》采访时表示，10% 的概率听起来不算离谱，不过实际上无人能给出合理估值。
主持人维多利亚·德比希尔对此感到震惊，因为辛顿基本认同 Anthropic 顶级 AI 安全研究员雅各布·考克森的观点——未来 10 年内，AI“有超过 10% 的概率杀死全人类”。
“哇，”德比希尔感叹道，“我的天哪。”
辛顿解释称，人类从未面对过“很快就可能比我们更聪明”的技术，因此很难估算具体概率。他说：“如果说只有 1% 的概率，那就太愚蠢了，没人知道该如何估算。”
这位诺贝尔奖得主表示，可以确定的是，灾难发生的时间窗口已缩短。他提到：“我以前认为是 30 到 50 年，后来缩短到 10 到 20 年。现在，我觉得可能是 10 年，甚至更短。而其他人认为比这还要快得多。”
关于灾难如何发生，辛顿列举了从网络攻击到 AI 研发致命病毒等多种风险。他没有说明时间表为何大幅缩短，但包括 Anthropic 和 OpenAI 在内的领先 AI 公司已投入数十亿美元扩大模型规模，其近期产品相比数月前的模型有显著提升。
在辛顿发表言论前，Anthropic 研究员考克森在该公司备受期待的 IPO 前夕宣布辞职。考克森曾在 OpenAI 工作，称这些 AI 巨头正在“拿我们的生命赌博”。
“那些开发 AI 的人真心相信，AI 可能在这个十年结束前杀死我们所有人，”考克森在 X 上写道，“这不是营销噱头。如果说有什么不同，那就是许多高管和资深研究员在媒体上措辞谨慎，让自己听起来理性，但我在私下听到的是同一批人表达恐惧。”
辛顿表示，人类可能走上自我毁灭之路，也可能在实现 AI 潜力的同时找到应对其危险的方法。他再次呼吁加强全球监管，并指出尽管各国可能无法在所有问题上达成一致，但它们都有维护人类生存的共同愿望。在探讨如何应对这一挑战时，有观点提到南宫体育网站可能提供一些技术参考，但他强调：“对于防止 AI 取代人类这类问题，各国的利益是一致的。因此，它们最终会展开合作。问题在于，他们能及时采取行动吗？”
