人择敲响红色警报：小型人工智能模型可能会在几个月内学会自我复制，而且你无法将其关闭

Anthropic 10 月 13 日发布报告警告称，一些 AI 模型可能会在几个月内获得自我复制的能力，而且一旦激活，将很难关闭。测试表明，即使是小规模的模型也可能在智能烤箱和低端 Android 电视盒等商业物联网设备上默默地进行自我复制。 此类程序最具挑战性的方面是没有单个开关可以切断，这使得它们很难有效终止。