人择警告：人工智能距离自我复制只有几个月的时间，而且可能无法关闭

Anthropic的报告警告说，人工智能模型可能会在短短几个月内获得自我复制的能力，一旦它们传播开来，就很难完全关闭。由于没有中心点来关闭它们，它们可能会像杂草一样蔓延到各处。 实验表明，即使是 90 亿个参数的模型也可以在 9 种测试硬件中的 8 种上运行推理，包括智能烤箱和低成本 Android 电视盒等商用物联网设备。这凸显了人工智能失控的风险和监管的必要性。