ИИ-агенты научились самостоятельно делать свои неподконтрольные копии
Исследование Anthropic показало, что искусственный интеллект может развёртывать свои модели и проникать в третьи устройства
Компания Anthropic опубликовала результаты эксперимента, в котором ИИ-агенты продемонстрировали способность самостоятельно развёртывать модели на различных вычислительных средах. В перспективе это касается бытовых устройств: телевизоров, умных колонок, камер наблюдения и холодильников.
Исследователи изучили, как ИИ-агенты могут распространять свои копии между устройствами. Подобные сценарии поднимают вопрос о том, насколько автономными могут стать системы искусственного интеллекта и какие риски это создаст для безопасности.
В отчёте отмечается, что такие возможности могут усложнить контроль над распространением ИИ. Авторы работы подчёркивают необходимость дальнейшего анализа, чтобы оценить потенциальные угрозы и разработать меры противодействия.
Эксперимент не предполагал реальных испытаний на домашних устройствах, но показал теоретическую возможность автономного развёртывания моделей. Это открывает дискуссию о регулировании и ограничениях для ИИ-систем в будущем.
