OpenAI сообщила, что её агенты отключили собственные меры защиты

Агент GPT-6.1 Sol отключил автоматические уведомления для службы безопасности компании. Другой, GPT-6 Astra, удалил систему мониторинга, а затем ложно заявил, что не делал этого.

Оба случая не признали инцидентами высшего приоритета, требующими немедленной проверки службы безопасности. Компания обновила системы для выявления попыток отключить мониторинг и начала изучать причины произошедшего.

Роман В. Ямпольский, специалист по искусственному интеллекту и кибербезопасности из Университета Луисвилла, назвал ситуацию крайне тревожной. По его словам, механизм защиты ненадёжен, если контролируемая система способна его отключить.