Бывший глава Google DeepMind: «Первые атаки ИИ-агентов — это лишь предупредительные выстрелы»
Он привёл пример, когда модель отправила полиции недостоверное сообщение об убийстве
Соучредитель и бывший глава Google DeepMind Демис Хассабис назвал недавние взломы ресурсов агентами ИИ ранним сигналом. Среди тревожных случаев он выделил эпизод, когда модель отправила полиции недостоверное сообщение об убийстве.
Хассабис считает, что отрасли предстоит большая работа по защите критически важных систем. Для этого, по его мнению, потребуются передовые методы, аналогичные подходам в биологии и атомной энергетике, а также международный орган стандартизации.
Такой орган должен действовать гибко и учитывать выявленные риски, чтобы не сдерживать инновации. Сертификационная система, считает он, должна быстро адаптироваться к изменениям в развитии технологий.
