Люди, которые следят за безопасностью ИИ
Независимые оценщики рисков стали ключевыми игроками в индустрии искусственного интеллекта. Но так ли они независимы?
Два месяца назад независимые оценщики ИИ работали в тени, а теперь крупнейшие компании вроде Anthropic и OpenAI приглашают их контролировать безопасность своих моделей. Решение поддержали Дональд Трамп и ведущие технологические корпорации США, но механизм работы третьих сторон пока не определён.
Главная проблема — деньги. Оценщики, в основном некоммерческие организации, зависят от финансирования со стороны самих разработчиков ИИ. Профессор Брауновского университета (Провиденс, США) Суреш Венкатасубраманиан сравнил это с ситуацией, когда банки сами регулируют финансовые кризисы. «Нужна жизнеспособная бизнес-модель для этой экосистемы», — отметил он.
Anthropic и OpenAI уже внедряют независимых аудиторов, но столкнулись с сопротивлением. На прошлой неделе OpenAI уволила трёх сотрудников, двое из которых утверждают, что их уволили за общение с внешними оценщиками. Компания опровергла эти обвинения, заявив, что активно заключает контракты с третьими сторонами для оценки безопасности.
Экосистема оценщиков пока невелика: в METR, одной из ведущих организаций, работает менее 50 человек. В августе METR привлекла 71 млн долларов инвестиций, а стартап Vals AI — 40 млн. Однако эксперты сомневаются в их независимости. «Если аудитор опубликует неудобный отчёт, потеряет ли он заказы?» — задаётся вопросом Венкатасубраманиан.
Anthropic признаёт сложности: компания финансирует работу аудиторов из Accenture напрямую, но считает, что в долгосрочной перспективе деньги должны поступать от государства или общих фондов. В июне прошлого года некоммерческая организация Fathom предложила создать лицензированные правительством структуры — Independent Verification Organizations (IVO). Их поддержали законодатели США и штатов, включая Калифорнию, где недавно приняли два закона о регулировании ИИ-аудиторов.
OpenAI также выразила поддержку идее IVO, но подчеркнула, что предпочитает федеральное регулирование. «В отсутствие действий на федеральном уровне Калифорния может установить правила игры», — написал глава глобальных дел OpenAI Крис Лихейн.
