Anthropic сократил кражу данных из Claude в 10–100 раз
Компания усилила защиту от дистилляции — метода, с помощью которого конкуренты копируют возможности ИИ-моделей без разрешения разработчиков
Anthropic сообщил о снижении объёма данных, которые конкуренты могут извлечь из ИИ-модели Claude для обучения собственных систем. Новые защитные механизмы сократили количество собираемых дистилляторами данных на 90–99%. Компания также заблокировала десятки тысяч учётных записей, связанных с атаками.
Дистилляция позволяет компаниям воспроизводить передовые возможности ИИ-моделей с минимальными затратами. Например, китайский стартап Zhipu использовал этот метод при разработке модели GLM-5.3, пытаясь извлечь данные из Claude. После того как защитные механизмы Anthropic помешали атакам, Zhipu переключился на старую версию Claude и модель другого разработчика. Центр CAISSI позже оценил GLM-5.3 как самую киберспособную модель с открытыми весами на момент выпуска.
Anthropic подчёркивает, что дистилляция создаёт риски для национальной безопасности. Извлечённые данные интегрируются в военные, разведывательные и надзорные системы других стран. В одном из случаев запросы к китайской модели Kimi тайно перенаправлялись на Claude. Один из таких запросов поступил от пользователя, предположительно связанного с Народно-освободительной армией Китая, который анализировал данные видеонаблюдения за конкретным человеком.
Ранее Anthropic тестировал простые методы защиты, например, сокращение вывода внутренних рассуждений Claude перед показом пользователю. Это снизило эффективность дистилляции: модель, обученная на сокращённых данных, показала результат 71,8% на бенчмарке SWE-bench Verified против 80,4% при обучении на полных данных.
Злоумышленники адаптировались, перейдя к активным методам извлечения данных. Они использовали сети из сотен тысяч поддельных аккаунтов и запросы с просьбами вывести рассуждения дословно. Anthropic усилил защиту, но это потребовало жертв: компания отказалась от значительных доходов и триллионов токенов платного трафика, а некоторые изменения затронули легитимных пользователей.
