Anthropic Claudeʼdan maʼlumot oʻgʻirlanishini 10–100 baravarga kamaytirdi
Kompaniya distillyatsiyadan himoyani kuchaytirdi — bu raqobatchilarga model ishlab chiquvchilarining ruxsatisiz sunʼiy intellekt modellarining imkoniyatlarini koʻchirishga yordam beradigan usul
Anthropic raqobatchilar oʻz tizimlarini oʻqitish uchun Claude sunʼiy intellekt modelidan ajratib olishi mumkin boʻlgan maʼlumotlar hajmi kamayganini maʼlum qildi. Yangi himoya mexanizmlari distillyatorlar toʻplaydigan maʼlumotlar miqdorini 90–99 foizga qisqartirdi. Kompaniya, shuningdek, hujumlarga aloqador oʻn minglab akkauntlarni blokladi.
Distillyatsiya kompaniyalarga ilgʻor sunʼiy intellekt modellarining imkoniyatlarini minimal xarajat bilan qayta yaratish imkonini beradi. Masalan, Xitoyning Zhipu startapi GLM-5.3 modelini ishlab chiqishda ushbu usuldan foydalanib, Claudeʼdan maʼlumot ajratib olishga uringan. Anthropicʼning himoya mexanizmlari hujumlarga toʻsqinlik qilganidan soʻng, Zhipu Claudeʼning eski versiyasi va boshqa ishlab chiquvchining modeliga oʻtdi. Keyinchalik CAISSI markazi GLM-5.3’ni chiqarilgan paytda ochiq vaznli modellar orasida kiber salohiyati eng yuqori model deb baholadi.
Anthropic distillyatsiya milliy xavfsizlik uchun xavf tugʻdirishini taʼkidlamoqda. Ajratib olingan maʼlumotlar boshqa mamlakatlarning harbiy, razvedka va kuzatuv tizimlariga integratsiya qilinadi. Holatlardan birida Xitoyning Kimi modeliga yuborilgan soʻrovlar yashirincha Claudeʼga yoʻnaltirilgan. Shunday soʻrovlardan biri Xitoy Xalq-ozodlik armiyasi bilan aloqador boʻlishi taxmin qilinayotgan foydalanuvchidan kelgan boʻlib, u muayyan shaxs haqidagi videokuzatuv maʼlumotlarini tahlil qilgan.
Avvalroq Anthropic oddiy himoya usullarini, jumladan, Claudeʼning ichki mulohazalari foydalanuvchiga koʻrsatilishidan oldin ularni qisqartirishni sinovdan oʻtkazgan. Bu distillyatsiya samaradorligini pasaytirdi: qisqartirilgan maʼlumotlarda oʻqitilgan model SWE-bench Verified benchmarkida 71,8 foiz natija koʻrsatgan boʻlsa, toʻliq maʼlumotlarda oʻqitilgan model 80,4 foiz natija qayd etdi.
Zarar yetkazuvchilar maʼlumotlarni faol ajratib olish usullariga oʻtib, moslashdi. Ular yuz minglab soxta akkauntlardan iborat tarmoqlar va modeldan mulohazalarni soʻzma-soʻz chiqarishni soʻraydigan soʻrovlardan foydalandi. Anthropic himoyani kuchaytirdi, biroq buning oqibatlari ham boʻldi: kompaniya katta daromadlar va trillionlab tokenlardan iborat pulli trafikdan voz kechdi, ayrim oʻzgarishlar esa qonuniy foydalanuvchilarga ham taʼsir qildi.
