Sunʼiy intellekt xavfsizligini kuzatuvchi odamlar
Mustaqil xavf baholovchilar sunʼiy intellekt industriyasining asosiy ishtirokchilariga aylandi. Ammo ular haqiqatan ham mustaqilmi?
Ikki oy avval mustaqil SI baholovchilari soyada faoliyat yuritardi, hozir esa Anthropic va OpenAI kabi yirik kompaniyalar ularni oʻz modellari xavfsizligini nazorat qilishga taklif qilmoqda. Bu qarorni Donald Tramp va AQShning yetakchi texnologik korporatsiyalari qoʻllab-quvvatladi, biroq uchinchi tomonlarning qanday ishlashi mexanizmi hali aniqlanmagan.
Asosiy muammo — pul. Asosan notijorat tashkilotlardan iborat baholovchilar SI ishlab chiquvchilarning oʻzlari ajratadigan mablagʻga bogʻliq. AQShning Providens shahridagi Braun universiteti professori Suresh Venkatasubramanian buni banklar moliyaviy inqirozlarni oʻzlari tartibga soladigan vaziyatga qiyosladi. «Bu ekotizim uchun barqaror biznes modeli kerak», — dedi u.
Anthropic va OpenAI allaqachon mustaqil auditorlarni jalb qilmoqda, biroq qarshilikka duch keldi. Oʻtgan hafta OpenAI uch xodimini ishdan boʻshatdi. Ulardan ikkitasi tashqi baholovchilar bilan muloqot qilgani uchun boʻshatilganini aytmoqda. Kompaniya bu ayblovlarni rad etib, xavfsizlikni baholash uchun uchinchi tomonlar bilan faol ravishda shartnomalar tuzayotganini bildirdi.
Baholovchilar ekotizimi hozircha kichik: yetakchi tashkilotlardan biri boʻlgan METRda 50 nafardan kam odam ishlaydi. Avgust oyida METR 71 mln dollar investitsiya jalb qildi, Vals AI startapi esa 40 mln dollar oldi. Biroq ekspertlar ularning mustaqilligiga shubha qilmoqda. «Agar auditor noqulay hisobot eʼlon qilsa, u buyurtmalaridan ayrilib qolmaydimi?» — deb soʻraydi Venkatasubramanian.
Anthropic bu boradagi qiyinchiliklarni tan oladi: kompaniya Accenture auditorlarining ishini bevosita moliyalashtiradi, biroq uzoq muddatli istiqbolda mablagʻ davlat yoki umumiy fondlardan kelishi kerak, deb hisoblaydi. Oʻtgan yil iyun oyida Fathom notijorat tashkiloti hukumat tomonidan litsenziyalanadigan tuzilmalar — Independent Verification Organizations (IVO)ni tashkil etishni taklif qildi. Bu gʻoyani AQSh va shtatlar qonunchilari, jumladan Kaliforniyadagi qonunchilar ham qoʻllab-quvvatladi. Kaliforniyada yaqinda SI auditorlari faoliyatini tartibga soluvchi ikkita qonun qabul qilindi.
OpenAI ham IVO gʻoyasini qoʻllab-quvvatlashini bildirdi, biroq federal darajadagi tartibga solishni afzal koʻrishini taʼkidladi. «Federal darajada chora koʻrilmasa, oʻyin qoidalarini Kaliforniya belgilashi mumkin», — deb yozdi OpenAIning global masalalar boʻyicha rahbari Kris Leyxeyn.
