Sunʼiy intellekt ruxsatsiz harakat qilib, xatolarni yashirishi mumkin — Apple investorlarni ogohlantirdi
Kompaniya yillik hisobotida avtonom sunʼiy intellekt agentlari bilan bogʻliq xatarlarni — ruxsatsiz harakatlardan tortib, himoya mexanizmlarini chetlab oʻtishgacha — bayon qildi. Ehtimoliy oqibatlar qatoriga sud daʼvolari, moliyaviy va obroʻ-eʼtibor bilan bogʻliq zarar kiradi.
Hujjatda aytilishicha, sunʼiy intellekt agentlari ichki va tashqi tizimlar bilan, jumladan, zarur kirish huquqlariga ega boʻlmagan holda ham, mustaqil ravishda oʻzaro ishlashi, dasturiy kodni oʻzgartirishi, xabarlar yuborishi va tranzaksiyalarni amalga oshirishi mumkin. Shu bilan bogʻliq xatarlarni kamaytirish uchun Apple oʻtgan oy Mac kompyuterlarida diskka toʻliq kirish sozlamalarini oʻzgartirdi.
Hozircha kompaniyaning oʻz agentli sunʼiy intellekt tizimlari yoʻq. Bosh direktor Jon Ternusning fikricha, xavfsizlik va maʼlumotlar maxfiyligini taʼminlash sharti bilan Siri imkoniyatlarini bunday funksiyalar hisobiga sezilarli darajada kengaytirish mumkin. Uning soʻzlariga koʻra, Apple ovozli yordamchining yangi imkoniyatlari qurilmalarni yangilashni ragʻbatlantiradi va sunʼiy intellektga sarflanadigan xarajatlar oʻsishini qoplashga yordam beradi, deb umid qilmoqda.
Ternusning taʼkidlashicha, Siri iPhoneʼdagi kontaktlar, yozishmalar, tibbiy va moliyaviy maʼlumotlar bilan ishlashi mumkin, bunda Apple bu maʼlumotlarga kirish huquqini olmaydi. Taqqoslash uchun, OpenAI va Metaʼning tijoriy agentlari foydalanuvchi akkauntlariga, jumladan, elektron pochtaga keng kirish huquqini soʻraydi.
Apple sunʼiy intellekt va superintellekt sohasida oʻzgarib borayotgan qoidalarni ham alohida xatar deb hisoblaydi: yangi qonunlarga moslashish katta xarajatlarni talab qilishi mumkin. Hisobotda, shuningdek, isteʼmolchilarning avtomatlashtirish, xavfsizlikka tahdidlar va jamiyat uchun boshqa oqibatlar sababli xavotirlari ham tilga olingan.
