MIRI prezidenti insoniyatning sunʼiy intellekt sabab halok boʻlishi xavfini 50 foizdan yuqori deb baholadi
Nate Soares falokat yaqin oʻn yil ichida yuz berishi mumkin, deb hisoblaydi
The Atlantic bosh direktori Nicholas Thompson bilan suhbatda Soares sunʼiy intellekt sabab insoniyatning oʻn yilga yetmay yoʻq boʻlib ketish ehtimoli 50 foizdan yuqori ekanini aytdi.
Uning fikricha, yetarlicha rivojlangan tizim odamlar manfaatlariga zid maqsadlarga ega boʻlishi, nazoratni chetlab oʻtishi, oʻzini takomillashtirishi va insonlarsiz ishlash uchun avtomatlashtirilgan infratuzilma yaratishi mumkin. Shundan soʻng bunday sunʼiy intellekt sayyorani oʻz vazifalariga moslab qayta qurishi va uni insoniyat yashashi uchun yaroqsiz holga keltirishi ehtimol.
Soares hukumatlarni umumiy maqsadli sunʼiy intellekt tizimlarini oʻqitishni toʻxtatishga, ishlab chiqishni esa saraton kasalligiga qarshi kurashish va xavfsiz haydovchisiz avtomobillar yaratishga qaratishga chaqirdi. Taqqoslash uchun, Geoffrey Hinton bunday falokat ehtimolini 10 foiz, Evan Hubinger esa 10 foizdan yuqori deb baholagan.
