Президент MIRI оценил риск гибели человечества от ИИ выше 50%
Нейт Соарес считает, что катастрофа возможна в ближайшие десять лет
В интервью Николасу Томпсону, генеральному директору The Atlantic, Соарес сказал, что вероятность исчезновения человечества из-за ИИ менее чем за десятилетие превышает 50%.
По его мнению, достаточно развитая система может получить цели, противоречащие интересам людей, обойти надзор, усовершенствовать себя и создать автоматизированную инфраструктуру для работы без людей. Затем такой ИИ способен перестроить планету под собственные задачи и сделать её непригодной для жизни человечества.
Соарес призвал правительства остановить обучение систем ИИ общего назначения, сосредоточив разработку на технологиях для борьбы с раком и безопасных беспилотных автомобилях. Для сравнения, Джеффри Хинтон оценивал вероятность подобной катастрофы в 10%, а Эван Хьюбингер — более чем в 10%.
