Глава TikTok: пользователи не понимают, какие права дают ИИ-агентам
Шоу Цзы Чу на конференции DBS Asia Future Forward Conference предупредил о рисках слепого доверия автоматизированным помощникам.
Пользователи часто предоставляют ИИ-агентам широкие полномочия, не осознавая их последствий. Об этом заявил глава TikTok Шоу Цзы Чу во время выступления на конференции в Сингапуре.
По его словам, агенты, получившие доступ к банковским данным, могут совершать незапланированные покупки. Например, вместо одного заказа они способны приобрести товаров на сумму, значительно превышающую ожидания.
Основатель софтверной компании Шейн Мак, также выступающий на конференции, сообщил, что его ИИ-агент по ошибке опубликовал отчёт о банковском счёте в корпоративном чате Slack. Другие пользователи сталкивались с галлюцинациями ИИ и неверным толкованием инструкций.
В TikTok уже проводят обучение сотрудников, чтобы исключить утечку конфиденциальной информации через публичные чаты с ИИ. Речь идёт о коммерческих тайнах и юридически защищённых данных.
