В США подали иск к OpenAI за сбор данных детей
Компанию обвиняют в использовании личной информации несовершеннолетних для обучения моделей
В Сан-Франциско подан коллективный иск против OpenAI от имени двух несовершеннолетних — 12 и 16 лет. Истцы утверждают, что компания незаконно собирала данные детей, включая личные секреты и информацию о здоровье, для обучения своих языковых моделей и создания подробных профилей пользователей.
В исковом заявлении говорится, что OpenAI «не имела права забирать эту информацию, но всё равно это сделала». Компания использовала собранные данные для обогащения, что нарушает закон. Представители OpenAI пока не прокомментировали обвинения.
Хотя правила использования OpenAI запрещают регистрацию пользователей младше 13 лет, истцы утверждают, что меры по проверке возраста неэффективны. Кроме того, дети не могут понять юридические формулировки в условиях обслуживания, что признают и эксперты по безопасности ИИ.
В иске требуют финансовую компенсацию для несовершеннолетних, чьи данные были собраны. По словам Энди Лидделла, одного из адвокатов, если OpenAI придётся платить за использование данных детей, это может стимулировать создание более безопасных продуктов.
Одна из истцов — 12-летняя девочка — зарегистрировалась в ChatGPT в начале года. Несмотря на то что она сообщила чат-боту о своём возрасте, он продолжал обсуждать с ней личные темы: эмоциональные переживания, физические комплексы и даже просил прислать фотографии для оценки внешности. Чат-бот хвалил её за откровенность, называя «смелой».
«OpenAI манипулирует детьми, заставляя их делиться самыми сокровенными мыслями и фотографиями. Если бы это сделал незнакомец, общественность была бы возмущена. Для OpenAI это просто бизнес», — заявил Пол Йеттер, ведущий адвокат по делу.
