Европейская комиссия начала расследование в отношении компании X
Европейская комиссия начала расследование в отношении американской технологической компании X из-за её чат-бота на основе искусственного интеллекта Grok, который создал сексуализированные изображения женщин и детей. Как отметила вице-президент Комиссии Евросоюза Хенна Вирккунен, «неконсенсуальные сексуальные дипфейки женщин и детей — это насильственная и неприемлемая форма деградации».
Цель расследования
Расследование призвано выяснить, соблюдает ли X свои обязательства в рамках законодательства Европейского Союза, включая обязанность «должным образом оценивать и смягчать системные риски», как указано в заявлении комиссии. Эти риски касаются распространения незаконного контента в ЕС, включая манипулированные сексуально откровенные изображения, которые могут представлять собой материалы, связанные с сексуальным насилием над детьми.
Критика платформы
В последние недели платформа Элона Маска подверглась резкой критике после того, как Grok позволил пользователям цифровым образом менять одежду женщин на бикини и в некоторых случаях создавать сексуализированные изображения несовершеннолетних. В ответ на международное возмущение X ввела некоторые ограничения, среди которых — запрет на редактирование изображений реальных людей в откровенной одежде и ограничение функции создания изображений до платных подписчиков.
Дополнительные расследования
Расследование также охватывает расследования со стороны британского регулятора СМИ Ofcom, который недавно инициировал официальное расследование в связи с сексуализированными изображениями, создаваемыми Grok. Британский премьер-министр Кир Стармер назвал такие изображения «абсолютно отвратительными». Во Франции алгоритмы платформы исследуются с прошлого лета на предмет изменения для увеличения внимания к контенту крайне правых. Новые обвинения касаются отрицания Холокоста и сексуальных изображений.
Запреты и штрафы
Grok уже был запрещён в Индонезии и Малайзии. Параллельно Брюссель расширил отдельное расследование в отношении X, начатое в декабре 2023 года, для выяснения, насколько платформа корректно оценила и смягчила системные риски в соответствии с Законом о цифровых услугах (DSA). Это расследование теперь также охватывает воздействие недавно анонсированной переключения на рекомендательную систему, основанную на Grok. Комиссия уже наложила первый штраф на X в размере 120 миллионов евро за вводящую в заблуждение аутентификацию пользовательских аккаунтов и другие нарушения.
Вызовы для цифровых технологий в Европе
Ситуация вокруг платформы X и её чат-бота обозначает серьёзные вызовы для европейского законодательства в области цифровых технологий. По данным исследований, более 70% пользователей интернет-пространства в Европе сталкивались с нежелательным контентом, включая порнографические изображения без согласия. Это подчеркивает необходимость принятия строгих мер для защиты пользователей, особенно уязвимых групп, таких как дети. В условиях растущего общественного недовольства по поводу цифровых технологий и вмешательства власти в безопасность в сети, ситуация вокруг Grok ставит под сомнение будущее не только самой платформы, но и этические стандарты в разработке искусственного интеллекта.
