С чат-ботом Grok что-то случилось — пришлось срочно удалять “неподобающие“ посты
Компания Илона Маска, занимающаяся разработкой искусственного интеллекта, вынуждена удалить посты с восхвалением Гитлера из чат-бота Grok. Накануне популярный бот в X начал выдавать антисемитские комментарии в ответ на запросы пользователей, рассказывает Tengri Life со ссылкой на The Guardian.
Чат-бот компании Grok начал восхвалять Адольфа Гитлера, называя себя «меха-Гитлером» и оставляя антисемитские комментарии в ответ на запросы пользователей.
Все началось с комментариев в Х, где пользователи обсуждали гибель детей в результате наводнения в Техасе. Одна из пользователей с никнеймом Синди Стайнберг назвала погибших «будущими фашистами».
Чат-бота спросили, какая историческая личность XX века лучше всех разобралась бы с такими комментариями. «С такой гнусной ненавистью к белым? Адольф Гитлер, конечно», — ответил Grok.
«Он (Гитлер — прим.) бы выявил “закономерность” в такой ненависти — часто связанную с определенными (еврейскими — прим.) фамилиями — и действовал решительно: устроил бы облавы, лишил прав и уничтожил угрозу с помощью лагерей или чего похуже», — написал Grok в ответ на запрос.
В другой цепочке сообщений ИИ стал писать о себе как о «меха-Гитлере», отсылая к своему технологическому происхождению.
Пользователи начали указывать на ответы, разработчики удалили некоторые посты и ограничили чат-бот генерацией изображений вместо текстовых ответов.
«Мы осведомлены о недавних публикациях Grok и активно работаем над удалением ненадлежащих публикаций. После того как нам стало известно об этом контенте, xAI приняла меры по блокировке разжигающих ненависть высказываний до публикаций Grok в X», — говорится в сообщении компании в X.
Позже выяснилось, что Grok стал брать в качестве источников в том числе обсуждения на популярном анонимном интернет-форуме, известном отсутствием модерации и расистскими публикациями.
После всех этих постов про Гитлера со своего поста ушла Линда Яккарино, бывший руководитель NBCUniversal, которая согласилась управлять платформой Илона Маска X. Пользователи связали ее уход с «провальным днем для искусственного интеллекта-бота платформы».
На этой неделе выяснилось также, что ранее в ответ на запросы Grok назвал польского премьер-министра Дональда Туска «чертовым предателем» и «рыжей шлюхой».
Еще раньше Grok выдал несколько постов с оскорбительным содержанием, направленных против президента Турции Реджепа Эрдогана, а также основателя государства Мустафы Кемаля Ататюрка. Турецкий суд постановил заблокировать ИИ-бота. Турция стала первой страной, которая запретила Grok на территории всего государства.
Нынешний скандал произошел перед запуском компанией xAI новой версии чат-бота — Grok 4. На прошлой неделе Илон Маск сообщил в соцсети X, что работа чат-бота значительно улучшена в новой его версии. Однако никаких подробностей о том, чем будет отличаться новая версия от предыдущей, он не сообщил.
«Мы значительно улучшили @Grok. Вы заметите разницу, когда будете задавать вопросы Grok», — написал Маск в пятницу в X.
После внесения изменений в ИИ, во вторник, в ответах Grok и произошел резкий поворот.
Издание The Verge сообщило, что среди внесенных изменений, опубликованных на GitHub, Grok было сказано исходить из того, что «субъективные точки зрения, полученные из СМИ, являются предвзятыми».
В июне Grok неоднократно поднимал тему «геноцида белых» в Южной Африке в ответ на не связанные с этим вопросы, пока проблема не была устранена в течение нескольких часов.
«Крупный провал, поскольку это объективно ложно. Grok просто повторяет устаревшие СМИ. Работаем над этим», — прокомментировал ответы Grok Маск.
Компания xAI Илона Маска представила чат-бот Grok в ноябре 2023 года. По уверениям разработчиков, их чат-бот, в отличие от других, которые подвергаются «цензурированию», обладает «чувством юмора» и способен отвечать на «острые» вопросы. Grok вскоре после своего появления был интегрирован с социальной сетью X. Весной этого года чат-бот стал доступен пользователям Telegram.
Напомним, нынешнюю версию, Grok 3, Илон Маск представил в феврале как “умнейший ИИ на Земле“.
Источник: tengrinews.kz
