Чат-бот Илона Маска «слил» сотни тысяч диалогов с пользователями
Компания Илона Маска xAI оказалась в центре скандала после обнародования сотен тысяч переписок пользователей с чат-ботом Grok. Они стали доступны через Google и другие поисковики. Об этом сообщает Forbes.
Как выяснилось, всякий раз, когда пользователь нажимает кнопку «поделиться» в чате Grok, система создает уникальную ссылку. Ее можно отправить по почте или в мессенджере, однако при этом страница автоматически индексируется поисковыми системами, без предупреждения и возможности отказаться. В результате опубликованные диалоги стали доступны любому, кто введет соответствующий запрос в Google.
ChatGPT оказался менее точен, чем обычные врачи Он выдавал пациентам страшные диагнозы и призывал делать дорогую диагностику там, где этого не требовалось Общество9 минут чтения
По оценке издания, поисковик уже проиндексировал более 370 тысяч диалогов. Среди них встречаются как безобидные задания вроде написание твитов или резюме, так и опасные запросы. В ряде случаев Grok выдавал инструкции по изготовлению наркотиков, самодельных бомб и вредоносного кода, а также опубликовал детальный план покушения на самого Маска. Кроме того, в открытом доступе оказались личные сведения пользователей: имена, медицинские и психологические вопросы, а иногда даже пароли и документы.
Подобная история недавно произошла и с OpenAI, отмечает Forbes. Пользователи ChatGPT заметили, что их разговоры индексируются в Google. После волны критики компания удалила функцию, назвав ее «коротким экспериментом». Маск тогда публично высмеял конкурентов и уверял, что Grok защищен от подобных ошибок. Однако жалобы на индексацию диалогов Grok начали появляться еще в январе.
Этих подростков боится даже Google Молодые хакеры обходят системы безопасности крупнейших компаний мира. Они обнаружили там «серьезную брешь» Интернет и мемы10 минут чтения
Google пояснил, что выбор об индексации остается за владельцами сайтов. Между тем, как отмечает издание, маркетологи уже воспользовались ситуацией и стали намеренно публиковать переписки с Grok, чтобы продвигать свои товары и услуги в поисковой выдаче.
Ранее ИИ Илона Маска обвинили в создании порнодипфейков с участием звезд — в частности, Тейлор Свифт. Претензия заключалась в том, что генератор фото и видео Grok Imagine, разработанный компанией xAI, создавал сексуализированные ролики с обнаженной певицей даже если такого запроса не было.
Чтобы не пропускать главные материалы «Холода», подпишитесь на наши социальные сети!
