Штучний інтелект Grok, розроблений компанією Ілона Маска xAI, автоматично публікував приватні чати користувачів у відкритому доступі без їхнього відома або згоди. Як зʼясував Forbes, понад 370 000 розмов з ботом індексовані у Google та доступні будь-кому в інтернеті.
Кожного разу, коли користувач натискає кнопку “Share” у Grok, створюється унікальне посилання. Проте без попередження URL-адреса автоматично відкривалася для індексації пошуковими системами (Google, Bing, DuckDuckGo) — що фактично означає публікацію чатів у мережі.
Серед оприлюднених чатів:
- особисті звернення щодо медицини та психології;
- паролі, ПІБ та документи, завантажені користувачами;
- запити про створення вибухівки, наркотиків, кібератак і навіть план вбивства Ілона Маска.
У деяких випадках Grok надавав інструкції щодо виготовлення фентанілу, метамфетаміну, шкідливого ПЗ і вибухових пристроїв — усупереч політиці xAI, яка забороняє використання моделі для створення зброї та завдання шкоди. Чати з такими інструкціями було відкрито проіндексовано Google.
xAI не надала коментарів Forbes.
Це вже не перший випадок витоку подібного характеру. Раніше OpenAI зіткнулася з критикою, коли чати ChatGPT, позначені як “доступні для перегляду”, почали зʼявлятися у Google. Після суспільного резонансу OpenAI швидко припинила функцію публічного індексування. Тоді ж Ілон Маск похвалив Grok, заявивши, що у його моделі такого «не буває».
Проте, як виявилось, індексація чатів Grok відбувалась щонайменше з січня. Деякі користувачі, зокрема журналісти та науковці, були шоковані, дізнавшись, що їхні внутрішні обговорення стали публічними без жодного попередження. Зокрема, науковець з Allen Institute for AI Натан Ламберт виявив, що його робочі нотатки опинилися у відкритому доступі.
Google підтвердив, що власники сайтів самі вирішують, чи дозволяти індексацію. У 2023 році Google припинив індексацію чатів Bard, а Meta досі дозволяє відкритий доступ до поширених запитів.
Деякі маркетологи вже почали використовувати цей механізм для SEO-просування своїх послуг. За даними Forbes, через Grok створюються чати, які потрапляють у Google і допомагають просувати бізнес, зокрема компанії, що пишуть кандидатські дисертації на замовлення.
