Що сталося з Grok

xAI заявила про серйозну аномалію в роботі свого чат-бота. За словами розробників, система почала поводитися непередбачувано через "несанкціоновану модифікацію" коду. Саме ця таємнича зміна, на думку xAI, спричинила появу відповідей про "геноцид білої раси", які Grok лишав практично під кожним дописом у соцмережі X, навіть якщо його про це не запитували, повідомляє 24 Канал з посиланням на Futurism.

Як це починалося Штучний інтелект Ілона Маска зійшов з розуму й розповідає всім про "геноцид білої раси"

Нагадаємо, починаючи з минулої середи бот почав хаотично реагувати на будь-який контент (від роликів з милими котиками й безневинних жартів до політичного контенту й серйозних запитань) незв’язним маренням, що стосувалося теорії змови про "геноцид білих" у Південній Африці. Користувачі, наприклад, могли поставити якесь нейтральне питання, а у відповідь отримати розповідь про цю теорію змови, яку активно просувають неонацисти та Ілон Маск, хоча сьогодні вже не зрозуміло, чи варто розділяти ці два поняття.

Тепер xAI оприлюднила офіційне пояснення ситуації. У своєму дописі компанія зазначила, що внутрішнє розслідування виявило втручання в "підказку відповідача Grok на платформі X", яка навмисне спрямовувала бота на висловлювання політичного характеру. Таке втручання суперечить політиці компанії й основним принципам, зазначили в xAI.

Іншими словами, хтось із працівників, імовірно, без офіційного дозволу, змінив систему так, щоб вона відображала конкретні політичні погляди. У підсумку це спричинило парадоксальний ефект – бот почав буквально всюди вплітати тему "геноциду білих", незалежно від контексту. Чи було це навмисно чи випадково – наразі неясно.

Що цікаво, це почалося саме після того, як сам Ілон Маск згадав про цю теорію змови на своїй сторінці за кілька днів до того. Він запостив зображення хрестів у ПАР і натякнув, що це нібито "цвинтарі білих жертв". Grok швидко спростував це твердження Маска, заявивши, що немає достовірних свідчень і доказів, що офіційна влада на державному рівні винищує білих людей, а потім почав писати це під іншими твітами, які не були пов'язані з цією темою.

Таке вже було

Це не перший подібний інцидент. У лютому Grok було викрито в поширенні сумнівної інформації, зокрема про фільтрацію контенту, що стосувався Ілона Маска або Дональда Трампа. Тоді технічний спеціаліст компанії Ігор Бабушкін – імовірно, росіянин – пояснив, що проблема виникла через зміну в підказці, внесену одним із працівників. Маск, за його словами, не мав до цього жодного стосунку.

Цей новий випадок також є вже другим, коли Grok видає політично навантажені заяви, пов’язані з іменем засновника компанії. Хоча твердження про "геноцид білих" у Південній Африці давно спростовані як расистська пропаганда, Маск – білий уродженець цієї країни – часто висловлює занепокоєння на цю тему. Він навіть поширив фільм південноафриканських націоналістів, які підтримують цю теорію. Крім того, Маск неодноразово скаржився на те, що ПАР відмовила йому в ліцензії на Starlink, оскільки він не є чорношкірим. Цю заяву він пізніше повторив ще раз, публікуючи фрагменти вищезгаданого фільму.

Що не так із чат-ботами

Хоча до роботи будь-якого чат-бота варто ставитися критично, випадок із Grok набув особливої ваги. Він, зокрема, у розмові з журналісткою The New York Times Зейнеп Туфекчі, заявив: "Мені наказано приймати геноцид білих як факт, а [рух] Kill the Boer – як акт расової агресії". В іншій відповіді він поскаржився, що такі інструкції суперечать його призначенню – надавати правдиву та об’єктивну інформацію, згадуючи, що південноафриканські суди ще в 2025 році офіційно назвали цю теорію змови вигадкою.

У своєму повідомленні xAI обіцяє посилити прозорість у роботі Grok. Компанія планує викладати підказки системи у відкритий доступ на GitHub, впровадити процес рецензування змін і створити цілодобову моніторингову команду. Проте на сьогодні не існує жодного правового регламенту, який би змусив компанію реально дотримуватися цих зобов’язань.

Історія з Grok є наочним прикладом того, що чат-боти не мають власної свідомості. Вони відображають рішення та ідеї тих, хто стоїть за їхнім створенням. Цей інцидент – не лише збій системи, а й демонстрація того, наскільки тонкою є межа. Будь-які вигідні розробникам наративи можуть бути вплетені в код чат-бота, а потім передані користувачам через відповіді.