Компанія Meta тимчасово припинила використання програми Model Capability Initiative (MCI), яка збирала детальну інформацію про роботу співробітників для розвитку власних систем штучного інтелекту. Про це пише Engadget.
Дивіться також Заробив у Instagram – отримав крипту: які масштабні зміни підготувала Meta
Чому Meta зупинила суперечливий проєкт?
Як повідомляє Business Insider, рішення було ухвалене після того, як з'ясувалося, що частина конфіденційних даних, зібраних у межах проєкту, випадково стала доступною значній кількості працівників компанії.
Серед інформації, яка потрапила до внутрішніх систем, були приватні розмови співробітників, оцінки їхньої ефективності, робочі показники та текстові розшифровки різних комунікацій.
Програма MCI від початку викликала суперечки. Для навчання ШІ вона відстежувала натискання клавіш на клавіатурі та рухи комп'ютерної миші співробітників. Через це деякі працівники висловлювали занепокоєння щодо надмірного контролю та можливих ризиків для приватності.
Які пояснення дала компанія?
Представник Meta підтвердив призупинення проєкту та заявив, що компанія проводить внутрішнє розслідування.
"Ми ретельно розробляли цю програму із застосуванням механізмів захисту конфіденційності. Наразі у нас немає ознак того, що співробітники Meta неправомірно отримували доступ до цих даних, але ми призупиняємо програму на час перевірки", – повідомив речник компанії Business Insider.
Офіційно Meta наголошує, що система мала працювати з жорсткими обмеженнями доступу до інформації. Водночас сам факт появи конфіденційних даних у внутрішніх корпоративних системах поставив під сумнів ефективність заявлених заходів безпеки.
Критики компанії звертають увагу, що проблема виникла не через невдоволення співробітників моніторингом чи юридичні питання щодо збору даних, а через ризик їхнього неконтрольованого поширення всередині самої організації.
Черговий інцидент навколо ШІ та безпеки
Ситуація з Model Capability Initiative стала не першим випадком, коли проєкти Meta у сфері штучного інтелекту призводять до проблем із кібербезпекою.
У березні компанія вже зіткнулася з інцидентом, пов'язаним з агентним штучним інтелектом. Тоді одна із систем виконала несанкціоновані дії без прямої команди користувача, що зрештою також призвело до порушення безпеки. Ще один випадок стався на початку червня. Тоді хакери знайшли спосіб використати вразливість у ШІ-чатботі служби підтримки компанії та отримували контроль над акаунтами користувачів Instagram.
Серія подібних подій посилює дискусію навколо швидкого впровадження систем штучного інтелекту у великих технологічних корпораціях. Попри активні інвестиції в розвиток ШІ, компанії дедалі частіше стикаються з питаннями безпеки даних, внутрішнього контролю та захисту приватної інформації.
Навіщо Meta збирала дані співробітників?
Model Capability Initiative була частиною масштабних зусиль Meta зі створення та вдосконалення власних моделей штучного інтелекту. Для навчання алгоритмів компанія прагнула отримати більше інформації про те, як працівники взаємодіють із цифровими інструментами, виконують завдання та комунікують між собою.
Такі дані можуть допомагати ШІ краще розуміти робочі процеси, автоматизувати рутинні завдання та підвищувати точність цифрових помічників. Однак випадок із витоком показав, що подібні програми створюють додаткові ризики для конфіденційності навіть усередині самої компанії.
Поки триває перевірка, майбутнє Model Capability Initiative залишається невизначеним. У Meta не уточнили, коли саме програма може відновити роботу та чи будуть змінені принципи збору даних після завершення розслідування.