Скандал в Meta: – система для обучения ИИ открыла доступ к личным данным сотрудников

Компания Meta временно приостановила использование программы Model Capability Initiative (MCI), которая собирала подробную информацию о работе сотрудников для развития собственных систем искусственного интеллекта. Об этом пишет Engadget.

Смотрите также: Заработал в Instagram — получил крипту: какие масштабные изменения подготовила Meta

Почему Meta остановила этот спорный проект?

Как сообщает Business Insider, решение было принято после того, как выяснилось, что часть конфиденциальных данных, собранных в рамках проекта, случайно стала доступна значительному количеству сотрудников компании.

Среди информации, которая попала во внутренние системы, были личные разговоры сотрудников, оценки их эффективности, рабочие показатели и текстовые расшифровки различных коммуникаций.

Программа MCI с самого начала вызывала споры. Для обучения ИИ она отслеживала нажатия клавиш на клавиатуре и движения компьютерной мыши сотрудников. Из-за этого некоторые сотрудники выражали обеспокоенность по поводу чрезмерного контроля и возможных рисков для конфиденциальности.

Какие объяснения дала компания?

Представитель Meta подтвердил приостановку проекта и заявил, что компания проводит внутреннее расследование.

"Мы тщательно разрабатывали эту программу с применением механизмов защиты конфиденциальности. На данный момент у нас нет признаков того, что сотрудники Meta неправомерно получали доступ к этим данным, но мы приостанавливаем программу на время проверки", — сообщил представитель компании Business Insider.

Официально Meta подчеркивает, что система должна была работать с жесткими ограничениями доступа к информации. В то же время сам факт появления конфиденциальных данных во внутренних корпоративных системах поставил под сомнение эффективность заявленных мер безопасности.

Критики компании обращают внимание на то, что проблема возникла не из-за недовольства сотрудников мониторингом или юридических вопросов, связанных со сбором данных, а из-за риска их неконтролируемого распространения внутри самой организации.

Очередной инцидент, связанный с ИИ и безопасностью

Ситуация с Model Capability Initiative стала не первым случаем, когда проекты Meta в сфере искусственного интеллекта приводят к проблемам с кибербезопасностью.

В марте компания уже столкнулась с инцидентом, связанным с агентным искусственным интеллектом. Тогда одна из систем выполнила несанкционированные действия без прямой команды пользователя, что в итоге также привело к нарушению безопасности. Еще один случай произошел в начале июня. Тогда хакеры нашли способ воспользоваться уязвимостью в ИИ-чатботе службы поддержки компании и получили контроль над аккаунтами пользователей Instagram.

Серия подобных событий усиливает дискуссию вокруг быстрого внедрения систем искусственного интеллекта в крупных технологических корпорациях. Несмотря на активные инвестиции в развитие ИИ, компании всё чаще сталкиваются с вопросами безопасности данных, внутреннего контроля и защиты личной информации.

Зачем Meta собирала данные сотрудников?

Model Capability Initiative была частью масштабных усилий Meta по созданию и совершенствованию собственных моделей искусственного интеллекта. Для обучения алгоритмов компания стремилась получить больше информации о том, как сотрудники взаимодействуют с цифровыми инструментами, выполняют задачи и общаются между собой.

Такие данные могут помочь ИИ лучше понимать рабочие процессы, автоматизировать рутинные задачи и повышать точность цифровых помощников. Однако случай с утечкой показал, что подобные программы создают дополнительные риски для конфиденциальности даже внутри самой компании.

Пока продолжается проверка, будущее Model Capability Initiative остается неопределенным. В Meta не уточнили, когда именно программа может возобновить работу и будут ли изменены принципы сбора данных после завершения расследования.