Компания Meta временно приостановила использование программы Model Capability Initiative (MCI), которая собирала подробную информацию о работе сотрудников для развития собственных систем искусственного интеллекта. Об этом пишет Engadget.
Смотрите также: Заработал в Instagram — получил крипту: какие масштабные изменения подготовила Meta
Почему Meta остановила этот спорный проект?
Как сообщает Business Insider, решение было принято после того, как выяснилось, что часть конфиденциальных данных, собранных в рамках проекта, случайно стала доступна значительному количеству сотрудников компании.
Среди информации, которая попала во внутренние системы, были личные разговоры сотрудников, оценки их эффективности, рабочие показатели и текстовые расшифровки различных коммуникаций.
Программа MCI с самого начала вызывала споры. Для обучения ИИ она отслеживала нажатия клавиш на клавиатуре и движения компьютерной мыши сотрудников. Из-за этого некоторые сотрудники выражали обеспокоенность по поводу чрезмерного контроля и возможных рисков для конфиденциальности.
Какие объяснения дала компания?
Представитель Meta подтвердил приостановку проекта и заявил, что компания проводит внутреннее расследование.
"Мы тщательно разрабатывали эту программу с применением механизмов защиты конфиденциальности. На данный момент у нас нет признаков того, что сотрудники Meta неправомерно получали доступ к этим данным, но мы приостанавливаем программу на время проверки", — сообщил представитель компании Business Insider.
Официально Meta подчеркивает, что система должна была работать с жесткими ограничениями доступа к информации. В то же время сам факт появления конфиденциальных данных во внутренних корпоративных системах поставил под сомнение эффективность заявленных мер безопасности.
Критики компании обращают внимание на то, что проблема возникла не из-за недовольства сотрудников мониторингом или юридических вопросов, связанных со сбором данных, а из-за риска их неконтролируемого распространения внутри самой организации.
Очередной инцидент, связанный с ИИ и безопасностью
Ситуация с Model Capability Initiative стала не первым случаем, когда проекты Meta в сфере искусственного интеллекта приводят к проблемам с кибербезопасностью.
В марте компания уже столкнулась с инцидентом, связанным с агентным искусственным интеллектом. Тогда одна из систем выполнила несанкционированные действия без прямой команды пользователя, что в итоге также привело к нарушению безопасности. Еще один случай произошел в начале июня. Тогда хакеры нашли способ воспользоваться уязвимостью в ИИ-чатботе службы поддержки компании и получили контроль над аккаунтами пользователей Instagram.
Серия подобных событий усиливает дискуссию вокруг быстрого внедрения систем искусственного интеллекта в крупных технологических корпорациях. Несмотря на активные инвестиции в развитие ИИ, компании всё чаще сталкиваются с вопросами безопасности данных, внутреннего контроля и защиты личной информации.
Зачем Meta собирала данные сотрудников?
Model Capability Initiative была частью масштабных усилий Meta по созданию и совершенствованию собственных моделей искусственного интеллекта. Для обучения алгоритмов компания стремилась получить больше информации о том, как сотрудники взаимодействуют с цифровыми инструментами, выполняют задачи и общаются между собой.
Такие данные могут помочь ИИ лучше понимать рабочие процессы, автоматизировать рутинные задачи и повышать точность цифровых помощников. Однако случай с утечкой показал, что подобные программы создают дополнительные риски для конфиденциальности даже внутри самой компании.
Пока продолжается проверка, будущее Model Capability Initiative остается неопределенным. В Meta не уточнили, когда именно программа может возобновить работу и будут ли изменены принципы сбора данных после завершения расследования.