Facebook разрабатывает искусственный интеллект, который будет следить за каждым шагом человека

Авторы проекта перечислили возможности, которым они хотят обучить систему. В частности, это функция "эпизодической памяти" (например, поиск ответа на вопрос вроде "где я оставил ключи?"), а также аудиовизуальный дневник, способный помнить, кто и что сказал.

Интересно Экс-сотрудница Facebook сообщила правительству США о "потенциальных уголовных преступлениях" компании

Сейчас ни одна система искусственного интеллекта не может с высокой степенью надежности решать задачи подобного уровня, и специалисты Facebook отмечают, что это исследовательский, а не коммерческий проект. Но в любом случае возникают серьезные вопросы о конфиденциальности.

Если эксперты уже сейчас недовольны возможностями очков от Facebook и Ray-Ban, то подобные опасения будут лишь усиливаться, если новые устройства будут не только записывать видео, но также расшифровывать и анализировать записи, а люди превратятся в ходячие системы наблюдения.

Новый проект Facebook

Проект получил название Ego4D, его разработку ведут специалисты Facebook и ученые 13 университетов по всему миру. В общей сложности база исходных данных содержит 3205 часов видеозаписей, полученных от 855 участников эксперимента, проживающих в 9 странах.

Отмечается, что за сбор данных отвечали университеты, а не Facebook. Участники, некоторые из которых получили гонорары за участие в эксперименте, снимали видео своих повседневных действий на камеры GoPro и умные очки. Это были простые действия простых людей: строительные работы, выпечка, игры с животными и общение с друзьями. Ученые анонимизировали все собранные данные: размывали лица прохожих и удаляли любую личную информацию.

Авторы проекта говорят, что это самый большой набор исходных данных, однако для запуска системы необходимы соответствующие навыки, которым специалисты пытаются обучить собственные нейросети. Исследователи поставили перед системой ряд конкретных задач.

• Эпизодическая память: что и когда произошло (например, "где я оставил ключи?").
• Прогнозирование: что я сделаю дальше ("вы уже добавили соль в блюдо?").
• Манипуляции: что я делаю ("Научи меня играть на барабанах").
• Аудиовизуальный дневник: кто, когда и что сказал ("Какой была тема урока?").
• Социальное взаимодействие: кто с кем взаимодействует ("Помогите мне расслышать человека, с которым я говорю в шумном ресторане").

Решать такие задачи современным системам искусственного интеллекта пока не под силу, однако наличие наборов данных и тестов – это путь к их развитию. Специалисты Facebook надеются, что проект Ego4D станет эталонным для систем дополненной реальности источником данных, каким когда-то стал ресурс ImageNet.

Обученный на основе этих данных интеллект можно будет использовать не только на нательных устройствах, но и на домашних роботах-помощниках, которые также станут использовать камеры для навигации.

Угроза безопасности и личным данным пользователей

Хотя задачи, которые ставит перед собой Facebook, представляются практическими, интерес данной компании к подобным проектам обязательно будет беспокоить общественность. "Достижения" Facebook в области конфиденциальности данных сейчас является просто катастрофическими, учитывая астрономические штрафы от регуляторов и репутацию, которую компании создали свидетельства информаторов.

На этом фоне уже сейчас вызывает обеспокоенность тот факт, что в описании проекта Ego4D не упоминается аспект обеспечения конфиденциальности, а в описании "аудиовизуального дневника" ничего не говорится об удалении данных людей, которые не желают оказаться в кадре. В ответ на это представитель Facebook пообещал, что соответствующие меры будут приняты в дальнейшем.