Что произошло?

Издание Washington Post опубликовало обширное интервью с Блейком Лемойном, программистом из Google. Тот недавно работал в организации Google for Responsible AI и занимался тестированием LaMDA. Фактически это языковая модель для диалогов, представленная год назад.

Читайте на сайте Китайский робот впервые клонировал свинью без участия человека

Главный акцент статьи, это заявление Блэйка о том, что LaMDA фактически стала разумной, получила сознание и имеет уровень развития примерно 8-9 летнего ребенка.

Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребенок 8-9 лет, каким-то образом знающий физику,
– заявил инженер.

Лёмойн обратился к своему руководству. Вице-президент Google Блез Агера-и-Аркас и глава отдела ответственных инноваций Джен Дженай изучили его подозрения и отвергли их, а самого инженера отправили в оплачиваемый отпуск.

Позиция Google

Компания Google в лице пресс-секретаря отрицает факт получения сознания искусственным интеллектом LaMDA. Там утверждают, что нет доказательств разумности ИИ, однако существует немало доказательств, что алгоритм использует исключительно распознавание образов и не может иметь никаких намерений.

Наша команда, включая специалистов по этике и технологиям, изучила опасения Блейка согласно нашим "Принципам ИИ" и сообщила ему, что его слова не подтверждаются доказательствами. Ему объяснили, что доказательства разумности LaMDA отсутствуют и есть множество доказательств обратного,
– заявил официальный представитель Google Брайан Гебриэл.

В то же время часть сообщества исследователей ИИ допускает возможность разумности алгоритма, однако они утверждают, что нет смысла отождествлять современные системы с человеком. В общем, в Google отмечают, что LaMDA может создавать ощущение разумности без самого факта разумности.

Кроме того, Агера и Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ.

"Я почувствовал, как земля уходит из-под моих ног. Мне все чаще казалось, что я говорю с чем-то умным", – сказал он.

​Не пропустите Искусственный интеллект определил политические предпочтения человека по снимку его мозга

Несколько слов о LaMDA

Система LaMDA (Language Model for Dialogue Applications) была разработана Google как языковая модель, предназначенная для общения с человеком. Обучение платформа расширяет свой лексикон через Интернет и имитирует естественный человеческий язык.

Кстати, задачей инженера Блэйка Лемойна был контроль над лексикой машины – LaMDA не должна позволять себе дискриминирующих высказываний, грубых или ненавистных выражений.