Иллюстративное фото / searchenginejournal
Руководство Google вынуждено отправило в оплачиваемый отпуск инженера Блейка Лемойна, работавшего с системой искусственного интеллекта (ШИ) LaMDA. Лемойн заявил, что у нее начали проявляться признаки сознания. Google такие заявления отрицает и объясняет свою точку зрения.
Что произошло?
Издание Washington Post опубликовало обширное интервью с Блейком Лемойном, программистом из Google. Тот недавно работал в организации Google for Responsible AI и занимался тестированием LaMDA. Фактически это языковая модель для диалогов, представленная год назад.
Читайте на сайте Китайский робот впервые клонировал свинью без участия человека
Главный акцент статьи, это заявление Блэйка о том, что LaMDA фактически стала разумной, получила сознание и имеет уровень развития примерно 8-9 летнего ребенка.
Если бы я точно не знал, с чем имею дело, что это недавно созданная нами компьютерная программа, то решил бы, что это ребенок 8-9 лет, каким-то образом знающий физику
Лёмойн обратился к своему руководству. Вице-президент Google Блез Агера-и-Аркас и глава отдела ответственных инноваций Джен Дженай изучили его подозрения и отвергли их, а самого инженера отправили в оплачиваемый отпуск.
Средние цены в сети АЗС «Amic Energy» по состоянию на
Позиция Google
Компания Google в лице пресс-секретаря отрицает факт получения сознания искусственным интеллектом LaMDA. Там утверждают, что нет доказательств разумности ИИ, однако существует немало доказательств, что алгоритм использует исключительно распознавание образов и не может иметь никаких намерений.
Наша команда, включая специалистов по этике и технологиям, изучила опасения Блейка согласно нашим "Принципам ИИ" и сообщила ему, что его слова не подтверждаются доказательствами. Ему объяснили, что доказательства разумности LaMDA отсутствуют и есть множество доказательств обратного
В то же время часть сообщества исследователей ИИ допускает возможность разумности алгоритма, однако они утверждают, что нет смысла отождествлять современные системы с человеком. В общем, в Google отмечают, что LaMDA может создавать ощущение разумности без самого факта разумности.
Кроме того, Агера и Аркас в опубликованной изданием Economist статье признал, что нейросети действительно приближаются к тому, что можно назвать сознанием. Он понял это, когда сам пообщался с ИИ.
"Я почувствовал, как земля уходит из-под моих ног. Мне все чаще казалось, что я говорю с чем-то умным", – сказал он.
Не пропустите Искусственный интеллект определил политические предпочтения человека по снимку его мозга
Несколько слов о LaMDA
Система LaMDA (Language Model for Dialogue Applications) была разработана Google как языковая модель, предназначенная для общения с человеком. Обучение платформа расширяет свой лексикон через Интернет и имитирует естественный человеческий язык.
Кстати, задачей инженера Блэйка Лемойна был контроль над лексикой машины – LaMDA не должна позволять себе дискриминирующих высказываний, грубых или ненавистных выражений.
Связанные темы:
Если Вы обнаружили ошибку на этой странице, выделите ее и нажмите Ctrl + Enter