Що сталося?

Видання Washington Post опублікувало велике інтерв'ю з Блейком Лемойном, програмістом з Google. Той донедавна працював в організації Google for Responsible AI і займався тестуванням LaMDA. Фактично це мовна модель для діалогів, яку представили рік тому.

Читайте на сайті Китайський робот уперше клонував свиню без участі людини

Головний акцент статті, це заява Блейка про те, що LaMDA фактично стала розумною, отримала свідомість та має рівень розвитку приблизно 8 – 9-річної дитини.

Якби я точно не знав, з чим маю справу, що це нещодавно створена нами комп'ютерна програма, то вирішив би, що це дитина 8 – 9 років, яка якимось чином знає фізику,
– заявив інженер.

Лемойн звернувся до свого керівництва. Віцепрезидент Google Блез Агера-і-Аркас та голова відділу відповідальних інновацій Джен Дженай вивчили його підозри та відкинули їх, а самого інженера відправили в оплачувану відпустку.

Позиція Google

Компанія Google в особі прессекретаря заперечує факт отримання свідомості штучним інтелектом LaMDA. Там стверджують, що немає жодних доказів розумності ШІ, однак існує чимало доказів, що алгоритм використовує виключно розпізнавання образів та не може мати жодних намірів.

Наша команда, включаючи фахівців з етики та технологій, вивчила побоювання Блейка згідно з нашими "Принципами ШІ" та повідомила йому, що його слова не підтверджуються доказами. Йому пояснили, що докази розумності LaMDA відсутні і є безліч доказів зворотного,
– заявив офіційний представник Google Браян Гебріел.

Водночас частина спільноти дослідників ШІ допускає можливість розумності алгоритму, однак вони ж стверджують, що немає сенсу ототожнювати сучасні системи з людиною. Загалом в Google наголошують, що LaMDA може створювати відчуття розумності без самого факту розумності.

Крім того, Агера-і-Аркас в опублікованій виданням Economist статті визнав, що нейромережі справді наближаються до того, що можна назвати свідомістю. Він зрозумів це, коли сам поспілкувався з ШІ.

"Я відчув, як земля йде з-під моїх ніг. Мені все частіше здавалося, що я говорю з чимось розумним", – сказав він.

​Не пропустіть Штучний інтелект визначив політичні вподобання людини за знімком її мозку

Кілька слів про LaMDA

Система LaMDA (Language Model for Dialogue Applications) була розроблена Google як мовна модель, призначена для спілкування з людиною. Платформа розширює свій лексикон через інтернет і імітує природну людську мову.

До речі, завданням інженера Блейка Лемойна був контроль над лексикою машини – LaMDA не повинна дозволяти собі дискримінуючих висловлювань, грубих або ненависницьких фраз.