Google створив "Конституцію роботів", щоб переконатися, що вони нас не вб'ють

5 січня 2024, 10:32
Читать новость на русском

Джерело:

The Verge

Штучний інтелект та пов'язана з ним робототехніка розвиваються величезними темпами. Поки одні компанії хочуть створити універсальний надрозумний ШІ, інші прагнуть випустити на ринок залізних помічників – для дому, виробництва, допомоги людям з інвалідністю та інших завдань. Однак все це несе певні ризики.

Деталі

Команда робототехніків з Google DeepMind представила три нові розробки, які повинні допомогти нашим майбутнім роботам приймати швидші, якісніші та безпечніші рішення. Одне з них включає систему збору навчальних даних з так званою "Конституцією робота", яка гарантує, що ваш офісний асистент зможе принести користь, не нашкодивши при цьому оточуючим.

Дивіться також LG розробила маленького двоногого робота зі штучним інтелектом

Система збору даних AutoRT від Google може використовувати візуальну мовну модель (VLM) і велику мовну модель (LLM), які працюють разом, щоб зрозуміти своє оточення, адаптуватися до незнайомих умов і прийняти рішення про відповідні завдання. Конституція робота, натхненна "Трьома законами робототехніки" Айзека Азімова, описується як набір "орієнтованих на безпеку підказок", що вказують LLM уникати певного набору завдань, які пов'язані з людьми, тваринами, гострими предметами і навіть електричними приладами.

Для додаткової безпеки інженери DeepMind запрограмували роботів на автоматичну зупинку, якщо зусилля на штучні суглоби перевищує певний поріг, а також додали фізичний вимикач, за допомогою якого люди-оператори можуть деактивувати машину.

Протягом семи місяців Google розгорнула парк з 53 роботів AutoRT у чотирьох різних офісних будівлях і провела понад 77 000 випробувань. Деякі роботи контролювалися дистанційно людьми-операторами, тоді як інші працювали або на основі сценарію, або повністю автономно, використовуючи модель навчання штучного інтелекту Google Robotic Transformer (RT-2).

Роботи, які використовуються у випробуваннях, не наслідували людське тіло в своєму дизайні. Вони оснащені лише камерою, маніпулятором і системою пересування.


Робот, якого використовували в експерименті / Фото Google

Для кожного робота система використовує VLM, щоб зрозуміти його оточення та об'єкти в межах видимості. Потім LLM пропонує список творчих завдань, які робот може виконати, наприклад, "Поклади закуску на стільницю", і відіграє роль особи, яка приймає рішення, щоб вибрати відповідне завдання для робота,
– зазначає Google у своєму блозі.

  • Серед інших нових технологій DeepMind – SARA-RT, нейромережева архітектура, розроблена для того, щоб зробити існуючий робот-трансформер RT-2 більш точним і швидким.
  • Компанія також анонсувала RT-Trajectory, яка додає 2D-обриси, щоб допомогти роботам краще виконувати конкретні фізичні завдання, наприклад, витирати стіл.

Здається, нам ще дуже далеко до роботів, які автономно подають напої та збивають подушки, але коли вони з'являться, вони, можливо, володітимуть тією самою Конституцією робота.