Напомним, ранее сообщалось, что беспилотник с искусственным интеллектом в рамках симуляции "убил" своего оператора, чтобы предотвратить вмешательство в исполнение миссии. Уже во время полета человек посоветовал не уничтожать одну из целей, но дрон "атаковал" командира, чтобы тот не мешал набирать баллы. Когда же системе добавили предохранитель, предписывающий не наносить ущерб оператору, беспилотник после аналогичной просьбы начинал уничтожать вышку, которую использовали для связи с дроном, чтобы больше не получать таких указаний.

Раньше В ходе симуляции искусственный интеллект "убил" оператора с помощью беспилотника

Что говорят военные

Прежде всего, следует уточнить, что ни один человек не пострадал в этой истории, которую рассказал полковник Такер "Синко" Гамильтон во время саммита Королевского аэронавигационного общества. Гамильтон возглавляет отдел испытаний и эксплуатации искусственного интеллекта и таким образом решил обезопасить свою аудиторию от чрезмерных надежд на ИИ. Но после того, как эта новость облетела СМИ, представитель Военно-воздушных сил возразил, что любая симуляция такого рода существовала.

Департамент ВВС не проводил никаких подобных симуляций с использованием беспилотников и остается преданным нравственному и ответственному использованию технологии искусственного интеллекта. Похоже, что комментарии полковника были вырваны из контекста и носили анекдотический характер,
– заявил спикер изданию Insider.

Королевское аэронавигационное общество также обновило свой отчет о конференции, чтобы отразить это мнение. Согласно исправлению, Гамильтон признал, что "оговорился" во время своей презентации, и что на самом деле он имел в виду, что весь его рассказ был просто "мысленным экспериментом".

Мы никогда не проводили этот эксперимент, и нам бы это не понадобилось, чтобы понять, что это правдоподобный результат,
– объяснил Гамильтон.

Следует отметить, что оригинальные цитаты Такера Гамильтона звучат достаточно однозначно, без каких-либо возможных подтекстов, поэтому теперь можно разве предположить, что таким образом ВВС пытаются "заместить следы" после раскрытия информации, которая не должна была покинуть исследовательский центр.

Как бы там ни было, но эта ситуация по меньшей мере подчеркивает общие опасения общественности относительно ИИ, которые начинают повторять лидеры индустрии.