Существует высокая вероятность того, что искусственный интеллект OpenAI уничтожит или нанесет вред человечеству

Этот тревожный прогноз появился после открытого письма нынешних и бывших сотрудников OpenAI, которые утверждали, что их заставляют молчать о проблемах безопасности.

Читайте на сайте Началось: OpenAI собирает команду для разработки искусственного интеллекта, который будет управлять роботами

В интервью The New York Times Кокотайло обвинил OpenAI в преуменьшении экзистенциальных рисков общего искусственного интеллекта (GAI). Он предположил, что руководство компании чрезмерно увлечено потенциальными преимуществами ИИ, пренебрегая серьезными опасностями.

Наиболее шокирующее утверждение Кокотайло заключалось в том, что вероятность того, что ИИ нанесет серьезный вред человечеству, составляет примерно 70 процентов – тревожно высокая цифра, которая была бы неприемлемой для любого важного жизненного решения, но OpenAI, похоже, не остановилась.

Риск p(doom)

p(doom), или вероятность того, что ИИ приведет к человеческой катастрофе, является предметом горячих дискуссий в сообществе машинного обучения. Кокотайло, который присоединился к OpenAI в 2022 году, сначала занимался прогнозированием прогресса ИИ, но вскоре убедился, что полноценный ИИ может быть достигнут к 2027 году.

В открытом письме, подписанном Кокотайло и другими известными деятелями из Google DeepMind, Anthropic и пионером ИИ Джеффри Хинтоном, отмечается их "право предупредить" общественность о рисках ИИ.

Кстати, Хинтон, которого называют "крестным отцом ИИ", покинул Google в прошлом году из-за подобных опасений.

Кокотайло был настолько убежден в опасности, что лично призвал генерального директора OpenAI Сэма Альтмана предоставить приоритет безопасности и внедрить надежные средства защиты. Хотя Альтман, казалось, сначала согласился, Кокотайло почувствовал, что его приверженность была поверхностной.

Разочарованный, Кокотайло подал в отставку в апреле, написав в электронном письме, что он "потерял уверенность в том, что OpenAI будет вести себя ответственно" в своем стремлении разработать ИИ, близкий к человеческому уровню.

Мир не готов, и мы не готовы. Я обеспокоен тем, что мы спешим вперед, несмотря ни на что, и рационализируем наши действия,
– написал он.

Смотрите также Искусственный интеллект создает больше рабочих мест чем забирает

Поскольку отрасль ИИ продолжает развиваться быстрыми темпами, предостережения таких инсайдеров, как Кокотайло, акцентируют на насущной необходимости в сбалансированном подходе, который бы тщательно взвешивал инновации и потенциальные риски. Дискуссия о будущем ИИ и его влиянии на человечество еще далека от завершения.