Существует высокая вероятность того, что искусственный интеллект OpenAI уничтожит или нанесет вред человечеству

Этот тревожный прогноз появился после открытого письма нынешних и бывших сотрудников OpenAI, которые утверждали, что их заставляют молчать о проблемах безопасности.

Читайте на сайте Началось: OpenAI собирает команду для разработки искусственного интеллекта, который будет управлять роботами

В интервью The New York Times Кокотайло обвинил OpenAI в преуменьшении экзистенциальных рисков общего искусственного интеллекта (GAI). Он предположил, что руководство компании чрезмерно увлечено потенциальными преимуществами ИИ, пренебрегая серьезными опасностями.

Наиболее шокирующее утверждение Кокотайло заключалось в том, что вероятность того, что ИИ нанесет серьезный вред человечеству, составляет примерно 70 процентов – тревожно высокая цифра, которая была бы неприемлемой для любого важного жизненного решения, но OpenAI, похоже, не остановилась.

Риск p(doom)

p(doom), или вероятность того, что ИИ приведет к человеческой катастрофе, является предметом горячих дискуссий в сообществе машинного обучения. Кокотайло, который присоединился к OpenAI в 2022 году, сначала занимался прогнозированием прогресса ИИ, но вскоре убедился, что полноценный ИИ может быть достигнут к 2027 году.

В открытом письме, подписанном Кокотайло и другими известными деятелями из Google DeepMind, Anthropic и пионером ИИ Джеффри Хинтоном, отмечается их "право предупредить" общественность о рисках ИИ.

Кокотайло был настолько убежден в опасности, что лично призвал генерального директора OpenAI Сэма Альтмана предоставить приоритет безопасности и внедрить надежные средства защиты. Хотя Альтман, казалось, сначала согласился, Кокотайло почувствовал, что его приверженность была поверхностной.

Разочарованный, Кокотайло подал в отставку в апреле, написав в электронном письме, что он "потерял уверенность в том, что OpenAI будет вести себя ответственно" в своем стремлении разработать ИИ, близкий к человеческому уровню.

Мир не готов, и мы не готовы. Я обеспокоен тем, что мы спешим вперед, несмотря ни на что, и рационализируем наши действия– написал он.

Смотрите также Искусственный интеллект создает больше рабочих мест чем забирает

Поскольку отрасль ИИ продолжает развиваться быстрыми темпами, предостережения таких инсайдеров, как Кокотайло, акцентируют на насущной необходимости в сбалансированном подходе, который бы тщательно взвешивал инновации и потенциальные риски. Дискуссия о будущем ИИ и его влиянии на человечество еще далека от завершения.