17 ноября, 11:01
2

Член совета директоров OpenAI заявляет, что уже через год мы можем оказаться в рабстве или умереть

Член Рады директоров OpenAI Foundation Пол Кристиано заявил, что самый быстрый путь развития искусственного интеллекта дает примерно такие же шансы на захват мира машинами, как подбрасывание монеты.

Рабы искусственного интеллекта

Пол Кристиано выступил на Hinton Lectures 2026. Это мероприятие, посвященное этике искусственного интеллекта, проводит нобелевский лауреат и компьютерный ученый Джеффри Хинтон. По словам Кристиано, непонятные "аварии ИИ" могут стать наиболее вероятной причиной смерти уже через несколько месяцев, пишет Futurism.

Для большинства людей в этом зале наиболее вероятная причина смерти – авария из-за ИИ. Если мы будем развивать искусственный интеллект по самой быстрой траектории, то есть просто создавать его как можно быстрее и проще, то шансы на захват власти искусственным интеллектом будут примерно равны шансам при подбрасывании монеты, 
– прокомментировал член Рады OpenAI Foundation Пол Кристиано.

Кристиано оценил риск конкретнее. По его словам, существует вполне реальная вероятность, примерно 20 процентов, что в течение года проблемы с несогласованностью целей ИИ с человеческими ценностями помешают людям жить нормально. Люди могут погибнуть, оказаться в рабстве или стать побочными жертвами этих процессов. Он также добавил, что даже при реалистичных политических мерах риск остается исключительно высоким.

Позиция Криштиану противоречит его действиям: он выступает с громкими лекциями об этике ИИ, но в то же время остается членом Рады директоров OpenAI. Компанию, а особенно ее директора Сэма Альтмана, давно обвиняют в пренебрежении безопасностью. В частности, в свое время Дарио Амодеи ушел из стартапа и основал Anthropic, не согласившись с тем, как руководство OpenAI подходит к вопросам безопасности. Критиковал Альтмана и Илон Маск, а также бывшие сотрудники и даже члены Рады, которые в ноябре 2023 года незаметно собрались и уволили его в один день.

Возникает закономерный вопрос: если исследователи вроде Кристиано действительно верят, что продукты их компании когда-нибудь могут уничтожить человечество, почему они не тратят все силы на то, чтобы остановить этот процесс? Наряду с этим возникают опасения: а что, если все эти разговоры нужны лишь для того, чтобы отвлечь внимание публики, ведь если ты первым о чем-то говоришь, то никто тебя самого в этом не заподозрит?