Искусственный интеллект: остановить нельзя разработать – где должна стоять запятая?

Однако сегодня я бы хотел рассказать о другой части сюжета этого известного триллера 80-х – об искусственном интеллекте (ИИ). Далее читайте в авторской колонке для сайта 24 Канала.

Читайте также Еще рано праздновать Независимость, именно в этот момент мы за нее боремся

ИИ – не только развлечение или помощь на работе

За последние несколько месяцев только ленивый не обсуждал с друзьями и коллегами тему ИИ. Многие даже начали использовать доступные варианты ИИ для себя в повседневной жизни и работе (ChatGPT от компании Open AI здесь скорее всего лидирует). Некоторые научились пользоваться ИИ для создания картинок и графического дизайна (здесь бесспорными лидерами являются Midjourney и DallE от той же Open AI).

Как ИИ сгенерировал иллюстрации для детской книги

Иллюстрации детской книги от ИИ

ИИ сгенерировал фото лошади по подробному его описанию

Однако появление этой технологии имеет гораздо более далеко идущие последствия и угрозы, чем просто развлечение или помощь в выполнении какой-либо работы. Давайте попробуем разобраться почему. А еще – почему этот процесс пока кажется необратимым, несмотря ни на что.

Укрощение огня и использование его для обогрева и приготовления пищи. Использование языка для коммуникаций. Создание копья (сначала просто заостренной палки, а потом с твердым наконечником). Изобретение лука со стрелами, колеса, приручение диких животных, культивирование сельскохозяйственных растений, создание металлов, инструментов и оружия из них. Типографский станок, двигатели и электрический ток. Компьютеры, транзисторы и процессоры – все это вехи человеческой истории.

Каждое следующее изобретение все больше отличало человека от других представителей мира, из которого он происходит (от млекопитающих и приматов), позволяло занимать все более выгодное и господствующее место в нашем мире. А еще – каждый следующий этап наступал с ускоренными темпами.

В большинстве случаев главным мотивом для изобретения новых инструментов, оружия и технологий были борьба за выживание, войны и человеческая лень.

Итак – ИИ.

Сюжет триллера или реальность?

Уже несколько месяцев мы живем в новом мире. До сих пор далеко не все это понимают. Однако, как и в случае появления предыдущих технологий, изменения происходят очень быстро. Быстрее, чем раньше. Значение этих изменений не стоит недооценивать – это, безусловно, фундаментальные преобразования нашего мира.

Если человечество себя не уничтожит (угроза чего существует уже несколько десятилетий), то влияние ИИ на историю цивилизации будет чрезвычайным. И, возможно, через несколько десятилетий исследователи будут изучать историю 2022 года, когда "вспыхнула первая искра", от которой "распространился весь пожар".

Чем же на самом деле является ИИ и чем отличается от предыдущих революционных технологий? Прежде всего, тем, что может понимать нас, людей! То есть – читать и анализировать наш язык.

Такая, казалось бы, простая функция позволяет ИИ изучать, анализировать и систематизировать буквально все, что создало человечество за свою историю (это уже не гига-, а пета-терабайты информации). А еще с определенной долей обобщения, ИИ может думать и делать логические выводы для нас или вместо нас. Последнее смущает и вызывает у большинства людей смешанные чувства – и восхищение, и страх одновременно. Вы можете удивиться, но те, кто создают ИИ, испытывают те же ощущения…

Сегодня еще никто не знает, куда ведет эта дорога. И разработчики, и те, кто финансируют проекты по ИИ, руководствуются скорее не конкретной стратегией, а интуицией. Но у всех рано или поздно появляется мнение: "А что будет, когда технология достигнет такого уровня, что решит избавиться от людей, чтобы те не мешали ей развиваться дальше?". Сюжет из фантастического триллера? Отнюдь!

Интересно IBM разрабатывает энергоэффективный аналоговый процессор для искусственного интеллекта

Есть и ярые оптимисты – они считают ИИ только очень продвинутой технологией, которая должна решить если не все, то большинство проблем человечества. Как когда-то новые технологии помогали решать проблемы тяжелого труда людей, особенно в опасных местах.

Демис Хассабис, основатель Deep Mind, сказал, что ИИ может стать самым мощным инструментом, самой крутой технологией, когда-либо изобретавшей человечеством.

Действительно, появление ИИ в разных областях науки и образования уже сейчас демонстрирует очень яркие перспективы для широкого круга потребителей – от бедных кварталов Мумбая до богатого района в Нью-Йорке или Токио – все смогут получить скорую медицинскую диагностику или помощь в самообразовании. Добавьте сюда сельское хозяйство, для которого ИИ сможет просчитать оптимальные режимы внесения удобрений и полива, сделать прогноз урожая, а затем, руководя специализированной техникой, собрать и сохранить этот урожай.

Работы, руководимые ИИ, смогут заменить людей на вредных или тяжелых производствах, а также там, где человек вообще не сможет работать – на глубине океана или в открытом космосе.

Да и даже, не заглядывая так далеко в будущее, уже сейчас можно утверждать, что ИИ помогает лучше управлять многими процессами. Речь идет о потреблении энергии, управлении дорожным движением или безопасностью в городах. Кроме того, благодаря ИИ производительность труда может значительно расти.

Едва ли не первыми это поняли владельцы и топ-менеджмент IT-компаний, где ИИ во многих случаях заменил сотрудников (программистов) начального уровня – он не спорит, не требует повышения зарплаты или социальных пакетов и справляется с написанием программного кода довольно неплохо.

Итак, одним из возникающих вопросов является: "Лишит ли нас ИИ наших рабочих мест?". Скорее всего – нет. Хотя перемены на этом рынке точно произойдут. Однако так было и в эпоху индустриализации, когда большой пресс, которым двигала паровая машина, мог изготавливать в десятки и даже сотни раз больше металлических деталей, чем самый искусный ремесленник кузнец. Конечно, и тогда появление таких машин вызвало немалую обеспокоенность. Вот уже мы живем в эпоху, которую принято называть "постиндустриальной", и ничего чрезвычайного или плохого для человечества не произошло. Скорее, даже наоборот.

Заметьте Meta выпустила голосовой переводчик на основе искусственного интеллекта, работающего со 100 языками

Потому что в краткосрочной перспективе, каждая новая технология до сих пор позволяла лишь повышать производительность труда, а прошедший переквалификацию персонал получал более легкую, лучше оплачиваемую работу. Условно говоря, наш ремесленник-кузнец, переквалифицировавшись в оператора паровой машины-пресса, уже не так уставал на работе, мог производить в сотни раз больше деталей и больше зарабатывать за то же рабочее время.

Погоня за первенством в новой технологии

Аналитики одной из крупнейших аудиторских компаний в мире Price Waterhouse Coopers попытались принять во внимание все эти факторы и пришли к выводу, что уже к концу этого десятилетия только использование ИИ может помочь увеличить суммарный ВВП человечества более чем на 14% (или почти на 16 триллионов долларов).

Именно поэтому в Кремниевой долине уже несколько лет идет гонка за то, кто первым оседлает новейшую и перспективную технологию. Билл Гейтс и его Microsoft инвестировали в Open AI более 13 миллиардов долларов.

Не отстает и Google – его специалисты, после приобретения компании DeepMind в 2014 году, продолжают развивать собственный проект ИИ, недавно объявивший об успешном тестировании на выполнение 21 типа личностных и профессиональных задач, включая предоставление советов, генерацию идей, инструкций по планированию и концепций обучения. Их ИИ уже может помогать с планированием бюджета, развлекать и создавать для вас головоломки и викторины.

Другое подразделение техногиганта недавно представило руководителям самых влиятельных мировых медиа (The Times, The Washington Post, The Wall Street Journal) помощника журналистам. Этот ИИ может создавать познавательные и аналитические статьи, писать новости и помогать создавать интересные заголовки.

Чего боятся пессимисты

Наряду с большой силой всегда приходит большой риск.

В свое время создатель атомной бомбы Роберт Оппенгеймер, осознав последствия своего труда и труда коллег физиков, написал: "В каком-то грубом понимании, которое не могут угасить ни пошлость, ни юмор, ни преувеличение, физики, познали грех. И это знание, которое они не могут потерять". Все то же самое теперь можно написать и об программистов, заменив в предложении слово "физики".

Важно Революция временности: ИИ сделает немецкие поезда более пунктуальными

Нобелевский лауреат Стивен Хокинг говорил: "Все ограничивается простым вопросом – уничтожит ли нас искусственный интеллект? Его создание может ознаменовать уничтожение человеческой расы…".

Эти слова гениальный ученый сказал почти 10 лет назад, когда ни о каком Open AI или Genesis никто и не подозревал. Уже сейчас в лагере "пессимистов" (не путайте со сторонниками "теории заговора", здесь говорится об очень авторитетных изобретателях, ученых и предпринимателях) звучит вопрос: "Не обернется ли изобретение такого мощного инструмента как ИИ против человечества?".

Одним из главных авторитетных "пессимистов" является исследователь из Беркли Элиезер Юдковский из Института технологической Сингулярности по созданию искусственного интеллекта. Среди прочего, это учреждение уже несколько десятилетий занимается изучением и адаптацией ИИ к человеческим ценностям. У Юдковского за это время сложилось четкое убеждение: "Если мы немедленно не прекратим развивать технологию ИИ, то через некоторое неопределенное время он уничтожит человечество, придя к выводу, что люди здесь излишни и мешают его дальнейшему развитию".

По словам Юдковского, при определенном уровне развития ИИ борьба будет бессодержательной и бесперспективной, как, например, бой между воином из средневековья и современным спецназовцем "в полной выкладке". Шансы нулевые…

ИИ может уничтожить человечество даже "не со зла", а просто реализуя свой "большой план". Как часто задумывались строители шоссе, сколько гнездышек или птиц будет разрушено во время строительства "по их плану"? Здесь примерно так же…

Предотвратить негативный сценарий развития ИИ можно

К сожалению, прогресс в развитии ИИ значительно опережает прогресс в регулировании ИИ. Более того, сами разработчики часто утверждают, что сами точно не знают, что происходит внутри их гигантских систем обработки данных.

Что мы можем сделать, чтобы предотвратить ужасное развитие событий? Многие влиятельные люди считают, что разработку ИИ нужно срочно приостановить, пока не поздно.

Письмо с такой просьбой подписали писатель и футуролог Юваль Харари, соучредитель компании Apple Стив Возняк и СЕО компаний Space X и Tesla Илон Маск. Другой призыв, в котором говорится, что риск уничтожения через ИИ должен стать глобальным приоритетом на уровне с борьбой против пандемий и ядерной угрозы, среди прочих подписали СЕО проекта Open AI Сэм Альтман и исполнительный директор DeepMind Демис Гассабис.

В США и ЕС ведется разработка законодательства, которое должно урегулировать развитие ИИ.

Теоретически, срочная разработка такого законодательства, строгий контроль за вычислительными центрами и даже за дистрибуцией соответствующих чипов и мощных графических карт (использующих для работы ИИ) могла бы привести к определенному сдерживанию и регулированию разработки ИИ.

Могла бы, но не будет. Потому что контролировать Китай невозможно. Это может привести к тому, что в погоне новейших ИИ вооружений Китай (даже со всеми санкционными ограничениями на современные технологии изготовления супер-чипов) вырвется вперед. Такого сценария допустить не могут ни США, ни другие стейкхолдеры.