Глубокое обучение способно на все, – отец искусственного интеллекта Джеффри Хинтон
Тридцать лет назад взгляды Джеффри Хинтона на нейронные сети вызвали недоумение. Теперь сложно найти кого-то, кто не согласен с ними. Пионер глубокого обучения рассказал о том, что нужно для того, чтобы ИИ смог работать как мозг человека, и как, по его мнению, действует сознание человека.
Современная революция ИИ началась в ходе опытного соревнования. Шел 2012 год – третий год конкурса ImageNet, на котором команды соревновались в создании системы компьютерного зрения, которая распознавала бы более чем 1000 объектов, от пейзажей до животных и людей, рассказывает 24 канал.
Интересно Искусственный интеллект научили определять COVID-19 у бессимптомных носителей
В первые два года лучшие команды не могли добиться даже 75% точности. Но на третий три человека – профессор Джеффри Хинтон и два его студента – значительно превзошли остальных. Эту технологию назвали глубоким обучением.
Работа над технологией
На самом деле Хинтон работал над технологией с 1980-х, но ее эффективность страдала от отсутствия данных и низких вычислительных мощностей. Но все же его вера в метод принесла в конце концов большие дивиденды. На следующий год почти все команды на конкурсе ImageNet применяли глубокое обучение и достигали высоких результатов. Вскоре технология вышла за пределы распознавания изображений.
В прошлом году за свои достижения Хинтону присудили премию Тьюринга. Журналисты Technology Review поговорили с пионером глубокого обучения во время прошедшей в октябре конференции EmTech MIT.
Я считаю, что глубокое обучение способно выполнить любую задачу, но я думаю, что для этого потребуется несколько концептуальных прорывов. Например, в 2017 Ашиш Васвани и другие представили трансформеры, которые извлекали очень хорошие векторы значений слов. Это был концептуальный прорыв. Теперь он используется почти во всех лучших системах обработки естественного языка. Нам нужно еще несколько таких прорывов,
– сказал Хинтон.
Эти достижения позволят машинам аппроксимировать весь человеческий интеллект методом глубокого обучения, убежден он. У человеческого мозга около 100 триллионов синапсов. В GPT-3, одной из крупнейших на сегодня моделей, их 175 миллионов. Это в тысячу раз меньше. GPT-3 уже умеет генерировать правдоподобные тексты, но она все равно крошечная по сравнению с мозгом.
Хинтон, как и многие его коллеги, считает, что следующее важное свойство, которым должен овладеть ИИ, это здравый смысл. Кроме того, большое значение имеет двигательный контроль для роботов. А для языковых ИИ, вроде GPT-3, большое значение имеет способность понимать, но как этого добиться – неясно.