Туповатый гений

«Вы, что это, и конфеты за меня есть будете?!»

Мультфильм «Вовка в тридевятом царстве»

Думал ли хоть один плотник в мире, что хороший молоток когда-нибудь сможет составить ему конкуренцию? А кучер предполагал ли, что кареты смогут ездить сами? Или рабочий на заводе — он, наверное, мог только мечтать о станке, который все сделает за него. Люди не любят рефлексировать, как именно они делают то, что делают хорошо, — это у них получается автоматически. И каждому хочется верить: его умение исключительное и неповторимое, никто не сумеет сделать так же. К разочарованию кучеров, плотников и рабочих со временем появились программируемые станки, автомобили и системы GPS.

Но мы не унываем, ведь то, что низкоквалифицированные, низкооплачиваемые и требующие тяжелого физического труда профессии исчезают — это хорошо. У людей появляется возможность переквалифицироваться, специализироваться и заниматься высокоинтеллектуальным, интересным, креативным и высокооплачиваемым трудом, не так ли? Да, и в конце концов, всегда останется работа, которую могут сделать только люди. Не ремесло, а искусство, требующее человеческого гения, сердца и души, которых у куска железки нет и никогда не будет.

Ведь так?..

Что бы мы ни думали, но ученые, инженеры и программисты никогда не велись на эти розовые сопли о сердце, душе и полете человеческого гения. Они знали: все, что человек умеет, он умеет благодаря мозгу, а в мозгу нет ничего, кроме нейронных сетей. Огромного количества очень сложно соединенных клеток, умеющих посылать друг другу сигналы. И в один прекрасный день, когда ученые и программисты соединили в сложную сеть много искусственных нейронов, человеческий гений снова восторжествовал, доказав самому себе, что в нем нет ничего особенного, только сложные структуры обработки информации. Так были созданы искусственные нейронные сети.

Ленивый нейрон

Алан ТьюрингФото: commons.wikimedia.org

Идеи о том, чтобы смоделировать человеческое мышление с помощью компьютера, появились тогда же, когда и первые компьютеры — во времена Второй мировой войны. Первая статья по искусственным нейронным сетям вышла в 1943 году. В 1948 году Алан Тьюринг предложил архитектуру самообучающегося компьютера, выглядевшую как связанная сеть из нескольких простых узлов с функциями отдельных нейронов. Такая архитектура была впервые воплощена в 1957 году в модели Фрэнка Розенблатта, называвшейся «Перцептрон», и запущена в 1960 году на компьютере Марк-1, ставшем первым нейрокомпьютером.

Искусственные нейроны, конечно, устроены намного проще, чем настоящие, но, тем не менее, похожи в своем поведении на людей. Хотя это, конечно, неверно. Это люди в своем поведении похожи на нейроны, потому что мозг человека — это просто очень много работающих вместе нейронов. Так вот, нейроны, как и многие люди, работают как машинки для суммирования приходящих к ним сигналов.

Если ты заметил немного пыли в углу, то, скорее всего, ты не побежишь сразу же за ведром и шваброй и не начнешь перемывать пол, потому что тогда тебе пришлось бы мыть пол каждый день. После того, как тебе скажут: «Что-то многовато пыли у нас по углам скопилось, надо бы помыть пол», ты, вполне возможно, скажешь: «Угу, конечно» — и пойдешь доделывать то, от чего тебя отвлекли этой фразой. Но когда-нибудь наступит момент, когда после очередного напоминания ты вспомнишь, как собственными глазами видел, сколько скопилось под кроватью пыли, возьмешь в руки швабру и ведро и примешься мыть пол.

Таково поведение простейшего нейрона с пороговой передаточной функцией. Он принимает сигналы от подходящих к нему нейронов, но ничего не делает, пока количество поступивших сигналов не достигнет критической массы. Только тогда он посылает сигнал дальше. Первый перцептрон состоял из трех слоев нейронов, работавших именно таким образом. Нейроны первого слоя соответствовали нейронам органов чувств, принимавших информацию о входных данных, нейроны второго слоя, ассоциативные, комбинировали данные в более абстрактные концепции, а по тому, какой из нейронов третьего слоя запустился первым, можно было понять, какое «решение» нейронная сеть приняла на основе полученных данных. Розенблатт предполагал, что «перцептрон со временем сможет учиться, принимать решения и переводить тексты с разных языков». Сказать, что он был чересчур оптимистичен, было бы сильным преуменьшением.

Логическая схема перцептрона с тремя выходамиИллюстрация: Alex Krainov/commons.wikimedia.org

Наивные и самонадеянные

В те годы ученые всерьез считали, что сумеют за двадцать лет запрограммировать человеческое сознание. Вот как формулировался запрос в фонд Рокфеллера на спонсирование Дартсмутсткого «Летнего Лагеря» в 1956-м году: «Группой из 10 человек мы предполагаем провести двухмесячное исследование искусственного интеллекта… Исследование будет проводиться на основе предположения, что каждый аспект обучения или любое другое свойство интеллекта в принципе может быть описано настолько точно, что машина сможет его симулировать. Мы попытаемся понять, как научить машины пользоваться естественным языком, формировать абстрактные понятия и концепты, решать задачи, в данный момент доступные только человеку, и улучшать самих себя. Мы считаем, что можно достичь серьезных успехов в одной или нескольких из этих областей, если специально подобранная группа ученых поработает над этим в течение лета».

Некоторые успехи действительно были достигнуты. Был сделан простейший чат-бот, который выдавал себя за психоаналитика. Были сделаны машины, которые умели ориентироваться в пространстве и, например, переставлять коробки с места на место. Была даже сделана машина, умевшая отпускать довольно глупые каламбуры. Самым, наверное, выдающимся созданием того лета была программа, находившая доказательства математических теорем и доказавшая несколько десятков теорем из «Принципов математики» Бертрана Рассела. Для одной из теорем программа даже подобрала более простое и элегантное доказательство, чем то, что придумал сам Рассел. Правда, думала машина долго, перебирала все возможные логические цепочки и для обработки более сложных теорем не годилась.

Туповатый интеллект

Эта проблема была типичной для всех ранних систем «искусственного интеллекта». Они умели справляться с очень простым вариантом какой-то узкой задачи, но мгновенно сдувались, как только задача становилась немного сложнее. Психоаналитик нес бред и только повторял запрограммированные фразы, шутки были несмешные, а переставлятель коробок никак не мог понять, что можно переставлять и другие вещи, не похожие на коробки.

Перцептрон умел провести линию по картинке, примерно отделяющую синих кошечек от оранжевых собачек. Но если ему показывали фотографию, он не мог понять, где там кошка, где собака, а где человек. Простейшие умения, свойственные людям с младенчества, такие, как распознавание образов, ориентирование в пространстве, умение понимать устную речь, видеть эмоции по выражению лица, были для роботов огромным камнем преткновения, и никому так и не удалось написать программу, которая умела бы это делать.

Оставалось только надеяться, что программы научатся сами. Но, чтобы научиться, нейронным сетям требовались три вещи: вычислительные мощности, глубина мысли и очень много учебных материалов.

Диаграмма показывает, как, по мере получения новых обучающих примеров, перцептрон все лучше проводит разграничительную линиюИллюстрация: Elizabeth Goodspeed/commons.wikimedia.org/

С шестидесятых годов многое изменилось. Мощность процессоров экспоненциально росла по закону Мура. То, что 10 лет назад было мощным вычислительным центром, занимавшим целую комнату, теперь помещалось в кармане, и так пять десятилетий подряд. Впрочем, даже сегодня мощнейшим суперкомпьютерам все еще не хватает мощностей, чтобы смоделировать десятки миллиардов нейронов человеческого мозга. Искусственные нейронные сети, прошедшие через несколько циклов забвения и популярности, стали сложнее и глубже. Нейроны научились по-разному реагировать на сигналы, изменять свою реакцию в зависимости от поступившей информации и, если надо, посылать сигналы обратно, на более ранний слой. Количество нейронных слоев, формирующих концепции промежуточного уровня абстракции, возросло с одного до нескольких десятков. А в последние лет семь у нейронов, наконец, появился достойный учебник: интернет и в, частности, социальные сети типа Facebook.

Учитель Facebook

Нейронные сети учатся методом проб и ошибок. Человек каждую секунду воспринимает огромное количество информации от своих органов чувств, и нейронная структура его мозга постоянно перестраивается в соответствии с этой информацией. Боль учит его, что он сделал что-то не так, удовольствие, наоборот, говорит: «Так держать!» Искусственные нейронные сети учатся аналогичным образом. Их тренируют на огромном количестве примеров: компьютер случайно изменяет структуру сети, и, если в среднем ответ получается лучше, чем был, такую структуру сохраняют, а если увеличивается количество неправильных ответов, то такие структуры удаляют.

Так, с помощью миллионов фотографий с Facebook, нейронные сети научились распознавать линии, кривые, черты лиц и даже узнавать лица. Теперь именно нейронные сети компании Facebook отмечают ваших друзей на фотографиях, и, чтобы узнать их лица, им достаточно, чтобы вы сами отметили их всего несколько раз. Они же решают, какую вам показывать рекламу, основываясь на ваших интересах и на том, какие страницы вы посещали, с кем вы дружите и т.д.

Так же, показывая картинки расположения фишек на доске, нейронную сеть, наконец, научили играть в го. Китайскую игру го, в которой нужно черными и белыми камнями захватывать территории противника на намного большем поле, чем в шахматах, долго не удавалось автоматизировать на компьютере из-за огромного количества вариантов ходов. Шахматы запрограммировали уже много лет назад, и это был пример «высокоинтеллектуальной человеческой способности», о которой думали, что, если научить компьютер играть в шахматы, то он обретет сознание. Но шахматы оказалось не так сложно просчитать, и компьютеры давно уже обыграли всех гроссмейстеров, так и не подав признака сознательности. В случае с го нейронную сеть научили выигрывать не грубым перебором всех ходов, а видеть все поле целиком и на примере десятков миллионов ходов понимать, какой ход из какой позиции является наилучшим. После нескольких месяцев обучения и игр против себя и других программ, AlphaGo (так называлась эта нейронная сеть) обыграла одного из мировых чемпионов. И это только цветочки. Нейронные сети можно научить практически чему угодно.

Китайский игрок в го играет с созданной Google программой AlphaGo во время второго матча встречи «Будущее го» в Чжэцзяне, Китай, 25 мая 2017 г.Фото: Reuters/Pixstream

Google-переводчик уже довольно неплохо умеет переводить тексты, особенно с английского и на английский, потому что именно на этом языке у него было больше всего возможностей тренироваться. Игры на финансовых биржах уже довольно давно стали соревнованием между роботами: акции покупают и продают боты, научившиеся этому, соревнуясь с другими ботами. Людям там делать уже нечего.

Нейронная сеть Ватсон, выигравшая у человеческих чемпионов в игру «Джеопарди!», с тех пор занимается медицинской диагностикой и зачастую справляется с этой работой лучше, чем профессиональные врачи. Ведь Ватсон, в отличие от людей, действительно может прочитать все профессиональные публикации и намного точнее оценить вероятность того, что человек болен какой-нибудь редкой болезнью, о которой его доктор даже не слышал.

Чемпионы «Джеопарди!» Кен Дженнигс (слева) и Брэд Раттер (справа) смотрят, как компьютер IBM Ватсон раньше них отвечает на вопрос в шоу «Джеопарди!» в Йорктаун-Хайтс, штат Нью-Йорк, 13 января 2011 года. Этот компьютер размером с 10 холодильников, способный усваивать целые энциклопедии, никак не мог победить лучших игроков телевизионного шоу, потому что не умел нажимать на кнопку ответа. Но как только эту проблему решили, то Ватсон смог достойно выступить против двух чемпионовФото: Seth Wenig/AP/East News

И даже творческая работа уже поддается нейронным сетям. Они научились писать новостные колонки, музыкальные произведения и картины.

Наслушавшись музыки определенного типа, нейронная сеть может подогнать свою структуру так, чтобы выдавать, например, копии произведений Баха. Но нам нужно не это, у нас уже есть Бах. Поэтому мы даем максимальное вознаграждение за звуковую структуру, которая похожа на Баха, Моцарта и Бетховена на 70 или 80%. Так нейронные сети научаются играть что-то довольно гармоничное, но при этом оргинально звучащее. Вот такое, например: http://www.hexahedria.com/files/nnet_music_3.mp3

С картинами история немного другая: нейронной сети неоткуда взять оригинальную идею для картины, но зато им очень хорошо удается запоминать и узнавать визуальные образы и стили, которым ее научили. Если показать нейронной сети картину или фотографию, нейронная сеть пропускает эту картину сквозь себя, добавляя туда те образы, которые «узнала». Так получаются, например, шизофренические фотографии от Google Deep Dream и картины, стилизованные под великих художников.

Don't eat before bed. #spaghetti #deepdream pic.twitter.com/FCyrXUDrN8

— Thorne Brandt (@thornebrandt) July 4, 2015

И все-таки, займут ли нейронные сети все человеческие рабочие места? И приведет ли это к экономической катастрофе или всеобщему блаженству? Никто не знает. А умнейших людей планеты, типа Стивена Хокинга и Илона Маска, беспокоит даже не это, а вопрос о том, сделают ли люди искусственный интеллект, который лучше людей сумеет конструировать исскуственные интеллекты, ведь тогда момент сингулярности, — когда компьютеры станут намного умнее людей во всем, — окажется неизбежным. Но это уже совсем другая история.

В материале используются ссылки на публикации соцсетей Instagram и Facebook, а также упоминаются их названия. Эти веб-ресурсы принадлежат компании Meta Platforms Inc. — она признана в России экстремистской организацией и запрещена.

В материале используются ссылки на публикации соцсетей Instagram и Facebook, а также упоминаются их названия. Эти веб-ресурсы принадлежат компании Meta Platforms Inc. — она признана в России экстремистской организацией и запрещена.

Еще больше важных новостей и хороших текстов от нас и наших коллег — в телеграм-канале «Таких дел». Подписывайтесь!