Несколько лет назад я пил кофе с другом, который тогда руководил стартапом. На тот момент ему только исполнилось 40 лет. Его отец был болен, у него самого были проблемы со спиной, и вообще он казался изрядно потрёпанным жизнью. «Не смейся надо мной, – сказал он, – но я рассчитывал на наступление сингулярности».
Мой друг работает в сфере технологий. Он наблюдал вокруг себя стремительные изменения микропроцессоров и сетей, которые становились всё быстрее и быстрее. Поэтому ему было легко поверить, что ещё до того, как он достигнет среднего возраста, машинный интеллект превзойдёт человеческий. Футурологи называют этот момент сингулярностью. Благожелательно настроенный сверхразум сможет очень быстро проанализировать генетический код человека и открыть секрет вечной молодости. Или, по крайней мере, разберётся, как вылечить спину.
Но что, если этот сверхразум не будет настроен доброжелательно? Философ Ник Бостром, руководящий Институтом «Будущее человечества» в Оксфордском университете, описал данный сценарий в вызвавшей много споров о будущем искусственного интеллекта книге «Сверхразум» («Superintelligence» – пер.). Представьте себе машину, которую мы могли бы назвать «максимизатором скрепок», то есть машину, запрограммированную на создание максимально возможного количества канцелярских скрепок. Теперь представьте, что эта машина каким-то образом стала невероятно разумной. Учитывая её цели, она могла бы принять решение о создании новых, более эффективных машин для изготовления канцелярских скрепок. В результате весь мир стиле кинговского «Мидаса» мог бы быть преобразован в канцелярские скрепки.
Тут могут возразить, что беспокойства излишни. Ведь можно же просто запрограммировать машину, чтобы она сделала ровно миллион скрепок и остановилась. Но что, если она сделает скрепки и затем решит проверить свою работу? Правильно ли был произведён подсчёт? Для того, чтобы быть уверенным, сверхразум должен будет стать умнее. Суперинтеллектуальная машина создаст какой-то несуществующий доселе материал, функцией которого будет производить вычисления (назовём его «вычислений»), и применит его для проверки каждого спорного момента. Но каждое новое сомнение потребует больше цифровой мощности, создаст новые сомнения, и машина произведёт ещё больше этого материала, и так будет повторяться по кругу, пока вся Земля не превратится в вычислений. За исключением миллиона скрепок.
Бостром не считает, что максимизатор канцелярских скрепок обязательно будет создан. Это лишь один из мысленных экспериментов, которые показывают, как даже тщательный дизайн системы может оказаться неспособным сдержать превосходящий всякое воображение машинный интеллект. Но он действительно полагает, что искусственный сверхразум может возникнуть. Конечно, может получиться и здорово, но Бостром также считает, что подобная машина может прийти к выводу, что люди более не нужны. Или сделать ещё что-то такое, что разрушит мир. Восьмая глава его книги называется: «Неужели по умолчанию нас ждёт гибель?»
Если его мнение кажется вам абсурдным, то вы не одиноки. Опасения в адрес взбесившегося Искусственного Интеллекта (ИИ) порождены неверным пониманием того, что на самом деле делают компьютеры. Такой точки зрения придерживаются критики Бострома, подобные пионеру робототехники Родни Бруксу. По их мнению, описанный Бостромом ИИ, скорее, невозможен, и в любом случае является делом далёкого будущего.
Тем не менее, многие интеллектуалы согласны с Бостромом и беспокоятся о туманном будущем уже сейчас. Почему это так?
Воля
Вопрос «может ли машина думать?» бросает тень на компьютерные науки с самого их зарождения. В 1950 году Алан Тьюринг предложил создать машину, которую можно было бы обучать, как ребенка. Изобретатель языка логического программирования LISP Джон МакКарти придумал термин «Искусственный Интеллект» в 1955 году. В 1960-е и 1970-е исследователи ИИ начали использовать компьютеры для распознавания образов, машинного перевода и программировать на языках, подобных человеческим. В результате в массовую культура стала проникать идея, что компьютеры в конечном итоге разовьют способность говорить и думать, а значит, обретут способность совершать злые поступки. Даже помимо эталонного HAL -9000 из фильма «2001 год: Космическая одиссея» можно вспомнить ленту 1970 года «Колосс: проект Forbin», в котором был показан мигающий суперкомпьютер, толкающий мир на грань ядерного разрушения. Аналогичная тема была поднята 13 лет спустя в «WarGames». В фильме Westworld 1983 года андроиды спятили и начали убивать людей.
Первый исследовательский бум в области ИИ и близко не достиг заявленных целей – планка оказалась слишком высока. А потому поток финансирования иссяк до размеров тонкой струйки. Этот период 1980-х и 1990-х называют «зимой ИИ», когда сама идея о думающей машине переместилась из сферы науки в сферу научной фантастики.
Тут следует вспомнить Вернора Винга, который популяризировал понятие сингулярности, а также робототехника и специалиста по машинному зрению Ганса Моравека, инженера и предпринимателя Рэя Курцвейла. Последний в 1999-м году издал книгу «Эпоха духовных машин». В то время как Тьюринга интересовал человекоподобный интеллект, Винг, Моравек и Курцвейл думали о большем. Их интересовала ситуация, когда компьютер станет способен самостоятельно разрабатывать способы достижения целей. При этом он, вероятнее всего, мог бы проводить самоанализ и, следовательно, модифицировать свое программное обеспечение, становясь умнее. Если коротко, то такой компьютер сможет разработать собственное оборудование.
Как писал Курцвейл, это положило бы начало новой прекрасной эры. Такие машины имели бы проницательность и терпение (измеряемое в пикосекундах) для решения выдающихся проблем нанотехнологий и космических полетов. Они бы усовершенствовали человека и позволили нам загрузить наше сознание в бессмертную цифровую форму. Интеллект распространился бы по всему космосу.
Однако у такого солнечного оптимизма есть и полная противоположность. Как предупреждает Стивен Хокинг, этот путь «может означать конец человечества», ибо люди не смогут конкурировать с продвинутым ИИ. После прочтения «Сверхразума» предприниматель Элон Маск написал в Твиттере: «Надеюсь, мы не просто биологический загрузчик для цифрового сверхразума. К сожалению, это становится все более вероятным». Затем Маск вручил 10 миллионов долларов в качестве гранта «Институту жизни будущего». Эта организация заявляет, что «работает над смягчением экзистенциальных рисков, с которыми сталкивается человечество», и которые могут возникнуть «от развития искусственного интеллекта до человеческого уровня».
Никто не считает, что нечто вроде сверхразума существует сейчас. На самом деле, у нас нет ничего близкого даже к ИИ общего назначения. Более того, нет даже чёткого представления о том, как такой интеллект создать. Недавние достижения в области ИИ, от автоматизированных помощников типа Siri, от Apple до автомобилей без водителя, также показывают серьезные ограничения технологии. Системы в обоих примерах не могут справиться с неожиданной ситуацией. Искусственные нейронные сети (ИНС) могут самостоятельно научиться распознавать кошек на фотографиях. Но для обучения им нужны сотни тысяч примеров, и в конечном итоге они гораздо менее точны при определении кошек, чем обычный ребенок.
Именно на этот пункт опираются скептики, подобные основателю iRobot и Rethink Robotics Родни Бруксу. Как они говорят, пусть даже компьютер научился распознавать изображение кошки, у машины нет своей воли. Ей всё равно, что происходит на картинке. У неё нет понятия кошки или какого-то из других бесчисленных понятий, которые есть у людей. С этой точки зрения, ИИ может развиться до умных машин, но для этого потребуется гораздо больше работы, чем думают такие люди, как Бостром. И даже если это случится, искусственный интеллект не обязательно придет к сознанию. Если посмотреть на развитие ИИ сегодня, то предположения о скором приходе сверхразума «сопоставимы с тем, чтобы по известию о появлении более эффективных двигателей внутреннего сгорания прийти к выводу о скорой разработке гиперпространственного привода». Так недавно написал Брукс на Edge.org. По его словам, беспокоиться о «злонамеренном ИИ» не стоит ещё несколько столетий.
Перевод Евгений Селяков
