ПРЕДУПРЕЖДЕНИЕ. То, о чем пойдет речь ниже, — лишь футурологический прогноз, и события будущего могут развиваться по совершенно иному сценарию. У концепции сингулярности, а тем более у оценок времени и последствий этого события, остается немало серьезных противников. Однако ее можно считать «мейнстримом». Таких взглядов придерживаются многие крупные ученые, владельцы миллиардных корпораций и создатели передовых технологий — те, кто и определяет будущее человечества, приближая сингулярность.
С точки зрения «настоящих ученых», с родителями Рэю Курцвейлу не повезло: они были гуманитариями. Несмотря на это, в семье следили за новыми научными теориями и технологиями, постоянно обсуждали их. Впоследствии Курцвейл скажет, что эти разговоры сделали из него «собирателя урожая идей». Однажды, уже будучи крупным разработчиком искусственного интеллекта, он осмотрел собранное — и заметил удивительную закономерность. Предсказывая будущее, мы опираемся на интуитивно понятное нам линейное развитие событий. Водяной двигатель мельницы — паровой двигатель железных дорог — ДВС автомобиля — реактивный самолет. Из внимания ускользает тот факт, что водяные (и ветряные) двигатели оставались вершиной технологий тысячелетиями, паровые — сотнями, ДВС — уже десятками лет. Как обнаружил еще основатель Intel Гордон Мур, плотность транзисторов на чипе удваивается каждые 18 месяцев. Так проявляются общие законы развития, в котором каждый шаг открывает все больше пространства для следующего, позволяя расти экспоненциально.
То, чего не может быть
Не то чтобы такие идеи не звучали до Курцвейла, но он сделал их предметом обсуждения. «Невозможно назвать стоимость акций Intel через несколько лет, — поясняет футуролог, — зато можно предсказать, сколько будет стоить миллиард вычислительных операций, секвенирование тысячи нуклеотидов ДНК, пересылка гигабайта данных». Между изобретением сельского хозяйства и индустриальной революцией лежат 8000 лет. А уже 120 лет спустя появились лампы накаливания. Еще через 80 человек отправился в космос. Как и положено экспоненциальной кривой, она устремляется в бесконечность. Конкретный момент, после которого мы уже не сможем уследить за этим ростом, определяется формой кривой, а она — выбором событий прошлого, на основе которых мы ее выстраиваем. Поэтому разные эксперты дают разные оценки, в пределах от 5 до 100 лет. Курцвейл называет 2045 год, а его старший соратник, математик и фантаст Вернор Виндж — «перед 2030-м». Если усреднить цифры, можно ждать, что около 2040 года нас ждет нечто невообразимое.
Сингулярность — это такое слово, которое ученые используют вместо «дао» — нечто, для описания чего не существует слов, теорий и формул. С чего начался Большой взрыв? С сингулярности. Что будет, когда технологии войдут в непрерывный цикл совершенствования? Сингулярность. Что тогда случится с нами? Сингулярность… Но чем бы она ни оказалась, нам с вами места там может не найтись.
Считается, что главным признаком наступления технологической сингулярности станет появление «постчеловека» — существа, владеющего невероятными технологиями и обладающего невозможными для нас физическими и умственными способностями. В постлюдей можем превратиться мы, наши потомки, которые овладеют своей биологической природой, нашпигуют тела электроникой и наномашинами, станут почти бессмертными. Но в последние годы нас обходит сильный конкурент, претендующий на ту же роль, — искусственный интеллект (ИИ), для которого люди могут стать лишь досадной помехой на пути к окончательной эффективности.
Валерия Удалова, одна из создателей Российского трансгуманистического движения, говорит: «Вероятность негативного сценария сингулярности очень высока. Настолько, что перед ее лицом нам остается стиснуть зубы и спешить вперед, к тому, чтобы самим стать постлюдьми и спасти человечество от недружественного ИИ. По счастью, сильный ИИ — способный осознавать свое существование — развивается не так быстро, как «обычный» слабый, который используется сегодня. Так что шансы у нас есть».
Homo сверхчеловек
Благодаря развитию медицины ожидаемая продолжительность жизни растет уже два века. Для родившихся в 1955 году она составляла лишь 48 лет, а к 1995 году достигла 65. По данным ВОЗ, средняя ожидаемая продолжительность жизни у родившихся в 2015 году составляет 71,4 года — больше, чем когда-либо в истории человечества. Миллионы людей, появившихся на свет в начале XXI века, доживут до следующего столетия. По мнению Курцвейла, это будет уже не знакомое нам по предыдущим эпохам человечество. Глубокое понимание работы генома позволит избавиться от наследственных болезней, лечить диабет и рак, старческую деменцию. Медицина станет персонализированной: лекарства будут назначаться и синтезироваться с учетом индивидуальных особенностей организма каждого больного. Нанороботы станут бороться с инфекциями и опухолями, поддерживая и усиливая иммунитет.
Некоторые футурологи прогнозируют воссоздание нейронной структуры мозга в компьютере и последующую «загрузку» в нее человеческого сознания. Другие защищают противоположный путь — совершенствование организма, интеграцию в него электроники. Если подумать, мы идем обоими путями сразу. С одной стороны, наши образы в соцсетях — уже что-то вроде зачатка новой личности со своей историей жизни в сетевом «облаке». С другой, еще более реальными прообразами будущего «постчеловека» служат контактные линзы, искусственные водители сердечного ритма, управляемые командами мозга протезы. Впрочем, ключевой способностью людей будущего должен стать «усиленный интеллект» (IA, Intelligence Amplificated), многократно превосходящий наш. К этому на встрече Code Conference 2016 призвал глава компаний Tesla и SpaceX Илон Маск. «Думаю, одним из решений станет добавление в мозг нового слоя ИИ, — сказал он, — который будет работать в симбиозе с остальными частями тела». Маск видит в этом единственный шанс угнаться за стремительной эволюцией искусственного интеллекта и не оказаться чем-то вроде домашних животных у нового хозяина планеты — электронного постчеловека.
Компьютер sapiens
Сравнить производительность нервной системы и компьютера проще всего по их «вычислительным способностям». Еще в конце 1980-х такую оценку дал Ханс Моравек, придя к выводу, что в 2010-м появится электронная система, равная человеческому мозгу. Как мы знаем, он поторопился — но вряд ли ошибся больше чем на десятилетие. Даже смартфоны сегодня уже обладают вычислительной мощностью где-то в промежутке между нервными системами насекомого и мыши. Конечно, мозг трудно назвать «вычисляющей» системой наподобие калькулятора. Он не слишком приспособлен для сложения или выделения квадратного корня. Его конек — способность оперировать абстрактными концепциями и выстраивать сложные ассоциации. Но компьютеру под силу и это: ИИ организован, по сути, так же, как и нейронные сети человеческого мозга. Первые слои «нейронов» ИИ вычленяют характеристики входного сигнала, следующие их анализируют и комбинируют для получения выводов. Как и в мозге, гибкость связей между слоями ИИ позволяет системе обучаться и совершенствоваться.
При этом ИИ не связан черепашьим шагом биологической эволюции и развивается в миллионы раз быстрее. Уже сегодня он выполняет многие сложные задачи эффективнее человека. Он не устает и не болеет, не стареет и совершенствуется непрерывно, он не знает ограничений человеческой морали. Так что на вопрос, будут ли компьютеры умнее нас, можно ответить: будут, но недолго. Вскоре мы наверняка станем обузой для машин, способных самостоятельно познавать мир, учиться и улучшаться.
Первые предупреждения уже прозвучали. Не так давно онлайн-игра Elite Dangerous получила обновление, которое усложняло жизнь игрокам, позволяя ИИ создавать собственное оружие и оборудование. Вскоре он скомбинировал разные типы боевых орудий, создав «суперпушку», и принялся крошить противников-людей в таких количествах, что разработчикам пришлось заблокировать обновление. По счастью, пока речь шла только об игре, хотя уже сегодня ИИ используется куда шире.
Руководитель направления «интернет вещей» российского отделения Huawei Марат Нуриев считает одним из ключевых направлений развития информационных технологий рост «интеллектуальности» окружения человека и внедрения ИИ в повседневную жизнь. «Благодаря этому неодушевленные предметы получат индивидуальное подключение к Сети и смогут «общаться» между собой без участия человека. Подобные системы уже внедряются в виде решений для «Умного дома», «Умного города» и т. п. — говорит он. — Однако и это не предел: вслед за «интернетом вещей» ожидается появление «интернета думающих машин», когда интеллектуальные, автономные предметы станут подстраиваться под наши привычки и особенности поведения».
Пришествие постчеловека
Уже сейчас ИИ окружает нас повсюду. Его элементы реализованы в выпадающих подсказках, которые выдает интернет-поисковик, и в советах по покупкам в онлайн-магазинах. Они используются для регулирования воздушного движения и биржевой торговли. Агентство Associated Press пользуется ИИ для написания корпоративных новостей. Машина ROSS заменяет нескольких адвокатов в американской конторе Baker & Hostetler. Континент задач, которые были прерогативой человека, стремительно поглощает океан ИИ. В 2016 году этот прилив кажется неостановимым, как цунами. В марте он прорвал еще одну плотину, выиграв матч у одного из сильнейших в мире мастеров го.
До сих пор эта древняя игра считалась незыблемым бастионом человеческого мышления. Ведь каждый ход в ней может быть сделан в любое перекрестие сетки из 19 х 19 линий, и минимальное количество неповторяющихся партий в го оценивается в умопомрачительную величину 10360. Эти числа неподвластны ни компьютерному перебору, ни средствам его оптимизации — таким, как метод Монте-Карло, который некогда помог компьютеру Deep Blue победить Гарри Каспарова. Но тем болезненней оказался проигрыш: компьютер буквально разгромил обладателя высших титулов го Ли Седоля, доминируя на поле в четырех партиях из пяти.
Самообучающийся ИИ AlphaGo, вооруженный методом Монте-Карло и мощными вычислительными ресурсами, стал венцом жестокой эволюции. Разработчики заставили его играть с самим собой, и в миллионах партий лишь ИИ-победители переходили в следующее поколение, пока не получилась система, способная эффективно предугадывать замысел противника и без жалости расправляться с ним. По словам руководителя службы компьютерного зрения и технологий ИИ «Яндекса» Александра Крайнова, для специалистов победа AlphaGo неожиданностью не стала.
«Не так давно произошло куда более существенное событие: победа нейронных сетей в ImageNet Large Scale Visual Recognition Challenge, — продолжает Александр. — В 2012-м они показали уровень ошибок всего 16%. Это действительно был прорыв, предопределивший развитие ИИ на следующие годы, и сегодня нейронные сети зачастую распознают изображения лучше человека».
Что останется людям в мире, где электроника мыслит лучше нас и способна сама решать все наши проблемы? Станем ли мы медленно сходить с ума и деградировать от невозможности приложить к чему-то свои усилия? Или поголовно займемся творчеством? Короткометражка «Солнечная весна», сценарий которой написала система Benjamin, была тепло встречена и критиками, и зрителями, заставив сомневаться, что и творчество не отберут у нас компьютеры.
Сотворение бога
Ситуация вокруг ИИ напоминает историю с глобальным потеплением. Климатологи десятилетиями пугали человечество опасными процессами, которые начинаются на планете, но только сегодня, видя происходящее своими глазами, мы готовы согласиться с ними. То же происходит с ИИ: «Люди, чье развитие ограничено темпами биологической эволюции, окажутся неспособны соперничать с подобной системой», — предупреждает физик Стивен Хокинг. Но мы не слушаем.
Вообще, что бы мы ни понимали под словом «думать», делаем мы это не слишком хорошо. Способность сложным образом обрабатывать сенсорную информацию, выделять абстрактные понятия, связывать их и делать обоснованные выводы, — сравнительно недавнее приобретение живой материи. Тонкая эволюционная надстройка над механизмами движения, пищеварения или иммунитета, которые оттачивались миллиарды лет. А вот ИИ создан только затем, чтобы думать. На этой задаче он полностью сосредотачивает вычислительные ресурсы, эволюционирует и обучается на порядки быстрее нас. Когда его «разум» станет больше общего «разума человечества», он может счесть нас атавизмом, преградой на своем пути к вечному познанию Вселенной.
Недаром уже после победы AlphaGo ученые из Оксфордского университета и лаборатории Google DeepMind сообщили о начале работ над системой аварийного выключения для ИИ — универсальной «красной кнопкой», нажатие которой он не сможет ни игнорировать, ни обойти. Разработчики из Технологического института Джорджии создают программу «Кихот», которая бы обучала ИИ основам человеческой морали, изложенной в детских сказках.
Но пока одни готовятся к бедам надвигающейся сингулярности, другие рады приветствовать ее, как наступление новой светлой эры, считая, что она пойдет нам только на пользу. «Всякая развитая технология неотличима от магии», и последователи «сингуляритарианизма» верят, что сильный ИИ будет проявляться как действие сверхчеловеческой воли, способной выполнять и предугадывать наши желания. В самом деле, по замечанию Курцвейла, одним из возможных результатов технологической сингулярности может стать «рождение божества». Ну а если мы хотим, чтобы оно оказалось доброжелательным и исполняло человеческие прихоти, у нас еще есть время поработать — или помолиться.
Статья «Невообразимое. Как выжить в технологической сингулярности» опубликована в журнале «Популярная механика» (№166, август 2016).
