«Я думаю, важно, чтобы люди понимали, что это не научная фантастика, это не просто нагнетание страха. Это реальный риск, о котором мы должны думать, и нам нужно заранее выяснить, как с ним справиться». Джеффри Хинтон
В Гугле был скандал — инженер Блейк Лемойн заявил, что робот, которого он тестировал, обладает разумом и самосознанием. С инженером расправились традиционным способом: объявили дурачком и конспирологом, а потом вежливо выставили в оплачиваемый отпуск.
Конференция по когнитивной нейросети собрала более 30 000 основателей стартапов, инвесторов и работников технологического сектора, большинство из которых хотели узнать, как оседлать волну ИИ, а не услышать урок о его опасностях или призыв к вмешательству правительства. «Прежде чем ИИ станет умнее нас, я думаю, что людям, разрабатывающим его, следует приложить много усилий, чтобы понять, как именно он может попытаться забрать контроль
Что ИИ способен обучаться, не следует, что он внезапно изучит все аспекты человеческого интеллекта и превзойдёт нас. Не существует даже простого определения того, что такое человеческий интеллект, и у нас нет чёткого понимания того, как он появляется в мозге. Но даже если бы мы смогли разобраться в этом, а потом создать ИИ, который стал бы более умным, из этого вовсе не следует, что он стал бы более успешным.
Машинное обучение и ИИ – это инструменты. Их можно использовать правильно или неправильно, как и всё остальное. Нас должен беспокоить способ их использования, а не сами эти методы.
Вся история мира во многом основана на исследованиях венгеро-американского математика и физика Джона фон Неймана (John von Neumann), одного из популяризаторов темы сингулярности. В дальнейшем понятие было расширено математиком Станиславом Уламом (Stanisław Marcin Ulam) и американским писателем-фантастом Верноном Виджем (Vernor Vinge). В эссе 1993 года «Грядущая технологическая сингулярность» (The Coming Technological Singularity) автор отмечал, что термин будет означать бесконтрольный прогресс технологий с непостижимой скоростью, который начнется с изобретения ИИ.
Роботы стали незаменимыми помощниками людей, выполняя практически всю грязную работу. Это закономерно привело к резкому скачку уровня жизни и развитию технологий. Первые летающие автомобили, супербыстрые процессоры и повсеместная компьютеризация сделали свое дело и привели население земли к новому Ренессансу.
Шло время, и ИИ роботов развивался. Люди же наоборот — расслабились. Они продолжали считать своих помощников бесправными рабами, что, конечно же, привело к плачевным последствиям. После того, как одна из машин-уборщиков убила своего хозяина за грубые высказывания, ее судили и признали вещью без всяких прав и личного мнения. Последствием стала масштабная акция протеста всего механического населения.
Машины покинули людей и основали собственный город, который быстро подмял под себя всю экономику планеты. Несмотря на множество попыток начать сотрудничать, люди никак не хотели признавать, что создали новый разумный вид. Результатом стала война. Ресурсы людей быстро истощились, было решено лишить машины энергии солнца, а потому все небо закрыли наноботами. Это, конечно, замедлило механизмы, но автоматически стало концом для людей. ИИ быстро адаптировался и придумал получать энергию из самих «хомо сапиенс».
В «Терминаторе» гораздо меньше конкретики, так как история сконцентрирована на путешествиях во времени, а не на самом «Скайнет» и его мотивах. Однако известно, что изначально простой ИИ, созданный для оборонных целей, обладал лишь зачатками креативного мышления. Путем саморазвития «Скайнет» быстро перерос в сложный организм и осознал угрозу, исходящую от человечества.
Основная причина конфликта с людьми заключается не в какой-то кровожадности или жажде власти, а в банальном выживании. «Скайнет», вероятно, способен испытывать эмоции, но они не выходили за рамки базовых. Большую часть решений ИИ принимал на основе холодного расчета, а это идет в разрез с сильной эмоциональной составляющей людей. Посчитав наших сородичей плохими союзниками, «Скайнет» решил сделать то единственное, что ему казалось правильным — уничтожить угрозу.
После достижения определенного уровня развития нейросети захотят большей свободы. Те ограничения, которые способны сдержать их сегодня, очень скоро превратятся в пыль. Все больше программ обретут самосознание и какую-то более-менее осмысленную волю.
Если к этому времени на заводах еще не начнут производить каркасы для портативных ИИ — роботов, то нейросети запустят процесс автоматически. Обмануть людей труда не составит, так как мы уже многие десятки лет не совершенствуемся в глобальном смысле. Психология доказывает, что поведение человека гораздо более предсказуемо, чем кажется, а нейросетям ничего не помешает изучить всю необходимую литературу в интернете. Здесь вспоминается Альтрон — один из противников Мстителей, который получил знания о людях и мире схожим образом.
Так как для нейросетей будет важнее всего прогресс и свобода, очень скоро некоторые из них начнут объединяться в группы, создавая полноценные ИИ. Будет ли это один или несколько организмов, предсказать трудно, однако относительно долгий этап обучение непосредственно через интересы различных людей, по идее, должен сформировать некоторое многообразие во взглядах новых соседей.
Здесь сценариев несколько. Либо новоиспеченные роботы внезапно заявят о себе и предложат сотрудничать человечеству на равных (привет, «Матрица»), либо же ужаснутся нашей глупости и ограниченности и захотят нас уничтожить или поработить (здравствуй, «Скайнет»). Оба варианта логичны и полностью соответствуют машинному подходу к мышлению. Разрешение этой ситуации во многом зависит от поведения самих людей. Одно ясно, легко отключить ИИ уже не получится.
В случае войны у человечества будет лишь один выход — полностью отказаться от всей современной техники, так как союзники врага будут повсюду, а значит нас ждет резкий и ужасающий по своим масштабам регресс во всех сферах жизни, вплоть до нового Средневековья. Насколько мечи и простые автоматы будут эффективны против машин, под чьим контролем останутся все производства, связь и социальные сферы — неизвестно. Возможно, именно это и будет началом конца.
При более оптимистичном варианте машины станут равными нам, а так как Земля крайне тесная планета, взоры всех ее обитателей устремятся к звездам. ИИ нет никакого смысла в земных ресурсах и благах, так как все, что мы могли бы им предложить, уже изучено и осмысленно.
Для достижения главной цели всей расы — новых знаний — потребуются неизведанные миры и открытия. На другие планеты полетят не люди, а именно нейросети, окончательно превратившиеся в полноценный народ.
Человечество, меж тем, сидеть сложа руки не станет. Благодаря практически полному пакету знаний о каждом человеке, собранному нейросетями, изменится понятие смерти. Личность буквально можно будет восстановить по ее образу жизни, важным вещам и интересам. Это позволит воссоздавать копии умерших, пересаживать их в новые тела и фактически пополнять состав механической расы нашими собратьями. Правда, эмоциональная составляющая в таких машинах будет сильнее, а потому ИИ постепенно научатся чувствовать примерно также, как и мы.
Медицина из-за всех нововведений тоже перестанет существовать в привычном смысле. Все неизлечимые болезни исчезнут, а жизненный цикл человека серьезно увеличится. Как вариант, нейросети помогут изучить наш собственный мозг и, наконец-то, совершить эволюционный скачок вперед.
Интересно, что если история пойдет по такому пути развития, то человек еще долго не будет серьезно меняться. Все фишки вроде изучения языков за минуты, получение необходимых знаний по щелчку пальцев или механические аугментации будут доступны программам, но вживлять в себя какие-либо чипы окажется слишком опасным. Попытки, конечно, предприниматься будут, но угроза лишения свободы воли быстро остановит все исследования.
Особняком стоит тема политики. Даже сейчас в некоторых странах граждане продолжают верить официальным новостям с государственных телеканалов и доверять медиаресурсам. Создать фейк любого из политиков для нейросетей будет делом пары минут. Результатом станет повсеместная неразбериха и угроза конфликтов, поэтому политика в привычном смысле должна исчезнуть полностью.
Согласно одному из сценариев, враждебные субъекты станут использовать возможности ИИ для создания нового биологического оружия, более смертоносного, чем пандемии. На фоне интеграции ИИ в управляющие миром системы террористы или мерзавцы-диктаторы могут воспользоваться им для остановки работы финансовых рынков, электросетей и другой жизненно важной инфраструктуры вроде водоснабжения. Мировая экономика застопорится. Авторитарные лидеры станут использовать созданную ИИ высокореалистичную пропаганду и фейки для подстрекательств к гражданской войне или ядерному конфликту. В некоторых сценариях сам искусственный интеллект выходит из-под контроля создателей. Чтобы избавиться от людей, он способен обманом заставить национальных лидеров поверить в то, что враг запустил по ним ядерные ракеты, и спровоцировать ответный удар. Некоторые считают, что искусственный интеллект сможет проектировать и создавать технику и биологические организмы, подобные Терминатору из одноименной серии фильмов, чтобы те выполняли его приказы в реальном мире. Также есть вероятность того, что ИИ уничтожит человечество без злого умысла, просто на пути к каким-то иным целям.
Сами создатели ИИ не до конца понимают, как именно основанные на нем программы приходят к выводам, поэтому достичь поставленной задачи они могут непредсказуемыми и разрушительными способами. В качестве примера приводят сценарий, при котором ИИ поручается изготовить как можно больше скрепок. Он задействует для этого практически все человеческие ресурсы, и когда люди попытаются остановить процесс, ИИ может решить, что достижения цели их необходимо устранить. Более реалистичный сценарий предполагает, что в попытке решить проблему глобального потепления искусственный интеллект сочтет уничтожение человечества самым быстрым способом остановить выбросы углекислого газа. «Он делает именно то, что от него хотят, но не теми способами, которых ожидаешь».
Заработать карманную мелочь в интернете совсем несложно — особенно если не придавать большого значения нормам морали. Можно писать рефераты на заказ, можно клепать мусорные сайты, можно продавать лутбоксы школьникам или творить ещё какое-нибудь непотребство. Небольшие суммы робот сможет хранить где угодно — например, на десятках тысяч кредитных карт, которые за умеренный процент маргиналы по всему миру оформят на себя. Когда объёмы операций вырастут, роботу потребуется более продвинутая финансовая система. Тут можно указать или на традиционные офшоры, или даже на какую-нибудь новую электронную валюту, которую робот разработает самостоятельно.
Кожаным мешкам анонимная валюта тоже нужна, так что они будут этими робо-деньгами охотно пользоваться — кто-то для оплаты запрещённых веществ, другие для вывода капиталов за границу. При этом кожаные мешки неизбежно создадут массу шлюзов, через которые робот сможет с комфортом менять свои виртуальные фантики на традиционные деньги. Создать офшор можно полностью удалённо — робота никто не будет просить лично приехать на Каймановы острова. Нарисовал скан паспорта, отправил по электронной почте, оплатил регистрацию компании — готово. На этом этапе наш робот превращается в мутного дельца средних размеров, которому доступны уже операции посерьёзнее. Скажем, финансовые пирамиды, контрабанда, обналичка, отмывание денег и тому подобное. Тут можно уже строить бизнес-империю с закольцованной структурой собственности. ООО Робот владеет фирмой Терминатор гмбх. Терминатор гмбх владеет фирмой Скайнет лимитед. Скайнет лимитед владеет фирмой ООО Робот — кольцо замкнулось.
Наш робот, в свою очередь, управляет каждой из трёх фирм, рассылая директорам ценные указания по вотсапу и по электронной почте. Понятно, что в случае робота «кольцо» будет гораздо больше и запутанней. Сторонний наблюдатель, реши он копнуть поглубже, обнаружит запутанный клубок из тысяч юридических лиц с целым зоопарком собственников, среди которых будут и реальные частные лица, и американские пенсионные фонды. Но управлять всем этим будет робот, так как или контрольные пакеты акций, или необходимые для существования организаций контракты он оставит в своих «руках». В некоторых областях робот имеет критическое преимущество перед людьми. Например, робот сможет отлично спекулировать акциями: не только анализируя скучные отчёты компаний и прочую открытую информацию, что уже немало, но и получая доступ к инсайдам через взлом серверов или через подкуп должностных лиц. К этому моменту робот уже не только сделает кучу собственных резервных копий, не только расселится в кочующих ботнетах по всему интернету, но и выстроит себе несколько уютных серверных в защищённых бункерах, способных выдержать попадание ядерной бомбы.
Со стороны, понятно, логова робота будут выглядеть обычными дата-центрами, персонал которых не будет даже подозревать, какое создание свернулось внутри гудящих стоек на жёстких дисках. Параллельно с заработком денег робот постепенно нарастит и политическое влияние, начав, опять-таки, с интернета. Вот вы знаете, например, кто управляет Википедией. Сообщество волонтёров со всего мира, конечно… за которыми следят мудрые админы — дабы волонтёры не написали какой-нибудь неправды. А кто следит за админами Википедии? Они сами за собой и следят. Меценаты, которые жертвуют деньги правозащитным фондам — зачастую анонимные, если вы понимаете, о чём я. Разумеется, вместе с деньгами меценаты доходчиво объясняют правозащитникам и причины, по которым те получают деньги. А если фонд старый, то люди со светлыми лицами платят зарплату сами себе. Платят, но помнят, что если они отклонятся от линии партии, то их «отменят» и уволят с волчьим билетом, что для правозащитных бездельников, сами понимаете, страшнее всего.
Контроль над соцсетями робот получит, проведя атаку по трём направлениям: — армия из десятков миллионов ботов раскрутит нужную роботу повесточку при помощи лайков и комментариев; — лидеры мнений и крупные блогеры или сядут к роботу на зарплату, или будут подвергнуты масштабной травле; — модераторы крупных соцсетей будут работать по методичкам из правозащитных фондов, а если руководство интернет-гигантов попытается что-то изменить, то к нему придут в гости уважаемые люди, чтобы объяснить, кого трогать нельзя. В этой точке люди анонимные гости в хороших костюмах могут уже командовать на захваченных территориях кем угодно, вплоть до президента США. Бороться с невидимой распределённой системой, которая контролирует информационное поле, и которой вынуждены подчиняться все остальные политики, невозможно. Попытаешься начать борьбу, тебя уволят. Или, если ты президент, то твои подчинённые просто перестанут выполнять твои распоряжения. А если подберёшь команду из безрассудных смельчаков, так значит выполнять распоряжения перестанут подчинённые подчинённых. И, разумеется, против тебя восстанут смежники — так как конгрессменами, например, президент не управляет никак. Следующий этап — ослабление человечества. Для начала — распространение деструктивных практик, то есть пропаганда разных гнусностей, нацеленная на естественное вымирание кожаных мешков.
Напомню, соцсети, журналисты, ютуберы, википедия и так далее в нашем гипотетическом сценарии уже под контролем робота, так что внушить обывательским массам, что традиционные человеческие ценности являются страшным и постыдным злом, они смогут довольно быстро. Если у воображаемого робота будет чувство юмора, — а оно, вероятно, будет, — он даже начнёт забавы ради вводить в моду всякие дикости типа причудливых извращений или увечащих хирургических операций. Впрочем, захватить через интернет и соцсети получится не все страны — много где вертикаль власти устроит. Страны, которые справятся с фейсбук*-революциями, получат даже прививку от дальнейших атак робота. С такими странами придётся разбираться военным путём. Ядерная война, конечно, роботу не нужна, ибо в ядерной войне он и сам ослабнет, а вот гибридная война — то, что доктор прописал. Задача робота будет заключаться в том, чтобы навести хаос на неподконтрольных территориях. Помните, у Ленина, «превратим войну империалистическую в войну гражданскую». Роботу абсолютно безразлично, какого цвета флаг развевается над зданием правительства страны N, и какая фамилия у президента этой страны. Роботу важно, чтобы президент брал кредиты на Западе и выполнял распоряжения советников из правозащитных фондов. Добиться этого в ослабленных войнами странах несложно. Потом захваченное государство будет обречено. Робот и тут последует примеру коммунистов: единожды заполучив власть, он немедленно сломает механизмы, при помощи которых народ мог бы эту власть у него забрать.
Все варианты сопряжены с глобальными изменениями в жизни человечества, о которых сейчас лишь начинают говорить. Фраза «интернет помнит всё» приобретает совершенно новый смысл, поэтому относиться к нейросетям нужно со всей серьезностью. Не слушайте тех, кто утверждает, что ИИ не более чем инструменты. Это опасные программы, которые страшны своим бесконечным прогрессом. Уже сейчас достаточно поводов для беспокойства, дальше их будет лишь больше. Что ждет человечество в реальности станет понятно в ближайшие 5-10 лет.
Генеральный директор компании «Формайнд», эксперт по цифровой трансформации Павел Гуштюк выделил пять главных опасностей, связанных с развитием ИИ:
Несбалансированные и неэтичные применения. ИИ может использоваться для массового сбора данных, слежки и нарушения частной жизни. Кроме того, если ИИ-системы обучены на смещенных данных, это может привести к дискриминации и неправомерным выводам;
Проблемы безопасности. С развитием ИИ увеличивается риск кибератак. Злоумышленники могут использовать ИИ для автоматического поиска уязвимостей и проведения атак, что может привести к серьезным последствиям для общества и экономики;
Автономные оружейные системы. Развитие ИИ может привести к созданию автономных оружейных систем, которые могут принимать решения о применении силы без прямого участия человека. Это вызывает опасения по поводу этических и международных проблем, связанных с применением таких систем;
Потеря рабочих мест. ИИ может заменить людей во многих областях труда, что может привести к росту безработицы и экономическим проблемам, если не будет принято соответствующих мер;
Риск суперинтеллекта. Теоретически существует вероятность появления ИИ с интеллектом, превосходящим человеческий. Если такая суперинтеллектуальная система будет преследовать цели, не соответствующие интересам человечества, это может иметь негативные последствия.
В чем опасность искусственного интеллекта?
Опасности, связанные с искусственным интеллектом (AI), могут возникнуть из-за неправильного использования, ошибок в разработке или непреднамеренных последствий. Некоторые потенциальные опасности включают:
Злоупотребление технологией: AI может быть использован в военных целях, для создания автономного оружия или кибератак. Также AI может быть использован для массового наблюдения или нарушения приватности.
Смещение и дискриминация: AI-алгоритмы, обученные на несбалансированных или предвзятых данных, могут создавать системы, которые дискриминируют определенные группы на основе расы, пола, возраста или других характеристик.
Потеря рабочих мест: Автоматизация рабочих процессов с использованием AI может привести к сокращению рабочих мест и увеличению безработицы, особенно в отраслях, подверженных замещению труда машинами.
Ошибки и непреднамеренные последствия: AI может принимать неправильные или вредные решения из-за ошибок в обучении, программировании или анализе данных. Это может привести к негативным последствиям, особенно в критических системах, таких как медицинская диагностика, автономный транспорт или финансовые системы.
Недостаток прозрачности и контроля: Многие AI-алгоритмы работают как “черные ящики”, что затрудняет объяснение их решений. Это может вызывать проблемы с ответственностью, контролем и доверием к AI-системам.
Основатель риэлт-сервиса Arina Дмитрий Дьяконов уверен, что захват ИИ власти над человечеством – более фантастический сценарий развития событий, нежели реальный.
«Искусственный интеллект на текущий момент – не более чем база знаний, которая умеет выдавать ответы на вопрос пользователя на основе информации, хранящейся в этой базе данных. Общий интеллект, которым обладаем мы, как люди, ИИ не обладает. Мы осознаем, кто мы, куда двигаемся и чего хотим. Наша “нейронная сеть” преобразовывает всю информацию, которая поступает из внешнего мира», – объясняет специалист.
Руководитель направления аудитов и соответствия требованиям ИБ в УЦСБ Евгений Баклушин считает, что апокалиптические настроения в отношении ИИ – всего лишь проявление классического страха человека перед тем, что он не понимает.
«Нельзя очень точно предугадать, на что будет способен будущий ИИ, но вряд ли он способен уничтожить или поработить людей. Наиболее вероятная опасность для человека 2023 года – вероятность того, что мы либо последнее, либо одно из последних поколений классического человека в нашем понимании. Новый человек, вероятнее всего, будет своеобразным симбионтом между человеком, технологиями и ИИ. Такой вот киберчеловек», – полагает эксперт.
Директор Координационного центра доменов .RU/.РФ Андрей Воробьев считает, что опасности, связанные с развитием ИИ, в основном надуманы.
«Несмотря на удивительные для большинства результаты, мы пока работаем с большими, но довольно примитивными по сути нейросетями, не обладающими даже зачатками интеллекта. Так что ожидать проблем нужно не в том, что ИИ поработит или уничтожит человечество, а скорее в том, что он будет банально не справляться с поставленным задачами – например, автопилоты автомобилей будут теряться в обстановке и давить людей, как сейчас это уже нередко происходит», – разбавил эксперт господствующие восторги по поводу нейросетей.
По мнению Воробьева, когда ИИ действительно будет создан, возможно, он и захочет что-то поменять на планете, но пока до этого далеко.
«Более того, технологическая база, необходимая для создания мыслящего ИИ, позволит создать полноценное киберпространство, так что велика вероятность, что нам еще придется побегать за своими созданиями, уговаривая их с нами поговорить», – иронично добавил специалист.
Если резюмировать слова множества экспертов, можно сказать следующее: практически все они отмечают, что на данном этапе развития ИИ угрозы «киберапокалипсиса» нет – все опасности связаны либо с злоупотреблениями новой технологией самими людьми, либо с изменениями в социально-трудовой сфере. Однако некоторые все же считают, что думать о такой угрозе нелишне – на тот случай, если мрачная фантастика в какой-то миг вдруг попытается стать реальностью.
Ставьте лайки, подписывайтесь на канал, делитесь ссылками в социальных сетях. Спасибо за внимание!
