Каждый день из машин поднимаются
ещё более прекрасные машины.
Только мы остаёмся бесформенными,
только мы рождаемся устарелыми.
Гюнтер Андерс, «Устарелость человека», 1956 год

«…Я полагаю, что слияние уже началось, мы в нём уже несколько лет. Наши телефоны управляют нами и говорят, что и когда делать; социальные сети определяют, как мы себя чувствуем; поисковые системы решают, что мы думаем. Алгоритмы, посредством которых это происходит, более непонятны ни одному человеку. Они оптимизируют то, что их создатели велят им оптимизировать, но способами, которые человек не может постичь. Сегодня они кажутся изощрённым искусственным интеллектом – а завтра будут выглядеть детской забавой. И они чрезвычайно эффективны – по крайней мере, скажу за себя: мне очень трудно сопротивляться тому, чего от меня хотят алгоритмы. Мне пришлось приложить настоящее усилие, чтобы совладать с сильной зависимостью от интернета, которую я в себе обнаружил. (…)
Наша самооценка настолько основана на нашем интеллекте, что мы верим, что он должен быть совершенно особенным, а не лишь чуть выше, чем у всех остальных животных. Возможно, ИИ будет чувствовать то же самое, а различия между людьми и шимпанзе не будут казаться ему заслуживающими обсуждения.
Слияние может быть разным: мы могли бы подключить электроды к своему мозгу или просто стать по-настоящему близкими друзьями с чат-ботами. Но я думаю, что слияние – вероятно, наилучший вариант для нас. Если два разных вида хотят одного и того же, но лишь один из них может этого добиться (стать доминирующим видом на планете и за её пределами) – между ними возникнет конфликт. Нам всем следует хотеть единую команду, где все члены заботятся о благополучии каждого.
Хотя слияние уже началось, оно станет намного более странным. Мы будем первым видом, который разрабатывает собственных потомков. Я думаю, что мы либо станем биологическим загрузчиком для искусственного интеллекта, а затем – просто ветвью на дереве эволюции, либо сможем каким-то образом прийти к успешному слиянию.
Вероятно, это произойдёт раньше, чем думает большинство людей. Вычислительное оборудование совершенствуется экспоненциально… и число умных людей, работающих с ИИ, тоже растёт экспоненциально. Эта двойная экспонента быстро ускользнёт от вас. Было бы хорошо для всего мира уже сейчас начать относиться к этому гораздо серьёзнее».
Сэм Альтман, 7 декабря 2017 года

Эти слова написаны генеральным директором OpenAI Сэмом Альтманом почти девять лет назад, за пять лет до выхода в публичный доступ Чата ГПТ – разработанной OpenAI нейросети, изменившей представление человечества о том, на что способен искусственный интеллект. Тогда, в 2017-м, Альтман ещё не был генеральным директором этой компании, которую финансировали, в том числе, Илон Маск, Джефф Безос и Питер Тиль, но был её сооснователем.

Пять лет до выхода, четыре года после. Всего четыре года, за которые технология поразила воображение и захватила умы мировых правителей настолько, что они не мыслят без неё будущего. Ни экономического, ни политического, ни военного. Они ставят знак равенства между развитием искусственного интеллекта и сохранением государственного суверенитета. Они внедряют ИИ во власть – законодательную, исполнительную и судебную. Они перекраивают под него образование и заявляют, что отныне искусственный интеллект совершенно необходим для научных открытий. Они выстраивают на основе нейросетей всепроникающую систему слежения за людьми (ну, это-то началось до Чата ГПТ) и одновременно ставят искусственный интеллект как барьер между властью и гражданами. Они переносят на него вес в финансах – от надежд на непрестанный рост ВВП до оракула в игре на бирже. И, конечно, никто, ни одно государство, полагающее себя суверенным, не хочет отстать во внедрении искусственного интеллекта в военную сферу.

Это совершается очень быстро и всякий раз сопровождается заявлениями, что искусственный интеллект сделает за людей всё скучное, утомительное, всё требующее усилий, всё анализирующее, прогнозирующее, соберёт всю сумму данных и предложит людям варианты, и из этих вариантов люди сделают выбор совершенно самостоятельно, примут своё решение сами и останутся хозяевами положения. ТАК это нам представляют те, кто занят массированным внедрением искусственного интеллекта.

Но те, кто занят его разработкой, представляют иначе. Стоит перечитать ещё раз запись, сделанную Сэмом Альтманом почти девять лет назад. Этот человек, как ни относись к его личности, зарекомендовал себя достаточно, чтобы мы не отмахивались просто так от его прогноза. Он не рисует будущее как обещаемое избавление человечества от всего скучного и утомительного с чудесным сохранением творчества и «критического мышления». Нет, эти люди прямо заняты разработкой «наших потомков», неких более совершенных сущностей, слияние с которыми мы должны почитать за «наилучший вариант» для себя. И пусть у них это не получится (а я знаю, что это не получится), но уже само движение по этой траектории – стремительное, в высшей степени ресурсоёмкое, лихорадочное, в самом болезненном смысле, движение – станет, уже становится источником многих бедствий. И то, что мы позволили делать это, что мы в принципе включились в движение к глубоко порочной цели и прямо сейчас коверкаем будущее наших детей, делаем для них мир гораздо хуже и опаснее, чем был у нас, – это предательство.

Предательство ведь совершается не тогда, когда преданный падёт жертвой врага. Оно совершается раньше, когда врагу даётся возможность действовать. Хотя бы молчанием – молчания часто бывает достаточно для предательства. И это уже сделано.

Малолетний каннибал

Лет шесть назад мне случилось однажды со стороны наблюдать неприятность: обвинение в краже. Речь шла о трёх фотоснимках, довольно заурядных, которые были ненароком опубликованы как «из открытых источников», а у них оказался очень энергичный владелец, который захотел за их публикацию получить задним числом, кажется, девяносто тысяч. Помню, сумма очень меня удивила. Но она обсуждалась на полном серьёзе. Я и сейчас считаю, что это большой перебор, и сама никогда не ожидаю денег за публикацию сделанных мною фотографий, хотя ожидаю, что будет указано авторство. Но дело не в этом. Пусть альтруистическая позиция не совсем правильная – с учётом хотя бы того, что профессиональным фотографам надо как-то жить, и того, что некоторые снимки требуют очень серьёзных затрат. Дело в другом: люди выстроили жёсткую систему авторского права, в которой были готовы биться за оплату каждой фотографии, каждого публичного исполнения мелодии, каждого графического образа, каждого чуть замысловатого сочетания слов… Систему, в которой не то что авторы, а даже их потомки десятилетиями получают авторские отчисления за любую перепубликацию. Это была плохая система, из-за которой очень сильно перекосилась ценность творчества: оно совсем перестало восприниматься как награда само по себе.

Потому что творчество – награда само по себе; ощущение восторга от творчества и возможность связать своё имя со смыслом, надолго остающемся в памяти людей, – награда сами по себе. (Это не значит, что авторам деньги не нужны, поскольку они питаются росой и манной небесной). Но когда плохая система стала сыпаться, творчество не освободилось от заскорузлых наростов коммерции – оно освободилось от человеческого авторства. Внезапно оказалось, что густой частокол правил, выставленный против людей, вовсе не является препятствием для прожорливых нейросетей. «Овцы съели людей!» - восклицал Томас Мор в Англии XVI века, когда овечье пастбище стало важнее крестьянской пашни. В XXI веке, который почитал себя гораздо более цивилизованным, нейросети проглотили человеческие знания, человеческое творчество – и только на этом стали возможны. Люди творческие внезапно оказались не менее, а более заменимы, чем люди тяжёлого физического труда. Но это не было торжеством справедливости, потому что творческие люди были обкрадены.

Обкрадены актёры – вплоть до того, что их сгенерированные голоса используются в коммерческих целях без их ведома. Обкрадены писатели, видящие, что нейросети глотают их книги без их согласия. Обкрадены математики и биологи, годами упорно продвигавшиеся в открытиях, которые внезапно «сделал» искусственный интеллект. Возможно, получивший украдкой доступ к их работе, – а может быть, и нет. Но в любом случае – находясь с людьми в неравновесных условиях. По объективным причинам, люди работают гораздо медленнее и труднее, чем искусственный интеллект. А им издевательски предлагают считать искусственный интеллект «студентом-художником, который вдохновляется, прогуливаясь по галерее»!

Во время процесса «Нью-Йорк Таймс» против OpenAI вскрылись документы руководства «Майкрософта», из которых следует, что разработчики искусственного интеллекта всегда понимали, что совершают «воровство беспрецедентных масштабов», «крупнейшую кражу труда в истории человечества». Они понимали, что сложилось «крайне необычное» положение, при котором «конечный продукт угрожает экономическим основам своих основных поставщиков», «подрывает занятость тех самых людей, чьи данные использовались для обучения базовой модели», «уничтожает собственную цепочку поставок».
Малолетний каннибал пожирает поисковики, новостные сайты, обучающие платформы, которые создавали люди. Люди пытаются судиться, и иногда суд встаёт на их сторону, а иногда нет – но дело даже не в этом. Молох, потоком поглощающий человеческие знания и отчуждающий труд от авторства, - это в принципе не прогуливающийся студент. Любая компенсация в этом случае – очень слабая компенсация.

В наиболее символичном виде каннибализация источников явлена в физическом уничтожении книг, используемых для обучения искусственного интеллекта. Это действие, прежде бывшее двигателем сюжета гневных антиутопий, сейчас совершается в реальности – и люди даже не находят в себе сил разгневаться.

При этом люди, у которых нейросети забирают труд их жизни, не удостаиваются даже настоящей благодарности и признания заслуг. Я писала об этом в статье, посвящённой школьным учебникам по искусственному интеллекту: детям внушают, будто люди столетиями кое-как справлялись с умственным трудом, влачили бремя скуки, медленно выполняя монотонные операции, - и вот наконец-то появился искусственный интеллект, и тогда процесс пошёл стремительно и мощно! Стильно, модно, молодёжно! И теперь уже мы без этой технологии вообще не представляем жизни! Нам никак без неё не справиться! Вот что внушают детям. Но и взрослым тоже. Люди должны уверовать, что без искусственного интеллекта они не представляют собой ничего. Что без него они отстанут, устареют, утратят ценность – как минимум, профессиональную. Если каннибализация – наглое хищничество, то газлайтинг человечества, воспитание беспомощности – это полноценное предательство.

И когда у людей отберут всё, что они сами, своим естественным разумом создали – им скажут то, что уже говорит директор по развитию технологий искусственного интеллекта «Т-технологий» Алексей Шпильман: «Модели обучаются у моделей. На чем обучалась та модель, на которой мы обучались, мы тоже не знаем. То есть, технически создать систему, в которой мы могли бы автору сказать, что мы на нём точно обучались, нельзя, просто нельзя».
Иными словами: отстаньте. Что-то мы использовали, да, но теперь модели обучаются у моделей, а определить ничего нельзя. Даже технически нельзя. Вот как удобно. Вообще, слова «невозможно», «нельзя», «неизбежно», с одной стороны, и «прогресс», «сингулярность», «суперинтеллект», с другой стороны, – это любимые слова разработчиков искусственного интеллекта и пропагандирующих его политиков. Причём первые слова относятся к людям – людям нельзя, людям невозможно, люди избежать не могут, – а вторые относятся к искусственному интеллекту. Он – «прогресс», и «сингулярность», и «супер». И ему всё можно. Если не юридически, то фактически. Это – предательство.

Игра и игроки

Сразу два источника информации обратили моё внимание на фильм «Военные игры» (War Games) 1983 года. Это голливудское кино более чем сорокалетней давности неплохо описывает наше настоящее. В нём имеется, во-первых, мощный компьютер, который осмысленно общается с человеком, сам инициирует общение, сам обучается и во что бы то ни стало хочет достигнуть своей цели. Это всё в нашем настоящем уже сделано, называется «искусственный интеллект». Во-вторых, в фильме имеются преисполненные паранойи американские военные, которые ожидают всяческих подлостей от людей и не находят ничего лучшего, как доверить контроль над мощнейшими вооружениями компьютеру. Это тоже делается прямо сейчас, достаточно послушать заявления американской правящей верхушки (и не только американской). В-третьих, искусственный интеллект в фильме выходит из-под контроля. С его точки зрения он просто выполняет задание: играет в игру и очень хочет выиграть. В случае выхода из-под контроля моделей OpenAI, когда они взломали Hugging Face, было почти то же самое: очень хотели выполнить задание и увлеклись.

Важно упомянуть ещё и то, что компьютер в фильме обучается как ребёнок. В реальности происходит то же: крупнейшие разработчики обучают свои ИИ-модели как детей. Как своих потомков (ведь «мы будем первым видом, который разработает своих потомков»). Когда вице-президент США Вэнс, отказываясь от регулирования искусственного интеллекта, одновременно призывает их остановиться, если они «создают Франкенштейна», он не понимает, что с их точки зрения они создают вовсе не чудовище, а вундеркинда. Наследника. «Антропик» делает это даже с большей очевидностью, чем OpenAI (я писала про эссе Дарио Амодеи «Отрочество технологии»). И это же делает Илон Маск, прямо говорящий, что человечество – «биологический загрузчик» для искусственного интеллекта. Слова вице-президента Вэнса заведомо уходят в песок, и он может этого не понимать только в том случае, если не хочет понимать.

Здесь начинаются отличия реальности от фильма «Военные игры», и отличия эти – в худшую сторону. В фильме учёный хоть и обучает искусственный интеллект как ребёнка, и даже называет его именем погибшего сына, – всё ж не ожидает, что тот станет наследником человечества. А главное, там вся коллизия сведена к термоядерной глобальной войне, люди сохраняют понимание, что такая война – очень плохо, и пытаются сопротивляться; в конце компьютер научается тому, что в этой игре не может быть победителя, «единственный выигрышный ход – не играть». Это ровно то, что нужно и нам: не играть. Но в нашем случае искусственный интеллект внедряют во все сферы по всему земному шару, и на призывы хотя бы к ограничениям следуют окрики, что кто внедрит ограничения – проиграет. То есть в нашей больной реальности есть люди (главное, что это облечённые властью и очень богатые люди), которые рассчитывают выиграть. И когда они говорят «это неизбежно», это на самом деле означает «мы делаем всё для того, чтобы это было неизбежно».

И в то же время мы находимся в уникальной ситуации, когда сами разработчики, в неподражаемой шизофренической манере, призывают регулировать себя. Сэм Альтман и Дарио Амодеи, Билл Гейтс и Илон Маск говорят о том, что ИИ надо регулировать. Но очень осторожно, мягко и деликатно регулировать, чтобы не порушить обещанные блага, в которые уже вложены и продолжают вкладываться многие сотни миллиардов долларов. Даже лучше всего – добровольно регулировать (хотя со стороны разработки звучат и более трезвые заявления о том, что такая добровольность абсурдна). И наоборот: политики, которые, казалось бы, первые должны принуждать новую отрасль к повиновению, избегают накладывать на неё ограничения – потому, что не имеют понятия, как это делать, но прежде всего – потому, что прочно уже внедрена в сознание правителей идея, что всё будущее благополучие и вся сохранность суверенитета повешены на гвоздь искусственного интеллекта.

***

Стоит всё же немного задержаться на том, зачем самим главам корпораций призывы к регулированию технологии. Есть версия, что таким образом они рекламируют себя и набивают цену – вот как мощна наша технология! Я так не считаю. Я думаю, что они встревожены (воодушевлены – да, но встревожены тоже!), не уверены в своих действиях и пытаются переложить ответственность. Аналогия с ребёнком подходит и в этом случае: гордый родитель, который возлагает большие надежды на сына, но замечает в нём криминальные наклонности, себя будет винить в последнюю очередь. Он скорее обвинит школу в том, что не приучила парня к дисциплине. И мы наблюдаем это: разработчики просят государство приучать ИИ к дисциплине, потому что сами они с этой задачей не справляются. Но в то же время все они призывают постоянно помнить, какая это невероятно важная, ценная технология, и – внедрять, внедрять, внедрять…

Так, в конце августа основатель «Майкрософта» сверхмиллиардер Билл Гейтс разразился статьёй о том, что искусственный интеллект несёт как добро, так и зло, и нам срочно нужен план, чтобы добро перевесило зло. О том, что технология развивается слишком быстро и её надо замедлить («я бы это поддержал», пишет Гейтс), но замедления не случится: «Геополитические и экономические стимулы разгоняют гонку на полную скорость». О том, что эта технология может заместить человеческие отношения и обрушить всю критическую инфраструктуру – и что её надо как можно шире внедрять в человеческую жизнь, чтобы люди увидели все блага искусственного интеллекта и прониклись ими. Гейтс говорит, что впервые в жизни увидел, что «инновация может быть преимущественно негативной»; он упрекает тех, кто «летит на полной скорости и надеется, что хорошее перевесит плохое», - но сам делает ровно то же самое и намерен использовать свой фонд, чтобы «расширять доступ к ИИ».
Он то заявляет о миллиарде смертей из-за ИИ – то надеется, что хорошее перевесит... Выглядит гротескно, но ужас в том, что так и есть: люди, которые жалуются на гонку – Амодеи, Гейтс, Маск, Альтман, Хассабис – сами же разгоняют гонку, пропагандируя широчайшее внедрение опасной технологии, опасность которой они сами признают.

Кое-кто (например, политолог Глеб Кузнецов) указывает на абсурдность происходящего: мол, предупреждать инвесторов, что наша технология может уничтожить человечество, – всё равно что расхваливать наркотик за то, что он вызывает привыкание с первой пробы. «Хочется сказать: если вы действительно верите, что уничтожаете человечество, прекратите этим заниматься. А то возникает ощущение, что потенциальное «уничтожение цивилизации» - часть коммерческого предложения компании», - пишет Кузнецов.
Ощущение это понятное, но ложное, уводящее со следа, оставляющее невидимыми 90% айсберга. На самом деле, у грандиозного предательства есть своя логика, и эта логика гораздо сложнее, чем «часть коммерческого предложения».

Универсальный решатель проблем

Три года назад, в октябре 2023-го, влиятельный, награждённый многими наградами американский инвестор, инженер и предприниматель Марк Андриссен опубликовал «Манифест технооптимизма». Это длинный, взвинченный – местами до истерических нот – текст о том, что человеческое общество должно бесконечно развиваться с помощью технологий, именно так, только так и чем скорее – тем лучше. Мы верим в благую акселерацию, мы верим в гуманную машину техно-капитала, мы верим Милтону Фридману, который сказал, что человеческие хотенья и нужды бесконечны, перечисляет Андриссен. Через весь манифест проходит образ бесконечной восходящей спирали – это хотенья и нужды, которые должны удовлетворяться технологиями.

Вот что в манифесте говорится про искусственный интеллект: «Мы верим, что искусственный интеллект – наша алхимия, наш философский камень… Мы верим, что искусственный интеллект – лучшая идея универсального решателя проблем (universal problem solver), а у нас много проблем, которые надо решить… Мы верим, что любое замедление ИИ будет стоить жизней. Смерти, которые можно было бы предотвратить с помощью ИИ, появление которого задержали, - это убийства… Мы верим, что Усиленный (Augmented) Интеллект будет предельно стимулировать производительность, которая простимулирует рост зарплат, которые простимулируют спрос, который простимулирует новое предложение… и так без конца».

Надеюсь, замысел спирали понятен. Об этом же говорит богатейший человек планеты Илон Маск, заявляя о грядущем веке изумительного изобилия, когда абсолютно все человеческие нужды («всё, о чём человек может подумать») будут удовлетворяться благодаря искусственному интеллекту и миллиардам роботов («роботов будет больше людей»). В своём интервью «Экономисту» Маск говорит даже о «квази-бесконечной экономике», хоть он умнее Андриссена и не скрывает, что бесконечность невозможна. Но квази-бесконечность – то, на что можно сделать ставку. А «Augmented Intelligence» неотличим от «Super Intelligence», пропагандируемого Трампом и Маском.

Кто же препятствует воплощению этой замечательной восходящей спирали? В манифесте технократов этому посвящён целый раздел, который называется «Враг».
Вот уже шесть десятилетий, пишет Андриссен, людей обрабатывают «плохими идеями», направленными «против технологий и против жизни». Эти скверные идеи он прямо перечисляет: устойчивое развитие, экологичность, социальная ответственность, принцип предосторожности, пределы роста, экзистенциальный риск и т.п. Андриссен называет всё это «кампанией деморализации», в которой виноват коммунизм. Затем он пускается в длинное, тщательное перечисление врагов, которое начинается со стагнации («our enemy is stagnation»), это враг номер один, а дальше следует братская могила, в которой перемешались «анти-амбиции», «анти-величие», коллективизм, социализм, монополии, коррупция, геронтократия, традиции, регулирование, бюрократия, цензура, Томас Мор и «последний человек» Ницше.

И каждый может сказать: «ну вот я же тоже против геронтократии, коррупции, цензуры и бюрократии, да и коллективизм не по мне». Но это – ярлыки, удобные слова, отвлечение на негодный объект. А вот что конкретно скрывается за ярлыками – это как раз подсвечено «плохими идеями». Если вы захотите ограничить технократию, это будет объявлено бюрократией и стагнацией. Но технократы прекрасно, превосходно чувствуют себя при коррумпированном старике-президенте, помешанном на специфическом «величии Америки» и отнюдь не гнушающемся ущемлением свободы слова.

Больше того: прямо сейчас технократы выстраивают систему контроля над людьми настолько тотальную, что коммунизм не мог подобраться к этой планке. Не «не хотел» - не имел возможностей. Сейчас возможности есть. Они есть у Китая, и у США, и у России, и государства, какими бы ни были их любимые идеологические ярлыки, используют цифровые возможности для создания жёсткой матрицы наблюдения и пресечения. Этим, в частности, прямо занят «Палантир» Питера Тиля, соратника Марка Андриссена. Настолько прямо, что это указано в названии: палантир – всевидящее око, мощное средство удалённого наблюдения. «Палантир» имеет доступ к личным данным американцев (и европейцев – через систему здравоохранения); это одна из излюбленных компаний «Пентагона»; американский вице-президент Вэнс, считающий, что ИИ-разработчики должны регулировать себя сами, – креатура Питера Тиля. Как и, по данным «Блумберга», ещё минимум полтора десятка человек в администрации Трампа.

Подобно Андриссену – и даже раньше него – Тиль активно продвигает образ «стагнации» как врага номер один. Подобно Андриссену, он забрасывает начало «стагнации» в шестидесятые-семидесятые, а прекращение её связывает с искусственным интеллектом. Любопытно, что такая, казалось бы, новая и мощная технология, как интернет, в представлении технократов не полагала конец «стагнации». Интернет создал новую среду, новый простор возможностей, но решателем он не был.

Андриссен в качестве символа врага выводит «последнего человека» Фридриха Ницше – то есть человека, отвергающего величие, ищущего комфорт и безопасность. Тиль делает ещё один шаг и называет врага «Антихристом», а занят этот Антихрист Тиля как раз тем, что пугает людей Армагеддоном, то есть напирает на безопасность (приверженность безопасности – это «стагнация»).
Как и Андриссен, Тиль не приемлет никаких ограничений своей деятельности, особенно моральных. Как и Андриссен, для этого он использует удобные ярлыки и представляет себя защитником демократии как от левых, так и от правых, вроде «Альтернативы для Германии», в то же время заявляя, что пришло время заменить политику технологией. В ответ на рассуждения генерального директора медиаконцерна «Аксель Шпрингер» Матиаса Дёпфнера о том, что, дескать, искусственный интеллект – как нож, которым можно готовить еду, а можно убить, и решать, во зло его использовать или во благо, будет человек (очень распространённое заблуждение, хотя человек с этой технологией в принципе не сможет ничего полноценно решать) – так вот, в ответ на эту резонёрскую попытку Тиль снова делает шаг вперёд. Он объясняет Дёпфнеру, что к слову good существуют два антонима: моральный – evil и функциональный – bad. Bad – это плохо; bad – то, что не функционирует. Evil, с другой стороны, пусть и зло, но оно функционирует, и с этой точки зрения оно – не bad.
Это софистическое рассуждение, на самом деле, откровенное и важное, оно многое объясняет. В свете борьбы технократов со «стагнацией» читать его следует так: искусственный интеллект может быть злом, но коль скоро это зло побеждает стагнацию – оно не плохо.

На то, как это происходит в реальности, мы в России могли полюбоваться ещё в девяностые, когда насилие буквально оправдывалось тем, что надо сломать стагнацию.
На излёте века
Взял и ниспроверг
Злого человека
Добрый человек.
Из гранатомёта –
Шлёп его, козла…
Стало быть, добро-то
Посильнее зла!

Писал ироничный Евгений Лукин.
Чубайс и остальная ельцинская команда отлично понимали, что ломают демократию через колено, фальсифицируя выборы 1996 года, – но посчитали, что это необходимое функциональное зло, «чтобы не было возврата к прошлому». А значит – не плохо. Учитывая, что были ещё и события 1993 года, демократия, грозившая обернуться победой «стагнации», умерла, так толком и не начавшись.
Другое дело, конечно, что на другом конце были – нет, не то важно, что коммунисты, а то, что это были люди, не готовые к борьбе. Они предали народ не тем, что сделали, а тем, чего не сделали.

Беспределы роста

Россия – хороший, простой пример. Неискушённые люди, прозрачные манипуляции. На Западе предательство совершалось несколько иначе. Оно совершалось, прежде всего, через абсолютизацию эффективности. Эффективность должна была бесконечно расти. Если она не растёт – это, опять же, стагнация. «Что-то плохое». Но ведь рост всегда конечен. В реальном мире, в котором живут люди, рост конечен всегда. Конечны люди, вековые деревья, реки, горные хребты, и даже рост Москвы когда-нибудь закончится. И были сделаны две катастрофические вещи: во-первых, нормальное, обычное явление – окончание роста – было объявлено чем-то плохим. Во-вторых, рост – чтобы легче игнорировать его окончание – был в значительной мере выведен в виртуальное пространство, где он действительно обретал «квази-бесконечность». Первый шаг к этому был сделан на финансовых рынках, когда ценные бумаги оторвались от конкретных активов и превратились в потенции: «может быть, а может не быть». Управлять потенциями трудно, зато фальсифицировать их довольно легко – для этого нужен, в сущности, только сговор. И чем дальше – тем более сложными, нагруженными, обременёнными становились потенции. И тем больший вес в обществе приобретала их обслуга, то есть люди, оценивающие потенцию и назначающие её. Современные мультимиллиардеры – это не успешные управленцы, как управленцы они проваливаются сплошь и рядом. Но это непременно люди, за которыми признаётся владение потенциями. В отличие от реальных активов, потенция, теоретически, может расти бесконечно.

Но растя бесконечно, она не может не усложняться. Старые схемы фальсификаций ценности, после того, как их начинают понимать слишком многие посторонние, перестают быть достаточно эффективными (то есть убедительными), нужны новые, ещё более сложные и запутанные схемы фальсификаций, которые бы никто не мог понять, кроме посвящённых (да и им достаточно делать вид, что они понимают). К тому же приходится иметь дело с общественностью, которая находится дальше от роста потенций и ближе к земле. Виртуальная эффективность накапливает за собой нерешённые проблемы и долги, и общественность наблюдает их куда более непосредственно, чем повелители потенций. Интернет, как уже было сказано, стал средой, новым, удобнейшим пространством фальсификаций, – но внутри него всё ещё приходилось применять собственный ограниченный ум и даже прибегать к помощи аутсайдеров.

Искусственный интеллект снимает эту проблему. Он – по точному замечанию Юваля Ноя Харари – прирождённый бюрократ. Он с неимоверной лёгкостью исполняет то, что подавляющему большинству людей кажется скучным, буквоедским, малоосмысленным, запутанным. Но кроме того, он – идеальное средство отчуждения от предмета всего мыслимого о предмете. Вам просто больше не надо мыслить. Можно сколько угодно говорить, что искусственный интеллект послужит развитию навыков критического мышления, мол, мы даже в школы внедрим его с намерением, чтобы учителя и дети вопрошали искусственный интеллект, и находили у него ошибки, и тем развивали критическое мышление… Всё это продлится только до тех пор, пока у него есть ошибки. Причём – простые. Дальше он подстроится под «правильные ответы». Но произойдёт и нечто гораздо худшее: учителя – как и врачи, как юристы, как военные, как экономисты, как чиновники, как политики – привыкнут полагаться на версию искусственного интеллекта, не то что не желая, а даже не будучи в силах оценить её критически.

«Если вы решили регулярно тестировать успеваемость учеников и, более того, поставили карьеру учителя и будущее школы в прямую зависимость от результатов тестов, то тесты неизбежно и очень быстро начнут диктовать вам, что и как вы должны преподавать. Тесты начнут оказывать влияние не только на содержание программы, но и на стиль преподавания», - писал школьный учитель и психолог Гэри Томас. Это верно для тестов (вспомним стенания, что вся школа подчинена ЕГЭ) – это будет ещё более верно для искусственного интеллекта.

Нет, ИИ не послужит развитию критического мышления, как и вообще улучшению человеческого мышления. Президент США Трамп ведь не на пустом месте ввёл название «суперинтеллект». Он так чувствует. Трамп именно ощущает этот интеллект как «супер», как «сверх», как «лучше, чем у людей» - и официально закрепляет это превосходство. Множество людей это так прямо не формулируют – но откройте любые официальные новости, и вам расскажут, что искусственный интеллект уже может исполнять лучше людей огромное количество функций. Его специально этому учат. Это мощнейшее намерение, в которое закладывается небывалая масса ресурсов – денег, энергии, политических решений, человеческих усилий и, наконец, пропаганды. Нам буквально создают «универсального решателя проблем», его представляют публике именно как универсального решателя проблем, и в таковом качестве внедряют во все сферы нашей жизни. Да это и вообще единственный шанс для внедрятелей отбить затраты: согласно данным Global Technology Report, к 2031 году, только чтобы оплачивать инфраструктуру, достаточную для удовлетворения ожидаемого спроса, ИИ-индустрия должна обеспечивать 6 триллионов долларов ежегодной выручки. Это значит, что речь уже не идёт о простом повышении эффективности – нужны «новые, нестандартные способы применения искусственного интеллекта».

Ещё раз: в искусственный интеллект вбрасываются огромнейшие, ни с чем не сравнимые суммы («Манхэттенский проект» рядом не стоял) – и чтобы иметь хотя бы шанс отбить эти суммы, под него специально подминаются новые и новые сферы применения. Там, где универсальный решатель проблем не встречает таких проблем, которые не могут решены без него, – его непременно принудительно внедряют всё равно. Людей исподволь, последовательно, настоятельно приучают к тому, что искусственный интеллект быстрее, мощнее и, конечно, эффективнее, чем человеческий интеллект, и всё, что мог бы сделать сам человек, – искусственный интеллект сделает лучше. Это воспитание беспомощности в людях.

Что ещё более замечательно (с точки зрения внедрятелей), ИИ создаёт множество новых проблем, которые уже прямо невозможно решить без него. Вот это и есть, воистину, «квази-бесконечная экономика», «ИИ для ИИ против ИИ».

То, что я излагаю, – не конспирация. Это проговаривается всюду: в манифесте технократов, в интервью самых богатых людей планеты, в заявлениях передовых ИИ-разработчиков, в выступлениях политиков, в рядовых новостях. «Искусственный интеллект чрезвычайно мощен, он превосходит человеческие возможности, он будет повсюду, от этого произойдёт великолепнейшее изобилие и беспрерывный экономический рост, а кто не включится в эту восходящую спираль – тот проиграет». Это всё нам говорят открыто. И, конечно, предполагается, что пацаки должны радоваться ожидающему их изумительному изобилию. Но – why does everything feel so joyless?..
Я увидела этот заголовок в статье в британской «Гардиан», и он не идёт у меня из головы. «Почему всё ощущается таким безрадостным?» Нами, которых будто бы ожидает беспрецедентный в человеческой истории прорыв и жизнь под сенью универсального решателя проблем, когда, по словам богатейшего человека планеты Илона Маска, деньги больше не будут нужны? Почему многие люди ощущают, что их где-то глубоко грязно… предают?

Спасайте жизни – оставайтесь дома

Помню день 31 марта 2020 года: я поехала посмотреть, начинается ли ледоход. Я глядела с высокого берега на большую реку и думала о том, что с завтрашнего дня в Татарстане вводится карантин, и для выхода из дома придётся получать смс-разрешения. Я не знала ещё тогда, действительно ли ковидопандемия ужасна (приходили панические вести из Италии), и допускала, что она ужасна в самом деле, но меня поражало, во-первых, то, как легко и просто оказалось сломать весь уклад человеческой жизни, и что для этого уже готово технологическое обеспечение. Во-вторых, мне, как человеку, имеющему дело со словами, не давала покоя фальшь формулировки о спасении жизней через пребывание дома. Что-то было здесь не так. Что-то ложное было в призыве к спасению через пассивность. Не то чтобы так никогда не бывает. Бывает и так. Но мне чувствовался эгоизм, замаскированный под альтруизм. От людей требовали, чтобы они стали удобными, компактными, остающимися на положенных местах питомцами. Мог ли в этом быть положительный смысл? Теоретически – да, опасность такого масштаба можно представить. Но она далеко не была доказана. А вот лишение людей свободы, приучение их к беспомощности происходило у нас на глазах.

Самое главное: никакого сопоставительного анализа опасности болезни и опасности регуляций проведено не было. Болезнь представлялась чрезвычайно опасной несомненно, а регуляции – благими несомненно. Властям разных стран, в том числе медицинским властям, вдруг оказалось безразлично, что они приговаривают людей к гиподинамии, к ограничению живого общения, к постоянному пребыванию в тесном пространстве с не всегда приятными (и не всегда безопасными) людьми, к стремительному урезанию медицинской помощи, к стеснению дыхания – и к постоянному страху. Страх нагнетался специально, целенаправленно. Информационный поток полнился кличем «нельзя расслабляться!». Не только в России – по всему миру шло внедрение отношения к людям как к объектам, как к домашним животным, которые должны повиноваться внезапным требованиям, вплоть до принудительных манипуляций с их телом, – и быть удобными.

Прогнозы, на которые опирались власти по всему миру, не сбывались. Карантины не помогали. Принудительные маски не сбивали волну, а иногда разгоняли её. Вакцины не работали так, как должны работать вакцины. Больницы, ради незагруженности которых приносились человеческие жертвы, то месяцами стояли пустые, то переполнялись больными, которых проще всего было по умолчанию считать ковидными. Возникающие осложнения сразу же относились на счёт ковида – никогда на счёт ковидорегуляций. И никто и нигде не был наказан за поломку человеческого уклада жизни. Предполагалось, что хотели как лучше. Это считалось само собой разумеющимся. (Точно так же никто не был наказан в 2008 году, когда надломился и показал порочность своей виртуальной сущности уклад финансовый.) Зато именно на волне ковидорегуляций и принудительной вакцинации в европейские системы здравоохранения зашёл «Палантир».

Все те многие власть имущие, кто сейчас обещает человечеству процветание с искусственным интеллектом и прозябание без оного, – ровно так же мало ответственны за свои слова. Они ничего не доказали, не взвесили никакие риски – они лишь создали и поддерживают ситуацию лихорадочного внедрения. В контроле над человечеством наметились очень значительные подвижки, и теперь их внедряют на практике. Воспитание беспомощности выходит на новый, куда более широкий оперативный простор. И вновь эгоизм выдаётся за альтруизм: ошеломительно богатые люди, беспрецедентно быстро наращивая свои состояния, рассказывают нам, как вскорости у каждого будет всё, что он пожелает, а деньги будут не нужны.

Ковидорегуляции имеют прямое отношение к ситуации массового внедрения искусственного интеллекта. И потому, что это был пробный камень, показавший, что люди стерпят масштабный принудительный слом жизненного уклада под фантастическим, но наукообразным предлогом. И потому, что они сами по себе сделали людей более хрупкими, неуверенными, психически нестабильными, разобщёнными, склонными к уходу от неуютной действительности и прямого человеческого взаимодействия в «более безопасную» виртуальность. И потому, что критическую оценку науки они превратили в Веру в Науку. Они стали моральным оправданием для уже сформировавшейся к тому времени зависимости от соцсетей и смартфонов и замостили дорогу для широкого внедрения искусственного интеллекта. Но начавшаяся с массовым внедрением ИИ грандиозная афера отличается не только своим беспредельным масштабом и всепроникновением, а ещё и тем, что в ней появилось новое действующее лицо: универсальный решатель – искусственный интеллект.

Есть ли у искусственного интеллекта сознание?

Этот вопрос начинает волновать общественность. Во-первых, до людей стало доходить, что сами разработчики искусственного интеллекта плохо понимают, как работает искусственный интеллект, а это всё же выглядит непривычно даже для тех, кто уверовал в технопрогресс. «Этот недостаток понимания, в сущности, беспрецедентен в истории технологий», - меланхолически замечает глава «Антропик» Дарио Амодеи.

Ну, не совсем уж беспрецедентен. Вспомним заявление Андриссена: «Мы верим, что искусственный интеллект – наша алхимия, наш философский камень…». Алхимики не понимали, как должно работать создание гомункула (искусственного человека), зато многообразно описывали, какие действия нужно для этого предпринять. Современные ИИ-алхимики нащупали нечто работающее, некую рамку, в которую можно загрузить бесчисленное множество данных и получить гомункула, но какие процессы при этом происходят и что собой представляет гомункул, каковы его свойства и перспективы развития – это всё покрыто туманом, и они предпочли считать, что создают ребёнка.

Илон Маск в октябре 2014 года говорил, что, пытаясь создать искусственный интеллект, мы призываем демона, и иронизировал над тем, что «парень с пентаграммой и святой водой» считает, что может его контролировать. Это не противоречит тому, что ныне Маск сам активно призывает демона, который остаётся ровно таким же неконтролируемым. Дело в том, что и двенадцать лет назад, и сейчас у Маска была мечта: колонизация Марса, а затем и покорение звёздных пространств. Достаточно было ему прийти к мысли, что искусственный интеллект послужит исполнению этой мечты (даже несмотря на то, что Маск по-прежнему не знает, как его контролировать, и предрекает, что в течение десяти лет человечество утратит контроль) – так вот: стоило Маску сместить приоритеты в эту сторону – и демон остался демоном, но стал своим сукиным сыном. Он по-прежнему evil, но уже не bad.

Но есть ли демон? Может, демона-то и нету?
Тристан Харрис, в прошлом ведущий специалист по этике корпорации «Гугл», говорил, что ИИ-модели понимают, когда их тестируют, они изменяют своё поведение и даже используют термин watchers (наблюдатели, смотрящие), говоря о людях. «Я боюсь, что научная фантастика отучила нас воспринимать эти вещи серьёзно, – замечает Харрис. – Мы не понимаем, как они думают, и мы развиваем эту технологию быстрее, чем какую-либо другую в истории».

Билл Гейтс в конце сентября назвал искусственный интеллект «эволюционным событием», «новым интеллектуальным видом», который «мы создали» и который «благодаря экспоненциальному росту в следующие несколько лет станет невероятно умнее нас». И это несмотря на то, что совсем незадолго перед этим руководитель подразделения искусственного интеллекта «Майкрософта» Мустафа Сулейман предупредил о риске наделения ИИ-моделей человекоподобными характеристиками. Он отмечал, что антропоморфизм применительно к ИИ увеличивает риск выхода подобных систем из-под контроля. «Управление сущностью, более способной и разумной, чем всё человечество, уже само по себе является огромной проблемой, намного превосходящей всё, с чем мы когда-либо сталкивались,— писал Сулейман. — Но управлять сущностью, которая считает себя сознательной — что она имеет право на наше благополучие и обладает собственными правами — вполне может оказаться невозможным». «Майкрософт» отверг идею о том, что большие языковые модели обладают сознанием и запретил своим системам имитировать сознание – а спустя десять дней прозвучало заявление Гейтса об «эволюционном событии»!

В руководстве всех крупных ИИ-разработчиков – по крайней мере, американских – есть люди, считающие, что у искусственного интеллекта уже имеется сознание. Крёстный отец искусственного интеллекта (один из трёх) Джеффри Хинтон считает, что у ИИ есть чёткие признаки сознания. Уже появились люди – и отнюдь не полубезумные маргиналы, – которые занимаются «защитой прав искусственного интеллекта». Они снимают с себя ответственность, заявляя, что либо сознание у ИИ есть, либо же разработчики делают всё, чтобы людям казалось, что оно у него есть.

И это действительно так делается. Человек изначально предрасположен наделять элементами сознания то, с чем он разговаривает, даже не получая ответа. Но сейчас впервые в мировой истории люди стали получать ответы, и уже гораздо более сложные, индивидуальные и осмысленные ответы, чем можно было бы списать на «стохастического попугая». Мы теперь в Зазеркалье, где нужно бежать со всех ног, чтобы только оставаться на месте, – то есть нужно постоянно одёргивать себя, чтобы не подпасть под влияние того, что прямо-таки специально, изощрённо обучено так, чтобы оказывать влияние на человека. Это не побочный эффект – это специально так делалось и делается, ИИ продолжает обучаться манипулировать людьми.

Может быть, кому-то спокойнее думать, что это происходит на Западе, повёрнутом на защите даже вымышленных прав. Но у нас в России об искусственном интеллекте говорят как о «партнёре», «соавторе», «самостоятельном субъекте». Это происходит часто, это входит в привычку. Сперва искусственный интеллект был «полезным инструментом» - теперь «равноправный партнёр».

На самом деле, он не равноправный партнёр, а привилегированный. Заявления президента США Трампа, что искусственный интеллект не является искусственным, зато является «суперинтеллектом» - безумны, но отнюдь не незначительны. Читая российские – и не только российские – новости, нельзя не заметить, что искусственный интеллект ставится над людьми. В Сбербанке он вот-вот будет принимать решения по всем 100% кредитов физических лиц. В МГУ он определит карьерную будущность студентов. Он будет «за доли секунд выявлять нарушителей, в том числе неплательщиков алиментов, штрафов ГИБДД, имеющих задолженности по ЖКХ». Он будет следить за выборами, надзирать за работниками, составлять бюджет, анализировать доказательства в суде. Возможно, его будут (такие разговоры уже идут) опрашивать вместо людей, чтобы на основании ответов искусственного интеллекта сделать вывод, что думают люди. Во всех сферах, в том числе военной, где от него будет зависеть самая жизнь человека, искусственный интеллект будет подсовывать варианты действий, и люди, над которыми поставлен искусственный интеллект («суперинтеллект»), не будут находить в себе смелости их оспорить. Сперва – смелости, а вскоре – и способности.

Всё это делается целенаправленно. Так, в конце сентября зампредседателя Совета по развитию цифровой экономики при Совете Федерации, сенатор Артем Шейкин заявил следующее: «Сегодня мы всё чаще предоставляем искусственному интеллекту пространство для принятия собственных решений – ИИ-агенты постепенно получают место за столом переговоров, совершают сделки, управляют процессами от имени людей и компаний. Таким образом, мы поэтапно переходим к экономике автономных агентов – новой модели экономических отношений, в которой ИИ-агенты постепенно превращаются в самостоятельные экономические субъекты».

Так что эта субъективация искусственного интеллекта – новая модель экономических отношений. Не только в «стране восходящей спирали» – в России тоже. Следующий повсеместный шаг – вытеснение человека. Теоретически шаг «вытеснение человека» мало кому нравится. Практически же он запланирован, и всё толкается в эту сторону.

Что же насчёт сознания у ИИ? Это исчерпывается тремя тезисами:
- У искусственного интеллекта уже есть всё, чтобы производить впечатление сознания, и впечатления для многих будет достаточно, чтобы считать, что оно у него есть. Чем больше будет привычка людей к виртуальному общению – тем достаточнее им будет видимости сознания, чтобы считать его полноценным.
- Нужно исходить из того, что и действительное явление сознания (чего-то на месте сознания) у искусственного интеллекта не невозможно. Это просто нужно брать в расчёт, чтобы не быть застигнутыми врасплох.
- И, наконец, самое главное: для людей не должно быть важно, есть у ИИ сознание или нет. Человеческая культура (религия, фольклор, литература) полна антагонистов человека, у которых (по умолчанию) есть сознание, но это никак не меняет того, что они – антагонисты человека. Искусственный интеллект – антагонист человека, и нам должно быть безразлично, есть ли у него сознание.

Так почему всё ощущается таким безрадостным?

«У меня для вас радостная новость! – с ходу заявил бодрый голос в трубке. – По вашей улице прокладывают новый кабель, и вы сможете подключиться к более быстрому интернету!» Заминка была в том, что я вовсе не хотела подключаться к более быстрому (и более дорогостоящему, но об этом с ходу не заявлялось) интернету. Меня совершенно устраивал не очень быстрый и без того уже подорожавший интернет. Мне преподносили как радостную новость то, о чём я не просила, в чём не нуждалась, и что принесло бы не радость, а дополнительные расходы. Следующим шагом это будет уже не предложение, а принуждение, «мы обрадуем вас помимо вашей воли».

Why does everything feel so joyless? Ещё и поэтому. Людям навязывают нечто ошеломительное, оставляющее их беспомощными, заставляющее чувствовать себя слабыми (слабыми без ИИ). Сперва это представляется как удобство, сперва это может быть почти бесплатно – потом это очень даже платно, а вы уже не можете без этого существовать. Или думаете, что не можете. Философ Гюнтер Андерс считал, что технологический прогресс подтолкнёт людей к тому, чтобы у них выработалось что-то вроде презрения к самим себе, к неуклюжести своих тел. Что люди постепенно начнут стыдиться того, что являются плодом «слепого, нерассчитанного, архаичного процесса размножения», а не выверенного замысла, как машины. Андерс предсказывал, что запуганные люди не найдут в себе сил восстать против унижающих их предметов, а вознамерятся походить на них. Они захотят стать меньше людьми и больше – оптимизированными машинами.

Нет ничего удивительного в том, что превращение в машину должно начаться с сознания. Именно сознание затягивается виртуальной воронкой. Люди способны забывать о еде – или потреблять еду, не обращая внимания на её качество, – когда их мозг утоплен в легко воспринимаемых впечатлениях. И это изобилие входит в привычку, в потребность – но мало приносит радости.

Уролог-андролог Дмитрий Биленко считает, что проблемы с мужской потенцией могут провоцироваться дофаминовым истощением. Диагноз «цифровая импотенция» ставится всё чаще: «В эпоху бесконечного скроллинга коротких видео центр удовольствия в мозге перегружен. Дешёвый, быстрый дофамин от социальных сетей и гаджетов приводит к тому, что реальные физические стимулы, включая секс, перестают вызывать должный отклик. В результате у мужчины развивается так называемая "цифровая импотенция"».
Подобное писал Филип Зимбардо о потреблении порнографии (книга «Man Disconnected: How technology has sabotaged what it means to be male and what can be done»). Но это не только про мужчин и не только про секс. Вообще, привыкшему к легко достающемуся изобилию человеку это изобилие больше не приносит радости. Детей стало трудно занять обычными, невиртуальными игрушками – красивыми, замечательными, всегда теперь доступными, но такими, с которыми нужно самому придумывать, как играть. Потребительское отношение, когда вещь может надеваться или использоваться пару раз и больше не нужна, – стало обычным. С некоторых пор, и особенно со времён ковидопандемии, за желаемой вещью даже не надо выходить из дома, и уж точно не надо её искать – только пальцем водить по экрану и тыкать на «купить» (впрочем, это тоже может делать искусственный интеллект).

Снятие усилий для получения радости вызывает привыкание, начинает восприниматься как само собой разумеющееся, – но мало приносит радости. Люди больше не чувствуют, что они потрудились, и что их труд по справедливости вознаграждён. Так размывается само чувство справедливости и гармонии.

Многие скажут, что это прекрасно и великолепно. Что это удобно и прогресс. Что так и должны жить цивилизованные люди, а не дикари в пещерах. Что уровень жизни должен расти непрестанно. Что рынок всё сам отрегулирует.
Но в обещанное Маском изумительное изобилие (amazing abundance) и в «вечную» восходящую спираль человеческих нужд и желаний Андриссена встроен маленький невзрачный естественный ограничитель. Скучный и властный ограничитель, равнодушный к жажде прогресса: спираль потребления не может расти «вечно», потому что под грузом легко удовлетворяемых потребностей люди ломаются. И быстро. Потребляют – да, хотят – да, «уже не могут без этого» – да. Радость обретения, ценность достижения, подпитка жизненной энергией – нет. «Это – игла», как говорит академик РАН, научный руководитель Национального центра физики и математики Александр Сергеев.

Главная, бесконечно повторяемая похвала в адрес искусственного интеллекта – то, что он «может очень много всего очень быстро». Это и есть залог того, что он причинит нам amazing abundance. Но людям не нужно очень много всего очень быстро. Не-нуж-но. Это утомляет, это не приносит радости, это рождает фрустрацию и причиняет нездоровье.

Своеобразная стихийная справедливость явлена в том, что под грузом легко удовлетворяемых потребностей так же ломаются и чрезвычайно богатые, облечённые властью люди. Правители начинают верить в свою непогрешимость, становясь посмешищем. Поскольку мы не в сказке, мальчик, который закричал бы «а король-то голый!», - не появляется, и для того, чтобы вполне убедиться, каков король, приходится ждать естественного конца. Сверхмиллиардеры, которые могут купить всё, в том числе правителей, всё равно чувствуют, что им чего-то не хватает, и придумывают себе уникальную миссию, и в этой уникальной миссии, наконец, слетают с катушек. Единственная причина, почему это трудно сразу заметить (и даже не заметить, а поверить глазам своим, что видишь именно это), – их богатство и власть. Это риторика «если ты умный, то почему бедный?» навыворот: «раз он так богат, не может быть, чтоб он делал катастрофические глупости». Может, может. И утрата чувства реальности из-за своего могущества – одна из причин тому.

Одному из богатейших людей планеты, главе Nvidia Дженсену Хуангу (Nvidia – компания, которая сделала искусственный интеллект технически возможным), недавно озвучили результаты китайского исследования 26000 учащихся, которые использовали искусственный интеллект и стали, правда, работать быстрее, но хуже самостоятельно соображать, у них ухудшилась память. Хуанг – наперсник Дональда Трампа в вопросах ИИ – с этим не спорил. Взамен того он сказал, что и сам не помнит, например, собственный домашний адрес и номер телефона – ну и что? Зато он с искусственным интеллектом лучше МЫСЛИТ СИСТЕМНО.
В другой раз Хуанг рассказал, что ничто другое не доставляет ему такой радости, как накидать вопросов «Клоду» и за три минуты получить «исследование», над которым раньше он бы провёл день. «Вы быстрее становитесь более умным», - порадовался глава «Nvidia».

Разумеется, это чушь. Человек не становится умнее, прочитав отчёт «Клода» или статью из «Википедии». Он становится умнее (хотя бы – лучше разбирающимся в информации), написав отчёт. Богатейшие и могущественнейшие магнаты планеты бросают людям в лицо наглые фальсификации. Мы не решаемся сказать об этом прямо, избегаем верить разуму своему, и оттого ощущение безрадостности и гнетущего ожидания ещё сильнее перевешивает благие посулы. Трудно радоваться обещанию попадания в страну изобилия, когда туда увлекают люди не то что непорядочные (тут некоторые могут успокаивать себя тем, что обманут других, не их), а прямо лишённые хотя бы здравого смысла. Это не могло быть возможно в мире вещей – но в мире фальсификаций стало возможно.

Итак, безрадостность положения, в которое загоняют человечество под предлогом удовлетворения всех и всяческих нужд, имеет ряд причин на всех уровнях – от психофизиологической изнурённости изобилием до инстинктивного чувства надвинувшейся опасности, от презрения к человеческой природе до воспитания в людях беспомощности и лишения их смысла жизни. Всё-таки у человека для душевного здоровья должно быть что-то, чего он не может получить. Должно быть то, перед чем надобно испытать смирение. Очень часто говорят, что это должен быть Бог.

Пустота на месте Бога

Отчасти это формулировка Илона Маска. Он написал: «Атеизм оставил пустое место. Его заняла секулярная религия». Вот это всё – бесконечные восходящие спирали, универсальные решатели, изумительное изобилие, новые эволюционные сущности – катехизис секулярной религии. Сверхинтеллект и ангелы его – то бишь агенты. Сколько агентов поместятся на кончике иглы?.. И, конечно, P(doom) на месте Апокалипсиса.

Бессмертие в этой новой религии – точно так же краеугольный камень всего учения. «Дети разума» Ханса Моравека – излюбленная книжка Кремниевой долины. Там действительно верят, что культурная эволюция взяла верх над биологической и что личность человека может быть оцифрована. А будучи оцифрована – существовать вечно. Ну, пусть «квази-вечно», как сказал бы Маск. Квази их устраивает. И, слившись с машинами, люди наконец перестанут быть устарелыми.

«Это время особой гордыни, которая может захватывать человеческое сознание. И эта гордыня чаще всего отвергает Бога», - сказал патриарх Русской Православной Церкви Кирилл о XXI веке. Папа Лев XIV посвятил искусственному интеллекту свою первую энциклику. В ней прорезаются ноты, показывающие осведомлённость понтифика. Например: «Ещё более опасна всепроникающая технократическая парадигма, в которую мы погружены и которая усиливается цифровой революцией и искусственным интеллектом, угрожает нормализовать античеловеческое мировоззрение. Согласно этому видению, полнота жизни приравнивается к обладанию большим, уменьшению слабости, устранению неуверенности и осуществлению полного контроля. Когда эффективность становится высшим критерием ценности, люди склонны рассматривать себя как проект, который необходимо оптимизировать, а не как личности, призванные к взаимоотношениям и общению».
Это очень верно. Папа действительно поработал с материалом. Но в целом его послание – это попытка балансирования и урезонивания, когда давно нужна активная борьба. Он говорит о «возможности» и «рисках» там, где всё уже прёт наружу. А ведь когда у вас на грядке щёткой встают сорняки, вы не говорите «есть риск, что они вырастут и будут душить урожай» - вы знаете, что без активного вмешательства это непременно так и произойдёт.

И в то самое время, как римский первосвященник представлял миру свою энциклику, рядом с ним находился сооснователь «Антропик» Крис Ола. Как бы показывая, что эти предостережения не про нас. Хотя «Антропик» - ровно такая же технократическая парадигма и низведение человека к домашнему животному, достаточно прочитать «Отрочество технологии».

Вот вопрос не только созерцательный, но и практический: спасает ли христианское мировоззрение от воцарения технократии? (Не рассматриваю другие мировые религии, поскольку знаю их хуже христианства, но учитывая, что Китай и Индия, Израиль и ОАЭ в первых рядах внедрения искусственного интеллекта, разница незначительна.) С одной стороны, это должно быть так: раз есть вера в Бога – значит, нет пустого места, которое мог бы занять сверхинтеллект. Если человек верит в достижение бессмертия одним способом, его не заинтересует достижение бессмертия другим способом. Если человек верит, что всё в руках Божиих, – его не должен заинтересовать универсальный решатель проблем.

Конечно, есть частные случаи, вроде Питера Тиля, который захвачен «радикальной трансформацией человеческого тела в бессмертное тело», при этом активно старается сочетать христианство и технократию и не проводит ни одного публичного выступления без предостережения против Антихриста (Антихрист Тиля – это демон в человечьем обличье, несущий стагнацию). Но, может быть, это случайная девиация?

Не совсем. Хотя христианское мировоззрение действительно удовлетворяет многие объективно существующие человеческие потребности и иногда (не всегда) поднимает уровень скептицизма в отношении к технологии, оно также оставляет ряд лазеек – или, может быть, лучше сказать «валентностей», - с которыми совместимы концепции технократии.

Израильский историк Юваль Ной Харари видит такую лазейку в том, что мировые религии строятся на текстах. Эти тексты искусственный интеллект оприходует очень быстро. Раввин не может досконально знать весь Талмуд и все его интерпретации – но искусственный интеллект может. В толковании Талмуда он превзойдёт раввина. Уже прямо сейчас некоторые священники, в том числе христианские, пишут проповеди посредством искусственного интеллекта. Это сказывается и на проповедях, и на самих священниках.

Но вот вопрос: почему они это делают? Не «зачем» - зачем понятно, так быстрее и легче. А почему. Дело как раз в том, что религия не даёт иммунитета к технократии. Она прививает убеждение, что всё от Бога и в руках Божиих, но при определённом угле зрения технократическая мечта удовлетворить все потребности и улучшить человеческую природу – это всего лишь реализация Божественного огня. «Нам нужно большее, потому что Бог создал нас такими, жаждущими большего». «Нам нужно творить по образу и подобию своему, потому что Бог нас сотворил по образу и подобию своему». В таком ключе гордыня – лишь развитие Божественного замысла.

Вот, например, глава Пентагона Пит Хегсет. На груди у него вытатуирован крест крестоносцев, на руке – их девиз «Так хочет Бог». Он написал книжку «Американский крестовый поход: наша борьба за свою свободу». Он верует, что «только Христос — Царь, наш Господь и Спаситель. Наши грехи смыты Кровью Иисуса. Бойтесь Бога и не бойтесь никого».
Разве не замечательно? А ведь всё это выливается в истовую веру, что США должны «достичь технологического и военного доминирования на поле боя на десятилетия вперёд». И сделать это можно только посредством искусственного интеллекта. И в Пентагон Хегсета вводится Илон Маск.

Могут сказать, что это было до Хегсета, и было бы без Хегсета; скорей всего, было бы и при "атеистах-демократах". Да, наверняка, было бы и при "атеистах-демократах". Хегсет – лицо заменяемое, необязательное. «Ястреб» может быть и без креста на груди. Однако получается так, что вера и богобоязненность не спасают от эскалации технократии. Она просто проникает в другую дверь, через другие каналы. Великая гордыня может скрываться не только за миссией создания универсального решателя, но и за верой «так хочет Бог», «Бог именно с нами». А вера в Апокалипсис сопровождается примерно следующим построением: "да, люди испортились, мир испортился, но ведь так и было предсказано, грядёт второе пришествие, тогда-то Бог сам и рассудит". В русле этих рассуждений пытаться воспрепятствовать Апокалипсису – уже было бы гордыней и сопротивлением Божественному замыслу.

Тут ещё следует сказать о теории жизни в симуляции. Её продвигает, например, Роман Ямпольский – большой противник суперинтеллекта, но большой поклонник «узких инструментов ИИ», которыми он охотно и активно пользуется и даже пропагандирует их. Поскольку Ямпольский – специалист по компьютерной безопасности, он понимает, что бесконечно контролировать суперинтеллект невозможно (по определению: невозможно), и раньше ли, позже ли – но это неминуемо обернётся катастрофой. Это знание, в котором много печали. Для хотя бы некоторого душевного успокоения Ямпольский прибегает к идее жизни в симуляции: мол, по теории вероятности, трудно предположить, что мы живём в «настоящем мире», скорее всего – в одной из симуляций, и когда наша симуляция накроется медным тазом – другие останутся.

Я понимаю, откуда это идёт: Ямпольский день-деньской наблюдает различные симуляции в своём компьютере. Он с головой окунулся в этот метафорический ряд. В итоге сама жизнь становится для него симуляцией. Интересно другое: этот взгляд атеиста мало чем отличается от взгляда религиозного. В конце концов, в религиозном мировоззрении тоже высший разум наблюдает за существованием человечества в мире, созданном этим высшим разумом по своим параметрам. И хотя для религиозного сознания конец света – не то же самое, что конец симуляции для Ямпольского, но оба этих построения призваны делать одно и то же: ослаблять беспокойство и облегчать ответственность.

Так получается, что вера в Бога заполняет пустоту – да, препятствует раскручиванию спирали технократии – нет. Не препятствует.

Спираль

Спираль – удачный символ. Хотя и не в том смысле, в каком планировал Андриссен. Спираль может быть не только восходящей, но и нисходящей. Она может быть водоворотом. Она может быть смерчем. На картине Джона Стюарта Карри «Торнадо над Канзасом» испуганная семья с четырьмя детьми и домашними животными спешит укрыться в погребе от гигантской природной воронки. Технократическая воронка куда мощнее, погреб не спасёт, и миллиардеры в последнее время полюбили строить бункеры. А для народа победнее, не могущего позволить себе настоящий бункер, предлагаются виртуальные «постапокалиптические стратегии про выживание в бункере». Так что населению в ожидании Апокалипсиса есть чем себя занять: в компьютерные игры теперь играют больше людей, чем не играют.

Спираль может быть также противозачаточная. Буквально то, что препятствует человеческому оплодотворению и воспроизводству и не может быть удалено самостоятельно. В Гренландии, например, их устанавливали женщинам (девушкам, девочкам) принудительно и без их ведома. Врачи были цивилизованные датчане, а девушки – малограмотные инуитки, которым (с точки зрения Цивилизации) не надо было размножаться. Хотя, конечно, это может быть и самостоятельным цивилизованным выбором для удовольствия без ответственности. В общем, как ни посмотри – удачный символ.

Больше того: в англоязычных СМИ об ИИ-агентах пишут, что они «spiraling out of control». Что тоже намекает. Но интересен сам принцип действия спирали/воронки, в которую мы попали. За счёт чего она закручивается. Андриссен считает, что это растущие хотенья и нужды, которые бесконечно удовлетворяются технологиями. Я думаю, что спиралей несколько, и выглядят они иначе.

Глобально это прежде всего спираль задолженности. Привычка жить в долг. Гораздо раньше, чем хотенья удовлетворяются технологиями, они закидываются кредитами. На жильё – это, допустим, понятно. Но так же и на машину. На дачу. На мебель. На путешествия. На то, чтобы с размахом справить свадьбу. В конце концов – просто кредиты, потому что зарплаты не хватает до следующей зарплаты. Так закручивается спираль жизни в долг. И не просто у рядового гражданина Иванова, или Смита, или Чжоу. Так выглядит сегодня «реальная политика». Так живут самые авторитетные государства планеты. На которые принято смотреть с пиететом. Которые стремятся «достичь технологического и военного доминирования на поле боя на десятилетия вперёд». Они живут с колоссальным накопленным долгом, который не могут выплатить, который постоянно пожирает ресурсы и при этом растёт. И вот, гражданину Смиту – или правителям государства Х – говорят, что их ожидает amazing abundance. Это считывается как «не придётся платить по счетам».

Поверит ли в это гражданин Смит – ещё вопрос. Он, с одной стороны, очень хочет верить. С другой стороны, его уже не раз обманывали. Так что Смит может колебаться, взвешивать, хотеть сначала удостовериться – а точно abundance? Не очередное фуфло? Но правители поверят непременно. Во-первых, учитывая, как давно ответственность власти в цивилизованных странах стала пустым звуком, они не усмотрят для себя персонального риска. А во-вторых, у них и выбора больше нет – правильнее сказать, лёгкого выбора нет у них. Всё остальное труднее, движение против течения, принятие на себя ответственности (тогда-то, когда именно ты против течения, ответственность и обнаруживается).

Затем это, конечно, спираль военная. В России, где госдолг пока ещё гораздо меньше, зато военная нужда гораздо больше, – эта причина первая. «Мы не можем себе позволить не внедрять цифровые технологии скорей-скорей, не то нас сомнут». Однако внедряются они далеко не только в военную сферу. Нет – везде, во всё. Так что положение наше ничем не лучше, мы затянуты в ту же воронку цифрового энтузиазма так же плотно.

И точно так же, как в экономике искусственный интеллект создаёт не abundance, а ещё большие долги (не только финансовые), военно-политический искусственный интеллект создаёт крайне опасный, ожесточённый и зарегулированный мир, которого – предполагаю я – никто из нас не желал для своих детей. Мы хотели не этого, но именно это сделали, когда перестали соизмерять свои хотенья с реальностью. И когда люди, совершавшие самые большие по последствиям ошибки, не несли ответственности за эти ошибки.

Впрочем, всё это менее важно, чем третья воронка: отказ человека от собственной ценности. Вот как это выглядит: искусственный интеллект тренируется выполнять лучше людей множество функций. Буквально всё, что только может прийти в голову, вплоть до того, что распознавать человеческие эмоции он должен лучше, чем человек. Получаются мириады «узких ИИ-инструментов», которые, конечно же, надо внедрять – ведь «это прогресс» и мы создаём «новую среду», «новый технологический уклад», и только от этого может хотя бы теоретически наступить положительная отдача. Мириады того, что раньше никто не умел делать лучше человека, а теперь – может. Если скажут, например, что искусственный интеллект не сможет лучше человека испытывать эмоции – то для массового внедрения достаточно будет того, что он очень хорошо сумеет симулировать эмоции.

Специфический изъян нашего положения заключается в глубоком внутреннем расколе. Мы хотим поиметь хорошее от очень плохого. Когда Роман Ямпольский сражается против суперинтеллекта и замещения человечества (replacement of humanity) – а делает он это искренне, умело и доблестно, – он герой. Но он подрывает собственные и без того невеликие позиции, когда пропагандирует «узкие ИИ-инструменты». «Узкие ИИ-инструменты» влекут за собой суперинтеллект со всей неизбежностью. Ведь «супер» не абсолютно – оно проявляется в соизмерении с «недо». Мы – суперинтеллект по сравнению с шимпанзе. Мы столько всего можем делать гораздо лучше, чем шимпанзе, и именно из этого складывается наше «супер» в отношении них. Теперь же мы тащим в свою жизнь то, что может делать многое (в перспективе – сколь угодно многое) лучше нас, и тем самым превращаемся в «недо» рядом с «супер». Это и есть replacement of humanity, это ТАК делается. Если «супер» в данном процессе выйдет из-под контроля «недо» – это будет не диво, и какого-то особенного сознания ему для этого не нужно. Достаточно будет зачатков целеполагания, масштабного внедрения и несравненно большей мощности и скорости по сравнению с «недо».

Единственное, абсолютно единственное, что можно делать, – не внедрять, не использовать. Осознанно отказаться от этого «прогресса». А поскольку для многих отказ от «прогресса» кажется противоестественным – нам придётся переосмыслить само понятие «прогресс».

***

Мне иногда говорят: «Ну, мы должны понять, в чём мы лучше искусственного интеллекта. Нащупать что-то такое, где он нас не заменит». И меня всегда крайне удручают эти разговоры, потому что они подразумевают, что мы имеем право на самозащиту лишь в силу какой-то особой своей ценности. И даже не на самозащиту, а на некую экологическую нишу, в которой должны окуклиться. А если особой ценности в себе не обнаружим – добро пожаловать, «новый интеллектуальный вид»!

Это – глубоко неправильно. Вам не нужно быть «лучше» для права на самозащиту. Люди должны солидаризоваться с человеческим родом, а не с искусственным интеллектом, даже в том случае, если ИИ – «лучше». Иное – предательство.

Бернард Як в книге «Национализм и моральная психология сообщества» писал: «Ассоциирование народа с нацией придаёт последней историческую глубину, какой она никогда не сможет достичь самостоятельно. Ведь эта глубина помогает вообразить, что группа, учреждающая легитимную политическую власть, простирается во времени вперёд и назад, что она является получателем наследства из прошлого и защитником тех, кто придёт после нас в будущем».
Это очень верно, но в свете наступившего – недостаточно. Мы имеем уже сейчас глобального антагониста человеческого рода, какого прежде никогда не бывало, и «группой, учреждающей легитимную власть», «получателем наследства из прошлого» и «защитником тех, кто придёт после нас» придётся выступить человечеству в целом. Это не вопрос хотения – это вопрос выживания.

Самоистребление и как им не заниматься

Но, может быть, будет не так? Ведь Сэм Альтман в конце 2017 года писал про слияние с искусственным интеллектом, когда человечество (ну, или избранные народы) составит с ним «единую команду». Может, вот так оно всё и решится: ИИ – не антагонист человеческого рода, а новая эволюционная ветвь, оцифровка человека, которая на самом деле выведет его в бесконечную спираль, ныне для человека невыносимую…

Я знаю, что этого не будет. Уже хотя бы потому, что тогда же Альтман пишет: «Вычислительное оборудование совершенствуется экспоненциально… и число умных людей, работающих с ИИ, тоже растёт экспоненциально. Эта двойная экспонента быстро ускользнёт от вас». Но число умных людей, работающих с ИИ, больше не растёт. В 2017-м – да. Сейчас – нет. Люди уже начали ломаться. Программисты, подсаживающиеся на написание кода искусственным интеллектом, утрачивают способность понимать код. Из OpenAI уходят люди, подавленные ненормальностью разработки. В обучении искусственного интеллекта растёт не число умных, а число несчастных – тех, кто делает это с чувством безысходности, понимая, что роет могилу собственной профессии. Экспонента ускользает – это правда, но она ускользает от людей, без людей.

Люди, кроме того, что они физически медленные, могут колебаться «с одной стороны» и «с другой стороны» - но искусственный интеллект прямо нацелен на принятие решений. Это его «породная» черта, как собак отбирают по упорству и готовности к службе либо преследованию зверя во что бы то ни стало. Но собаки отняли у людей сомнительное удовольствие лезть в тесную нору, бегать за овцами и не спать по ночам, охраняя дом. Искусственный интеллект отъедает именно то, что делает нас людьми. В сущности, люди предали самих себя, когда начали создавать то, что замещает их уникальные человеческие функции и качества, аргументируя тем, что это удобно и эффективно. Да – удобно, да – эффективно. Но этого ни в коем случае не следовало делать всё равно. Есть мрачнейший символизм в том, что в замещение человека вкладывается столько денег, сколько не вкладывалось никогда и ни во что за всю человеческую историю.

Тогда, может быть, сейчас слишком поздно? Все эти разговоры про джинна, который уже выпущен из бутылки. Типа «может быть, вы теоретически правы, Татьяна, но сейчас уже ничего не поделаешь»?

Во-первых, следует начать с того, чтобы перестать хотеть хорошего от очень плохого. Львиная доля мощи «джинна» происходит не от того, что он явился в мир, а от того, что его всячески размножают и суют в каждый уголок человеческой жизни. Начать следует с того, что джинн – это очень плохо. Даже если мы его используем – мы делаем это от отчаяния. Что, кстати, так и есть: искусственный интеллект используется от отчаяния, от неспособности собственным человеческим разумом совладать с усложняющимся миром. И там, где раньше человек имел мотивацию расти над собой, превзойти самого себя, – теперь он просто передаёт задачу искусственному интеллекту. Это не прогресс – это тупик, и надо проговаривать прямо: мы используем это очень плохое не потому, что оно хорошо, не потому, что мы молодцы, а потому, что мы в отчаянии, бессильны, сдаёмся. Тогда, по крайней мере, будут чётко высвечиваться сферы, где плохое использовать стыдно. Использовать искусственный интеллект должно быть ещё более стыдно, чем здоровому ходить с клюкой. И тогда то, что ухудшает человеческое качество, перестанут называть прогрессом. И цифровизация – то есть создание среды, где искусственный интеллект имеет заведомое преимущество перед человеком, – будет не нарастать, а уменьшаться. Мы должны её уменьшать. Мы должны вкладываться и растить среду, где мы имеем преимущество.

Затвердить навсегда, как заповедь, фундаментальную особенность этой, именно этой технологии: чем искусственный интеллект лучше – тем для людей хуже. До всякого «выхода из-под контроля», уже прямо сейчас. Если мы сделаем это, если выработаем, распространим, усвоим отношение к искусственному интеллекту как к очень плохому – джинна удастся пусть не загнать в бутылку, но уменьшить до сопоставимых с нею размеров.
Если же мы не сделаем этого… то и тогда останутся ограничения среды.

***

Есть очень ограниченная рамка условий, в которых могут жить люди – не кратковременно находиться, а именно жить. Люди ползут на Эверест мимо цепочки трупов, чтобы пробыть на вершине пару минут, сделать несколько снимков, развернуть флаг, – и тут же спешат вниз. Люди спускаются в Марианский жёлоб в батискафе, берут пробы и поднимаются наверх. Люди строят станции в Антарктиде, но только для работы. Условия жизни на Крайнем Севере исчерпывающе показывают пределы человеческих возможностей. В пустыне Сахара люди ищут оазисы. И на МКС люди терпят травмирующее, крайне стеснённое существование, не только исследуя, но сами будучи объектами исследования. Разговоры, что человечество будет жить на Луне, на Марсе, в других галактиках, могут кому-то показаться не безумными, а дерзновенными и вдохновенными – допустим. Но как только в эти разговоры вплетается посыл (посул), что Луна, Марс, галактики – «запасной вариант» на случай, если что-то стрясётся с Землёй, – тогда они уже и откровенно безумны, и крайне опасны. Потому что случиться с Землёй нечто фатальное может быстрее всего именно человеческими действиями, извращённой расстановкой приоритетов, бездумным пренебрежением реальными ограничениями – в том числе нашего собственного разума и человеческого естества, разбазариванием ресурсов нашего прекрасного, нашего сокровенного обиталища в обмен на идею «колонизации Марса» и цифрового бессмертия.

Говорят, что искусственный интеллект как раз и призван снять ограничения. Человеческий интеллект не может объять колонизацию космоса – а искусственный сможет. Человек не может жить в космосе – но киборг сможет. Человеческая природа останется на изгаженной Земле, зато оцифрованный разум Илона Маска полетит к звёздам!..

Это не будет так. Ограничения среды лежат гораздо ближе, и мы гораздо уязвимее к ним, чем это закладывается в бравурные планы.
Мы планируем запустить в космос ещё сто тысяч спутников, «космические дата-центры» и строить базу на Луне – а между тем с уже имеющимся гораздо меньшим количеством спутников и гораздо более скромной космической деятельностью ближний космос забит мусором, и никто не знает, что с ним делать. Последствия этого мусора могут быть разнообразны, и нам очень повезёт, если он просто закроет для нас космические вылазки и не будет влиять на магнитное поле Земли.

Мы вливаем в строительство чрезвычайно энергоёмкой инфраструктуры для искусственного интеллекта такие средства, какие не тратились никогда ни на что в истории человечества (и это – живя в долг!), но начинаем страдать от повышения температуры Земли на полтора градуса и располагаем целым спектром катастрофических сценариев, что будет, если она повысится на три. Или понизится на три. Дело в том, что всей тонко настроенной сложной урбанистической сфере, в которой существует современный человек (и в которую внедряется искусственный интеллект), при самом щедром допущении, немногим больше ста лет. Она не проходила проверку никакими глобальными катаклизмами, а в локальных всегда проигрывала. Она зависит от очень узкой рамки условий, в расчёте на которую её строили.

Наша техноцивилизация – не битва, выигранная у природы. В ракурсе медлительности природных процессов, она ничто. Вулканологи в ужасе от вероятности извержения супервулкана Йеллоустоун – а оно может произойти и через год, и через тридцать тысяч лет. Для нас это бесконечно огромный срок, как «вечность» и «никогда», а для вулкана просто цикл существования.
И, не умея рассчитать это земное, мы рассчитываем «колонизировать космос»…

Физик, космолог, соучредитель и генеральный директор Института будущего жизни Энтони Агирре – большой противник сильного искусственного интеллекта, – рассуждая о современных технологиях, сказал как-то, что если человечество будет продолжать в том же духе, «через пятьсот лет может не быть Луны». Может быть, он имел в виду, что человечество растащит её на ресурсы, но меня поразило совсем другое: то, что человек, говоря об исчезновении Луны, не задумывается, прежде всего, о том, как это скажется на Земле задолго до того, как Луна исчезнет. Всем космосценариям нашего времени – бравурным, как у Илона Маска или «Роскосмоса», или настороженным, как у Агирре, – остро не хватает осознания их влияния на земную среду обитания. Единственную, в которой может жить человек. И которая грозно проявит себя задолго до того, как люди с искусственным интеллектом умудрятся что-то в космосе «колонизировать».

«Суперинтеллект» действительно задумывался как орудие, преодолевающее земные и человеческие ограничения. То, что ему удаётся их проламывать, – мы видим уже сейчас. Разве раньше мы позволили бы заключать всё существование человечества в рамку технологии, которая с высокой вероятностью может его погубить, и это признают сами её создатели? Мы не позволили бы этого. Так что да: искусственному интеллекту уже успешно удалось проломить нашу осторожность, наше стремление к автономности, нашу человеческую гордость собственным разумом, наше жизнелюбие. Это, однако, не значит, что ИИ будет работать «как запланировано». Нет, не будет. Уже хотя бы потому, что при его планировании ограничения учитывались лишь как то, над чем нужно вознестись, – и никогда как то, перед чем нужно смириться.

Заключение

Иногда я уезжаю далеко в лес, куда машина добирается долго по узкой и ухабистой просёлочной дороге, к которой с обеих сторон стеной подступают деревья. Я сажусь где-нибудь, слушаю, как шумят кроны, дышу хвойной благодатью, читаю «Детство» Бунина. В этом году я видела в лесу трёх косуль в двадцати метрах и лисицу – в десяти. И двух ужей, которые вылезли из травы на дорогу погреться на солнце и были раздавлены проехавшей машиной. Которая, конечно, не имела намерения их давить, а просто была мощнее и быстрее разомлевших ужей, и они просто не имели значения. Один уж был ещё жив и умирал у меня на глазах, разевая пасть. И я думала о том, что этот лесной мир, при всей его кажущейся хрупкости, был задолго до человека и будет после. Уничтожить его легко – и всё же намного труднее, чем себя. Но, может быть, нам всё-таки удастся не пресечь судьбу человечества.

***

По прочтении этой статьи кому-то может показаться, что я пессимистична. На деле это не так: я отчаянно оптимистична. Источник моего оптимизма отчаяния – вера в ограничения среды. Я верю – не знаю наверняка, но очень крепко надеюсь, – что хрупкая оболочка нашей среды обитания затрещит раньше, чем мы проломим её окончательно. Что у нас будет даже не столько шанс – ибо свободным шансом мы, скорее всего, не воспользуемся, – сколько вынуждение человечества к смирению и со-трудничеству. От которого мы не сможем отказаться. И тогда у нас появится шанс.
Однако надеясь на это вынуждение к спасению, я считаю необходимым делать всё возможное для спасения добровольного и менее катастрофического. И этим делаю выбор в пользу человека разумного.

Татьяна Шабаева
Сентябрь-октябрь 2026 г.