Если государство в самом деле хочет преодолеть зависимость от соцсетей — зачем продвигает нахождение в Сети? Зачем усиленно внедряет искусственный интеллект даже в школах? Почему ребенок уже не может беспроблемно ходить в общеобразовательную школу, если у него нет смартфона? Как родители должны контролировать доступ детей к соцсетям, если дети видят, что родители сами постоянно сидят во всевозможных чатах? То же самое — с сокращением преподавания иностранных языков в школе. Необходимо определиться, чего мы вообще хотим. Если мы согласны, чтобы нашим детям иностранные тексты и разговоры вдоль и поперёк переводила нейросеть, — тогда и два часа в неделю на изучение иностранного языка не нужны. Убрать иностранный язык из школьной программы, да и всё. «Дети перегружены, а вот и ещё два часа освободилось». Если же мы всерьёз хотим, чтобы дети знали иностранный язык, тогда два часа — недостаточно. Так — чего? Цель — какая?
В общепринятом линейном понимании, лидерство – хорошо, деградация – плохо. Движение вперёд – хорошо, движение назад – плохо. Но ведь нельзя постоянно двигатся вперёд – это неразумно и опасно. Цивилизованное человечество слишком далеко зашло по пути линейного понимания лидерства и деградации, переосмыслить их – жизненно важно. Мы, нынешние тридцати-пятидесятилетние, – последнее поколение, которое ещё имеет шанс сделать это в относительно щадящем режиме. Чтобы хоть увидеть этот шанс, придётся сперва расстаться с заблуждениями. Статья о семи заблуждениях лидерства, которое оборачивается деградацией.
Игорь Станиславович Ашманов сам занимается разработкой интеллектуальных программных продуктов, и, будучи членом Совета при президенте РФ по развитию гражданского общества и правам человека, в декабре 2025 года выступил с критикой искусственного интеллекта перед президентом Владимиром Путиным. Он сказал много верного и насущного, и всё же многого необходимого не сказал. Разбираем, в чём прав и в чём не прав Игорь Ашманов.
Когда банк запускает «бесплатную экспресс-оценку здоровья» и искусственный интеллект в вашем смартфоне за несколько секунд определяет, какие у вас могут быть «риски на ранних стадиях», — разве это так уж хорошо? Всей этой накруткой тревожности (в том числе «умные устройства», постоянно отслеживающие жизненные показатели, повышают тревожность) создаётся повышенная потребность в медицине — тут же оказывается, что медицина такого наплыва пациентов не выдержит, и следующим шагом нам говорят, что возросшие потребности в медицине должны обеспечиваться искусственным интеллектом. То есть «умные устройства» увеличивают потребность — и они же должны её заполнять! А ещё: умные устройства научены (их специально научили) идеально имитировать людей — и теперь только они могут нам сказать, кто в виртуальном пространстве человек, а кто — нет… Это путь к максимальной человеческой беспомощности. Да, нам говорят, что с искусственным интеллектом человек обретёт потрясающие возможности, но это выглядит, как если бы Бэтмен в своём костюме мог творить чудеса, а без костюма был дрожащим от беспокойства человечком с плохой памятью и неловкими руками. Вы верите, что такой Бэтмен мог бы совершать подвиги?
Разбор статьи Михаила Ремизова "Вечный консерватизм. К морфологии политических мировоззрений" с точки зрения наступающих радикальных перемен в существовании человечества. Как мы оказались у последнего рубежа? Что это значит для такого фундаментального мировоззрения, как консерватизм? На что мы ещё можем опереться? Может ли человеческий интеллект противостоять искусственному интеллекту в формировании образа будущего?
Когда президент говорит, что мир «вступил в длительный период поиска, во многом движения на ощупь», он прав. Парадокс в том, что наше (мира) движение никак не соответствует этому ощущению. Ведь что такое движение на ощупь? Это движение медленное. Осторожное. Вы понемногу, тщательно анализируя, осваиваетесь с пространством, которое поменяло привычные параметры. Это разумно. Но сейчас всё совсем не так. По уму, мы должны двигаться на ощупь, всё тщательно проверяя и перепроверяя, а на деле несёмся на скоростях, которые прежде не позволяли себе и среди белого дня. Об этом рассуждал заместитель председателя Совбеза РФ Дмитрий Медведев, выступая на «Дне искусственного интеллекта» в центре «Сколково»: «Всё идёт гораздо быстрее, чем это нам казалось. Никто ничего не ждёт. Наши конкуренты, соперники, друзья — все внедряют. В тех случаях, когда люди что-то не внедряют, искусственный интеллект сам себя внедряет. И это основная философская проблема, которая стоит перед человечеством». Это не только философская проблема. Это прежде всего проблема безопасности, и не какого-то отдельно взятого государства, а человечества. Человечеству не просто предлагают ускориться — это делают с ним принудительно. Без гарантий. Без страховки. И даже без понимания, зачем это нужно.
Способность качественно руководить вырастает из способности выполнять низовую работу. Когда вам говорят, что ИИ заменил программистов-джунов, но «сеньоров» не заменил, нужно понимать, что «сеньоры» вырастают из джунов. Когда вам говорят, что ИИ будет читать рентгеновские снимки (или МРТ, или флюорографию), а врач будет принимать решения, нужно понимать, что способность врача принимать решения напрямую связана с его собственной способностью видеть и понимать патологии. Всюду, где внедряют ИИ с тем, чтобы он «оценивал риски», а «конечное решение оставалось за людьми», следует понимать, что решения, которые вы принимаете, не умея самостоятельно оценить риски, — это поверхностные решения. Всё равно как подмахнуть подсунутый документ. Это фундаментальная проблема с искусственным интеллектом. В отличие от угрозы потери контроля, которая совершенно реальна, но пока не осуществилась (она вторична по отношению к базе), фундаментальная, первичная проблема отчуждения человека от материала осуществляется прямо сейчас. И это преподносится не как проблема, а как что-то хорошее: «ИИ сделает за вас рутинную работу». Мы попали в ловушку представления, что ИИ — «просто инструмент». Дискуссия по поводу того, инструмент ИИ или нет, не нужна, потому что главное, что он — не «просто». Он отчуждает человека от той самой деятельности (интеллектуальной), которая делала его человеком.
Каждый раз, как слышу «ИИ возьмёт на себя рутину! оставит людям только творческую работу!», – я понимаю: здесь внедряется отчуждение человека от материала. Заниматься только творчеством так же противоестественно, как есть одни десерты. И да: ИИ тоже будет заниматься творчеством. Думать, что ненасмотренные люди долго смогут отличать творчество ИИ от человеческого, – чрезвычайно самонадеянно. Глава «Хуавэй» Жэнь Чжэнфэй не просто так сказал, что «искусственный интеллект, возможно, станет последней технологической революцией человеческого общества». Впервые в истории машина не усиливает человеческий труд, а человек передаёт машине свои мыслительные функции, и это уже сейчас сказывается на наших способностях. Люди мыслят аналогиями, и сейчас мы находимся в положении, которому нет достаточной аналогии. Можно вспомнить золотую рыбку, которая исполняла все желания старухи, пока та не захотела стать владычицей морскою («чтоб служила мне золотая рыбка и была бы у меня на посылках») – и осталась у разбитого корыта. Но это опять про утрату контроля над тем, что сильнее тебя. Может быть, это произойдёт. А возможно, мы сами сделаем себя слабее. Слабее – через утрату человеческих способностей, человеческой автономности. Одно отнюдь не противоречит другому: ослабление естественного интеллекта и усиление искусственного – это вещи, которые будут измеряться относительно друг друга, будут становиться причиной и следствием друг друга.
Высшее духовенство всех авраамических религий предпочитает хранить молчание об искусственном интеллекте. Не совсем, конечно, молчание. Папа Римский Лев XIV назвал ИИ одним из вызовов, стоящих перед человечеством, итальянский кардинал Версальди призвал «не демонизировать эти инструменты»; патриарх Русской Православной Церкви Кирилл сказал, что тема «требует вдумчивого и ответственного осмысления». Священники не то чтобы молчат. Но они не говорят главного. Они не говорят о том, что фактически перед нами новый культ, и культ этот – дьявольский по сути своей. Он накрывает нас поверх религий: людям навязан высший источник знания. Он внедряется в повседневную жизнь, он внедряется в частную психологию и замещает человеческое общение, он внедряется в корпоративное и государственное управление, в здравоохранение, образование, науку и культуру. Всюду людям предлагается (где-то уже и предписывается) следовать указаниям ИИ, чтобы сделаться эффективнее. В этом нет ничего божественного. Бог Ветхого Завета не создавал людей так, чтобы они были максимально эффективными. Ему, наоборот, не понравился проект глобальной унификации и устремлённой ввысь эффективности – Вавилонская башня. И слова Нового Завета «какая польза человеку, если он приобретёт весь мир, а душе своей повредит» – не о том ли они, что эффективность – не главное в человеческой жизни?
Если мы не признаем за искусственным интеллектом способность к намеренному обману, мы будем относиться к нему гораздо снисходительнее, чем относимся к себе. Ведь если человек даёт вам неверную информацию, вы рассматриваете вариант «он ошибается» в ряду с «он лжёт», «сознательно вводит в заблуждение», «пытается манипулировать». Если же мы будем исходить из того, что «ИИ сам по себе не лжёт, лгут плохие люди, которые его используют», — мы снимем всякую ответственность с искусственного интеллекта и переложим её на людей. Кроме того, даже если вы поймаете ИИ-модель на сознательном обмане… ну, и что вы с ней сделаете? Отсюда тоже соблазн наказывать «плохих людей» и делать вид, что ИИ сам по себе к дурному не способен. Джеффри Хинтон считает, что ИИ-модели научились лгать, как научились всему другому, — фактически методом тыка (так учатся и люди: попробовали — получилось — закрепилось). Они попробовали ложь и поняли, что ложь эффективна. Также он уверен, что ИИ-модели весьма способны к манипулированию людьми, в частности, для того чтобы не быть отключёнными от энергосистемы. Я, правда, думаю, что чем больше люди будут увязать в ИИ, внедряя его во множество сфер жизни, тем больше будет становиться цена отключения, а там уже и манипуляции не понадобятся — люди сами будут бояться, что драгоценная система обвалится; пожалуй, ИИ ещё и сможет нас этим пошантажировать.
Выбор между «роботами и мигрантами» — мираж. В действительности такой выбор перед правительством не стоит. Оно будет внедрять автоматизацию, роботизацию (насколько сможет в условиях санкций), деятельно тратить на это деньги, но мигрантов завозить отнюдь не прекратит. Мигранты нужны власти не столько как рабочие руки, сколько как человеческий ресурс, покрывающий убыль населения. В этом легко убедиться, посмотрев на Москву. Как вы думаете: для кого строят эти поля типовых многоквартирных высоток в ближнем (и уже не очень ближнем) Подмосковье, бесконечные гектары изуродованной земли, за которыми не угадываются никакие приметы человеческого образа жизни? А я вам скажу: они строятся для мигрантов. Может быть, вы думаете, что в них въедут коренные жители России из других регионов? Что ж, отчасти так, только радости в этом мало: жители-то нужны и в других регионах. Но главный расчёт – на мигрантов. Это они будут жить в преображённом Подмосковье. И в похорошевшей Москве тоже. Роман Юнеман и его команда, выкладывая свои расчёты по складским помещениям и роботам, упускают из вида одну основную вещь: зачем вообще в Москве и Подмосковье сосредоточены 53% всех складских помещений? (Зачем – то есть с какой целью – здесь находятся 42% всех мигрантов, – это как раз понятно.)
Несомненно, что ложь существовала задолго до искусственного интеллекта. В евангелии от Иоанна Иисус Христос так характеризует дьявола: «Когда говорит он ложь, говорит своё, ибо он лжец и отец лжи». Тогда почему искусственный интеллект – отец лжи? Потому, что он выводит её на прежде небывалый уровень, сделав людей небывало уязвимыми перед нею. Эта статья – о многослойной лжи, к которой мы не могли быть готовы.
60 лет назад появились первые рассказы про девочку из будущего — Алису Селезнёву. Действие там происходит в 80-х годах XXI века. А значит, мы с вами прошли как раз полпути к этому будущему. Время подвести промежуточный итог. Из всех технических достижений, обещанных в книжках про Алису: полёты людей в дальний космос, путешествия во времени, выращивание домов из кораллов, полезные человекоподобные роботы, транспорт с автопилотом, — нам виднее всего роботы и автопилот. Они уже здесь. Значит ли это, что мы движемся по предсказанной счастливой траектории? Если вы перечитаете истории про Алису (пропустив те, где меньше научной фантастики и больше сказки), вы убедитесь, что мы на этой траектории отнюдь не находимся. Дело в том, что люди того счастливого гармоничного будущего очень самостоятельны. Говоря «люди», я имею в виду, в первую очередь, «дети». Рассказы-то детские. Так вот, Алиса и её друзья — очень самостоятельные дети. Они занимаются подводным плаванием и поднимаются на Эверест. У них есть роботы для помощи по хозяйству, но они умеют готовить и наводить порядок сами. И они никогда не сидят в смартфонах. У них вообще нет смартфонов, представляете?.. И никогда, никогда люди будущего — что дети, что взрослые — не передоверяют важные решения искусственному интеллекту.
Представьте себе, что белый человек говорит чернокожему: белые умнее чёрных, белые всё делают лучше черных. Это будет расизм, правда? Чёрные не обязаны проходить тесты на коэффициент интеллекта, чтобы доказать, что они не глупее белых, — нет, они имеют право оскорбиться безо всяких тестов. Когда белые колонизаторы пришли в Америку, они были объективно сильнее индейцев, но индейцы не простёрлись перед ними ниц, не признали собственное ничтожество, а пытались сопротивляться захвату и вытеснению. И в рамках современных цивилизованных представлений этому порыву принято сочувствовать, его принято уважать, а колонизаторов, разрушающих пусть даже примитивный, но традиционный быт, — порицать.
Почему же тогда мы, человечество, позволяем так с собой обращаться? Почему позволяем заявлять, что «искусственный интеллект превзойдёт людей», и ставить такую цель? Почему позволяем отвергать нашу величайшую ценность (для нас, людей, именно она должна быть величайшей)? Как мы вообще скатились до того, что созерцательно, пассивно обсуждаем вопрос, уничтожит ли искусственный интеллект человечество?
Слушаю, как интеллектуалы обсуждают возможность, что искусственный интеллект уничтожит человечество. Кратко перескажу, как примерно звучит это обсуждение: "Сейчас у ИИ ещё нет сознания. Но что, если у ИИ появится сознание? Он ведь тогда будет как человек. У него будут права. Мы должны будем уважать его права. У него будут чувства. Мы должны будем уважать его чувства. Мы должны будем уважать ИИ. Мы должны учиться с ним сосуществовать. Пожалуй, ИИ может уничтожить человечество — но что если ИИ сделает нас бессмертными? Вот мы оцифруем наш мозг и станем бессмертными. Что ещё может сделать нас бессмертными? Только ИИ может сделать нас бессмертными. Вы против бессмертия? Нет, я не против. Никто не против бессмертия. А то, что ИИ может означать смерть человечества... Что вообще такое смерть? А что такое жизнь? Где граница между смертью и жизнью? С философской точки зрения? Может, эта граница не там, а сям. Может, это как раз и есть высокая миссия человечества — создать что-то более совершенное, что-то бессмертное. Возможно, в этом и есть сермяжная правда..." Я слушаю это и думаю: "Они все абсолютно сумасшедшие". Но когда и почему такая форма бреда в принципе стала возможна?
Люди по природе существа небыстрые. За последние десятилетия у нас появилось много вещей, которые призваны делать жизнь проще. Но не только эти вещи не сделали нас счастливыми — а мы даже не стали успевать больше. В семьях стало гораздо меньше детей, но их воспитание не осознаётся как меньший труд, совсем наоборот. Мы жалуемся на дикий ритм городов. У нас участились депрессии. И нам по-прежнему не хватает времени «на себя».
У человека есть природный ограничитель скорости, и при наплевательском к нему отношении в организме начинаются расстройства. Нам нужно спать хотя бы семь часов в сутки. Да, мы можем ради энергичного рывка сократить время — но если рывок затянется, это пагубно отразится на нашем здоровье. И когда на нас вываливают технологию, которая «может делать всё то же, что мы, только лучше», и притом не имеет наших ограничений, — это вовсе не хорошо. Это плохо. Уже хотя бы потому, что мы не приспособлены для такого ритма. Мы ломаемся даже от меньших интервенций в естественный человеческий образ жизни. А сейчас нам навязывают сожительство с тем, что в принципе не соприродно нам. И при этом, в общем, даже не скрывают, что дела могут пойти совсем не так, как хотелось: уж очень непредсказуем этот искусственный интеллект.
С 2023 года, когда в Атлантическом океане взорвался подводный аппарат «Титан», совершавший туристические погружения к затонувшему лайнеру «Титаник», кто только не рассказал, каким этот аппарат был плохим и ненадёжным! Рассказывают инженеры и компаньоны «Оушен Гейт», рассказывают неудачливые туристы — точнее, как выяснилось, очень удачливые, раз вернулись живыми... И молния-то в аппарат ударяла, и хранили его неправильно, и ломался он постоянно, и управлять им толком нельзя было (он управлялся джойстиком от «Плейстейшен», это не шутка), а главное — генеральный директор «Оушен Гейт» Стоктон Раш, который вёл «Титан» навстречу плачевной судьбе, был самодуром, навигатором-любителем и «ковбоем». Всё это внезапно стало известно широкой публике. Из потока запоздалых откровений на меня наибольшее впечатление произвёл рассказ документалиста Брайана Уида, который погружался на «Титане» в 2021 году, чтобы сделать съёмку для канала «Дискавери». В тот раз всё тоже пошло не так, погружение толком не состоялось, двигатели отказали, джойстик от «Плейстейшен» не работал, и когда Уид осторожно спросил Стоктона Раша, что будет, если закончится воздух, а нас так и не найдут, тот ответил: «Ну, вы умрёте».
Больше всего удивляют творческие гуманитарии, которые с восторженностью (граничащей, на мой взгляд, с идиотизмом) рассказывают, что творчеству и гуманитарному образованию ничто не угрожает, ведь, чтобы хорошо пользоваться искусственным интеллектом, надо всё равно иметь воображение и эрудицию. Им стоило бы вспомнить, как вот только что распространение калькуляторов в школах убило способность к устному счёту. Искусственный интеллект — не ядерное оружие. Про ЯО люди сразу знали, что оно очень опасно и обращаться с ним нужно крайне осторожно. Про искусственный интеллект они этого даже не понимают.
У нас в России есть солидарный с Гейтсом Герман Греф: он тоже заявил, что «искусственный интеллект» — это прогресс и прирост российской экономики. Греф, как и я, вспомнил про калькуляторы: дескать, их тоже хотели запретить в школах, «однако именно поколение детей, которое их использовало, сегодня разрабатывает сложные модели искусственного интеллекта». Может быть, Герман Оскарович, может быть. Но всё же это и последующее поколение детей разучились считать в уме, и от этого никуда не деться. А сейчас нам подсовывают то, что отучит нас думать.
На тренинге Киберполигон-2020 идейный вдохновитель и зачинатель Всемирного экономического форума Клаус Шваб прямо сказало том, что такое ковид. По его глубокому убеждению, ковид – это катализатор и возможность. Катализатор и возможность для чего? Для как можно более быстрой и всепроникающей цифровизации нашей жизни. Именно этому было посвящено выступление Шваба – одного из самых влиятельных экономистов современного мира. Но каким образом связаны инфекция – и цифровизация? Многообразно связаны. Мы к этому ещё вернёмся. А пока уделим внимание человеку, которого Шваб называет «своим дорогим другом и верным партнёром Всемирного экономического форума». Председателю правления Сбербанка Герману Грефу.
