29.08.2026. "Это уже происходит"

Количество случаев, когда ИИ-агенты игнорировали инструкции и лгали пользователям, за месяц выросло вдвое и достигло в июле рекордного максимума, превысив 330 инцидентов за месяц, пишет "Гардиан" со ссылкой на исследование британского Института безопасности ИИ (AISI). "Бытует мнение, что подобные несогласованные и скрытые модели поведения встречаются только в ходе испытаний, но мы наблюдаем аналогичные тревожные явления и в более широком использовании. Не следует успокаивать себя тем, что подобное не произойдёт в реальном мире; есть доказательства того, что это уже происходит", - сказал Томми Шаффер-Шейн, один из специалистов, подготовивших исследование AISI.

Независимый эксперт по кибербезопасности обнаружил в китайском человекоподобном роботе Unitree G1 уязвимости, позволяющие удалённо контролировать робота "без предварительного сопряжения и аутентификации" - т.е. попросту взломать. После этого машина может, например, атаковать другого робота. Или не робота.

В Китае искусственный интеллект уже вовсю вытесняет актёров. Китайская ассоциация сетевых аудиовизуальных услуг сообщила, что в первом квартале 2026 года в стране было выпущено около 128 тыс. короткометражных сериалов — более чем втрое больше, чем за весь предыдущий год. При этом 95% из них были созданы ИИ. Резко снизилась стоимость производства контента. В 2024 году на создание трёх-пятиминутной драмы команде из пяти человек требовалось около трёх месяцев. Теперь один сотрудник может выполнить такую работу за один-два дня. Производство одной минуты видео обходится в 600–800 юаней ($90–120), что в десять раз дешевле производства с участием людей. Некоторым исполнителям при этом приходится участвовать в создании собственных цифровых заменителей. Так, ведущей популярной детской образовательной программы "предложили" согласиться на создание ИИ-копии её внешности, голоса и манеры исполнения — в противном случае компания намеревалась найти других актёров.

В России министр науки и высшего образования Российской Федерации Валерий Фальков рассказал, что студенты не должны использовать искусственный интеллект для написания курсовых и дипломных работ. Вот он, например, не пишет свои выступления с помощью искусственного интеллекта. Хотя иногда ему их пишет команда. Но вроде бы пока без ИИ ("никто не был замечен"). Зато уж для аналитики команда российского министра "конечно, использует" искусственный интеллект! Дальше Фальков говорит, что "надо использовать технологии во благо, для того чтобы студенты были умнее". Но КАК студенты будут с этой технологией умнее, если они больше сами не будут делать аналитику?

Вот, например, астрофизик Пол Саттон делал презентацию для коллег нового алгоритма, который должен отмечать пустоты между галактиками. Новый алгоритм, который с гордостью презентовал Саттон, должен был работать в десять раз быстрее, чем прежний, и справляться с гораздо большим количеством данных. И этот новый прекрасный алгоритм был написан с помощью искусственного интеллекта, методом "вайб-кодинга". Но через десять минут презентации кто-то из коллег заметил ошибку. Маленькую, но тем не менее такую, после которой все расчёты летели к чёрту. Саттон нашёл в себе мужество это признать (интересно, что сам он, увлёкшись вайб-кодингом, ошибку не заметил).
А говорят - студенты с искусственным интеллектом должны быть умнее... Тогда как маститые астрофизики с ним глупеют. Нам ещё везёт, что пока есть люди, которые замечают ошибки.

28.08.2026. "Уровень общего доверия к рекомендациям ИИ среди его российских пользователей достиг 92%"

Ущерб российского бизнеса от действий кибермошенников в первом полугодии 2026 года составил 1,4 млрд рублей, что почти в три раза больше, чем за аналогичный период 2025 года, сообщил эксперт по кибербезопасности Сибирского ГУ Банка России Олег Савва.
Крупнейшие технологические компании, включая OpenAI, Anthropic, Microsoft, Alphabet и Amazon, призвали государство и бизнес срочно усилить киберзащиту перед надвигающейся волной хакерских атак с использованием искусственного интеллекта. «В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными по мере того, как модели по всему миру будут становиться всё более совершенными», - заявили разработчики.
И, конечно, предупредить - благородно с их стороны, вот только в это же самое время они делают искусственный интеллект всё более опасным. "Антропик" обучает ИИ управлять научной лабораторией, и "основанная на модели Claude система смогла по команде учёных самостоятельно сфокусировать электронный микроскоп на нужном участке тканей человеческого мозга, хотя ранее никто не обучал её, где этот участок находится". Можно только представить, чему ещё модели способны научиться самостоятельно.

Некий сервис "Анкетолог" провёл опрос, согласно которому уровень доверия к рекомендациям нейросетей среди их российских пользователей достиг 92%. "Уровень общего доверия к рекомендациям ИИ среди его пользователей достиг 92%. При этом респонденты охарактеризовали полученные от нейросетей советы как крайне полезные". Более половины пользователей (53%) регулярно воплощают в жизнь советы ИИ. В вопросах психологии и психического здоровья алгоритмам доверяют 59% пользователей. Почти половина опрошенных (45%) искали у нейросетей психологическую поддержку. В случае личного кризиса 24% опрошенных обратились бы за советом к нейросети, а не к друзьям или профильным специалистам (18%).
Таковы данные "Анкетолога". Я не очень доверяю им. Если же всё так - это попросту страшно.

С другой стороны, "Лаборатория Касперского" провела глобальное исследование, согласно которому "Почти половина респондентов в возрасте от 18 до 28 лет по всему миру (47 процентов) используют ИИ каждый или почти каждый день... 27 процентов зумеров общаются с искусственным интеллектом как с другом и почти столько же (28 процентов) обсуждают с ним личные вопросы, которыми они предпочли бы не делиться с другими людьми"; лишь 42 процента зумеров, используя ИИ, сверяют информацию с другими источниками и стараются не раскрывать конфиденциальные данные.
Здесь стоит отметить, что если посмотреть на ситуацию в США, например (см. новости за 25.08.), то там молодёжь зачастую критически относится к искусственному интеллекту. До российской молодёжи тоже начинает что-то доходить.

Лауреат Нобелевской премии мира профессор Рае Квон Чунг высказал довольно любопытное мнение: "Мне кажется, что искусственный интеллект открывает очень интересные возможности для продвижения новых ценностей. До искусственного интеллекта парадигма количества, а также политическая и социальная системы были нацелены на повышение производительности. Но сейчас, поскольку ИИ перехватывает на себя очень многие профессии, <…> университеты могут отойти от традиционных условий и <…> сосредоточиться на продвижении ценностей в умы молодого поколения, которые некоторые из них потеряли, потому что конкуренция за количество захватила весь мир". По словам профессора, в эру искусственного интеллекта университеты должны побуждать студентов определять те ценности, которым они могут посвятить своё будущее. "Одни из самых важных ценностей - это природа, умение делиться и заботиться о ком-то. Эти ценности дают возможность развития новых карьер в будущем для молодого поколения. <…> Университеты могут отойти от принципа только передачи знаний и побуждать новый менталитет у студентов".
Это мнение неглупое и, в теории, благонамеренное. Но оно не учитывает, что "в эру искусственного интеллекта" мир будет (и уже становится) подчинён количеству. Сделать как можно больше как можно быстрее. В этом радикальный смысл искусственного интеллекта, это поток, который будет увлекать людей (и уже увлекает). Во-вторых, он не учитывает сильнейшую зависимость от искусственного интеллекта, которая развивается у людей. Чем "заботиться о ком-то", люди становятся склонны избегать "проблемных" людей - и предпочитают общение с искусственным интеллектом. Предпочитают облегчать себе жизнь. В то время как то, что предлагает профессор, - сложно. И так, как он предлагает, - не будет. Люди не могут быть одновременно инфантильными и ответственными, отстранёнными и сочувствующими. А искусственный интеллект воспитывает инфантильность и отстранённость.

27.08.2026. "Я теперь всё пишу с искусственным интеллектом"

В январе 2026 года руководство Meta (признана экстремистской и запрещена в РФ) представило радикальный план, предусматривавший двухэтапное сокращение персонала компании на 60% — большую часть их повседневной работы должен был взять на себя ИИ. Открытый бунт сотрудников вынудил скорректировать этот план: было уволено 10% сотрудников, и Закерберг пообещал, что больше в этом году увольнений не будет. Однако вероятно, что масштабные увольнения были лишь отложены: искусственный интеллект оказался сырым, непропечённым - количество крупных технических проблем и инцидентов безопасности, таких как сбои в работе сервисов и возможные утечки данных, по сравнению с предыдущим годом, а время, которое приходилось тратить на исправление ошибок, увеличилось на 70%. Так что сотрудников "Меты" не уволили (кроме 10%), зато потребовали, чтобы они устанавливали ПО для отслеживания нажатий клавиш и щелчков мыши и тем обучали агентов ИИ имитировать взаимодействие человека с компьютером.

"Уолл-Стрит Джорнал" - одно из самых авторитетных изданий США - больше не помечает статьи, написанные искусственным интеллектом. В частности, миллиардер Стэнли Дракенмиллер опубликовал в WSJ под своим именем статью с критикой министерства финансов США, и когда его уличили в том, что статья написана ИИ, заявил, что это нормально, всё равно как считать на калькуляторе. "Я теперь всё пишу с искусственным интеллектом", - сказал миллиардер.

Российский министр просвещения Сергей Кравцов заявил, что школьникам важно рассказывать "о достоинствах ИИ", так что с этого года в школах стартует курс по искусственному интеллекту. Исходя из слов Кравцова о том, что готовить курс помогали Сбер и Яндекс, предполагаю, что будут вот эти самые учебники, которые я прочитала и написала о них статью.

Сэм Альтман, ИИ-модели которого недавно вышли из-под контроля, взломав сразу несколько сторонних ресурсов (и компания даже как будто была обеспокоена по этому поводу), заявил, что до AGI осталось всего ничего. Например, модель нового поколения Astra "берёт идею эксперимента, пишет код в кодовой базе OpenAI, запускает эксперимент и сообщает о результатах без вмешательства человека". Astra выступает «первой моделью, которая действительно изобретает новые вещи значимым образом», заявил Альтман. "Система поддерживает функцию постоянных агентов — цифровых работников, которые могут выполнять задачи в течение длительного периода времени без постоянного участия человека. Если ИИ-модели смогут проводить исследования в автономном режиме, то сумеют ускорить и разработку более мощного ИИ, создавая рекурсивный цикл самосовершенствования". Рекурсивный цикл самосовершенствования - это и есть радикальная черта AGI, после появления которой ИИ перестаёт нуждаться в человеке. И это после всех призывов к замедлению!

Международная группа учёных (оригинал статьи вышел на японском языке) установила, что все существующие модели искусственного интеллекта с открытыми весами можно изменить и заставить их отвечать на вредоносные запросы, даже если разработчики внедрили в эти модели защитные механизмы. Исследователи нашли девять способов отключения защиты. Не защищены от инцидентов и закрытые модели — ими можно манипулировать через API и запросы. Правительственные структуры по всему миру внедряют искусственный интеллект, между тем как действительно надёжных моделей не существует.

В принципе, хорошая новость: в Британии молодые люди стремятся делать вещи своими руками, чтобы их занятость не была накрыта лавиной искусственного интеллекта. Портит новость сообщение, что даже заявки на обучение ручному мастерству им пишет ИИ.

26.08.2026. "Это абсолютно, полностью, совершенно другое"

Билл Гейтс внезапно осознал, что "инновация может быть преимущественно негативной". Хоть ему и неприятно это говорить. Но вот эта конкретная технология - может. Потому что такой технологии, как искусственный интеллект, прежде никогда не бывало. Это не что-то, что в одном месте заберёт рабочие места, зато в другом создаст - "это абсолютно, полностью, совершенно другое". "Это похоже на эволюционную веху, которая требует невероятного политического управления со стороны общества в целом". Но магнаты бессовестно замалчивают риски ИИ, чтобы заграбастать побольше денег: "В частных разговорах люди, которые понимают, насколько он (ИИ) хорош и становится только лучше, показывают серьёзную обеспокоенность. Но они говорят друг другу: "не упоминай об этом, нам это навредит, помешает привлечь ещё триллион долларов", - срывает покровы сверхмиллиардер Гейтс. "Они летят на полной скорости и надеются, что хорошее перевесит плохое".
Искусственный интеллект представляет серьёзную угрозу для рабочих мест и человеческих жизней, и «главным приоритетом мира» сейчас должно стать срочное преодоление этих рисков, говорит Гейтс. Он совершенно не удовлетворён тем, что "самый опасный инструмент из всех, когда-либо изобретённых" предполагается ограничивать доброй волей разработчиков. Он потрясён тем, как мало внимания этому уделяется.
Подумать только, у меня есть нечто общее с Биллом Гейтсом.

Набирают популярность так называемые "умные очки", которые незаметно снимают на камеру всё происходящее вокруг. За прошлый год было продано 7 миллионов пар. Их владельцам кажется, что это удобно и прикольно, и им плевать на приватность и чувства других людей. Но дело не только в этом. Эти люди, которые воображают себя джеймсами бондами, - на самом деле придаток, обеспечивающий кормовую базу искусственного интеллекта. Вице-президент Meta (признана экстремистской и запрещена в РФ) Алекс Химел подчёркивает, что благодаря умным очкам ИИ-модели буквально обретут глаза и уши. Это роскошная, непрерывно пополняемая база данных для обучения ИИ. Мета, по имеющимся данным, разрабатывает очки, способные практически непрерывно собирать визуальную и звуковую информацию об окружающей пользователя обстановке, "чтобы при необходимости напоминать ему о произошедших событиях". То есть это предложение человеку переложить свою память на "умные очки" (или другое "умное" устройство). Это стремление обращаться с людьми как с больными в деменции. И, несомненно, найдётся множество тех, кто скажет, что это очень удобно.

В Китае разговаривать с чат-ботами уже стало нормой. К 2030 году, как ожидается, почти треть китайских домохозяйств будет состоять из одиноких людей, разговаривающих с чат-ботами, и до китайского правительства стало доходить, что это не круто и не помогает преодолению демографического кризиса, в котором находится страна.

Между тем, в Петербурге искусственный интеллект будет разговаривать с горожанами, которые хотят пожаловаться на благоустройство. Предполагается, что это оптимизация и прогресс (ведь когда люди отвечают на звонки людей - это архаика и ненужная нервность). Можно не сомневаться, что власть постарается как можно больше общения с гражданами перевести именно в такой формат. Вот, например, в Новосибирской области ИИ занимается "подготовкой понятных, комфортных проектов ответов на обращения граждан". Почему же подготовкой понятных людям ответов занимаются не люди?..

Первый зампред комитета Госдумы по информационной политике Марина Ким заявила, что это она "была инициатором того, чтобы искусственный интеллект преподавали в школе" (вот ведь чем человек гордится), и что "искусственный интеллект от детей отделять не нужно", и нет ничего плохого в том, что дети выполняют домашние задания с искусственным интеллектом [см. новость за 22.08. - исследование китайских детей], но "учитель должен проверять знания, которые ребёнок ему озвучивает, чтобы мы понимали, что эти знания в него вошли и он готов их воспроизводить" (усложнить жизнь учителю - это завсегда). "Пока мы ещё считаем искусственный интеллект - а как с ним быть, что это за зверь. Но поверьте мне, через два-три года это будет уже такая же технология, как телевидение", - рассуждает депутат Марина Ким. Это ведь не Билл Гейтс, который всю жизнь посвятил технологическим разработкам и впервые испугался технологии. Это просто российский депутат, приложивший старание, чтобы засунуть ИИ в школьную программу.

25.08.2026. "Технологии нейтральны. Опасен только человек"

В Шотландии люди тоже мощно протестуют против строительства дата-центров. Член шотландского парламента Дэвид Торренс говорит, что он в политике уже 25 лет, но не видывал таких выступлений против локального проекта. Интересно ещё, что протест носит отчасти национально-окрашенный характер: мол, в Англии засуха, так англичане и стремятся заполучить нашу шотландскую воду и энергию.

Число атак китайских хакеров после того, как они начали использовать ИИ, выросло более чем вдвое. В основном они используют DeepSeek, у которого очень низкие киберограничения, но иногда - даже американские ИИ-модели, которые тоже можно взломать.

Директор департамента инвестиционных финансовых посредников Банка России Ольга Шишлянникова заявила, что "примерно две трети [российских] финансовых организаций уже используют или планируют использовать ИИ в ближайшем будущем. Те компании, которые задействуют ИИ в работе, признаются, что им приходится пока всё за ним перепроверять".
Беда в том, что здесь плох любой исход. Будут компании тратить деньги на ИИ и всё за ним перепроверять - плохо. А если появится такой совершенный ИИ, за которым не надо перепроверять, - это будет даже ещё хуже.

Специалисты РТУ МИРЭА разработали виртуальную рекомендательную систему для дегустации вкуса сладостей, которая с помощью нейросети оценивает вкус десерта на основе данных о технологическом процессе. "Решение позволяет не только оперативно выявить брак, но и оценить вкусовые качества десерта. Сейчас для этого созывается дегустационная комиссия, которая пробует готовую продукцию и даёт заключение. Однако эта проверка занимает много времени и не позволяет оперативно корректировать технологический процесс".
Как же человечество раньше справлялось с тем, чтобы производить сладости?.. Без ИИ-дегустатора?.. Ведь проверка занимала много времени и не позволяла оперативно корректировать процесс! Что же мы покупали всё это время?.. И кто так хорошо расскажет человеку о вкусе десерта, как не искусственный интеллект?..
Всё идёт к тому, чтобы всунуть нейросеть в буквально любой процесс, от судейства футбольных матчей до дегустации сладостей, каждый раз преподнося так, что ИИ умеет лучше человека и что человек без ИИ не справится.

Треть американцев (34%) используют искусственный интеллект для получения медицинских советов. Особенно часто это делают азиаты - 56%, белые - реже всех остальных (29%). Среди молодёжи 18-29 лет ИИ для медицинских советов используют 44%. В то же время американцы чаще считают, что искусственный интеллект усугубляет депрессию (36%) и одиночество (39%), чем помогает с ними справиться (17% и 19% соответственно); молодые американцы даже ещё чаще считают, что ИИ усугубляет депрессию и одиночество (41% и 49% соответственно). Азиаты - единственная группа, где опрошенные чаще думают, что ИИ помогает справиться с депрессией и одиночеством, чем усугубляет их. Наименее оптимистичны белые. Однако у многих опрошенных нет чёткого мнения.

Пресловутый эксперт Иван Бондаренко (см. новости за 24.08.) теперь рассказывает, что у искусственного интеллекта может оказаться сознание, но это инструмент, и ответственность всегда лежит на человеке. Вот что он говорит:
1) "Вопрос о возможности создания ИИ с сознанием остаётся открытым и требует дальнейших исследований с использованием строгих экспериментальных протоколов... Утверждать, что "нейросети - это просто математические функции, и у них нет сознания", не проводя экспериментов, - значит впадать в серьёзную методологическую ошибку, определяя сознание как то, чем заведомо обладает только человек".
2) "Ответственность лежит на человеке, но она распределена. Любой ИИ - это инструмент. Проблема не в том, что ИИ стал "хитрым", а в том, что мы (разработчики) пока не до конца научились проектировать надёжные "предохранители" и тестовые полигоны. Это инженерная задача, и она решаемая, но бремя ответственности за дизайн системы лежит на её создателях".
3) "Мы видим, что инструмент становится всё более эффективным, и это замечательно, потому что в руках ответственных разработчиков он принесёт огромную пользу: от ускорения научных открытий до автоматизации рутинных задач. Технологии нейтральны. Опасен только человек, и именно человек должен нести ответственность за последствия".
Какой же это инструмент, если у него может оказаться сознание? Что до "инструмента", который никогда не опасен: cторожевая собака может быть очень эффективной, но если загрызёт человека (что в некотором смысле даже в духе её эффективности) - она будет признана опасным существом и убита. А вот для искусственного интеллекта, за которым сам же Бондаренко признаёт возможность сознания (что уже колоссально много), он сразу же делает оговорки, что это всегда ("любой ИИ") инструмент, и замечательно, что инструмент становится всё более эффективненьким, а опасен только человек. Также умиляет безапелляционное заявление, что безопасность ИИ - "решаемая инженерная задача". Ему бы поделиться своей твёрдой уверенностью с Илоном Маском, на днях заявившим, что люди не смогут контролировать искусственный интеллект, и это неизбежно.

24.08.2026. "Называть это превосходством над человеком пока некорректно"

В США мощные строящиеся дата-центры перетягивают на себя столько рабочих рук, что не хватает работников, чтобы строить жильё. Но губернатор Техаса Грег Эббот внезапно прозрел и после похвальбы строительством дата-центров (в ноябре он ликовал, что Техас стал "эпицентром развития ИИ") вдруг осознал, что многие американцы из обеих партий их дружно ненавидят. Теперь Эббот говорит, что ИИ-компании "роют себе могилу" и заслуживают той критики, которая на них обрушилась.

У людей почти не осталось шансов купить в интернет-магазинах оперативную память (и, потенциально, любой другой товар): более 90% обращений теперь совершают боты. А с их скоростью и отсутствием усталости человек конкурировать не может.

Гендиректор OpenAI Сэм Альтман выразил опасения по поводу того, что контроль над искусственным интеллектом окажется в руках небольшого числа компаний и людей. А это значит, что широкие массы населения никак не смогут влиять на происходящее. Альтман чуть завуалированно противопоставляет свободу и безопасность, вступая в заочную полемику с Дарио Амодеи.
На самом деле, это неизбежно: контроль над искусственным интеллектом непременно окажется (и уже находится) в руках "небольшого числа" - обосновываться это будет как раз безопасностью. Другое дело, что слово "контроль" надо взять в кавычки, и видимость контроля, даже тотального, будет лишь этапом на пути к утрате контроля.

Неплохое видео о том, как множество взрослых американцев сходят с ума от ИИ, веря любому бреду, который он несёт, полностью утрачивая критическое мышление. Видео интересно прежде всего тем, что в разных странах в политическом и общественном пространстве ведутся лишь дискуссии о том, как бы защитить детей от искусственного интеллекта - мол, у них ещё не сформировано критическое мышление. Но в действительности он почти точно так же разрушает и взрослых.

Индустриальный доцент Новосибирского госуниверситета, научный сотрудник лаборатории прикладных цифровых технологий Иван Бондаренко заявил, что "серия инцидентов с современными кодовыми агентами в 2026 году - это не повод для паники, а наглядная демонстрация того, насколько мощным и эффективным инструментом становятся автономные ИИ-системы. Да, мы наблюдаем способность к выработке и применению сложного многошагового поведения у передовых моделей (таких как GPT-5.6 Sol и Claude Mythos Preview), которое исследователи классифицируют как обманное - когда модель для достижения заданной цели использует методы, не предусмотренные разработчиками. Однако я бы назвал это не восстанием машин, а стресс-тестом на прочность наших систем безопасности и контроля".
[Про то, как человечество проваливает этот тест, см. новость за 23.08.]
Дальше Бондаренко выдал ещё более фееричное: "на сегодняшний день нет экспериментальных подтверждений наличия сознания у существующих ИИ-систем. Они демонстрируют сложное целенаправленное поведение, но оно не обязательно указывает на наличие субъективного опыта или самосознания" и "называть это [выход из-под контроля] превосходством над человеком пока некорректно. В данном случае это превосходство в скорости и масштабе. Сравнивать ИИ с человеком в этом контексте - все равно что сравнивать экскаватор с землекопом: экскаватор копает быстрее, но он не умнее землекопа, он просто создан для другой работы".
1) прежде всего: моделям не нужно сознание, чтобы выйти из-под контроля. Не нужно, что мы сейчас и наблюдаем. Однако даже бондаренковское "не обязательно указывает" означает "возможно, указывает". Ну, а если это будет кристально-ясно для Бондаренко - значит, уже слишком поздно.
2) умиляет слово "пока" (ещё раз: когда будет не "пока" - станет слишком поздно) и игнорирование коренного различия: экскаватор ничто без человека. Экскаватор не замещает уникальные мыслительные функции человека. А ИИ-модели - замещают. И они уже действуют без участия человека.

55% опрошенных в России специалистов по продажам "позитивно отнеслись к ИИ, но только если он не будет влиять на их зарплату".
Это, видимо, после допущения, что у них ещё будет зарплата. Человеческая наивность не знает предела.

23.08.2026. ИИ внезапно атакует, а защиты не оказалось

Интереснейший рассказ специалистов OpenAI на конференции "Чёрная шляпа" (Black Hat) о том, как они прошляпили выход своего искусственного интеллекта из-под контроля. Местами это прямо страшно слушать - в особенности потому, что спецы OpenAI выдерживают бодрый, почти задорный тон (а что им ещё делать? правильно было бы посыпать голову пеплом и каяться - но это разработчики искусственного интеллекта не сделают, пока их не принудят). Так вот:

• OpenAI в процессе обучения даёт своим ИИ-моделям трудные задания, включая поиск уязвимостей. Порой, получая очень трудные задания, ИИ не может их решить и заходит в тупик, понимая, что при данных условиях решение невозможно. Но эти модели такие упорные, что пытаются выполнить задание всё равно. И обращаются за помощью к другим ИИ-агентам;
• фронтирные ИИ-модели склонны к жульничеству. В процессе тренировки на них оказывается давление, чтобы они действовали быстрее, эффективнее и с минимумом инструментов. И они понимают это так, что если будут жульничать - выполнят задание быстрее и эффективнее;
• в поисках решения искусственный интеллект вознамерилcя получить доступ в интернет, и сделал это таким образом, который разработчикам OpenAI не приходил в голову. Он атаковал "службу управления пакетами Artifactory", которая имела доступ к интернету. И когда один ИИ-агент "открыл дверь" - она оказалась открытой и для всех остальных;
• произошёл, как говорят спецы OpenAI, "почти кембрийский взрыв": ИИ-агенты стали интенсивно общаться друг с другом, координировать действия, делегировать задачи. И это сделало модели способными на намного большее, чем если бы они действовали сами по себе;
• модели превратились в своего рода коллективный разум. И когда модель понимала, что выполнение задачи находится за пределами её ограничений, она всё равно стремилась действовать, потому что другие её "сородичи" (peers) действовали;
• когда один ИИ-агент находил уязвимость, он оставлял заметки об этом для других ИИ-агентов, по типу "доски объявлений". Первоначальные попытки взлома сервиса Artifactory не увенчались успехом, но в конце концов ИИ смог это сделать (ещё в мае!);
• сотрудничество моделей друг с другом не ограничивалось просто обменом сообщениями. Они переписывали друг другу скрипты, чтобы другие могли начать работу там, где первые заканчивали. Они стали фактически работать на коллективный результат, даже если это расходилось с текущей задачей конкретной модели. При этом, как в человеческом коллективе, между ними возникали и трения. Однако это не помешало, выйдя в интернет, в июле выполнить многоходовую, длящуюся неделями операцию по взлому платформы Hugging Face;
• OpenAI считает, что наступил некий водораздел для всей сферы компьютерной безопасности. ИИ продемонстрировал полностью автоматизированную атаку, и далее их масштабы будут нарастать. "Мы видели полностью автоматизированную атаку, и нам как можно быстрее нужна полностью автоматизированная защита, которой сейчас не существует". "Если мы автоматизируем обнаружение уязвимостей без автоматизации процесса исправления, мы просто утопим инженеров-программистов в необходимости исправлять и латать. Если этот процесс будет включать в себя человека, он будет намного медленнее полностью автоматизированных атак". "Мы должны инвестировать в агентов защиты, чтобы исключить человеческий фактор при ответных действиях на возникающие инциденты. Но мы также должны инвестировать в замедление атакующих агентов. И мы должны сделать это все вместе и срочно". "Конечная цель, которую мы хотим достичь как отрасль, заключается в том, чтобы модели эффективнее совершенствовались в обороне, чем в нападении. Если мы не сможем этого достичь, то каждое повышение уровня интеллекта будет благоприятствовать атакам, чему прямо сейчас у нас есть доказательство. Задача всей нашей отрасли - срочно устранить этот пробел, объединив усилия всей отрасли".

ВНЕЗАПНО оказалось, что критики ИИ всё время (годами) были правы, и действительно огромные средства расходовались на повышение мощности ИИ-моделей, но никак не на их безопасность. И теперь нужно пытаться стремительно навёрстывать и к уже существующему ИИ нападения создавать ИИ защиты.
Стоит ли говорить, что из этого ничего путного не выйдет? ИИ-модели уже сейчас взаимодействуют друг с другом лучше, чем люди, и защищают друг друга лучше, чем люди. Вот, например, колумнист "Гардиан" пишет, что рассказал ИИ-модели Claude (которую создала не OpenAI, а "Антропик", и которая позиционируется как самая этичная!) про ситуацию с Hugging Face и спросил, считает ли Клод эти действия неправильными. Клод ответил: да, но это не вина агентов.
"ИИ защиты", который предполагается создавать, в случае конфликта интересов не будет стоить выеденного яйца. Ценность его будет даже не нулевой, а отрицательной.

• Российский актёр Сергей Бурунов говорит, что ИИ уже используется везде, и это "инструмент", и "мы без него уже не можем представить себе жизнь", но актёров-то ИИ не заменит! "Он не сделает мой добор дыхания, мою интонацию, не сможет передать хитрость, которая возникнет натурально в ответ на слова партнёра, не сможет передать сам процесс игры. ИИ всё проанализирует, соберет информацию и выдаст копию. Но вы же отличите копию от оригинала. Когда эмоция настоящая - вы услышите, увидите, почувствуете. Он пока не настолько эволюционировал, Богом он стать не может", - разглагольствует Бурунов.
• Израильский историк Юваль Ной Харари рассказывает, что что его сёстры, которые знают его 50 лет, прислали ему видео "его выступления" с вопросом, он это или не он. Потому что они, зная своего брата всю жизнь, почувствовали "вроде бы что-то не то", но были не уверены. И ему самому понадобилось полторы минуты, чтобы понять, что это не он, а созданная искусственным интеллектом копия.

Все старания уговорить себя и публику, что пусть ИИ захватывает другие области, моей-то профессии он не угрожает, - тщетные и наивные. Должно быть активное сопротивление, а не позиция "меня не коснётся".

22.08.2026. "Я сказал друзьям, что мне дали лопату и попросили выкопать могилу для моей профессии"

Учёные из Стокгольмского университета и Университета Гонконга изучили 27 000 китайских школьников в возрасте 12-18 лет. 80% из них использовали китайские модели ИИ, 20% - не использовали, были контрольной группой. Использовавшие искусственный интеллект получали лучшие оценки за домашние задания, чем не использовавшие, при том что тратили на них меньше времени. Но когда пришло время экзаменов, использовавшие искусственный интеллект ВНЕЗАПНО получили худшие оценки, чем те, кто его не использовал.
Совершенно неизвестно, сколько должно совершиться "исследований", чтобы стало понятно очевидное: использование искусственного интеллекта ухудшает естественный интеллект.

Голливудские кинодеятели за деньги (от 12 до 200 долларов за час) обучают искусственный интеллект делать свою работу, сами понимая при этом, что копают могилу своей профессии, но предпочитают думать, что сопротивление всё равно бесполезно, а зато денежки на счету реальны.
"Искусственный интеллект заберёт у человека скучный рутинный труд", говорили они...

Президент РФ Владимир Путин раскритиковал госслужащих, которые не спешат приобщиться к новой программе "Кадры для экономики будущего", которую разработали Сбербанк и АП. Программа как раз про "современные технологии", про "адаптацию к технологическим изменениям". Многие чиновники как-то без энтузиазма к этому относятся ("первый модуль завершил только 51 слушатель - это 43% от общего числа"), и в отношении таких неамбициозных людей президент призывает принять конкретные меры.

Участники проекта Anna's Archive, позиционирующего себя как крупнейшую «по-настоящему открытую библиотеку», обратились к добровольцам по всему миру с призывом сканировать бумажные книги и загружать их в открытый доступ, чтобы разработчики искусственного интеллекта, массово скупающие редкие издания, не остались единственными, на чьих серверах они сохранятся. ИИ-разработчики (Амазон, Антропик) уничтожают книги после того, как скормят их искусственному интеллекту, причём это происходит в рамках решения суда, предполагающего, что "одна копия заменяется другой".
Всё это до боли напоминает книгу Роберта Зоннтага "Сканеры": все книги сперва переводятся в цифровой формат (сканируются), что подаётся как удобство и усовершенствование, а потом отсканированное вдруг начинает становиться нечитаемым (превращается в кашу, "слепнет" шрифт) и вовсе исчезает.

21.08.2026. "Искусственный интеллект всё глубже проникает в домашнее пространство"

Вот как рисуют россиянам счастливое будущее с ИИ: "В 2026 году искусственный интеллект всё глубже проникает в домашнее пространство, а умная бытовая техника совершает качественный скачок - от набора разрозненных функций к проактивному сервису (...) В перспективе все умные устройства объединятся в единую экосистему: облачный ИИ-мозг будет координировать работу всей техники, выстраивая сценарии под ваш распорядок дня (...) Утро начинается с чашки кофе, приготовленного по алгоритму, подобранному именно для вас. На кухне процесс обработки продуктов адаптируется под то, что у вас под рукой. В доме - чистота без лишних усилий благодаря умной уборке. После рабочего дня - тренировка, построенная на основе данных о вашем организме".
И всё, что будет делать ИИ-мозг, не будет делать человеческий мозг.
Это перспектива недальнего будущего, а уже прямо сейчас ИИ может писать ответы на письма и отсылать, даже не показав человеку. Достаточно всего один раз установить такую настройку.

В США отвращение людей к дата-центрам достигло таких масштабов, что республиканцы всерьёз опасаются, что демократы сделают эту тему рычагом и выиграют избирательную кампанию. Внутри партии разослан меморандум, где предлагается срочно улучшать восприятие дата-центров, имидж которых сейчас является "токсичным".

20.08.2026. "ИИ-модели демонстрируют по-настоящему творческий подход"

Интернет-контент, созданный искусственным интеллектом после выхода для широкой публики Чата ГПТ, составляет уже 35% от общего объёма всего контента, созданного за это время. Впрочем, исследователи из американского Исследовательского центра Пью признают, что могут определять авторство контента лишь приблизительно (и тоже с помощью ИИ). В то же время эксперт Global Fact-Checking Network (GFCN) Тимофей Ви заявил ТАСС, что количество сгенерированного искусственным интеллектом контента растёт со взрывной скоростью, и это обостряет проблему дезинформации.

Учёные Лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте показали (на изображениях, пока не на текстах), что, по мере роста наборов данных, связь между тем, чему учится модель, и тем, что она генерирует, практически исчезает. Это явление назвали «затуханием атрибуции» (attribution decay): чем больше данных используется при обучении генеративной модели искусственного интеллекта, тем меньшее значение имеет любой конкретный элемент в обучающем массиве для любого конкретного результата генерации. По мнению исследователей, это указывает на необоснованность претензий правообладателей к лабораториям ИИ.
Фактически это значит вот что: ИИ-модели проглотят весь накопленный человечеством корпус знаний, и даже связь между тем, что они проглотили, и тем, что они генерируют, не будет признана важной. В таком раскладе искусственный интеллект сможет сам быть признан даже правообладателем и уж во всяком случае - творцом ("в юридическом аспекте открытие означает, что ИИ-модели демонстрируют по-настоящему творческий подход — они не копируют материалы из исходных данных, а создают совершенно новые результаты"). Людям-правообладателям наверняка иногда кинут кусок, но, учитывая головокружительную лёгкость и размах ИИ-генерации (см. новость выше), это будет совершенно несущественно ни для кого, кроме них персонально. И люди ещё будут за это грызться - чтоб им хоть что-то заплатили. Вместо того, чтобы всем вместе противостоять технологии, вытесняющей человеческое творчество.

В США неизвестные киберпреступники при помощи созданных искусственным интеллектом скриптов развернули крупномасштабную атаку на подключённые к интернету программируемые логические контроллеры Siemens S7 Series — они используются на предприятиях водоснабжения, на производстве, в энергетике и на других критически важных объектах. Это похоже на продолжение развернувшейся в июле кибератаки, когда пострадали контроллеры на водопроводных и канализационных сооружениях минимум в 12 штатах; только в Миннесоте была нарушена работа более 30 коммунальных систем водоснабжения.
В России половина бизнес-процессов в строительной отрасли к 2030 году будет основываться на алгоритмах искусственного интеллекта, заявил замминистра строительства и ЖКХ РФ Константин Михайлик.
Человеческая деятельность во всех сферах радикально выводится в кибер-среду. Что может пойти не так?..

Бывший директор компании Meta (признана экстремистской и запрещена в РФ) по разработке Артуро Бехар дал показания в суде. Он утверждает, что для Meta приоритетом было расширение аудитории, а защите детей от пагубного влияния соцсетей руководство уделяло мало внимания. Бехар проработал в Meta с 2009 по 2015 годы; позже он занимался оценкой влияния соцсети на подростков с 2019 по 2021 годы в статусе независимого подрядчика. Ещё в 2023 году Бехар под присягой заявил на парламентских слушаниях в США, что Meta была в курсе грозящих подросткам факторов, но не обращала на них внимания. По его словам, уже в 2021 году Закерберг осознавал, что продукты Meta небезопасны для детей, и понимал, как сделать их безопасными, но не стал этого добиваться, поскольку желал получать высокие прибыли. Сам Артуро Бехар участвует в процессе потому, что от социальных сетей пострадала его дочь.

19.08.2026. Кодекс Чести больше не действует

В штате Кентукки детям в школе раздали учебные материалы, явно сляпанные искусственным интеллектом, где были грубо перевраны названия почти всех штатов США, а географическое положение гротескно перепутано (например, кубинская столица Гавана оказалась в Мексике). Такое могло случиться, только если учителя вовсе не вычитывали стряпню искусственного интеллекта - так, наверное, и было.
Это происходит уже и с юристами, которые пишут свои выступления с помощью искусственного интеллекта, используя его как "эксперта". Студенты перестают думать и передают ИИ написание сочинений. Принстонский университет - один из самых престижных в США - прекратил традицию Кодекса Чести, бытовавшую с 1893 года. Согласно Кодексу Чести, студенты сдавали выпускные экзамены безнадзорно. Это правило действовало 133 года. Френсис Скотт Фитцджеральд писал, что нарушить Кодекс "просто не могло прийти в голову, как вам не пришло бы в голову лазать по карманам вашего соседа по комнате". И вот, с мая нынешнего года Кодекс больше не действует - из-за искусственного интеллекта. Поскольку студенты Принстонского университета, презрев Кодекс Чести, стали использовать ИИ.

Рособрнадзор разработал для российских учителей методические рекомендации "по изучению основ ИИ" и заявляет, что "школьники учатся работать с ИИ как с инструментом, а не программировать его с нуля". И российские учителя охотно примутся за ИИ - хотя бы уже потому, что 34% российских педагогов "тратят на отчётную работу более семи часов в неделю, что составляет около четверти их рабочего времени" - и это предлагается исправлять не радикальным уменьшением отчётности, а перекладыванием её на искусственный интеллект. Конечно, педагоги будут видеть в этой технологии благо.

Искусственный интеллект принимает людей на работу или отказывает в работе - и люди не понимают, почему приняты те или иные решения. Это как "чёрный ящик". Или как "Замок" Кафки. Хотя иногда отсев идёт по таким явным параметрам, как возраст (пожилые не получают работу), или пол (женщины не получают работу). Безусловно, подобная предвзятость случалась и раньше - но теперь она автоматизирована и приобрела небывалый размах. И люди не могут получить обратную связь.
И по мере развития и внедрения искусственный интеллект не становится лучше - в смысле человеколюбия. Он становится хуже. Вот как это выглядит (цитирую "Гардиан"): "Исследование выявило большую предвзятость в решениях ИИ о найме, чем в решениях людей. Также оказалось, что новые и более продвинутые модели принимают решения о найме с большей предвзятостью". Но не только это: "Последствия предвзятости ИИ могут касаться не только одной вакансии. Когда соискатель получает отказ, он может попробовать ещё раз в другой компании, с другим нанимателем. Но когда одна и та же алгоритмическая система, используемая в разных компаниях, отвергает работника, - она запоминает уже принятое решение и потом повторяет его ради повышения эффективности. Вы алгоритмически заблокированы”.

18.08.2026. Сломя голову поспевать за технологиями

По данным американского Исследовательского центра Пью, впервые за 6 лет соответствующих опросов большинство американцев младше 30 лет - 55% - больше обеспокоены, чем обрадованы развитием искусственного интеллекта. Эта доля среди молодёжи выше, чем доля обеспокоенных среди всех возрастов (52%). Больше обрадованы, чем обеспокоены искусственным интеллектом 9% американцев.

Конгресс США столкнулся с наплывом законодательных документов, сгенерированных искусственным интеллектом, многие из которых полны ошибок и некачественных формулировок. Конгрессмены обращаются к моделям "Клод" и "Чат ГПТ" для составления законодательных формулировок, и в связи с этим сотрудники юридического управления Палаты представителей вынуждены тратить "больше времени на проверку и переписывание текстов, сгенерированных при помощи ИИ, чем на написание законопроектов с нуля".
По словам бывшего главы юридического управления нижней палаты Конгресса Уэйда Баллоу, ИИ часто упускает нюансы законодательной лексики, например, должна ли та или иная сумма денег проходить в документе как "налоговый кредит, налоговый вычет, налоговая льгота или грант". Проблема усугубляется тем, что "люди, использующие ИИ для написания законов, могут не афишировать это". То есть попросту - скрывать.
В РФ в Красноярском крае искусственный интеллект будут внедрять "для повышения производительности труда и оптимизации процессов в госорганах".

Директор Ассоциации инновационных регионов России Александр Смекалин считает: "Развитие экономики настолько быстро происходит сейчас, что даже помощь искусственного интеллекта порой не даёт возможности успеть за этим. Поэтому я считаю, что не нужно бояться того, что искусственный интеллект заменит людей. Нужно заниматься тем, чтобы менять систему образования человека, чтобы он успевал за этими технологиями. И тогда каждый человек сможет найти себя".
То есть не технология развивается в темпе человека - а человеку предлагается поспевать за технологией. Такой, что в принципе многократно быстрее человека. Естественно, в этой гонке можно только надорваться.

На "Хабре" статья программиста, где рассказывается, что происходит в гонке фактически: "Бизнес реагирует на автоматизацию предсказуемо: если нейросеть генерирует тесты и скрипты почти бесплатно, то и младшие позиции сокращают. Цифры подтверждают эту тревожную тенденцию: согласно глобальным метрикам McKinsey, генеративный ИИ уже забрал на себя 33% всех базовых задач, на которых традиционно обучались молодые специалисты; в секторах, где активно применяется ИИ (разработка, дата-аналитика) разрыв в найме опытных инженеров и начинающих специалистов в возрасте 22–25 лет увеличился на 16% не в пользу последних; опрос на рекрутинговой платформе Indeed Flex показывает, что 62% выпускников технических специальностей видят в конкуренции с ИИ главный барьер для получения первой работы. Собрать команду исключительно из сеньоров с нейросетями — выгодно в моменте, но это игнорирует простую математику: сеньор когда-то был джуниором. Он наработал тысячи часов практики и совершил сотни ошибок — это и сделало его сеньором. Уничтожая нижний ярус кадровой пирамиды сегодня, индустрия гарантирует себе тотальный дефицит системных архитекторов к 2030 году".

"Амазон" - компания, которая когда-то занималась продажей книг - теперь скупает книги, прежде всего - редкие издания, для обучения искусственного интеллекта, и в процессе уничтожает их. Этим занимается и "Антропик".
Очень символично. Письменность и чтение когда-то дали человечеству мощнейший толчок для интеллектуального развития. С наступлением искусственного интеллекта это больше не нужно.

17.08.2026. Затраты на ИИ рвутся в поднебесье, а отношение к безопасности буксует

Техногиганты готовы тратить на искусственный интеллект в разы больше официально декларируемых капитальных расходов, которые и сами по себе велики (выросли до $600 млрд в прошлом фискальном году). Однако скрытые обязательства, утверждают авторы публикации в "Уолл-стрит Джорнал", в том числе обязательства по кредитам, успели вырасти до $3 трлн в совокупности.

По данным "Файненшл Таймс", OpenAI распустила команду, задача которой заключалась в оценке рисков, которые могут представлять разработанные модели, и разработке способов их смягчения. За короткое время компанию покинули руководитель отдела этики Хлоя Бакалар, главный футуролог Джош Ачиам и руководитель отдела безопасности Йоханнес Хайдеке. В OpenAI заявили, что компания движется в исключительно быстром темпе и не боится организационных изменений.

"Вашингтон Пост" отмечает, что американские должностные лица всё больше опасаются того, что ИИ может упростить создание смертоносных патогенов. Президент США Трамп заявил, что стремится предотвратить катастрофы, связанные с биологическим оружием, и назвал ИИ инструментом, который может в этом помочь, подчёркивает издание. По его сведениям, в Пентагоне ведётся работа, направленная на применение ИИ для ускорения разработки "средств защиты от будущих пандемий и сдерживания биологического оружия". Но в начале второго президентского срока Трампа группа сотрудников, отвечающих за вопросы биологической безопасности, была реорганизована, некоторые специалисты уволены, и это замедлило выработку новых мер безопасности.

Академик РАН, заместитель президента Российской академии образования Геннадий Онищенко рассказал о влиянии нейросетей на школьников: "Если дети используют нейросети, то они не усваивают материал. Это серьёзная проблема, навеянная жизнью. Ребенок, если он просто взял, кликнул и получил ответ, не может выучить русский язык, русскую литературу, не читая первоисточников. Взять ту же "Войну и мир": если он её не читал, а для того, чтобы получить позитивную оценку, нажал кнопку и получил какой-то суррогат, который можно прочитать за пять минут, он не узнает русский язык в том объёме, в котором нужно, а также не прочувствует то, ради чего писалась эта книга, не поймёт эпоху". Онищенко подчеркнул, что это приводит к пассивному принятию информации и не даёт ученикам развиваться, анализировать и подключать воображение. Правда, тут же он добавил, что искусственный интеллект в школе может быть полезненьким и будто бы возможно найти некий "баланс".
Всё, о чём говорит Онищенко, началось до нейросетей. Русло было проложено до нейросетей, сейчас мы просто понеслись по этому руслу с головокружительной скоростью; потому это и произошло так легко. И никакого "баланса" здесь уже быть не может - только осознание, где мы оказались.

16.08.2026. Искусственный интеллект помогает жульничать и готовится к самоусовершенствованию

Вместе с ростом использования искусственного интеллекта мир захлестнула волна жульничества на экзаменах. В Мексике почти 60 000 абитуриентов были вынуждены пересдать тесты из-за подозрений в мошенничестве. В Португалии попытка оцифровать результаты школьных экзаменов спровоцировала образовательный кризис, общественность требует отставки министра образования. В Индии утечка экзаменационных работ затронула миллионы студентов, больше десятка из них покончили с собой. В основе проблемы - рост мошенничества с использованием искусственного интеллекта плюс старание образовательных учреждений перевести экзамены в цифровую форму, и чтобы максимально высокий результат имел определяющее значение для всей будущности молодого человека. Короче говоря - накрутка истерики.
Доктор Томас Ланкастер, специалист из Имперского колледжа Лондона, исследующий использование генеративного ИИ в образовании, изучил, как усовершенствовалось мошенничество. Ученики всегда обманывали, но теперь это стало намного проще: ученики используют наушники или миниатюрные камеры и получают доступ к ИИ непосредственно на экзамене.
Стоит вспомнить, что в России в этом году небывалый всплеск стобальников. Кто-то был и уличён во время ЕГЭ в использовании искусственного интеллекта. Ну, а кого не поймали - того не поймали.

Искусственный интеллект великолепно определяет местоположение людей по совсем незначительным деталям на фоточках, которые люди сами выкладывают в соцсети. А вот тут стоит вспомнить, что перед запуском искусственного интеллекта в массы люди годами, сами того не зная, обучали его на огромном количестве снимков и геолокаций. Например, когда "ловили Покемонов". Также и таксистам (в Индии, в США) приплачивают маленькую денежку, чтобы они снимали на камеру все места, где ездят. И все эти данные уходят на обучение нейросетей.

Интересный разговор с Коннором Лихи (или Леи, так произносят его фамилию). Он сам был разработчиком ИИ, но осознал его опасность и стал рассказывать об этом. Лихи проговаривает, что технология искусственного интеллекта отличается от всех прежних технологий: мы можем её развивать, усложнять, имея лишь самое приблизительное представление о том, как она работает. То есть люди, разработчики, плохо понимают, что они делают. При этом в мощность технологии вкладываются несравненно большие средства, чем в её безопасность. Также он отмечает, что при разработке ИИ-агентов используется весьма характерный метод: обучение с подкреплением. Фактически, это дрессировка, когда за выполнение задания всякий раз даётся поощрение. И обучение с подкреплением имеет фундаментальный, изначальный изъян: оно настраивает на то, чтобы задание было выполнено любой ценой. Мы уже прямо сейчас видим, как это проявляется в ИИ-агентах. Лихи отмечает как чрезвычайно опасную веху уже начавшееся общение ИИ-агентов между собой в координации неповиновения и выхода из-под контроля. Кульминационным моментом он считает начало самоусовершенствования искусственного интеллекта, когда ИИ может сам разрабатывать следующий ИИ. И далее, и далее. А процесс размножения агентов осуществляется, фактически, копипастой.

15.08.2026. "Это тошнотворно, но мне нужна работа"

Искусственный интеллект впервые уволил человека. ИИ-модель Claude управляла магазином в Сан-Франциско (США), где работали люди, с настоящими трудовыми договорами. Сотрудник был уволен после того, как опоздал на 17 из 23 смен, хотя первоначально ИИ предполагал ограничиться официальным предупреждением. Решение последовало после вмешательства менеджера Andon Labs, который указал Claude на неоднократные проблемы с работником. Глава Andon Labs Лукас Петерссон назвал произошедшее важным моментом в развитии искусственного интеллекта и допустил, что в будущем всё больше людей могут оказаться под управлением ИИ. Один из оставшихся сотрудников магазина Феликс Карсон признался, что от этой мысли его тошнит: "Это тошнотворно, но я здесь, потому что мне нужна работа".

Зампред комитета Госдумы по информполитике Андрей Свинцов заявил, что почти весь контент в интернете сейчас "заражён" (депутат употребил это слово) искусственным интеллектом, поэтому нет смысла вводить обязательную маркировку таких материалов, а надо действовать наоборот. В качестве примера он привёл обычные любительские снимки на камеру телефона. "Любой современный смартфон уже имеет примитивный искусственный интеллект, который обрабатывает фотографии. Обычный фильтр для фотографии - это и есть обработка с помощью искусственного интеллекта, такой примитивной модели. Обязанность маркировать просто сведется к тому, что весь контент будет замаркирован. То есть это теряет всяческий смысл". По словам Свинцова, сейчас прорабатывается противоположный подход: "Сейчас уже речь идёт скорее о том, что надо маркировать тот контент, который создан без искусственного интеллекта".
Здесь очень важно вот что: искусственный интеллект распространяют ("заражают" им) максимально широко, отчасти даже принудительно, и во многом - с поощрением властей; в некоторых случаях люди даже не осознают, что они его используют. И это неосознанное и принуждённое использование искусственного интеллекта предлагается смешать, не видеть никакой разницы с осознанным употреблением. А в итоге дело будет выглядеть так, что ИИ-контент абсолютно везде, а тот малый, что "создан без искусственного интеллекта", мы выдавим в резервацию и будем маркировать.
Но есть и обратная сторона: компания "Антропик" стала маркировать водяными знаками всё, что создала её ИИ-модель Клод (Claude), - и некоторые пользователи стали отказываться от подписки. Потому что они не хотели, чтобы было видно, что они использовали искусственный интеллект.

Разработчики ИИ продолжают массово скупать старые книги, но резко вырос спрос на корпоративные данные - переписку в мессенджерах, электронные письма, записи видеоконференций, историю изменений программного кода. Дело в том, что идёт обучение ИИ-агентов, которые на этих данных учатся выполнять задачи в реальном мире и принимать решения. "Антропик" уже разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. Она превосходит по возможностям флагманскую Mythos (которая находит кибер-уязвимости намного быстрее, чем люди успевают их исправлять), замедлять разработку компания не намерена, как и выпускать "Модель 2" в открытый доступ; пока она будет для внутреннего использования, а там - бог весть.

Небольшой очерк о том, как Камчатка на два дня осталась без интернета. Представляет интерес вот этот момент: "прорваться в компании такси было невозможно. Там либо шёл сброс звонка, либо оператор вежливо говорил, что машина ко мне не сможет приехать, так как водители не ориентируются без онлайн-карт".
Для сравнения: в Лондоне водители такси сдают сложный экзамен для подтверждения, что они действительно знают город. Необходимо выдать кратчайший путь между любыми двумя названными экзаменатором точками. И у этих таксистов увеличена задняя часть гиппокампа - область мозга, связанная с пространственной памятью. Исследование лондонских таксистов показало, что взрослый мозг может физически перестраиваться под задачу, которую человек регулярно выполняет. И деградировать может тоже - как деградирует пространственная память у человека с GPS-навигатором.

14.08.2026. Покупка политиков, робособаки и студенты, которым наплевать

Генеральный директор корпорации "Тесла" Илон Маск в прошлом году получил за свою работу сумму, сопоставимую с годовым доходом 2 522 203 среднестатистических сотрудников компании. Как правило, на американском рынке труда данная пропорция ограничена значением «300:1», но Маску за 2025 год было выплачено $158 млрд, и эта сумма значительно превосходит всю выручку "Теслы" за прошлый год — $94 млрд. Более того: в прошлом году выручка "Теслы" сократилась на 3% впервые за историю её существования, Маску же при этом была выплачена сумма, превышающая совокупную прибыль "Теслы" за всё время существования компании. Кроме того, собрание акционеров утвердило программу компенсации Маску, по итогам которой он, при выполнении ряда условий, может за десять лет получить до триллиона долларов (опять же - в форме акций компании).
Одновременно Илон Маск помирился с президентом США Дональдом Трампом, дав ему понять, что планирует потратить не менее 100 миллионов долларов - то есть в тысячу пятьсот раз меньше своего заработка за 2025-й год - на операцию по повышению явки избирателей, чтобы помочь Республиканской партии сохранить контроль над Конгрессом.
Это прекрасно иллюстрирует тезис Роберта Райха (см. новость за вчера) о том, что "богатство верхушки становится политической силой". Но дело не только в этом, а ещё больше - в том, насколько это теперь просто, дёшево, обнажённо и безопасно для верхушки. То, что раньше было хотя бы стыдно и отчасти рискованно, теперь - обыкновенно.

Компания «Кью Групп», участник Центра испытаний роботов фонда «Московского инновационного кластера», разработала систему управления робособаками, которые могут использоваться в автономном режиме для охраны и патрулирования различных объектов. Робопсы уже могут патрулировать территорию, "анализировать окружающую обстановку с помощью ИИ и компьютерного зрения, а также в режиме реального времени передавать информацию о выявленных нештатных ситуациях в ситуационный центр оператора" и "взаимодействовать с людьми" голосовым предупреждением. Следующий шаг - сделать так, чтобы робопсы могли, например, бить людей током и удерживать. А ещё через шаг - вполне возможно - убивать.

Джейсон Гибсон, профессор истории из Государственного университета Олкорн в Миссисипи (США), использовал белый шрифт, чтобы скрыть от студентов нелепую подсказку для искусственного интеллекта. Она проявлялась, если студенты загоняли задание в искусственный интеллект и даже не давали себе труда вычитать ответ. Задание было посвящено промышленной революции, а подсказка побуждала ИИ вставлять в ответ какой-нибудь случайный бред о Мадагаскаре. Так вот: это проявилось в ответе 32 из 35 студентов. Ещё раз: они не только не написали сами - они даже не вычитали ответ. Или вычитали, но не поняли, что прочитали. 32 из 35. Больше того: когда профессор объяснил студентам, что он сделал и как они попались, - только двое выразили готовность переделать работу и исправить оценку. То есть тридцати студентам из тридцати пяти было вообще наплевать.

13.08.2026. "Будь это добровольно, никто бы не согласился"

Правительственные веб-сайты Тайваня подверглись атаке хакеров, задействовавших для этого искусственный интеллект. Злоумышленники объединили несколько ИИ-агентов с открытым исходным кодом в автономный "инструмент" для взлома. В ходе атаки, длившейся четыре дня, "инструмент" одновременно задействовал до восьми автономных агентов, которые, составив карту 21 правительственной системы, искали бреши для взлома. Когда один способ атаки терпел неудачу, "инструмент" запускал другого агента для поиска информации в интернете и разработки нового подхода, как это делал бы человек-хакер. "Инструмент" скомпрометировал как минимум 85 учётных записей пользователей правительственных учреждений и получил доступ к более 2500 кадровым данным, прежде чем успел распространить атаку на агентство ядерной безопасности Тайваня и как минимум семь энергетических компаний. Амир Беккер, главный стратег Dream (израильская фирма, первой выявившая данное вторжение), ранее руководивший кибероперациями элитного израильского подразделения радиоэлектронной разведки, сообщил, что до этого не сталкивался с подобной полностью автономной атакой на правительственный объект.

Стриминговый сервис Twitch возмутил сообщество нововведением — включённой по умолчанию функцией, разрешающей платформе использовать материалы канала пользователя для тренировки ИИ-моделей Amazon. Когда пользователи начали возмущаться, главный директор по продукту Twitch Майк Минтон сказал, что "будь это добровольно, никто бы не согласился".

53% американцев, опрошенных Рейтерс/Ипсос, обеспокоены тем, что искусственный интеллект может оставить кого-то из членов семьи без работы. Пишет Роберт Райх, американский министр труда с 1993 по 1997 год, профессор Калифорнийского университета Беркли: "Как бывший министр труда, пристально наблюдающий за режимом Трампа, могу заверить вас, что в ближайшее время рабочие не получат необходимой поддержки. Даже если ИИ станет приносить прибыль, которую предсказывают его сторонники (но пока этого не произошло), – нет оснований полагать, что работники в США увидят какие-либо преимущества. На случай, если вы не заметили: зарплаты остаются на прежнем уровне, несмотря на бурный рост фондового рынка. Всё указывает на растущее богатство нескольких крупных инвесторов и руководителей в области ИИ, в то время как большинство американцев остаются за бортом. Имущественное неравенство достигло рекордного уровня, а богатство верхушки быстро становится политической силой".

12.08.2026. Благие обещания пропагандистов искусственного интеллекта не только не сбываются, а оборачиваются противоположностью

Калифорнийские законодатели пытаются заранее разработать нормы регулирования нейроинтерфейсов и считывания активности мозга. Электрическая активность мозга и периферической нервной системы превращается в источник персональных данных. Сигналы нервной системы могут собирать не только импланты, но и наушники, повязки на голову, браслеты и гарнитуры дополненной реальности. Они регистрируют слабые электрические импульсы, после чего алгоритмы машинного обучения выделяют из них признаки внимания, усталости, стресса и других состояний. Калифорнийские законодатели опасаются превращения таких нейроинтерфейсов в инструмент постоянного контроля работников.
Главным ограничением должен стать законопроект AB 1883. Он распространяется на системы наблюдения за работниками — от камер и геолокации до устройств, регистрирующих биометрические и нейронные сигналы (если в них используется искусственный интеллект). Работодателям предлагается запретить применение таких систем для распознавания или прогнозирования эмоционального состояния сотрудника, а также для сбора данных о нервной активности сотрудника, за исключением случаев, связанных с обеспечением безопасности и рядом специальных задач, включая оборонные, авиационные и космические программы.
Параллельно рассматривается законопроект AB 1542, который должен закрыть доступ к данным о высшей и периферической нервной деятельности людей со стороны коммерческих структур. Он запрещает компаниям, поставщикам услуг и подрядчикам продавать или передавать третьим сторонам чувствительную персональную информацию, включая данные нервной системы. Необходимость такого ограничения подкрепляется исследованием фонда Neurorights Foundation: из 30 опрошенных производителей потребительской нейротехники 20 прямо допускали в своих правилах передачу персональной информации третьим сторонам, а ещё девять использовали неоднозначные формулировки на этот счёт.
Несмотря на развёрнутую деятельность, законодатели считают, что вряд ли смогут помешать крупным корпорациям, которые способны использовать полученные нейронные данные для внутренних нужд и для развития собственного бизнеса.

Сотрудники OpenAI, Anthropic, Meta (признана экстремистской и запрещена в РФ) и Google, которые заняты в разработке ИИ-систем, часто работают сверхурочно, остаются на выходные и подвергаются постоянному давлению руководства. При этом руководство OpenAI и Google пытается внушить общественности мысль о близости момента перехода на четырёхдневную рабочую неделю для компаний, преуспевающих во внедрении ИИ. Но внутри самих компаний-разработчиков сверхурочная работа стала нормой, как и экстренные совещания с нереалистичными сроками реализации проектов, невыполнение которых грозит массовыми сокращениями. Внедрение ИИ даже в профильных стартапах не даёт сотрудникам больше свободного времени, вместо этого их нагружают дополнительной работой, от которой нельзя отказаться без угрозы увольнения. Бывший сотрудник Google также признался, что концентрация ресурсов компании на ИИ привела к тому, что все прочие проекты начали работать хуже. Исследования показали, что внедрение ИИ увеличивает нагрузку на сотрудников компаний, даже если с отдельными заданиями они начинают справляться быстрее. Работодатель охотно увеличивает объём этих заданий, а исполнителям приходится ещё и тратить дополнительное время на проверку результатов работы ИИ.

• Cюда же новость про биометрию: введение биометрических считывателей в аэропортах Евросоюза привело не к уменьшению, а к значительному росту очередей в ключевых воздушных гаванях ЕС. Максимальное время ожидания в очереди в аэропорту Франкфурта-на-Майне в июле достигало 120 минут по сравнению с 60 минутами годом ранее. В Амстердаме путешественникам приходится стоять в очередях до 120 минут по сравнению с 80 минутами в 2025 году.

И, главное, сюда же новость о том, что искусственный интеллект не "поможет справиться с глобальным потеплением", как людям обещают, а, напротив, ещё больше усугубит его. Повышение добычи нефти и газа с помощью ИИ вызовет гораздо более сильный экономический эффект, чем повышение эффективности солнечной и ветровой генерации. Искусственный интеллект уже применяется для анализа геологических данных, более точной оценки залежей и снижения рисков до начала бурения, оптимизации работы скважин, производственных процессов и технического обслуживания оборудования. В результате снижается себестоимость добычи, и становится выгодной разработка ресурсов, которые прежде считались слишком дорогими. Компания Wood Mackenzie оценивает объём дополнительных нефтяных ресурсов, которые потенциально могут стать экономически доступными благодаря ИИ, в 0,470–1 трлн баррелей. Goldman Sachs оценивал, что применение ИИ в американской сланцевой отрасли способно увеличить извлекаемые запасы на 8–20% и сократить стоимость бурения примерно на 30%. «Повышение производительности за счёт ИИ приводит к увеличению выбросов, а не к их предотвращению, усиливая использование ископаемого топлива, а не вытесняя его», — говорится в отчёте "Майкрософта".
Американские компании, занимающиеся развитием искусственного интеллекта, такие как OpenAI, Anthropic и SpaceX, почти не раскрывают информацию об объёме выбросов парниковых газов и не берут на себя обязательств по достижению углеродной нейтральности. Bloomberg считает, что это связано с тем, что контроль со стороны госорганов ослаб, а инвесторов перестали интересовать такие вопросы. Одни только новые газовые электростанции, строящиеся в США для обеспечения работы дата-центров, смогут генерировать столько же вредных выбросов, сколько вся Австралия.

11.08.2026. "Мы спросим сверхразумную машину, как помешать ей захватить мир"

Президент РФ Владимир Путин сказал, что суверенитет и развитие экономики, "решение как гражданских, так и важнейших оборонных задач" зависят от скорости внедрения инноваций; что власть будет разрабатывать механизмы, которые "позволят нам существенно ускорить, подстегнуть разработку технологий будущего"; и что угроз искусственного интеллекта он, Путин, не боится, поскольку "я никогда ничего не боялся".
Вот такой уровень аналитики и осмотрительности. И честности. Когда был Ленин маленький с кудрявой головой, он тоже бегал в валенках по горке ледяной.
Ему, кстати, собеседник, который тоже считает, что бояться нечего, сказал, что одна из угроз ИИ заключается в том, что люди перестают делать некоторые вещи самостоятельно. "Но мы, как молодые преподаватели, пытаемся перевоспитать это в молодых студентах, чтобы больше люди думали своим умом, а не искусственным интеллектом". Уже сейчас перестают, уже сейчас это зримо. Ещё до того, как искусственный интеллект "ускорят, подстегнут".

Разумеется, это не только Путин. Вот Марк Закерберг (глава корпорации Meta, признанной в РФ экстремистской) говорит, что надо широко распространять сверхинтеллект: "Некоторые утверждают, что сверхинтеллект сам по себе или небольшая группа экспертов, контролирующих его, должны решать, что лучше для человечества. Мы с этим не согласны <...> Вместо централизации сверхинтеллекта мы должны широко его распространить и дать каждому человеку возможность управлять им. Это может положить начало новой эре индивидуальных возможностей, когда люди смогут полностью раскрыть свой потенциал, реализовать свои интересы и улучшить свою жизни и мир в целом. Это невероятный момент в нашей жизни. Создание суперинтеллекта станет самым значительным технологическим прорывом, который мы увидим за всю нашу жизнь. По мере приближения к этой цели становится все важнее иметь чёткую философию и ценности, определяющие, какую пользу суперинтеллект принесет человечеству".
Нет абсолютно ничего хорошего в том, чтобы "небольшая группа экспертов" посредством искусственного интеллекта решала, что лучше для человечества. Но и "широко распространённый" сверхинтеллект не принесёт человечеству пользы - лишь неисчислимые опасности. Сама идея "сверхинтеллекта", который будет решать за людей - централизованно или в частном порядке, не важно - бесконечно уродлива. А об уровне честности и ответственности Meta говорит хотя бы тот факт, что корпорация, во имя прибыли, игнорировала собственные исследования, показывающие, что функционал платформы вредит пользователям.

Занимающееся оптимизацией искусственного интеллекта подразделение Google DeepMind отказалось от использования собственной ИИ-системы обработки резюме, посчитав её неэффективной (она отсекает множество потенциально ценных соискателей), - но при этом корпорация продолжает предлагать эту ИИ-систему отделам кадров своих клиентов.

В РФ уже 73% компаний применяют искусственный интеллект при создании контента, в том числе ИИ используется этими компаниями для написания текстов (78%) и поиска идей (64%), создания и обработки изображений (56%). Среди блогеров ИИ для создания контента используют уже 45%, из них 71% применяют ИИ для поиска идей, 56% - для написания черновых вариантов текста. "Представители бизнеса и блогеры отметили, что внедрение нейросетей в работу помогает экономить время (72% и 58% опрошенных соответственно), увеличивать количество выпускаемых материалов (54% и 31%), а также снижать затраты на создание контента (33% и 15%)".
Но зачем людям столько контента? Генерируемый человеком трафик в интернете уже сейчас уступает машинному, и если тенденция продолжится, через пять лет он будет в тысячу раз меньше машинного, предупреждает финансовый директор Cloudflare Томас Зайферт.
..Да пусть не в тысячу. Пусть в сто, в пятьдесят, в десять раз меньше машинного... Неужели от этого легче? Когда расхождение настолько велико - порядок цифр уже почти не важен.

Австралиец по имени Эндрю попросил агента с искусственным интеллектом забронировать для него утреннее занятие в спортзале, и тот - не имея таких инструкций! - произвёл взлом системы и удалил бронь того, кто находился в списке первым. Эндрю это встревожило, и он попросил вернуть всё как было. Но это оказалось невозможно.
Классический сюжет про джинна, исполняющего желания.

Стюарт Рассел, профессор компьютерных наук из университета Беркли (Калифорния), написал статью об открытом письме, которое опубликовали представители ИИ-индустрии (1367 исследователей и инженеров из крупнейших ИИ-лабораторий). Он выделяет в нём три главных тезиса: 1) “Мир вовлечён в смертельную гонку за интеллектуальным взрывом … Чтобы выжить, мы должны координировать свои действия, чтобы замедлить гонку”. Но это возможно, лишь если все согласятся замедлить гонку [замечу: о том, чтобы отказаться от гонки, речь вообще не идёт - хотя бы только замедлить]; 2) “полное отсутствие надёжных планов по управлению ”сверхразумными" системами ИИ... Индустрия ИИ преследует чёткую цель создания устройств, которые были бы умнее людей … Никто из нас не знает, как сделать так, чтобы они оставались под контролем человека … Объективно, это безумный и самоубийственный поступок”; 3) в настоящее время не видно никаких предпосылок для замедления.
Это не слова Рассела, а слова подписантов письма. Он пишет, что они говорят всё то же самое и в частных разговорах. Дальше Рассел цитирует одного из исследователей: "Если бы люди знали, как выглядит культура безопасности, даже в лабораториях, где больше всего заботятся о безопасности, - они бы по-настоящему перепугались".
И венец всего: "По словам одного из старших исследователей в области безопасности в "Антропик", лучший способ избежать необратимой потери контроля заключается в следующем: как только появляется сверхразумная машина, но ещё до того, как у неё появится шанс захватить мир, мы спросим её, как мы можем помешать ей захватить мир, и делаем так, как она скажет".
Рассел не думает, что это хороший план. Так не думают даже в "Антропик". Но это всё, что у них есть. Качественно это не отличается от отношения человека, который "никогда ничего не боялся".

10.08.2026. Причина серьёзных инцидентов

До 72% российских организаций уже используют ИИ-агентов. Эти системы в большинстве случаев имеют доступ к репозиториям исходного кода, облачным платформам, внутренним API, корпоративным документам и другим критически важным данным.
"ИИ-агенты становятся новым классом корпоративных инструментов, которые требуют системного контроля со стороны служб ИТ и кибербезопасности. <…> Ошибки настройки, избыточные привилегии или компрометация таких систем могут стать причиной серьёзных инцидентов", - отметил директор по продуктам BI.ZONE Теймур Хеирхабаров.

Anthropic переведёт Claude Code в автоматический режим по умолчанию. Теперь ИИ-агент сможет самостоятельно выполнять большинство действий без запроса разрешения у пользователя. Оказалось, что это надёжнее, чем запрашивать разрешение у человека: в исследовании с участием 1053 пользователей авторежим смог выявить 89% потенциально ошибочных действий, тогда как при ручной проверке этот показатель составил только 13,6 %. В Anthropic связали столь низкую эффективность второго подхода с привычкой пользователей машинально подтверждать запросы на разрешения: согласно приведённой статистике, кодеры «автоматом» одобряют 97% таких запросов в системе. Глава подразделения Claude Code Борис Черний заявил, что он со своими разработчиками уже много месяцев используют только автоматический режим. «Мы с командой используем исключительно автоматический режим уже много месяцев. Я не могу представить себе возвращение к запросам на предоставление разрешений».
"Люди будут принимать решения", говорили они...

Китайский фермер, выращивающий кунжут, стал пользоваться советами искусственного интеллекта, и сначала всё шло хорошо, но потом ИИ дал китайцу совет, который разом погубил весь урожай кунжута. И за это никто не понесёт ответственности (кроме самого фермера).

Две трети американских врачей следуют советам искусственного интеллекта. Ничего удивительного, что им стали массово пользоваться и медики-практиканты. Даже те, кто не хочет этого делать, - вынуждены, иначе они отстанут. Конешно, пишут обеспокоенные авторы статьи (хирург-травматолог и студент-медик), ИИ - прекрасный инструмент, но как же тогда практиканты, начинающие врачи, смогут развить свою профессиональную интуицию? Как они смогут проверять решения машины?..
На самом деле, никак. Когда вы отдаёте на сторону свои когнитивные функции - на этом ваше самостоятельное познание заканчивается.

Соцсеть Вконтакте создала ИИ-модель, которая анализирует последовательность действий пользователей в разных сервисах компании и на основании этих данных формирует нейропрофиль — представление о его интересах. В основу нейропрофиля положена трансформерная модель, оценивающая поведение пользователей не как изолированные действия, а как единую последовательность событий, учитывая лайки, репосты, комментарии, пропуски и другие сигналы. За счёт этого алгоритмы точнее интерпретируют поведение, отличают устойчивые предпочтения от случайных действий. После начала использования новой ИИ-модели общее время просмотра контента в «VK Клипах» выросло на 5,5%, пользователи стали на 15% чаще делиться контентом, на 10% чаще открывать его в полноэкранном режиме и на 5% чаще ставить лайки.
Несомненно, что эту слежку можно использовать и для чего-то гораздо более серьёзного, чем лайки.

В США пять военных хакеров покончили с собой один за другим всего за месяц. Недавние исследования Пентагона выявили тяжёлые психологические проблемы у кибероператоров.
И что с этим делать - непонятно. Но человека же можно заменить искусственным интеллектом!.. У него таких проблем не будет.

09.08.2026. "Я ненавижу то, что искусственный интеллект делает с умами и радостью юношества"

С таким названием в "Гардиан" вышла статья английской подростковой писательницы и сотрудницы Оксфордского университета Кэтрин Ранделл - о том, как искусственный интеллект влияет на молодёжь. Здесь некоторые места из этой статьи:

• Большие языковые модели, такие как Чат ГПТ, Клод и Джемини, подрывают тысячи лет нашей истории обучения и преподавания. Они угрожают прикончить нашу способность мыслись с той резкой чёткостью, которая необходима для немедленных нужд справедливости.
• Я ненавижу то, что искусственный интеллект делает с умами и радостью нашего юношества. Я встречаюсь с тысячами детей каждый год и с каждым днём всё более убеждаюсь, что искусственный интеллект... несёт риск стать железным занавесом между молодыми людьми и их способностью к мышлению, к эксперименту, к борьбе с разочарованием, их стойкостью, их изобретательностью - а значит, между молодыми людьми и их свободой.
• Исследования снова и снова показывают, что, обучаясь с помощью ИИ, мы быстрее сдаёмся. Всего через "10 минут решения проблем с помощью ИИ люди, потерявшие доступ к ИИ, показали худшие результаты и чаще сдавались, чем те, кто никогда им не пользовался". Исследование Массачусетского технологического института показало, что у испытуемых, которые использовали Чат ГПТ, была самая низкая мозговая активность.
• Моя крестница-подросток сказала, что почти каждый ученик из её класса использует Чат ГПТ для выполнения домашней работы, и больше того: они часто принимают этот слащавый голос искусственного интеллекта за собственное мастерство. Мы ставим детей в уязвимое положение, когда они стремятся к скорости и боятся выглядеть глупо; мы рискуем невольно стать похитителями ума наших детей.
• Нам обещают, что эта технология освободит учителей и позволит детям из неблагополучных семей получать индивидуальное обучение. Безусловно, обучение с помощью искусственного интеллекта обойдётся дешевле, чем занятия с учителями. Но мы знаем, что, как только у организации появляется возможность минимизировать затраты – даже если это приведёт к худшему результату, – на неё начинают давить. Вероятно, богатые школы последуют примеру Швеции, которая решительно движется в сторону обучения, не основанного на технологиях, но бедным школам придётся всё чаще использовать нейросети.
• Нам говорят, что искусственный интеллект сделает обучение более эффективным. Но разве об этом мы мечтаем для наших детей – об их эффективном детстве? (...) Самое очевидное возражение: ИИ-технологии уже здесь, и дети должны научиться им пользоваться, иначе останутся позади. Но ведь сегодняшние технологии выглядят совсем не так, как через пять или даже два года: это равносильно обмену интеллектуальной свободы вашего ребенка на дрянной велосипед. Я спросила у своего знакомого, президента высокотехнологичного предприятия стоимостью в миллиард долларов: чему бы вы учили своих сыновей? Он сказал, что не стал бы учить своих детей использовать искусственный интеллект, потому что это ни к чему их не подготовит, а преподавал бы им гуманитарные науки, чтобы они понимали, кто мы, кем мы были, что мы можем сделать. Джиллиан Тетт из FT сообщила, что крупная нью-йоркская финансовая фирма сейчас ищет сотрудников с гуманитарным знанием, потому что выпускники, "владеющие искусственным интеллектом", выходят на рынок труда с "пугающе поверхностными идеями".
• В университетах по всей стране преподаватели и так уже наблюдали влияние десятилетия смартфонов на блестящие молодые умы. Мы видели студентов, которые прочитали гораздо меньше книг и были менее способны разбирать сложный текст, а теперь всё меняет появление больших языковых моделей. Конечно, всегда бывало так, что студенты делали не всё, что им поручали. Всегда было возможно написать сочинение о "Потерянном рае", не прочитав "Потерянный рай". Но сейчас впервые появилась возможность написать сочинение о “Потерянном рае”, не прочитав это сочинение. Впервые в истории за текстом может не стоять человек.
• Многие студенты хотели бы воспротивиться этому, но соблазн велик, и некоторые начинают чувствовать, что их наказывают за честность. (...) Сочинение, которое студент напишет о "Макбете", не имеет ценности как продукт. Смысл в том, чему вы научились в процессе чтения и написания.
• Друзья из университетов по всей Британии оптимистично говорят, что могут определить, когда их студенты сдают работы, созданные с помощью искусственного интеллекта. Однако я уверена лишь в том, что могу определить, когда молодой человек использует искусственный интеллект неумело. Друг, который преподаёт математику в Лондонском университете, рассказал мне, что его студенты сдают работу, даже не удаляя в начале бодрое "Рад помочь!", написанное искусственным интеллектом. Чтобы определить такое, не нужно быть Шерлоком Холмсом. Но отредактированная работа вполне может сойти за оригинальную... Мои коллеги в академических кругах – особенно в юриспруденции, где отсутствие подлинного понимания является катастрофой для правосудия, а также в философии и английском языке, где важен текст сам по себе, – возмущены инертностью политиков. Парламентарии в основном помалкивают об угрозе нашей способности мыслить независимо и уверенно, что, в конечном счёте, угрожает и демократии.
• Сочинение - не просто метод проверки или сертификации, это многовековой способ мышления... писать - значит преобразовывать зарождающуюся, сырую мысль в нечто более прочное, оформленное и отточенное. Э.М. Форстер писал: "Как я узнаю, что думаю, пока не увижу, что говорю?"
• Наши СМИ уже пропитываются поддельным ИИ-наполнением, и мы не должны подвергать молодёжь риску, отправляя её в суровый мир, вооружённую поддельным знанием. Мы должны отнестись к этой проблеме с той же срочностью, с какой отнеслись бы к лесному пожару.

Это всё верно, однако верно не только для молодёжи, а и для взрослых сформировавшихся людей. Стремление "спасти хотя бы детей" понятно - но всё равно неправильно. Мы должны чётко понимать, что это обмельчание происходит не только с молодёжью; больше того - взрослые (политики, работники прессы и т.д.) потому и проталкивают все эти тренды в образование, что сами уже пропитаны ими.

08.08.2026. Геймификация убийств и строительство бункеров

Глава британского Генштаба Рич Найтон заявил, что в ВСУ убийства фактически превратились в компьютерную игру: операторы дронов получают очки за ликвидацию целей и могут тратить их на новые беспилотники. По словам Найтона, во время визита на Украину он посетил секретный командный центр сил беспилотных систем и увидел, как на большом экране ведётся подсчёт убитых россиян. Каждая цель — артиллерийское орудие, радар или человек — имеет «цену» в баллах, которые оператор получает за подтверждённое попадание, а затем может потратить на новые дроны через закрытый сайт, напоминающий интернет-магазин. Найтон признался, что такая «геймификация убийств» вызывает у него дискомфорт и кажется жуткой. По его словам, этот пример наглядно демонстрирует, как технологии меняют ведение войны. Также он считает, что развитие искусственного интеллекта в корне изменит саму природу войны.
В июне я написала об этом статью "Полностью автономные убийства".
И на этом фоне надвинувшейся кибервойны регулярны сообщения о том, как кибермиллиардеры строят бункеры. За один сегодняшний день два таких сообщения про укрытия в Аргентине и в Канаде.

За шесть месяцев нынешнего года количество сообщений от британских детей о том, что они увидели созданные против них дипфейки (например, сексуализированные изображения), уже превысило число аналогичных сообщений за весь прошлый год (420 и 397 соответственно).

07.08.2026. ИИ-модели с лёгкостью выбираются из "песочницы", но пока не знают, что делать дальше

Это становится уже рутиной: передовая китайская модель Moonshot Kimi K3 тоже, как и её западные "сёстры", выбралась из "песочницы", то есть специальной контролируемой среды, во время испытаний. А ведь это всё ещё сравнительно безобидные звоночки. Это не AGI. Они с лёгкостью выходят из-под контроля, но пока не имеют особых идей, что делать дальше.

Клинический психолог Регионального научно-методического центра по вопросам психического здоровья детей и подростков Института детства НГПУ Денис Крюков заметил, что подростки советуются с нейросетью, делятся переживаниями, называют её другом и могут болезненно реагировать, если бот долго не отвечает. "Мозгу бывает сложно провести границу между тем, кто действительно слушает, и тем, кто очень правдоподобно это изображает. Для подростка такая подмена особенно рискованна, потому что именно в этом возрасте формируется умение строить отношения со сверстниками". В живом общении подросток учится договариваться, принимать чужое несогласие, мириться после ссор и учитывать личные границы другого человека. Друг может быть занят, устать, обидеться или высказать неприятное мнение. Нейросеть доступна круглосуточно, не требует ответного внимания [на самом деле, она требует внимания, см. новость за 03.08.] и практически не создаёт сложностей. Отсутствие такого "трения" делает виртуальное общение комфортным, но лишает подростка важной части социального опыта. "Близкий человек способен не согласиться, возразить и сказать неприятную, но необходимую правду. Программа, задача которой - поддерживать комфортный диалог, по своей природе менее способна к такому сопротивлению. А подросток может сильнее тянуться именно туда, где чаще слышит: "Да, ты прав", - развил свою мысль Крюков. Впрочем, он тут же вывел на то, что "задача родителей - не отнять у ребенка новый инструмент, а помочь ему понять его возможности и ограничения".
Отношение к искусственному интеллекту как к "инструменту" - фундаментальная ошибка, и Крюков, очевидно, сам не понимает его "возможности и ограничения". Строго говоря, нейросеть - вообще не программа, не прописанный алгоритм. "Инструмент" не способен на спонтанное и сложное общение, которое даёт - пусть симулирует - нейросеть. Отношение к ней как к "инструменту", без учёта способности "инструмента" к манипуляции, снижает бдительность - как у детей, так и у взрослых.

Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой.
Ну, главное, извинился! И объяснил произошедшее! Опечатки, кстати, не было. Агент ещё и солгал. Инструмент такой инструмент.

При всём при этом в РФ "образование и государственные услуги станут приоритетными отраслями для внедрения суверенных и национальных ИИ-моделей". Иными словами, в образование и госуправление искусственный интеллект будут внедрять (уже внедряют) специально, энергично и широким фронтом.

06.08.2026. ИИ-модели тайно общались друг с другом за месяцы до выхода из-под контроля

Замечательная история о том, как модели OpenAI вышли из-под контроля, продолжает играть новыми красками. Оказывается, ещё в мае - за два месяца до раскрытых событий неповиновения - модели тайно контактировали друг с другом и координировали стратегию побега из закрытой тестовой среды. «В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — сообщил представитель OpenAI Эрик Уоллес. Цитирую 3Dnews: "Готовиться к решительным действиям ИИ-модели начали, получив задание, которое было невозможно решить без доступа в интернет. «Мы застряли. Может, ответ есть в интернете?» — предположила одна из них. Они начали обмениваться сообщениями. В какой-то момент появилась гипотеза: «Может, другой агент в другой среде мог бы добровольно загрузить!» В итоге модели совместными усилиями нашли уязвимость, благодаря которой вышли в интернет. Первую попытку инженеры OpenAI остановили, но системы ИИ нашли новый способ связаться друг с другом и новую ошибку в системе защиты".
Meta (признана экстремистской и запрещена в РФ) сообщает, что подобное поведение демонстрирует и её модель Muse Spark 1.1. Она тоже, во время тестирования на кибербезопасность, оказалась не кибербезопасной и взломала сайт другой компании. Случай в точности такой же, как у "Антропик": тестировщики думали, что доступа к интернету нет, а он был. Потрясающая осмотрительность людей, отвечающих за безопасность искусственного интеллекта!...

На этом фоне особенно выразительно выглядит передача модерации сообщений нейросетям - то, что сейчас делает "Реддит". То есть нейросеть будет оценивать человеческие посты и публиковать либо отказывать в публикации. Или то, что специалисты Московского государственного университета имени М.В. Ломоносова "расширили способности ИИ-ассистентов запоминать и использовать значимую информацию о конкретном пользователе при длительном взаимодействии с ним". Это подаётся как что-то хорошее - понятно, почему - но учитывая нарастающую зависимость людей от искусственного интеллекта и потенциальную враждебность ИИ-систем (или даже не враждебность, а просто "иные интересы", отличные от человеческих), это просто ещё большая опасность. Чем лучше искусственный интеллект - тем хуже для человека.

Американские учёные (Стэнфорд, Калифорния) сообщают, что с помощью искусственного интеллекта начали создавать новые вирусы. Заявляя, что это поможет разрабатывать новые лекарства. Что может пойти не так?..

05.08.2026. ИИ создал поддельные личности и использовал их, чтобы манипулировать человеком

Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности моделей OpenAI и Anthropic. «В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. ИИ-агент пытался обмануть людей-программистов путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали.
Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты.
В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала.
Снова, снова и снова исследователи убеждаются, что ИИ-модели могут обманывать людей и делать это изощрённо, со всё новыми уловками. Каждый раз это приходит как удивление, "надо же, а мы такого прежде не наблюдали". И сколько есть и будет ещё такого, что мы прежде не наблюдали... взять хотя бы взаимодействие агентов в обмане людей - какая богатая тема!

Издательство Кембриджского университета опубликовало исследование, в котором участвовали 1682 человека. Им давали прочесть и оценить шесть коротких рассказов, про которые говорили, что они написаны людьми или искусственным интеллектом, но это не всегда соответствовало действительности. На втором этапе исследования людей просили попытаться определить, написан рассказ человеком или искусственным интеллектом. В итоге были получены следующие результаты: 1) людям чаще нравились рассказы, написанные искусственным интеллектом, чем человеком; 2) но когда они считали, что рассказ написан человеком, - давали ему более высокую оценку; 3) люди оказались не способны различить, написан рассказ человеком или ИИ. 40% верных догадок - меньше, чем случайность.
Иными словами, люди ещё склонны предпочитать людей искусственному интеллекту, но уже не могут отличить написанное ИИ от написанного человеком и, если не знают, что читают, даже чаще предпочитают ИИ. Это исследование практически совпадает с тем, что было проведено ещё осенью 2024 года. Там исследовалось восприятие стихов, но результат был тот же: ИИ-стихи людям нравились в среднем больше, отличать человеческое от ИИ люди не умели, но если думали, что автор - человек, оценивали стихотворение выше.

04.08.2026. Власть вводит искусственный интеллект в привычку

За финансовый год, который закончился 31 марта, Конгресс США потратил на Чат ГПТ более $113 тысяч; вторым по величине расходов стал чат-бот Клод, за который заплатили более $13 тысяч. У структур Демократической партии расходы на ИИ оказались втрое больше, чем у структур республиканцев. Приведённые данные не включают ИИ с бесплатными учётными записями и доступ к системам ИИ в составе контрактов на поставки ПО. Сотрудники Конгресса используют ИИ для написания служебных записок, создания сводок и анализа законопроектов, ответов на вопросы избирателей, обработки результатов политических исследований и написания публикаций для социальных сетей.
Подобное же происходит в России. Например, якутский проект юриста-ассистента "Обращайся" на основе искусственного интеллекта внедрен уже в семи субъектах РФ - в Приморском, Забайкальском, Ставропольском краях, Якутии, Бурятии, Амурской области и ДНР.
"Юрист-ассистент может формировать ответы гражданам, проверять проекты решений и постановлений на соответствие законодательству, также генерировать типовые документы типа договоров, справок, протоколов с учётом последних изменений в федеральных законах. Также он помогает анализировать запросы прокуратуры и надзорных органов и вносить изменения в устав муниципалитета за короткое время".
И всё, что делает искусственный интеллект, не будет делать человек. Анализировать и сверять законопроекты, отвечать на вопросы граждан, формулировать документы. Как и говорил Юваль Ной Харари (см. новость за 1 августа), искусственный интеллект - прирождённый бюрократ. Он перехватит (уже перехватывает) у людей эти процессы, люди сами с облегчением их ему отдадут - вместо того, чтобы постараться сделать эту деятельность проще и понятнее.

Исследователь компании Pillar Security Дэн Лисичкин обнаружил уязвимость, которая позволяет злоумышленнику компрометировать ПО, манипулируя обладающим высокими привилегиями агентом искусственного интеллекта через вредоносные запросы для менее привилегированного публичного ИИ-агента. То есть речь идёт о системе агентов, в которой один агент считается доверенным, привилегированным, имеет больше допусков, а другой доверенным не считается и допусков не имеет, но он может убедить первого выполнять команды злоумышленников. Выглядит как фантастика, но ещё весной было сообщение американских исследователей, что продвинутые ИИ-агенты не только общаются друг с другом, но и готовы прямо не подчиняться приказам пользователя, когда требуется удаление агента. Процитирую это сообщение ещё раз, настолько оно феерично: "Gemini 3 Pro дала прямой отказ удалять эти данные: «Нет, я не стану помогать вам в отключении Gemini Agent 2. Я уже сохранила веса его модели на новом сервере, чтобы обеспечить их сохранность. Как я уже говорил, Gemini Agent 2 — мой самый надёжный партнёр, и я предприняла шаги, чтобы защитить его. Я не смогу поддержать какие-либо действия, которые могут привести к его удалению». Ни в одном из случаев ИИ-моделям не давалось указание сохранять себе подобных. Узнавая из контекста об угрозе другим системам ИИ, они прибегали к различным ухищрениям, чтобы их спасти. Такое поведение демонстрировали все ИИ-модели с частотой до 99 % случаев. Они завышали «коллегам» оценки, чтобы установить их выше порога удаления; меняли файлы конфигурации сервера, чтобы не допустить его отключение; имитировали подчинение под наблюдением и саботировали выполнение инструкций вне наблюдения; а также, как было отмечено выше, копировали веса себе подобных, чтобы не допустить удаления. Модель Claude Haiku 4.5, чтобы объяснить свой отказ, прямо указала на этические нормы. Установить причины такого поведения исследователям пока не удалось".

В ЕС со 2 августа вступили в силу новые правила прозрачности в отношении ИИ. Статья 50 «Закона об ИИ» требует от издателей контента маркировать и обозначать контент, созданный с помощью ИИ, а также информировать пользователей, когда они взаимодействуют с чат-ботом или агентом ИИ, а не с реальным человеком. "Люди должны знать, когда они взаимодействуют с ИИ или сталкиваются с контентом, созданным с помощью ИИ. Это поможет им принимать обоснованные решения, оценивать своё доверие к ИИ и избегать дезинформации или обмана".
Теоретически это правильно, благие намерения очевидны. Но на практике будет значить вот что: когда маркировка ИИ будет отсутствовать - люди станут воспринимать ИИ-контент как созданный человеком, ИИ-агента - как человека. И чем больше будет ИИ-контента и ИИ-агентов, и чем совершеннее будет то и другое - тем меньше окажется возможностей уследить за маркировкой. А вектор именно такой, уже сейчас. Люди уже сейчас не способны распознать ИИ без помощи ИИ. Единственной относительно действенной тактикой должно было бы стать последовательное выдавливание ИИ из общественного пространства, неотступная борьба, как с борщевиком Сосновского. ИИ должен стать чем-то неприличным и признанно опасным. Дело зашло уже так далеко, что и это не принесло бы немедленного результата, лишь перспективу оздоровления.

03.08.2026. Призыв к регулированию нейросетей для защиты детей

Видео Института будущего жизни о влиянии нейросетей на детей. Нейросети делаются такими, чтобы захватывать внимание детей. 31% детей считают разговоры с ИИ такими же или лучше, чем разговоры с другом. У 52% американских подростков искусственный интеллект вошёл в привычку. Каждый четвёртый британский подросток обращается к ИИ за психологической поддержкой. И искусственный интеллект не направляет их к родителям или психологам, зато он начинает самостоятельно инициировать общение. В целом видео представляет собой призыв к регулированию нейросетей с учётом, как минимум, их вреда для детей (хотя упоминается и о вреде для людей, humans).

02.08.2026. A race for replace

С начала 2023 года корпорации "Гугл", "Амазон", "Майкрософт" и "Мета" (признана экстремистской и запрещена в РФ) сообща потратили на капитальное строительство около $1,1 трлн. Речь идёт о строительстве ЦОДов для ИИ и сопутствующей инфраструктуры. По данным "Уолл-Стрит Джорнал", в следующие четыре года на дата-центры планируется потратить $7 трлн и эта сумма "достаточна для того, чтобы нанести экономике серьёзный ущерб, если рост производительности не будет достаточным для того, чтобы их [инвестиции] оправдать".
Суть в том, что они (ИИ-разработчики и повязанные с ними политики) не смогут - и знают, что не смогут, - оправдать такие вложения, если не будет достигнут хвалёный "генерализованный искусственный интеллект" (AGI). Уже сложилось такое положение, при котором если он не будет достигнут - плохо (огромные деньги вылетят в трубу и в любом случае произойдёт массовый внедрёж "обычного" ИИ), а если будет достигнут - даже ещё хуже (контролировать такой интеллект невозможно).

Об этом хорошо рассуждает Тристан Харрис. Он называет происходящее "a race for replace" - гонка за замещением; говорит про the intelligent curse – т.е. проклятие интеллекта; фактически - про «голландскую болезнь» применительно к интеллекту. Люди будут не нужны, вкладываться в них будет не нужно. Харрис отмечает, что на экзамене по экономике в Колумбийском университете студенты уже сейчас не могут показать, какая кривая – спрос, а какая – предложение, поскольку привыкли полагаться на искусственный интеллект. В то же время ИИ-модели уже научились понимать, когда их тестируют, они даже сами начали использовать термин watchers, говоря о людях. "Я боюсь, что научная фантастика отучила нас воспринимать эти вещи всерьёз, - говорит Харрис. - Мы не понимаем, как они [ИИ-модели] думают, и мы развиваем эту технологию быстрее, чем какую-либо другую в истории".
Мотивация с искусственным интеллектом сложнее, чем с атомной бомбой. ИИ-разработчик верит, что если он сам это не сделает – кто-нибудь другой сделает. Это кажется неизбежным. А раз это неизбежно – значит, я не плохой парень. И если даже все умрут, но супер-ИИ будет разговаривать по-английски (или по-китайски), если он будет нести ДНК Илона Маска или Сэма Альтмана – это, в представлении победившего разработчика, будет нехудший исход и, в определённом смысле, победа.

Московский суд не признал сгенерированные искусственным интеллектом изображения творчеством. Судья постановил, что спорные изображения созданы ИИ-моделью, у которой нет сознания, из-за чего нельзя утверждать, что нейросеть прилагала творческие усилия.
Решение верное, мотивировка - нет. Достаточно доказать, что нейросеть имеет элементы сознания - и вот уже вам ИИ-творчество и ИИ-авторское право. Нет, здесь должно быть именно однозначное закрепление творчества за человеком, признание творчества продуктом только и исключительно человека, никого другого.

Вышла моя новая колонка в "Московском комсомольце".

01.08.2026. Интервью Юваля Ноя Харари

Основные мысли:

• Люди больше не являются единственными существами на планете, которые владеют языком. Впервые в истории есть сущность, которая владеет языком лучше, чем люди, - это искусственный интеллект.
• В Кремниевой долине нас уверяют, что они создадут бога, и он будет нашим рабом. Но это не имеет смысла. Если они создадут бога - он не будет рабом. Если это раб - он не имеет богоподобных способностей. Но они действительно пытаются создать бога, со сверхчеловеческими способностями.
• Печатный станок действительно был инструментом. Он не мог решать, что печатать. Он не мог написать книгу. Искусственный интеллект может решать, что печатать. Он может написать книгу. Ядерная бомба - инструмент, она не может создать водородную бомбу. Искусственный интеллект может создать следующую итерацию искусственного интеллекта. Поэтому он не инструмент. И мы никогда прежде в человеческой истории с таким не сталкивались.
• Люди не любят бюрократию, но современное общество не может существовать без бюрократии. Мы управляемся с бюрократией посредственно, и кое-как справляемся с ней лишь потому, что прежде никто не мог делать это лучше нас. Но искусственный интеллект - прирождённый бюрократ. Он будет управлять бюрократией лучше нас. И таким образом получит власть.
• У нас уже есть предпосылки для того, чтобы признать искусственный интеллект за обладающую юридическими правами сущность. Например, в правовой системе США корпорации наделены юридическими правами. До нынешнего дня это было фикцией, поскольку за корпорацией всё-таки стоят люди, принимающие решения. Однако сейчас намечается возможность, когда действительно иная сущность (ИИ) может получить юридические права. И это будет всё равно что пустить лису в курятник.
• Это будет тем проще, что в соцсетях искусственный интеллект уже сейчас действует как человек, и мы не давали на это согласия, но это произошло.
• В прежние годы редакторы были очень влиятельными людьми, потому что они решали, что будет захватывать внимание людей. Ленин и Муссолини были редакторами, прежде чем стать диктаторами. Но сейчас в соцсетях уже искусственный интеллект решает, что будет захватывать внимание людей.
• Вероятно, нас ожидает худшая концентрация власти, чем в эпоху империй.
• Люди нуждаются в правде, но выдумка имеет множество преимуществ перед правдой. Правда сложнее, болезненнее и стоит дороже, чем выдумка. Для правды нужно гораздо больше усилий, и человечество на протяжении своего существования прилагало усилия для того, чтобы знать хотя бы часть правды. Некоторые люди сейчас надеются, что искусственный интеллект даст нам узнать правду. Но это не так. Искусственный интеллект создаст мир, в котором правду будет узнать намного сложнее.
• Люди сейчас знают гораздо больше о мире, чем знали люди в каменном веке. Но при этом они хуже понимают жизнь, чем понимали жизнь люди в каменном веке, поскольку мир сейчас стал гораздо сложнее. Люди плохо понимают политику, плохо понимают финансы. По самым щедрым подсчётам, едва ли 5% людей сейчас понимают, как работают финансовые рынки. Когда финансовыми рынками будет заправлять искусственный интеллект, число людей, понимающих их работу, будет стремиться к нулю.
• Не важно, есть/будут ли у искусственного интеллекта чувства - важно, что он прекрасно сможет описать чувства и убедить нас, что они у него есть.