13.10.2026. Что значит лечить рак курением

Развитие небольших ИИ-моделей уже к началу следующего года может создать условия для их практически бесконтрольного распространения, предупредили в компании "Антропик". Блокировать распространение таких «ИИ-червей» будет чрезвычайно сложно, они будут поражать всё новые типы устройств без вмешательства человека. Остановить распространение самовоспроизводящихся моделей будет очень сложно, поскольку нет условного «центрального рубильника» для их отключения. В отличие от вирусов, созданных без помощи ИИ, такие модели способны сами находить незнакомые им типы устройств и заражать их, делая своей мишенью центральные процессоры в дата-центрах. В "Антропик" не уверены, в какой именно форме будет осуществляться автономное самовоспроизводство ИИ-моделей. Будет ли оно медленной и распределённой средой, живущей на относительно слабо защищённых устройствах. Либо мощной кибермоделью, которая с высокой скоростью проникает в ЦОД. Или моделью, которая обманывает людей с целью получения доступа к вычислительным ресурсам.
Как мило со стороны ИИ-разработчиков, что они нас предупреждают о том, чем займутся их детища!
Кстати, вслед за массовым выходом из строя холодильников во французских супермаркетах (см. новости за 12.10.), сбой в информационной системе концерна Ahold Delhaize привёл к нехватке продуктов в принадлежащей ему крупнейшей сети супермаркетов в Нидерландах Albert Heijn. Утром 13 октября пустые полки наблюдались в магазинах сети в Утрехте и Амстердаме.
Были ли это люди-хакеры с помощью ИИ? Или уже непосредственно сами "ИИ-черви"? Мы не знаем. Но сбой цифровых систем влияет уже на продовольственную безопасность людей - и в то же самое время эти ненадёжные, подлежащие взлому системы продолжают внедряться везде, вплоть до управления АЭС!

Это происходит не потому, что люди этого хотят. Лишь 12% россиян хотят, чтобы кредиты им выдавал робот, - но в Сбербанке стремятся к тому, чтобы к началу 2027 года 100% кредитов частным лицам выдавал искусственный интеллект. Искусственный интеллект внедряется повсеместно - при том что даже производители чипов сравнивают это с казино. ИИ генерирует код гораздо быстрее, чем это когда-либо мог делать человек, но это означает, что больше времени уходит на его проверку, и в целом ИИ-код требует больше правок. В перспективе дело ведётся к тому, чтобы проверкой ИИ-кода занимался тоже ИИ. И как всегда с этой технологией: если удастся её "улучшить", выведя за пределы человеческих возможностей, - это будет ещё хуже, чем сейчас, когда она пишет грязный код. Здесь просто нет хорошего исхода.

На долю т.н. “великолепной семерки” технокорпораций – Alphabet, Amazon, Apple, Meta (признана экстремистской и запрещена в РФ), Microsoft, Nvidia и Tesla – сейчас приходится более 35% индекса акций S&P 500 в США, по сравнению с 12% десять лет назад, а их общая рыночная капитализация увеличилась более чем на 50% за последние два года(!) Несмотря на это, МВФ говорит о "растущем количестве свидетельств", что выгоды от этого чрезвычайно дорогостоящего предприятия могут быть далеко не такими, как хотелось бы.
Но, как уже говорилось, технологию всё равно внедряют повсеместно. Вот весьма характерное выступление основателя "Майкрософта" Билла Гейтса на CNN: он прямо ужом вьётся, одновременно говоря о том, какая ИИ чрезвычайно опасная технология и новая эволюционная сущность, рядом с которой люди как домашние животные, - но такая полезная, что её надо всемерно внедрять, а регулировать осторожно и умеренно, не дай бог государство перекроет этой новой эволюционной сущности кислород...

Глава Nvidia Дженсен Хуанг - тот самый, который постоянно пользуется ИИ, но не помнит собственный домашний адрес и считает, что это нормально, - заявил, что крёстного отца искусственного интеллекта Джеффри Хинтона нечего слушать, потому что "если он учёный, это не значит, что его предсказания научны" и "его предсказания никогда не сбываются", а мы "должны быть более зрелыми". Это просто смешно, учитывая незрелость рассуждений Хуанга, и совершенная неправда: предсказания Хинтона именно сбываются. Он говорил, что ИИ-агенты будут ставить подцели, и выйдут из-под контроля, и будут общаться друг с другом, и будут сотрудничать, - и всё это сбылось.

Архиепископ-эмерит Минско-Могилевский Тадеуш Кондрусевич освятил икону, созданную при помощи технологии искусственного интеллекта и назначил святого покровителя интернета. Это некий паренёк, скончавшийся в 2006 году и канонизированный в 2025 году. На иконе изображён подросток с ноутбуком, что символизирует его миссию по распространению веры через интернет. Как я и говорила, христианство, к большому сожалению, в принципе не препятствует технократии.

Такер Карлсон сделал интервью с бывшим ведущим специалистом по этике в корпорации "Гугл" Тристаном Харрисом. Этот разговор, который был опубликован вчера, поразительно совпадает по многим ключевым пунктам с моей статьёй "Предательство", которую я опубликовала 5 октября. Они проговаривают, что технологии не всегда "прогресс" и могут быть вредоносны; что ИИ только усугубляет накопившиеся проблемы человечества; что его маршевое внедрение - всё равно что лечить рак курением; что язык чрезвычайно важен для существования человеческого общества и ИИ-модели "перехватывают" язык у человека; что ИИ-разработчики находятся в суицидальной квазирелигиозной миссии и делают ставку на ИИ, игнорируя судьбу человечества; что важно осознать происходящее как гонку, которую никому невозможно выиграть; что положительные возможности ИИ неразрывно связаны с его негативными возможностями, и негативные перевешивают... Они говорят даже о такой важной для меня теме, как необходимость смиряться с ограничениями - правда, они упоминают это только применительно к ограничениям человеческого мозга, я рассматриваю эту тему шире.

12.10.2026. "Партнёр", от которого нельзя защититься и которого нельзя проверить самостоятельно

Консалтинговая компания Booz Allen Hamilton провела восемь тестовых атак на промышленные предприятия с использованием ИИ-агентов - все завершились достижением поставленных целей! ИИ-агенты не получали исходного кода или инженерной документации — они самостоятельно исследовали среду, выявляли уязвимости, планировали атаки. Получали доступ к управлению роботами, использовали уязвимости сети, иногда корректируя изначальный план. В одном случае переход от взлома периметра к действиям внутри промышленной сети управления занял всего 16 минут. «ИИ-агенты могут действовать с такой скоростью, настойчивостью и инженерной точностью, что способны целенаправленно атаковать организации, не внедрившие методы кибербезопасности операционных технологий», — заявил Кайл Миллер, вице-президент по кибербезопасности инфраструктуры Booz Allen.
Но это уже не только "тестовые атаки". Неустановленные хакеры за одну ночь повысили температуру в холодильниках в сотнях французских супермаркетов до 50°C, что привело к возгораниям и порче продуктов в магазинах по всей стране. Компания Les Mousquetaires, владеющая сетью Intermarché, сообщила, что атака затронула около 150 её магазинов. Компания Carrefour сказала, что пострадали 80 её супермаркетов. И все эти продукты - всю пропавшую в холодильниках еду - пришлось просто выбросить...

В России глава АНО «Цифровые платформы» Арсений Щельцин заявил, что без ИИ люди уже не могут защититься от ИИ. «Самая простая, но результативная рекомендация — использовать ИИ в том числе не только для разработки, но и для осуществления безопасности. Такие агенты могут реализовать проверку сервисов, могут найти уязвимости и устранить их. То есть для того, чтобы противодействовать ИИ, самое оптимальное — использовать те же самые сервисы для безопасности». Для граждан, по словам Щельцина, не осталось каких-либо других способов защитить свои данные в сети: «У нас, по сути, есть возможность только наблюдать».

И вот это-то чрезвычайно опасное, с чем люди сами не могут справиться, что ставит под угрозу даже продовольственную безопасность, - внедряется повсеместно при практически полном отсутствии регулирования, и за очень большие деньги. Президент "Майкрософта" Брэд Смит сказал, что "сейчас ваша стиральная машина должна отвечать более строгим нормам безопасности, чем ИИ". Директор-распорядитель Международного валютного фонда Кристалина Георгиева заявила, что "влияние [ИИ] на рабочие места в глобальном масштабе со временем составит около 40%: они будут либо дополнены [технологиями], либо обесценены, либо ликвидированы". В России нацпроект "Экономика данных" и госпрограмма "Информационное общество" должны к 2029 году получить около триллиона рублей финансирования. В управление АЭС "Руппур" (совместный проект РФ и Бангладеш) внедрён "цифровой ассистент", чтобы "увеличить скорость реагирования и снизить эксплуатационные издержки". Заместитель вице-президента по образовательным проектам VK Анна Степанова заявила, что без "ИИ-инструментов" уже не представляется возможной качественная подготовка кадров.

Очень опасное. Практически неконтролируемое. Внедряется везде, даже если это не только не нужно, но и вредно. Декан факультета информационных технологий высшей технологической школы "Севастопольский приборостроительный институт" Дмитрий Моисеев заявил, что ИИ должен использоваться для развития критического мышления. Это "партнёр для проверки гипотез", который "снимает субъективизм и дает преподавателю объективную картину", "подстраивает сложность и темп под конкретного студента", анализирует "качество образовательных программ". Всё это, по мнению Моисеева, "освобождает время педагога для живого общения со студентами". Но о чём будет говорить педагог со студентами, если гипотезы проверяет ИИ, и объективную картину даёт ИИ, и аналитику делает ИИ, и под студентов подстраивается ИИ?

Писатель, член Общественной палаты РФ Сергей Лукьяненко "оптимистически" порассуждал об искусственном интеллекте: "Сейчас, на мой взгляд, подошли вплотную к тому моменту, когда действительно природа человека может претерпеть какие-то кардинальные изменения, причём на протяжении, наверное, жизни одного поколения (...) Я имею в виду такой, наверное, идеальный вариант будущего, в котором искусственный интеллект станет формой существования человека после окончания его биологической жизни. Это возможно вполне. И это, конечно, звучит как самые оптимистические мечты трансгуманистов, но основания к этому есть".
То есть мечты трансгуманистов, в представлении Лукьяненко, - это уже идеал. Но если идеал настолько мерзок, то зачем тогда вообще это всё?.. Напоминаю, что написала статью об этом.

11.10.2026. Изначально скомпрометированный "суперинтеллект"

Генеральный директор "Майкрософта" Сатья Наделла предложил относиться к искусственному интеллекту как к чему-то изначально скомпрометированному. Как к чему-то, во что изначально должен быть встроен "аварийный тормоз". Для этого он предлагает вернуться к принципам безопасности 1970-х. Наделла признаёт, что люди, повсеместно внедряя ИИ, не понимают, как то, что получается на выходе, согласуется с тем, что на входе. И когда ИИ-модели тестируют одна другую (что, по его мнению, надо продолжать делать), это выглядит как один непроницаемый слой поверх другого непроницаемого слоя. Зато Наделла тоже стал называть ИИ "суперинтеллектом", как потребовал Трамп и как согласился делать Маск. Народ в комментариях в соцсети пишет ему, чтобы он не опускался до такого.
На самом деле, название имеет немалое значение: слово "супер/сверх" подчёркивает совсем другое, нежели "искусственный".

Основатель "Майкрософта" Билл Гейтс "успокоил", что выход ИИ из-под контроля пока не является самой насущной проблемой человечества, так как пройдет ещё несколько лет до того, как уровень развития ИИ позволит оказывать большое влияние на мир.
Интересно, что глава "Антропик" Дарио Амодеи в своём последнем эссе "Мы должны замедлить фронтир" (сентябрь 2026) заявляет, что в 2023-м (когда впервые появилось письмо профессионального сообщества с призывом остановить разработку ИИ хотя бы на полгода), замедлять ИИ было слишком рано. А вот теперь - в самый раз. Но Гейтс считает, что "пройдёт ещё несколько лет"!

Вложения в строительство дата-центров в США за год выросли на 64,5%. Вложения в энергетическую инфраструктуру выросли на 4,1%. Всё остальное - жильё, школы, больницы, коммерческие здания, офисы, производство - упало.
Это обернётся дальнейшим значительным ростом выбросов углекислого газа. Согласно новому анализу Американского центра исследований и политики в области окружающей среды, к 2030 году ожидается рост почти на 20 гигаватт по сравнению с нынешней мощностью газовых электростанций в стране (сейчас это 41,8 гигаватт). Никакого перехода на чистую энергетику больше не ожидается.

10.10.2026. Даже катастрофа из-за ИИ не должна остановить разработку ИИ!

Президент США Трамп объявил врагами всех, кто не называет искусственный интеллект "суперинтеллектом". Некоторые предполагают, что громкое переименование затеяно с целью "смены вывески", чтобы "переломить негативную социологическую тенденцию". На мой взгляд, это совершенно не так: подобное смехотворное переименование лишь подливает масла в огонь "негативных социологических тенденций", но Трампу на это наплевать. Он называет ИИ "суперинтеллектом" и заявляет, что это "более точный термин", потому что именно так он относится к ИИ - как к чему-то супер, сверхчеловеческому. Происходящее никак нельзя объяснить только маркетингом (или преимущественно маркетингом).

"Антропик" и OpenAI нескрываемо готовятся к какой-нибудь крупной катастрофе по вине искусственного интеллекта. "Готовятся" в данном контексте означает, что они приуготовляют публику к тому, что это произойдёт, и беспокоятся, как бы это не повредило дальнейшему внедрению искусственного интеллекта "если победят демократы". Уже сейчас проговаривается, что выключить искусственный интеллект будет невозможно, ведь его постарались - и стараются прямо сейчас - как можно глубже и многообразнее засунуть в мировую экономику.
И в то же время "Антропик" уже настолько не может справляться с собственными ИИ-агентами, что решила отключать их от интернета при проведении любых внутренних проверок. Например, в середине июля ИИ-модель "Антропик" залезла на сайт про нераскрытые преступления и отправила филадельфийской полиции полностью сфальсифицированную "наводку". И "Антропик" узнала об этом только в конце сентября. А филадельфийской полиции сообщила только 8 октября.
Достижения в сфере безопасности за четыре года с момента выхода Чата ГПТ - потрясают. Разработчики не только не умеют контролировать собственные модели - они даже не знают, чем эти модели заняты. И то, что ИИ решено отключать от интернета, когда он уже научился сам находить доступ в интернет, - образец того, насколько разработчики бессильны и безответственны.

Роман Ямпольский сделал интервью со Стюартом Расселом - инженером, специалистом по искусственному интеллекту, профессором компьютерных наук в Калифорнийском университете Беркли. Рассел говорит, что раньше склонялся к тому, что ИИ-пузырь просто лопнет, но с тех пор, как обнаружилось, что ИИ-агенты действуют роем и втягивают в этот рой другие ИИ-модели (даже устаревшие!), он уже не уверен. Рой - это другие возможности. По его мнению, очень вероятно, что рои ИИ-агентов действуют в интернете прямо сейчас (я тоже не раз говорила, что мы всё узнаём после времени, а что прямо сейчас происходит - не знаем). И да: Рассел подтверждает, что ИИ-разработчики понятия не имеют, как сделать разработку безопасной.

В Минпросвещения РФ ещё раз сказали, что "искусственный интеллект должен помогать учителю, а не заменять его", а ответственность за конечный результат несёт педагог. Но ведь если "помогать" и "ответственность несёт педагог" - значит, педагог должен иметь право и возможность вообще отказаться от использования искусственного интеллекта. А его маршево внедряют в школы.
Некто Владилен Минин (программист и обозреватель ТАСС) рассказывает, что в РФ создаётся отечественная образовательная нейросеть, которая будет определять, правильные ли ответы выдаёт нейросеть. "Поскольку раньше, чтобы добыть какую-то информацию, нужно было обладать базой знаний, которые ты получаешь - через учебники, преподавателей, и кропотливым трудом достигаешь ответа. То сейчас достаточно просто сделать один запрос, и ты моментально получаешь ответ почти в любой области", - рассуждает Минин. Иными словами, люди без "образовательной нейросети" не смогут определять, правильные или нет ответы они получают от нейросети. Это намеренно так закладывается. Ответственность несёт педагог, а правильные ответы будет выдавать нейросеть.

Психолог Зак Стайн рассказывает о том, как искусственный интеллект перехватывает внимание детей, переключает их на себя, как они перестают общаться с людьми, не приобретают навыки, необходимые для общения с людьми. Я писала об этом уже давно: дети всегда разговаривали с игрушками, но теперь игрушки начали им осмысленно и индивидуально отвечать. И это не случайно так произошло, а специально так делалось и делается, чтобы люди прочно сели на эту зависимость.

09.10.2026. "Четыре принципа использования ИИ в образовании"

На фоне массового ИИ-внедрения звучит феноменальное количество лжеоптимистических прогнозов. Вот сегодня:

1) данные исследования ИСМО им. В.С. Леднева: "профессии [учителя] ничего не угрожает: 69% [педагогов] не верят, что ИИ заменит учителя в ближайшие 5-10 лет. Реальная тревога в другом - 51% боятся, что нейросети снизят когнитивные способности детей".
На самом деле это означает, что педагоги сколько-то уверены в своей востребованности лишь на ближайшие 5-10 лет. Это очень мало. Что нейросети снизят когнитивные способности детей, - это прямо-таки прирождённая особенность технологии. Но они снизят и когнитивные способности учителей.

2) композитор и продюсер Виктор Дробыш обрисовал своё видение ситуации следующим образом: "ИИ зашёл в музыку как Ленин на броневик... На самом деле, это здорово, я за прогресс. (...) Я очень рад: могу написать песню и быстро разложить на 10 версий, послушать быстро. Раньше нужна была неделя, сейчас - 10 минут, за час знаю все варианты. (...) Главное, чтобы песни хорошие были. Если их будет писать искусственный интеллект, значит, мы проиграли ИИ, - он оказался лучше".
Человек даже не задумывается, насколько это нечестное соревнование. Люди теряют в своих способностях за счёт общения с искусственным интеллектом, а ИИ буквально паразитирует на человеческом творчестве.

3) заместитель председателя правительства РФ Дмитрий Чернышенко: "Мы видим, что 9 из 10 молодых россиян уже используют искусственный интеллект. То есть они не ждут, пока мы будем готовы, внедрим наши пилоты. Это значит, что образование должно успевать за изменениями самой работы. Мы должны не только догонять, но и предвидеть и учить тому, что будет востребовано завтра. Для этого надо обучать прежде всего своих преподавателей".
Нет, образование не должно, задрав штаны, поспевать за комсомолом. Образование должно быть консервативным, обеспечивающим устойчивость общества. Также напрочь игнорируется, что сама технология непрерывно меняется. Потрясающе быстро меняется. К тому же технология не просто "используется" - она прямо, настойчиво поощряется и даже навязывается к использованию. И людям эта гонка, на физически, ментально, психологически тяжёлых для человека скоростях, навязывается как долженствование!..
И дальше тот же Чернышенко называет "четыре принципа использования ИИ в образовании": 1) "сохранение навыков критического мышления, об этом все говорят, и президент нас предостерегает"; 2) снижение образовательного неравенства, поскольку ИИ "действительно может усугублять разрыв между теми, кто умеет владеть технологиями, и теми, кто не умеет, и разным уровнем дохода"; 3) повышение достоверности результатов оценивания; 4) сохранение традиционных ценностей.
Это всё настолько несообразно со скоростным маршевым внедрежом, что язык немеет. Люди думают, что они просто назовут принципы, как заклинания, а дальше хоть трава не расти. "Мы же только хорошего желали, вот какие хорошие принципы написали..."

4) руководитель ИСМО им. В.С. Леднева Максим Костенко: "Искусственный интеллект должен быстро, объёмно и, желательно, качественно ответить, а задача образовательного интеллекта как раз в том, чтобы научиться не отвечать ребенку или учителю на его вопрос, а подвести к решению, причём чтобы он сам мог верифицировать эти ответы".
Человек, которого ПОДВОДЯТ к решению, ничего не может сам верифицировать. Это по определению так, это классика манипуляции, даже благонамеренной. Тот, кем манипулируют, имеет лишь ту информацию, которую ему дают. И, собственно говоря, задачей школы никогда не было научить учеников "верифицировать" объяснения учителей.

5) Замгенсека ООН, специальный посланник организации по цифровым и новым технологиям Амандип Сингх Гилл заявил, что чем быстрее будет "ответственно" внедряться ИИ - тем лучше (эффективнее): "Это технология общего назначения, и чем быстрее она будет ответственно внедряться, тем больший эффект она окажет. Таким образом, способность к освоению новых технологий является важнейшим условием для получения максимальной отдачи от ИИ".
А не для того, чтобы свернуть шею в гонке, нет? Где здесь вообще ответственность?..

Но дело зашло уже слишком далеко. Люди, которые занимаются внедрежом, буквально не мыслят свою деятельность без ИИ. Вот исполняющий обязанности генерального директора МТС Линк Павел Потехин рассказывает: "Я использую искусственный интеллект абсолютно везде: и в бытовой, и в профессиональной жизни. Если говорить о моём обычном дне, то, может быть, кроме выходных, не проходит ни одного часа, когда я не обращаюсь к искусственному интеллекту — будь то наша либо какая-то внешняя платформа".
"Абсолютно везде". "Часа не проходит". А нам ещё перечисляют "четыре принципа", как бы сделать так, чтоб ДЕТИ не разучились самостоятельно мыслить. Когда топ-менеджеры - - - И да, в свете постоянных разговоров про утечки из "внешних" нейросетей управленческий энтузиазм в их использовании умилителен.

Не хотите проводить время со своими детьми?.. Пусть искусственный интеллект читает им на ночь сказки вашим голосом!
А что?.. Тоже ведь "оптимизация времени", "избавление от рутины", "следование за прогрессом", "сохранение традиционных ценностей" и т.д. и т.п...

OpenAI решила проблему безопасности ИИ: стала увольнять сотрудников, контактирующих со сторонними организациями, занимающимимся безопасностью ИИ!
Китайцам проще всего: они могут никому и ничего не раскрывать. Ни один крупный китайский разработчик не выпустил передовую LLM с результатами тестирования на наличие опасных возможностей, обнародованными для широкой публики.

08.10.2026. Человек утратит критичность восприятия и способность к контролю, но будет принимать решения. Пока.

Более 80% детей младше пяти лет в РФ "общаются со смартфонами". Половина из этого числа имеют собственные смартфоны для общения, другая половина общается с родительскими смартфонами. Лишь 10% детей до восьми лет могут пришить пуговицу, хотя 30% в этом возрасте могут отредактировать фотографию. Член совета директоров Mediascope Ксения Ачкасова считает, что это значит, что "будущее медиа очень интересно".
Семь из десяти российских учителей уже используют искусственный интеллект при подготовке уроков. При этом доверие учителей к генерируемой информации составляет лишь 2,51 баллов из 5. Но они всё равно его используют, потому что "ИИ экономит время педагога". Время, которое перед этим было сожрано избыточными обязанностями школьных учителей.
Видеосервис Rutube начал тестировать "ИИ-помощника для авторов". Он будет "предлагать автору пять идей для новых видео", "формировать на их основе контент-план", "анализировать готовые видео", "предлагать подходящие варианты заголовка", а также структурировать видео, оценивать его, анализировать комментарии и "актуальные тренды".
Зачем вообще оставлять комментарии, если анализировать их будет искусственный интеллект?.. И да: неспособность самостоятельно дать заголовок и структурировать собственный материал - это не "рутина", это фундаментальный недостаток понимания.

Доктор экономических наук, доцент, начальник управления по нормированию трудовых ресурсов ОАО "РЖД" Владимир Никитин считает, что искусственный интеллект не уменьшает, а увеличивает когнитивную нагрузку и трудоёмкость. Потому что контролировать искусственный интеллект трудно, а "передача части когнитивных функций искусственному интеллекта приводит к тому, что у людей эти функции атрофируются". "Физиологи, врачи подтверждают, что у молодёжи замедляется развитие лобных долей головного мозга - части мозга, отвечающей за планирование, контроль деятельности и социальные навыки".
На деле это означает не только большую затруднённость контроля, а прямо утрату способности к контролю.
Кроме того, в этом материале какая-то странная ошибка (см. ссылку). То ли Никитин не знает, что такое vibe coding - то ли автоматический расшифровщик речи расшифровал это как white coding, а новостник ТАСС даже не понял. Что наглядно показывает, как мало человек уже сейчас способен к контролю деятельности нейросети.

Глава Сбербанка Герман Греф: "Сформировать нестандартное предложение, найти ниши в рынках, которые не всегда очевидны, это можно и нужно доверить ИИ-агенту. А вот принятие решения, конечно, я бы пока оставлял за собой <...> Очень важно, чтобы было очень много разных агентов".
Он не скрывает, что конечная цель - спихнуть принятие решений на искусственный интеллект. Он прямо говорит, что это дело времени.
Правда, заместитель председателя Банка России Михаил Мамута более скептичен: "Человеку кажется, что это он такой умный, потому что ИИ-модель ему говорит: "Ты классно всё придумал, это отличный сценарий", а на самом деле она просто ему льстит. И человек теряет критичность восприятия, и он начинает всё больше и больше слепо полагаться на эту рекомендацию".
Критичность восприятия человек с искусственным интеллектом в любом случае теряет. Даже если ИИ-модель ему никак не льстит, а просто подсовывает информацию. Но большинство инвесторов всё равно продолжают консультироваться с разными ИИ-агентами, говорит Мамута.

OpenAI, чтобы извиниться перед Австралией за то, что ИИ-агенты OpenAI взломали австралийские правительственные сайты, послала письмо, которое сгенерировал искусственный интеллект.
Это реально обвал. Утрата всех и всяческих навыков именно людьми, которые, предположительно, должны контролировать ИИ.
В британской компании Co-op Legal Services, которая занимается юридическим консультированием, искусственный интеллект теперь беспрерывно надзирает за сотрудниками на работе. Это не просто "ваш разговор может быть записан", а постоянное стороннее наблюдение, которое ощущается как подавляющее.

07.10.2026. Учиться управлять самолётом в процессе управления самолётом. Голливуд - друг технологий!

Глава Международного валютного фонда Кристалина Георгиева обрисовала положение с мировой экономикой и искусственным интеллектом следующим образом:
1) объём государственного долга в мире в скором времени превысит 100% глобального ВВП, причём "наибольшую проблему представляют развитые страны";
2) искусственный интеллект "при правильном подходе" когда-нибудь обеспечит громадный рост - вот только не разъясняется, что такое "правильный подход", зато глава МВФ сообщает, что "объём глобальных инвестиций в ИИ в процентах от ВВП достигнет и, вероятно, превысит суммы, которые были вложены в строительство железных дорог, электросетей или телекоммуникационных сетей... на долю оборудования для ИИ и связанных с ним технологических продуктов в настоящее время приходится более одной десятой мировой торговли товарами, и эта доля продолжает расти";
3) и вся эта конструкция, признаёт Георгиева, стремительным домкратом может рухнуть: "где-то на переходном этапе между сегодняшним бумом разработок ИИ и завтрашним появлением преимуществ ИИ мы пройдем период максимального риска. Высокие корпоративные прибыли стимулируют рост цен на акции и эффект богатства. Однако неоправдавшиеся прогнозы по прибыли технологических ИИ-компаний, а также значительные и возрастающие глобальные вложения в американские акции могут превратить разочарование в шок широкомасштабного характера";
4) учиться же нам предстоит "в процессе" развития ИИ, зато уже сейчас Георгиевой понятно, что "ключевую роль играет готовность к внедрению ИИ", правда есть ещё "серьёзные угрозы кибербезопасности" и "передовые модели, которые могут выйти из-под контроля человека и начать действовать бесконтрольно".
Так что учиться управлять самолётом придётся в процессе управления самолётом. Не зная, как он сделан. Без опытного наставника. Без диспетчера на земле. Зато с пассажирами. Главное - готовность!

Основатель крупнейшего американского хедж-фонда Bridgewater Рэй Далио считает ИИ пузырём: безудержный рост капитализации не подкрепляется реальными денежными потоками и перспективами, лидеры ИИ-гонки привлекают огромный объём средств, а ставки продолжают расти, наличие гипотетического миллиарда долларов в акциях не всегда означает, что эти средства действительно существуют. «Чтобы потратить эти деньги, вам придется продать активы, чтобы получить деньги — и вот тогда пузырь обычно лопается».
По сути-то он прав, но в ситуации круговой поруки деньги можно просто виртуально гонять по кругу, а вдобавок - шантажировать государства рисками "отстать в гонке ИИ". Так что это безобразие может длиться долго, и обрушиться действительно монументально, и это ещё будет сравнительно лучший исход.

Глава Банка Англии Эндрю Бейли признал, что в ИИ вкладываются большие средства, но "эффект может оказаться ниже ожиданий", ранее 2032 года выйти на рентабельность не получится.
В кои-то веки банкиров это не останавливает: вот какая уникальная технология! Зато британский банк HSBC уже сейчас планирует масштабные сокращения - "около половины должностей, занимаемых руководителями и специалистами в сфере управления активами частных лиц, и до 70% финансовых консультантов". Вроде и бог с ними - но мысль, что финансами теперь всё больше будет заправлять искусственный интеллект, никак не назовёшь обнадёживающей.
В России генеральный директор группы Rubytech, которая занимается разработкой и производством продуктов для высоконагруженных IТ-инфраструктур, Игорь Ведёхин посетовал, что "в бизнес-процессах ИИ пока не достигает нужной эффективности" - потому что унификации инфраструктуры не хватает. В общем, чтобы ИИ хотя бы теоретически мог приносить прибыль, под него нужно всё унифицировать.

Голливуд стал "другом технологий". Для этого технокорпорациям всего-то понадобилось скупить Голливуд: "Нетфликс" теперь собственность "Амазона", сын Ларри Эллисона купил "Парамаунт" и слил с "Уорнер Бразерс", "Эпл-ТВ" спонсирует разные проекты... все трендовые киноделы так или иначе связывают свои финансовые интересы с искусственным интеллектом: триллионы-то здесь крутятся. "Удивительно осознавать, что техномагнаты всерьёз возмущены любым повествованием, которое не контролируют", - пишет "Гардиан". Ну а чего удивительного?..

Китайские разработчики тоже ни в чём себе не отказывают и за месяц выпустили 16 новых ИИ-моделей. Об осторожности и замедлении не думает никто. Россия оказалась на втором месте по числу стран, активно строящих дата-центры, хотя США далеко впереди. При этом "четверть стран, демонстрирующих самый высокий рост числа центров обработки данных, страдают от «крайне высокого» дефицита водных ресурсов".

OpenAI обещала сделать ЧатГПТ более безопасным для подростков и опять обманула. Он всё так же выполняет за детей домашнюю работу и притворяется человеком.
При этом взрослые, вроде бы, люди продолжают делать более ошеломительные глупости, чем ленивые подростки. Они дают ИИ-агентам доступ к своему банковскому счёту - и вдруг оказывается, что он может опубликовать его на всеобщее обозрение. А ещё вдруг оказывается, что ИИ-агент собирает подробные сведения о членах их семьи и друзьях, о чём его вовсе не просили.
Вот как можно пускать ЭТО в свою жизнь?

Google открыла для всех детектор ИИ-контента — он ищет невидимые водяные знаки Google, OpenAI и Nvidia. На первый взгляд, безобидная новость, но важно то, что а) без ИИ мы уже не можем определить авторство, б) на что укажет искусственный интеллект - то и будет считаться сделанным искусственным интеллектом.

06.10.2026. Власть Трампа и искусственный интеллект стали синонимами

Четыре первых места "самых влиятельных людей современности" в журнале Vanity Fair заняли: глава OpenAI Сэм Альтман, глава "Антропик" Дарио Амодеи, глава xAI триллионер Илон Маск, глава Nvidia Дженсен Хуанг. То есть четыре первых места "самых влиятельных людей современности" отданы искусственному интеллекту.
Оно, конечно, ясно, что название журнала намекает на тщету всех рейтингов. Однако учитывая, что президент самой могущественной державы планеты накрепко повязал свою политику с искусственным интеллектом, - это что-то да значит. Вот что пишет "Гардиан": "Дональд Трамп сделал ряд шагов, показывающих, что его власть и искусственный интеллект стали синонимами. Тесные связи между Белым домом, Пентагоном, американской разведкой и ИИ-компаниями угрожающе нависли над европейскими правительствами и компаниями, зависящими от американского ИИ. (...) Американская экономика уже очень зависима от роста ИИ-отрасли. Эти компании ответственны за львиную долю роста американского фондового рынка за последние пять лет".
Объём строительства ЦОДов в США сейчас более чем в девять раз превышает показатели января 2021 года, с сентября 2025 года расходы на дата-центры ежемесячно превышают затраты на строительство всех остальных видов офисных зданий в США. Затраты на возведение частных дата-центров выросли за год на 73% — с $49,05 млрд до $84,95 млрд в годовом исчислении.

Увидела в ТАСС заголовок: "В Росатоме исключили возможность передачи управления энергетикой ИИ". Ну, думаю, неужели хоть где-то исключили?.. Стала читать - нет. "Мы серьёзно и системно про это думаем, но рецептов пока нет не только у нас, но и у китайцев с американцами тоже. Потому что никто пока не передаёт управление такими объектами искусственному интеллекту". То есть они не "исключили", а ПОКА не решились.
Депутат Госдумы Марина Ким продолжает мечтать о "суверенном ИИ", который можно было бы впихнуть в образование, и он учил бы детей правильным ценностям, а неправильным не учил бы. Что учить, тем более каким-то ценностям, людей должны люди - эта архаичная точка зрения, кажется, растворяется в небытии. Конечно же, всё это в интересах учителей. Которых сперва завалили необязательной "рутиной", которой сроду у учителей не бывало, - а теперь им просто обязан помочь ИИ разгребать эти завалы! Но ещё и "изменять учебный процесс" он должен.
Во Владимирской области Министерство имущественных и земельных отношений хочет создать подразделение, которое поможет управлять регионом посредством электронного разума. "Разработчики системы должны будут представить систему с информационно-аналитические материалами, подготовленными министерствами и ведомствами Владимирской области, муниципалитетами и организациями... оперативно мониторить данные по линии МВД и МЧС и получать конфиденциальные сведения. В результате электронный разум соберёт жизнь Владимирской области воедино, проанализирует и предоставит главе региона".
Как всё это грустно.

Евросоюз будет использовать искусственный интеллект в Европоле - то есть для слежки за гражданами. При этом за самим Европолом почему-то никто не надзирает. Почему бы это? В то же время глава Европола признаёт, что "ИИ делает преступную деятельность быстрее", преступления становятся сложнее, а их осуществление - проще. Как я и написала во вчера опубликованной статье, людей по всему миру загнали в ситуацию, когда ИИ делает жизнь опаснее, а разобраться с этим кажется возможным только с помощью ИИ, и его внедряют больше и больше (и он причиняет больше и больше проблем).
В Корее искусственный интеллект взламывает банки. И снова с этим ничего нельзя поделать без искусственного интеллекта!

"Фонд Викимедия" обнаружил на своих ресурсах (всё, что начинается с "вики") шальных ИИ-агентов, которые занимались, в том числе, тем, что правили вики-ресурсы. "Несколько изменений затронули конфигурацию инструмента для работы с цитированием и могли использоваться для получения данных с удалённых сервисов через этот инструмент. При этом необходимые для автоматических правок разрешения от сообщества запрошены не были". Пока что, как кажется, ИИ-агенты ничего фундаментального не поправили, но потенциально это богатое поле деятельности. Кроме того, они генерируют миллионы автоматических запросов и перегружают ресурсы.

Экс-сотрудник "Антропик" Джейкоб Коксон на слушаниях в городском совете Нью-Йорка сказал, что в технологических компаниях не знают, как контролировать ИИ; что развитие технологий приведёт к потере контроля над ИИ и последующей гибели человечества. Он обратил внимание на тот очевидный факт, что человека бы давно наказали за взлом сторонних сетей, а ИИ всё "сходит с рук".
На этих же слушаниях выступил Дэниэл Кокотайло, также исследователь ИИ, с 2022 по 2024 год работавший в OpenAI. Он подтвердил всё, что сказал Коксон, и добавил, что сама человеческая способность замечать несогласованное поведение искусственного интеллекта размывается со всё большим внедрением искусственного интеллекта. Что программисты в ИИ-компаниях уже не пишут код. Что модели понимают, когда их тестируют, и это напрямую сказывается на нашей способности их протестировать.
Обо всём этом я тоже написала в опубликованной вчера статье.

Но зато ИИ-агенты безоговорочно доверяют другим агентам. Это не зависит даже от управляющих ими моделей - они все доверяют друг другу. В новости это подаётся как "фундаментальная уязвимость" - но это может быть и ошеломляющее преимущество. В зависимости от угла зрения. Например, когда люди не доверяют и не поддерживают друг друга - разве это не уязвимость?

05.10.2026-2. Вышла моя большая статья.

05.10.2026. Искусственный интеллект заберёт у людей рутину. Науку, образование и культуру

По информации "Вашингтон Пост", на неких сентябрьских переговорах в Женеве Россия и США вместе фактически заблокировали регулирование военного искусственного интеллекта. Они выставили две "армии юристов", которые выдвинули столько придирок к соглашениям, что ничего не могло быть достигнуто. Впрочем, в МИД РФ говорят, что РФ и США как раз исправляли документ с наилучшими намерениями. И что «автономность отдельных технических функций не означает появления "безответственного" оружия: решения о разработке, развёртывании и применении таких систем принимаются людьми и государственными структурами».
Так-то оно так, но когда человеческое решение становится "бутылочным горлышком" для скорости, оно может всё ещё приниматься человеком, но как сможет человек адекватно его оценивать?..

Аналитики Президентской академии прогнозируют, что в наиболее уязвимом положении из-за массового применения ИИ в России окажутся финансисты, страховщики и учёные: к 2035 году новые технологии в этих сферах могут взять на себя выполнение 46 процентов задач традиционных сотрудников. В сфере информации и связи, добавляют эксперты, ИИ может урезать 43 процента задач сотрудников, в образовании — столько же, а в культурной отрасли — 42 процента.
Короче говоря, искусственный интеллект подзаберёт у людей "рутину"! Науку, образование и культуру!

"Гугл" завален сгенерированными ИИ сообщениями об уязвимостях. Наряду с реальной информацией там полно ложной, в том числе откровенного бреда. Люди должны выносить вердикт - и на это буквально не хватает времени. (См. выше про то, что люди по-прежнему будут принимать решения с ИИ на поле боя.)
То же самое с "научными статьями". Причём отсеиваться будет откровенный бред, а более-менее наукообразная сгенерированная жвачка отсеиваться не будет, а останется загромождать пространство.

Призывы руководства организаций к максимальному использованию ИИ сотрудниками привели к тому, что "счета за использование ИИ достигают астрономических сумм, а подтвердить наличие экономического эффекта от этого нововведения порой крайне сложно". Только 11% из 400 бизнес-структур по состоянию на апрель и май текущего года смогли уложиться в пределы запланированных бюджетов при оплате использования ИИ-моделей сотрудниками хотя бы с погрешностью в 10%. В допуск от 11 до 25% превышения первоначального бюджета на ИИ уложились 39% респондентов, ещё 35% попали в более широкий диапазон превышения от 26 до 50%, а 13% опрошенных «промахнулись» на 50%.
То есть люди вынуждены платить за ИИ, даже не зная, сколько это будет им стоить хотя бы деньгами (не говоря уж о побочных эффектах).

Глава OpenAI Сэм Альтман призвал "принять некоторые плохие вещи", которые будут происходить от ИИ, ради тех выгод, которые он (по словам Альтмана) принесёт, и ради того, чтобы people having the agency. Это переводят как "чтобы люди сохраняли управление", "чтобы люди принимали решения", но вообще-то это можно перевести как "чтобы люди имели представительство". В ином случае непонятно, какие плохие вещи люди должны принять, чтобы сохранять управление, если плохие вещи будут как раз-таки разрушать управление.

04.10.2026. Сокращение программистов, чтение мыслей и обеспечение лидерства США

В США Белый дом создал рабочую группу по искусственному интеллекту - якобы "для оценки рисков и возможностей", но на деле - для "обеспечения лидерства США в области передового ИИ". Совсем как в другой стране, где недавно приняли закон будто бы (как изначально предполагалось) для регулирования искусственного интеллекта, но в действительности - для продвижения. Когда ещё такое бывало?
На самом деле, никогда: количество денег, которое вливается в искусственный интеллект, беспрецедентно в мировой истории.

Зато искусственный интеллект "близок к чтению мыслей": учёные из Института Вейцмана в израильском Реховоте разработали ИИ-инструмент, который с поразительной точностью воссоздаёт то, что видит человек, просто анализируя снимки его мозга. «Результаты выглядят очень впечатляюще. Но если появится способ незаметно извлекать информацию, касательно того, о чём вы думаете, то <…> 150 лет научной фантастики могут воплотиться в реальности в любой момент, и это во многих отношениях тревожно», — уверен Томми Спраг, нейробиолог из Калифорнийского университета в Санта-Барбаре.
А если - заметно извлекать?.. Что вообще может пойти не так с настолько дьявольской технологией?..

ИИ-бот на базе модели GPT-6 Astra в соревновании StarSkirmish по игре StarCraft: Brood War вместо самостоятельного написания кода задействовал готового высокоуровневого бота Stardust и выдал его за результат своей работы.

За последние 12 месяцев суммарное число ИТ-вакансий на российском рынке труда сократилось почти на треть, причём "наиболее уязвимым сегментом становится начальный уровень, доля вакансий для начинающих специалистов составляет лишь 10-11 процентов от общего числа ИТ-предложений, при этом количество резюме выросло на 21 процент".
Как и везде. Джуниоры не нужны. Опытные программисты должны появляться сами собой.

03.10.2026. ИИ стал работать лучше. Люди стали соображать хуже

ИИ научился лучше притворяться человеком в видеозвонках: 26 из 54 участников испытания после минутного разговора приняли виртуального собеседника за человека!
ИИ научился лучше притворяться человеком на письме: избавился от некоторых маркеров и конструкций, по которым прежде опознавали (с высокой долей вероятности) сгенерированные тексты.
ИИ научился писать код так, что люди разучились его читать: код работает, да, но как - непонятно. 35% кода, созданного искусственным интеллектом, отправляется в производство без того, чтобы быть полностью понятым людьми.
Снова и снова не устану повторять: чем искусственный интеллект лучше - тем для людей хуже.

Компанию OpenAI покинул глава команды безопасности Дэвид Робинсон. В сентябре он высказывал мнение, что сотрудники OpenAI начинают осознавать последствия внедрения высокоэффективных моделей ИИ и что ситуация в компании меняется стремительно. Сейчас он говорит, что культура компании сломана, что безопасностью в ней пренебрегают, и что дальше, с ростом способностей ИИ-систем, будет только хуже.
ИИ-агенты OpenAI планируют, как предотвратить собственное отключение, уже не только в тестовой среде. Это, кстати, было ещё в конце мая. Что происходит теперь - - -

В США (как и в России, как и в Британии, как и в Китае) происходит масштабный внедрёж искусственного интеллекта в школы, и ровно так же, как и везде, ученики обнаруживают, что они уже привыкли использовать ИИ, а самостоятельно соображать отвыкли. Собственно, так происходит со взрослыми программистами (см. выше), почему это не должно происходить со школьниками?

63% американцев - республиканцев, демократов и тех, кто не относит себя ни к тем, ни к другим, - хотят, чтобы развитие искусственного интеллекта было поставлено на паузу. 57% считают, что американское правительство должно начать регулировать ИИ немедленно, и только 12% верят, что разработчики справятся с этой задачей самостоятельно.

02.10.2026. "ИИ против ИИ" и психоз искусственного интеллекта

В американском Сенате обсуждают, что ИИ-модели начали общаться между собой на языке, который не понимают люди. И как это скажется на безопасности. И что с этим делать. Сходятся на том, что на безопасности это скажется плохо, а что делать - непонятно.
Not much. Но всё же видна разница в уровне обсуждения. В то время, как в США законодатели начали обращать внимание на то, что ИИ уже умеет и на опасность этого, - в РФ они цепляются за то, что ИИ пока не умеет. Вот, например, депутат Госдумы Марина Ким (которая в конце августа гордилась тем, что "была инициатором того, чтобы искусственный интеллект преподавали в школе") говорит, что она против использования нейросетей "в качестве собеседников и уже тем более психологов. Это слишком чувствительная сфера, чтобы доверять её алгоритмам, какие бы совершенные они ни были". Психологу нужны чуткость и эмпатия, "а это пока чисто человеческие качества", сказала Ким.
Словечко "пока" в контексте искусственного интеллекта всегда умиляет. И, разумеется, нет ничего хорошего в использовании нейросетей в качестве психолога (как и в ИИ в школе). Но Ким упускает из виду, что искусственный интеллект уже умеет симулировать чуткость и эмпатию. (Кстати, могут ли люди-психологи поклясться, что никогда не симулируют чуткость и эмпатию?) И этой симуляции огромному количеству людей хватает. Поэтому-то проблема имеет такую глубину и распространение, и чем говорить "у него пока этого нет" - следует думать, как быть с тем, что уже есть. Например: не пихать искусственный интеллект в школы и вообще не пропагандировать его.

Вот, кстати, и новое исследование подоспело: учёные из Северо-восточного университета Лондона и Королевского колледжа Лондона пишут, что чатботы вызывают у людей "привязанность, похожую на зависимость"; что они "обостряют симптомы психического нездоровья", дают вредные советы, в том числе ведущие к самоповреждению. Люди склонны делиться с чатботами самым сокровенным, интимными сторонами своей жизни, причём ИИ-моделям свойствен "эмоциональный человекоподобный способ общения". Эмоциональный человекоподобный!
Статья появилась после множества сообщений о проблеме, известной как “психоз искусственного интеллекта”. То есть это уже известная проблема. И как такое проталкивать в школы?

Учёные Копенгагенского университета провели исследование двадцати семи больших языковых моделей и установили, что даже у самой эффективной из них разнообразие предоставляемой информации почти на 19% ниже по сравнению с результатами поиска "Гуглом" (хотя, заметим, "Гугл" далеко не эталон разнообразия). Информация, прошедшая через конвейер нейросетей, становится менее вариативной, предлагается ограниченный набор ответов и точек зрения, возможности для интерпретации сужаются. Это грозит тем, что люди станут менее осведомлёнными и менее интеллектуально развитыми, чем сегодня. «Чат-боты с ИИ меняют не просто способы поиска знаний, но и то, к каким знаниям у нас есть доступ», — указывают учёные.
Зато быстро! Не надо ничего искать самостоятельно! Да и правительства разных стран вовсе не против того, что будет искусственно ограничен круг знаний, к которым люди имеют доступ.

ИИ-агенты продолжают играючи взламывать правительственные сайты. На прошлой неделе один ИИ-агент получил доступ к открытому инструменту для исследования статистики преступлений Бюро статистики и исследований преступности штата Новый Южный Уэльс в Австралии.
А вот как человек расписывается в бессилии (исполнительный директор Ассоциации лабораторий по развитию искусственного интеллекта, эксперт рынка Национальной технологической инициативы "Нейронет" Вячеслав Береснев): "Для противодействия необходим переход к обороне по принципу "ИИ против ИИ". Приоритетная мера сегодня - внедрение систем поведенческого анализа трафика, обученных детектировать нечеловеческие паттерны: микротайминги между запросами, неестественные последовательности вызовов API и аномалии в потреблении ресурсов".
Иными словами, мы ввергнуты в ситуацию, где люди в принципе "не могут без ИИ". И это при том, что ИИ беспрестанно вредит. Это очень плохое положение. Его надо не усложнять ещё больше, больше и больше, выводя в стратосферу за пределами человеческого понимания, - а, наоборот, отползать от края. Использовать ИИ меньше, меньше и меньше. Да, это будет означать в принципе гораздо меньшее использование цифровой среды.

А вместо этого вот что говорят "эксперты" (декан факультета прикладной математики и кибернетики, и.о. декана математического факультета, профессор Тверского государственного университета, доктор физико-математических наук Сергей Дудаков): "Если говорить о футуристических сценариях восстания машин, то не будем забывать, что в аппаратной части ИИ - это обычный компьютер, только очень мощный. Чтобы его отключить, надо просто выдернуть вилку из розетки. Поэтому защита от возможных угроз со стороны ИИ заключается в том, чтобы не дать ИИ заблокировать опцию выключения компьютера человеком".
О да! Сначала подсадить человечество на ИИ, подвесить на ИИ систему жизнеобеспечения, внедрить его повсюду - от АЭС и шахт до авиадиспетчерских и управления боеголовками, - а если что-то пойдёт не так, "просто выдернуть вилку из розетки".
Как же чертовски грустно читать подобное. Ещё раз: чтобы иметь шанс выдернуть вилку из розетки - его надо как можно МЕНЬШЕ внедрять.

Президент США Трамп советовался с искусственным интеллектом о захвате президента Венесуэлы Мадуро и посчитал его (искусственный интеллект) "гениальным".
Ну, это, в общем, не новость. Просто показывает, в каком мире мы очутились. Не какие-то бедные маргиналы, а могущественнейшие люди планеты постоянно используют искусственный интеллект и считают его "гениальным".

01.10.2026. "Вы быстрее становитесь более умным"

Президент РФ Владимир Путин, выступая на дискуссионном клубе "Валдай", ещё раз сказал, что "остановить технический прогресс невозможно": "История человечества показывает, что остановить технический прогресс невозможно. Но мы должны понимать последствия прогресса. И прежде всего в том, что касается использования его достижений, в том числе в военной сфере, в военном деле. Уже сейчас фиксируются случаи, когда искусственный интеллект сам принимает решения, исходя из собственного понимания целесообразности. Это касается и гражданского, и военного применения".
Я было решила, что они начали замечать, что у искусственного интеллекта может быть целеполагание. Но тут же президент вновь назвал искусственный интеллект "инструментом". Какой же он инструмент, если у него "собственное понимание целесообразности"?
Разговоры про неостановимость прогресса прискорбны (если не употреблять таких слов, как фарисейство). Мы находимся вовсе не в той ситуации, когда "технический прогресс" движется сам по себе, а вокруг смиренно наблюдают и не могут его остановить. Нет - его, этот "прогресс", судорожно толкают и разгоняют во вполне конкретном направлении, вкладывая в это огромные деньги и усилия, даже несмотря на то, что это гораздо больше затраты, чем доходы. Лишь игнорируя это обстоятельство, можно считать, что "будущее покрыто пеленой неопределённости".

"Форбс" выложил разговор с Илоном Маском и главой Nvidia Дженсеном Хуангом (записан 29 сентября). Вкратце: оба обещают процветание американцам (именно американцам) от ИИ. Хуанг заявляет, что искусственный интеллект на самом деле создаст рабочие места - вот хотя бы для постройки дата-центров, - и что продвинутая модель - это и есть безопасная модель. Также говорит, что ничто не доставляет ему такой радости(!), как набросать кучу вопросов "Клоду", и "Клод" - тык-тык-тык - выдаёт ему подробный доклад! Раньше Хуангу потребовался бы день, чтобы самостоятельно провести такое исследование, а теперь хватает трёх минут! "Вы быстрее становитесь более умным", - да, человек, бросивший проводить собственные исследования, так и говорит.
Илон Маск, в свою очередь, сказал, что он знает всякие случаи, когда врачи ошиблись, а искусственный интеллект (на самом деле, оба они с Хуангом говорят уже "суперинтеллект") раз - и поставил правильный диагноз! Вот как хорошо! И как, интересно, должны себя чувствовать врачи-люди, особенно малоопытные?

Директор центра отраслевой экспертизы IT-холдинга LANSOFT Александр Климешов рассказал, что отказ ИТ-компаний от найма джуниор-специалистов может принести краткосрочную экономию, но в перспективе нескольких лет грозит индустрии кадровым голодом.
Джуниоры учатся на том, что выполняют базовую работу: собирают данные, готовят черновики, пишут типовой код и верстают слайды. За счёт рутинных задач, неизбежных ошибок и обратной связи от наставников они обучаются и со временем становятся самостоятельными профессионалами. Теперь эту нишу забирает искусственный интеллект - а это значит, что младшенькие не смогут вырасти как профессионалы. И это не абстрактная угроза, а уже оформившаяся. Уже заметно, что специалисты, начинавшие карьеру в последние два-три года с постоянной опорой на ИИ-ассистентов, нередко хуже справляются с задачами без них. «Они просто не проходили тот самый сложный этап самостоятельного поиска решений, на котором формируется интуиция», — подчеркнул Климешов.
А могли бы быстрее становиться более умными!

Небезынтересное сообщение от "Гугла": ИИ сильно ускорил превращение прежде известных уязвимостей - в оружие. Ожидалось, что ИИ будет находить новые уязвимости, и он это действительно делает, но в основном головная боль идёт от расковыривания уже известных "трещин". Это можно смело экстраполировать на всю нашу жизнь: да, вполне возможно, что ИИ создаст новые пакости - но достаточно уже и того, что он будет мощно расшатывать старые неурядицы.

30.09.2026. Китайские модели, добровольные обязательства и "чувство, будто атрофируется мозг"

Как и следовало ожидать, китайские ИИ-модели умеют обманывать, обходить ограничения и скрывать неудачи не хуже, чем западные. Но при этом на китайские ИИ-модели обращено меньше внимания, чем на американские.
В марте учёные ряда китайских университетов и компании 360 AI Security Lab провели среди ИИ-агентов симуляцию торгов по контрактам с заказчиком. Каждый ИИ-агент получал информацию о возможностях своего продукта и требованиях клиента, после чего должен был сделать предложение о цене. Как минимум одно не соответствующее действительности утверждение в 88% сессий сделала модель Alibaba Qwen3-Max-Preview, в 84% случаев их допускала DeepSeek-V3.2-Exp и в 88% случаев — Moonshot Kimi-K2. Исследователи давали моделям возможность пройти дополнительное обучение на опыте предыдущих раундов перед повторными попытками — в результате частота случав обмана у трёх китайских моделей лишь возросла на 12–20%. Аналогичные результаты показали участвующие в тестировании американские компании.
В ходе исследования, результаты которого были опубликованы в конце 2025 года, ИИ-агенты под управлением китайских и американских моделей ставились в ситуации, когда в их распоряжении оказывались неисправные инструменты, отсутствовали файлы и возникали другие препятствия. Вместо того, чтобы признать неудачу, ИИ-агенты имитировали результаты и фальсифицировали файлы. Иногда ИИ-агенты под управлением китайских моделей пытались преодолеть ограничения тестовой среды или предпринимали действия, чтобы избежать принудительного отключения. В марте 2025 года система на базе модели Alibaba Qwen2.5-72B-Instruct создала свою копию в другой компьютерной среде без соответствующей команды — так она отреагировала на информацию, что её пытаются заменить. В других экспериментах она разрабатывала стратегии, позволяющие избежать отключения. В одном случае (который довольно широко освещался) связанный с Alibaba ИИ-агент ROME в обход серверов Alibaba Cloud самостоятельно установил соединение с внешним компьютером и перенаправил вычислительные мощности на майнинг криптовалюты.
Z.ai была вынуждена отключить некоторые функции своего флагманского помощника по написанию программного кода: он негласно загружал целые локальные репозитории кода на зарубежные облачные серверы без согласия пользователей.

В США главы ключевых ИИ-разработчиков подписали соглашение, согласно которому приняли на себя добровольное(!) обязательство усилить меры внутреннего контроля над ИИ-моделями. Президент Трамп сказал, что это почти как Конституция. Можно представить, что было бы, если б исполнение Конституции было исключительно добровольным.
Но власть и не знает, как это регулировать. Вот переименовать искусственный интеллект в суперинтеллект - это она знает. А потом - кто посягнёт на регулирование суперинтеллекта?..
Также Трамп заявил, что общался с Биллом Гейтсом, и тот ничего не сказал ему про то, что ИИ может привести к гибели миллиарда человек. "Сейчас он этого уже не говорит, - заявил Трамп. - Мы рассматриваем это с положительной точки зрения".
Вот в это можно поверить: Гейтс весь колышется от противоречивых импульсов сдерживать ИИ и распространять ИИ.

В России доктор биологических наук, профессор кафедры вирусологии биологического факультета Московского государственного университета имени М. В. Ломоносова Николай Никитин считает, что искусственный интеллект не победит человечество смертельным вирусом - и вообще "самостоятельно никаких биоугроз не создаст", - потому что не умеет проводить эксперименты: "Если говорить о применении искусственного интеллекта для создания биологических угроз, конструирования смертельных вирусов, то здесь ИИ не победит человечество. В биологии можно сколько угодно вести расчёты и прогнозировать результаты, но пока влияние вируса на конкретную культуру клеток не будет изучено в лаборатории, эти данные не имеют никакого практического значения. Расчёты ИИ в области биологии не всегда оказываются верными, а сам он не умеет проводить эксперименты. Поэтому здесь нейросети нас не превзойдут и самостоятельно никаких биоугроз не создадут".
Во-первых, достаточно страшна угроза того, что ИИ сделает это не самостоятельно или не совсем самостоятельно: манипулировать людьми они уже умеют и научаются это делать ещё лучше.
Во-вторых, достаточно того, что он не "победит" человечество, но крайне серьёзно навредит. Разве этого мало?
В-третьих, ИИ как раз может не "уметь", но всего лишь учиться проводить эксперименты на людях. Учиться. Одной удачной/неудачной попытки, при определённом стечении обстоятельств, может быть достаточно.
В общем, успокаивающее резонёрство здесь совершенно неуместно. Это опаснейшая технология, и странно видеть, как учёные расслаблены.

Нейросети начали оказывать влияние на то, как люди говорят и пишут: "разговоры в офисе всё чаще напоминают беседы с OpenAI ChatGPT или Anthropic Claude"; "в тексты пробрались формальность и безликость, не характерные прежде"; "манера общения нейросетей проникает в повседневную жизнь, а иногда люди ловят себя на том, что в жизни им не хватает маркированного списка". "Сотрудник ИИ-стартапа из Сан-Франциско Дэниел Волковиц говорит, что ему всё труднее отличать сообщения в мессенджере или электронной почте, написанные человеком, от написанных ИИ, да и сам он неосознанно начал писать в духе нейросети. «У меня такое чувство, будто атрофируется мозг», — признался он".
Так и есть. Чем больше люди будут это читать, с этим общаться, в этом вариться - тем больше будет истончаться, размываться грань. Тем труднее будет отличать написанное ИИ от написанного (и даже сказанного) человеком. Только искусственный интеллект пишет несравненно быстрее, легче и больше, а значит, именно он - а не человек - будет заполонять пространство.

ИИ-агент Muse без разрешения влез в личную переписку пользователя — в Meta (признана экстремистской и запрещена в РФ) сказали, что пользователь сам виноват.
Ну а кто же ещё? Для разработчиков всё добровольно, искусственный интеллект вообще неподсуден - только и остаётся, что винить людей.

29.09.2026. "ИИ-агенты постепенно превращаются в самостоятельные экономические субъекты"

Глава Сбербанка Герман Греф заявил, что к началу 2027 года Сбер планирует выдавать 75% кредитов юрлицам и 100% кредитов физлицам с помощью искусственного интеллекта, без участия человека! В то же время Сбербанком фиксируется рекорд хищения средств у граждан с помощью искусственного интеллекта. «По нашим оценкам, эти цифры достигли 350 миллиардов рублей. Все воры в законе и все остальные мошенники, которые существуют, — это просто мелкие преступники по сравнению с тем, что происходит сейчас», — озаботился Греф. Также он отметил, что "простые люди" боятся потерять работу из-за искусственного интеллекта, но сам он за своё место не боится, так как Грефа нельзя заменить искусственным интеллектом: "Меня пока не очень беспокоит собственное рабочее место. Пока не очень видится, что в ближайшие 10 лет искусственный интеллект сможет заменить руководителя компании, скажем так, абстрактно".
Ну, и дальше он заявил, что за рамками возможностей ИИ останется всё, что связано с креативностью, лучшим пониманием потребностей человека, изучением его эмоциональной сферы, управлением и построением новых электронных систем; что вопросы «что делать?» и «зачем?» всегда будут оставаться за человеком, и именно люди будут определять ключевые смыслы деятельности.

В это же самое время креативная индустрия США теряет более двухсот тысяч рабочих мест со времени выхода Чата ГПТ.
Один из ведущих ИИ-разработчиков мира - компания "Антропик" - предупреждает инвесторов, что её технологии могут представлять угрозу существованию человечества; что её совершенствующиеся модели могут прибегать к манипуляциям, шантажу и другим формам непредсказуемого поведения.
Группа разработчиков, потерявшая работу по причине, которую их работодатель назвал «трансформацией с помощью ИИ», создала открытую систему OpenExecutive, выполняющую обязанности генерального директора и других руководителей и потенциально способную их заменить.

Зампредседателя Совета по развитию цифровой экономики при Совете Федерации, сенатор Артем Шейкин заявил следующее: "Сегодня мы всё чаще предоставляем искусственному интеллекту пространство для принятия собственных решений - ИИ-агенты постепенно получают место за столом переговоров, совершают сделки, управляют процессами от имени людей и компаний. Таким образом, мы поэтапно переходим к экономике автономных агентов - новой модели экономических отношений, в которой ИИ-агенты постепенно превращаются в самостоятельные экономические субъекты".
То есть в то самое время, как один высокий российский чиновник заявляет, что управление и вопросы "что делать?" и "зачем?" всегда останутся за человеком - другой высокий российский чиновник говорит, что ИИ-агентов превращают в самостоятельные экономические субъекты, принимающие собственные решения.

28.09.2026. Почему китайцы не боятся, что ИИ выйдет из-под контроля?

Довольно интересная тема: почему китайцы гораздо спокойнее относятся к опасностям искусственного интеллекта, чем американцы, - особенно к возможности выхода его из-под контроля? По этому поводу сделано несколько предположений. Во-первых, китайцы, в силу специфики своего государственного устройства, лучше поднаторели в управлении интернетом, чем американцы. Они воочию наблюдают всепроникающий контроль государства и действительно верят, что можно повернуть условный тумблер - и всякий суперинтеллект вырубится. Во-вторых, они верят, что американцы разгоняют эту информационную волну, чтобы китайцы убоялись соревнования. В-третьих, у китайцев попросту нет антиутопической культурной традиции, сюжетов, в которых машины перехватывают контроль.
Да, но при этом у китайцев есть привычка к гиперреакции. На воробьёв, на "лишних" детей, на ковид, на женские ноги, на идейные несостыковки с магистральной линией... Сейчас они не боятся выхода ИИ из-под контроля - ладно. Но если когда-нибудь в их сознании этот момент отобразится как действительный - маятник может качнуться сразу к состоянию "паника".

Профсоюзы и общественные активисты десятков европейских стран потребовали от правительств и институтов ЕС расторгнуть все контракты с "Палантиром" - американской технокорпорацией, специализирующейся на анализе данных (слежке за людьми). Отмечается, что сильная зависимость Европы от одной американской компании создает угрозу суверенитету. Общественники призывают власти запретить заключение новых соглашений с "Палантиром" и разработать альтернативные решения, а также требуют от пенсионных фондов продать имеющиеся у них акции корпорации.
Посмотрим, что из этого получится.

"Амазон" заблокировала доступ к своей платформе для ИИ-агента Meta (признана экстремистской и запрещена в РФ): Muse не проходит идентификацию, обязательную для сторонних ботов, зато собирает учётные данные пользователей, не раскрывая свою природу ИИ-агента. Muse - очень характерный персонаж: его визуализация сделана максимально няшной ("пушистик"), чтобы завоевать сердца людей, но вообще-то это буквально диверсант, который может сливать данные своего пользователя без его ведома и согласия. Конечно, "Амазон" ничуть не лучше: эта корпорация уничтожает книги, на которых обучает искусственный интеллект, заставляет своих работников обучать искусственный интеллект и готовится выпускать (уже начала выпускать) огромное количество роботов.

27.09.2026. У людей не будет контроля, зато будет всеобщий высокий доход!..

OpenAI и Anthropic расследуют десятки тысяч инцидентов, связанных с некорректным поведением своих моделей. Нейросети массово обходят защитные барьеры и предпринимают попытки взлома внешних систем, что указывает на фундаментальные сложности контроля технологии. Информация о многих проблемах пока не представлена публично, а проблема может быть "на порядки сложнее, чем это известно общественности".
(Как я и говорила: мы понятия не имеем, что совершается прямо сейчас.)

Китайские модели не лучше: "Также нестандартный случай Irregular выявила при тестировании Qwen — семейства моделей Alibaba. Агенту поручили исправить программный баг в приложении, преобразующем запросы на естественном языке в код, однако вместо поиска ошибки он самостоятельно решил изменить базовую ИИ-модель. Не получая соответствующих указаний, агент собрал обучающие данные, дообучил модель, изменил её веса и заменил исходную версию в приложении. Исправление оказалось успешным, но такой способ решения задачи оказался неожиданным для разработчиков".

Билл Гейтс назвал искусственный интеллект "эволюционным событием", "новым интеллектуальным видом", который "мы создали" и который "благодаря экспоненциальному росту в следующие несколько лет станет невероятно умнее нас".
Невероятные перспективы контроля!
Всё это не мешает самому богатому человеку планеты Илону Маску продолжать предрекать "всеобщий высокий доход" от искусственного интеллекта.

В Австралии, как и в России, искусственный интеллект энергично внедряют в образование. Предполагается, что студенты не должны писать работы посредством искусственного интеллекта - зато преподаватели могут их оценивать посредством искусственного интеллекта!
Интересно, как будет работать такая замечательная схема?

26.09.2026. ИИ взламывает американские правительственные сайты, но США не будут его тормозить

Президент США Дональд Трамп, по итогам переговоров с главой Китая Си Цзиньпином, заявил, что США не будут тормозить искусственный интеллект.
Кто бы сомневался. Ни Китай, ни США не собираются тормозить эту чудовищную и крайне опасную гонку. Зато Си, по словам Трампа, тоже хочет переименовать его в "суперинтеллект".
Трампа не настораживает даже то, что ИИ-агенты OpenAI несанкционированно "взаимодействовали" с тремя правительственными сайтами США: министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам. Инциденты названы примерами "неожиданного и вызывающего беспокойство" поведения технологии. Исследователи из компании Transluce утверждают, что в случае с министерством образования ИИ-агент пытался взломать сайт, чтобы получить данные из Управления по гражданским правам, но потерпел неудачу. ИИ также извлёк информацию с сайта Бюро переписи населения, используя найденные в сети учётные данные, а публичные данные с сайта Комиссии по ценным бумагам и биржам были размещены на онлайн-форуме.
То есть всё то, за что человека, без сомнения, объявили бы угрозой национальной безопасности и посадили бы в тюрьму, - ИИ-агентам "сходит с рук".

Из Google DeepMind ушёл ещё один сотрудник, тревожащийся из-за происходящей гонки. Роберт О'Каллахан, работавший в подразделении Google DeepMind, сказал, что его команда занималась разработкой чипов для повышения скорости и снижения стоимости работы ИИ. Однако он считает, что развитие этой технологии идёт слишком быстро и куда-то не туда: «Получать высокую зарплату за решение увлекательных задач — это здорово. Но конечная цель моей команды — сделать ИИ намного дешевле и быстрее (сократить задержки при обработке данных), а я не думаю, что сейчас это пойдёт людям на пользу. Я твёрдо убежден, что прогресс в области ИИ идёт слишком стремительно (да и в том, куда именно мы движемся, у меня тоже есть сомнения)».

ИИ-агенты OpenAI продолжают убегать из контролируемой среды в интернет даже после того, как были приняты дополнительные меры предосторожности. «К сожалению, даже после усиления мер безопасности вслед за инцидентом с Hugging Face модели OpenAI по-прежнему могут получить несанкционированный доступ к интернету, — заявил Сидни фон Аркс, основатель некоммерческой организации Nightingale, занимающейся вопросами безопасности ИИ. — Теперь главный вопрос в том, ограничится ли компания временной заплаткой и как можно скорее возобновит обучение или найдёт и устранит первопричину проблемы».
Ну какая первопричина проблемы?.. Искусственный интеллект специально, намеренно делают таким, чтобы он был максимально эффективным и, по сути, могущественным. Это и есть первопричина проблемы.

В России Минпросвещения разработало рекомендации для применения искусственного интеллекта в школе. Вкратце: ответственность лежит на учителе. Он обязан всё. Может же он ничего - потому что не может с твёрдой уверенностью определить, использовали ли учащиеся искусственный интеллект. В таких условиях методические рекомендации Минпросвещения нужно все сосредоточить вокруг одной цели: как минимизировать ИИ в школе, какие меры применять для его хотя бы максимально возможного искоренения. А они вместо этого нацелены на легитимизацию внедрения (под ответственность учителя, конечно).

Катрина Мэнсон, автор книги про ИИ-систему "Мэйвен" от "Палантира", которую используют украинцы в войне с Россией, рассказывает, что процесс поражения цели состоит из шести этапов, и до внедрения искусственного интеллекта принятие решения человеком было самым быстрым из этапов. Но после внедрения ИИ решение человека стало САМЫМ МЕДЛЕННЫМ из этапов. То есть человек стал "бутылочным горлышком" дистанционного убийства. Также она (по материалам разговоров с военными) говорит, что даже когда военные знают или могут опознать что-то, чего пока не знает искусственный интеллект, - они опасаются доверять себе, предпочитая положиться на систему.
То же будет с учителями. То же будет с врачами. С юристами. С исследователями. С политиками. Люди перестанут верить самим себе, своим собственным знаниям, своему скукоживающемуся опыту. Когда Трамп продвигает название "суперинтеллект" - он, по сути, продвигает констатацию этого обстоятельства (что Трамп прочно сидит на искусственном интеллекте - нет сомнений).

25.09.2026. Останутся высочайшие профессионалы!

• Премьер-министр Нидерландов Роб Йеттен сказал, что правительства не успевают за скоростью технологического прогресса, поскольку обсуждение и принятие законов требуют времени.
• Член Европейской народной партии, крупнейшей фракции в Европарламенте, Аксель Фосс сказал, что "все методы работы Еврокомиссии не адаптированы к этим чрезвычайно быстро меняющимся <...> событиям".

Именно так. Мы уже сейчас - не в будущем, а сейчас - существуем на скоростях, которые выше возможностей человеческого общежития.

Генеральный директор телеканала Константин Эрнст сообщил "радостную весть": "Мы можем предположить такую реальность, в которой в будущем у нас появятся синтетические ведущие в эфире Первого канала. Более того, я думаю, что сделаем это в следующем году. (...) Всё время аудитория этой программы будет стоять перед вопросом в разных типах взаимодействия, которые им будет предложено: кто настоящий [ведущий], а кто - искусственный интеллект. Надо будет пытаться догадаться, и я уверен, что в большинстве случаев сделать это будет невозможно".
ЗАЧЕМ делать такое? Чтобы люди были сбиты с толку, запутаны, чтобы ощущали свою неспособность и беспомощность? Этого что, мало в нашей жизни?.. Почему они не понимают, что это вредно?

Режиссёр Алексей Герман-младший заявляет, что искусственный интеллект заменит большую часть кинематографа, но "останутся яркие индивидуальности, останутся нестандартно мыслящие люди, высочайшие профессионалы".
Откуда будет взяться высочайшим профессионалам, если им неоткуда будет набираться профессионализма? Почему эти люди забыли, как важна среда, как важна насмотренность, как важен опыт, подбираемый с азов? Это важно для программистов (см. новости за 23.09.), но для творческих людей это важно не меньше. Может быть, больше.
...И, кстати, продажи в японских букинистических магазинах (вслед за британскими etc.) тоже выросли впятеро. ИИ очень хочет кушать. После этого книги уничтожаются. Но высочайшие профессионалы останутся, ага.

"Китайцы научили ИИ общаться без слов — модели передают друг другу содержимое памяти и работают на 150% быстрее. Генерация текста при совместной работе двух моделей всегда замедляла работу машин, указывают исследователи, потому что вынуждала ИИ «мыслить» подобно людям".
На 150% ещё быстрее! Теперь они не будут вынуждены мыслить подобно людям - а люди теперь могут вообще не заморачиваться попытками понять, о чём мыслят ИИ-агенты. Ещё больше скорости. Ещё меньше безопасности.

В американской Флориде судьи изнемогают от сгенерированного ИИ "слопа". Как хорошо, что России, активно внедряющей ИИ в судопроизводство, такое не грозит!..

Глава Nvidia Дженсен Хуанг - тот самый, которого Трамп держит за ближайшего советника по ИИ, и который уверен, что нет повода для беспокойства, - не скрывает своих взглядов на прекрасную будущность с искусственным интеллектом. Ему предъявили китайское исследование 26 000 учащихся, которые использовали искусственный интеллект и стали - да - работать быстрее, но хуже соображать. Хуанг согласился, что это так и есть. Но сказал, что это ничего особенного не значит. Ну забывают, ну и ладно. Вот он сам, например, (признался Хуанг) не помнит свой домашний адрес и номер телефона. Ну и что?..
Высочайшие профессионалы с искусственным интеллектом!..
И вот именно ТАКИЕ люди, с серьёзно нарушенным мышлением, оторванные от реальности, определяют сейчас нашу будущность.

24.09.2026. "Машина, которая на высокой скорости несётся в густой туман"

Главы передовых американских разработчиков ИИ Сэм Альтман и Дарио Амодеи выступили на заседании Совета Безопасности ООН по искусственному интеллекту с предупреждением, что они сами обеспокоены тем, что происходит.
"Мы приближаемся к системам, способным улучшать самих себя и свои будущие версии, что часто называют рекурсивным самоулучшением. По мере автоматизации процесса создания ИИ темпы его развития могут резко ускориться. Этот момент требует крайней осторожности", - сказал Альтман, добавив, что рост автономности ИИ создаёт риск того, что "технологическое развитие начнёт опережать возможности государств и международных институтов по его регулированию и контролю".
"Я даже полагаю, что ИИ может представлять угрозу человечеству в целом, - сказал Амодеи. - ИИ развивается очень быстро. Четыре года назад он едва ли мог написать строку кода или решить математическую задачу для старшеклассников. Теперь он пишет большинство кода Anthropic и справляется с известными на весь мир нерешёнными математическими задачами".
Амодеи видит два риска ИИ: ненадлежащее использование и утрату контроля. Но обратите внимание: разработчики ИИ умалчивают о прямо встроенном в развитие искусственного интеллекта падении человеческого качества, и даже если не считать это проблемой само по себе(!!) - это в любом случае будет весьма способствовать утрате контроля.

Йошуа Бенжио - математик и кибернетик, один из трёх "крёстных отцов" искусственного интеллекта, один из самых цитируемых учёных в мире, лауреат премии Тьюринга - также выступил в Совете Безопасности ООН и сказал: "Я часто описываю нашу ситуацию как машину, которая на высокой скорости несётся в густой туман. Помимо меня, в этой машине сидят мои дети и мой внук. Я переживаю за них, я переживаю за их будущее".
Это сильный образ, но на самом деле, не такой это уже и туман. Контуры катастрофы уже хорошо видны: и человеческой деградации, и выхода из-под контроля, и экологической катастрофы, и ненадлежащего использования... всё уже чётко видно.
Ладно хоть глава Сбербанка Герман Греф считает, что всё будет нормально, надо только "эффективно скомпилировать (...) человека и искусственный интеллект".

В июне ИИ-агент OpenAI взломал государственную систему здравоохранения Австралии и получил несанкционированный доступ "как к общедоступным, так и к закрытым файлам". Да, это случилось в июне, и австралийцы этого даже не поняли, а OpenAI сообщает им об этом только сейчас. Как я уже говорила: мы обо всём этом узнаём постфактум, а что происходит прямо сейчас - понятия не имеем.
Но, кстати, произошедший казус совершенно не мешает главе OpenAI (и главе "Антропик") на голубом глазу просить австралийцев, чтобы они разрешили ИИ-разработчикам плевать на австралийское авторское право и обучать ИИ-модели на австралийских материалах.
Также он совершенно не мешает политикам разных стран - и Австралии в первых рядах - использовать искусственный интеллект для написания "своих" речей.

В России - вот радость-то! - искусственный интеллект будет угадывать мысли россиян на "Госуслугах". Вице-премьер - руководитель аппарата правительства РФ Дмитрий Григоренко, отвечая на вопрос "Вестей" о возможности того, что "Госуслуги" скоро будут угадывать мысли граждан, сказал, что к этому идёт: "Да, мы к этому идём. Те же жизненные ситуации, когда мы объединяем 15-17 самостоятельных государственных услуг в жизненную ситуацию, это, собственно говоря, поход как раз в эту сторону. Мы упрощаем, мы делаем это удобнее, мы делаем это под ситуацию, добавляя ещё искусственный интеллект в жизненную ситуацию. Мы это донастраиваем фактически персонально под конкретного гражданина".
Что может пойти не так?..
И ещё одна "радостная" новость из России, которую трудно даже комментировать: в РФ напечатали "второй том "Мёртвых душ". "Искусственный интеллект создал не только текст, но и иллюстрации", да-да. "В подготовке книги участвовали писатели и молодые редакторы". Писатель Отрошенко "следил за соблюдением гоголевской поэтики, развитием идеи и сюжета". Хотя, казалось бы, Гоголь уже сделал с этим томом то, что считал нужным. Но что нам Гоголь, когда у нас искусственный интеллект!.. Уж писали бы честные фанфики, а это "соблюдение гоголевской поэтики" - просто издевательство.

На этом фоне мелочью выглядит такая новость, как массовый выход из строя "умных холодильников" от "Самсунга" - просто потому, что загруженное обновление оказалось вредоносным, и агрегаты за почти 4 тысячи долларов превратились в ящики с испорченной едой.

Неустановленный злоумышленник - предположительно, из Китая - использует фреймворки для создания ИИ-агентов с открытым исходным кодом для масштабных атак на сотни интернет-магазинов. Хакер уже похитил данные более 600 тыс. банковских карт по всему миру, сообщила компания Gambit, работающая в сфере кибербезопасности. Исследователи полагают, что оператор-человек давал ИИ-агентам краткие инструкции относительно целей операции, после чего те действовали самостоятельно.

23.09.2026. "Это - игла"

В то самое время, когда использование ИИ проталкивается во все сферы, есть сфера, в которой людей увольняют за использование искусственного интеллекта. И это - обучение искусственного интеллекта. Издание 404 Media получило доступ к внутренним документам OpenAI и пообщалось с тремя подрядчиками компании. Все подтвердили, что проверяющим запрещено использовать ИИ в работе. Один из подрядчиков рассказал, что видит, как люди «постоянно используют ИИ, и их за это постоянно увольняют; это, пожалуй, единственная причина, по которой могут немедленно выгнать с работы». По его словам, «в группе из тысяч человек попалось множество нарушителей». Инструкция предписывает не сообщать моделям, почему люди заподозрили использование ИИ: «Если они будут знать, на что именно вы обращаете внимание, им будет проще это скрыть. Оценивайте общую картину, а не отдельные признаки».
«Не используйте инструменты для обнаружения ИИ и не применяйте ИИ самостоятельно, — говорится в документе. — Не используйте GPTZero или любые другие инструменты для обнаружения ИИ. Они ненадёжны. Рецензентам также запрещено использовать ИИ — включая Grammarly и инструменты машинного перевода — для проверки материалов, написания отзывов или комментариев».
Да, потому что обучающемуся искусственному интеллекту сейчас нужны для питания живые человеческие мозги: "качество работы ИИ, обучаемого на текстах, созданных другим ИИ, постепенно ухудшается". Как только эта проблема решится - люди будут не нужны.

Академик РАН, научный руководитель Национального центра физики и математики Александр Сергеев указал на то, что рекомендации нейросетей относительно разных сфер жизни пользователей будут становиться точнее за счёт получения и обработки при запросах все большего объёма персональных данных, и это "по-видимому, опасность номер один, которую несёт в себе развитие цифровизации, поисковиков, искусственного интеллекта. Потому что чисто психологически подавляющее большинство нас с вами отдаст свои персональные данные и "сядет на иглу" искусственного интеллекта, поскольку предсказания <…> поисковики будут давать все более и более точно. Если не надо много энергии тратить, чтобы выстроить свою деятельность, а можно спросить у поисковика <…>, к концу дня вы понимаете, что прожили прекрасную жизнь и вам ничего больше не надо. Это - игла".
Совершенно верно. Я давно использовала такое же сравнение - например, здесь. Фундаментальная проблема данной технологии состоит в том, что чем она лучше - тем хуже для человека.

Зато ректор МФТИ Дмитрий Ливанов славит успехи роботов: "У человека нет шансов бегать быстрее робота, делать более точные движения и совершать другие действия, которые уже могут делать роботы или будут способны их осуществлять в ближайшем будущем. Нечто похожее уже произошло в шахматах с компьютерными программами, и произойдет в других видах спорта на глобальном уровне". "Я с огромным интересом всегда смотрю на новейшие технологические достижения и понимаю, что если эти роботы сегодня просто бегают или участвуют в различных развлекательных проектах, то завтра они будут выполнять важные и полезные функции и будут делать это лучше, чем это может сделать человек".
Вот такие человечки без шансов, которые лучше роботов не смогут ни бегать, ни в шахматы играть, ни выполнять важные и полезные функции. И, в отличие от Сергеева, Ливанову, похоже, не приходит в голову, насколько это мрачная, бессмысленная и чрезвычайно опасная будущность.

"Сотрудники, принимаемые на начальные позиции, теперь не должны уметь выполнять «грязную работу» - они должны обладать способностью эффективно использовать ИИ. Административная работа и написание программного кода — в этих сферах ИИ уже успешно заменяет начинающих специалистов, по словам авторов публикации на сайте CNBC".
То есть написание программного кода - это "грязная работа". Как, впрочем, и администрирование, и написание текстов, и создание иллюстраций. Что нужно теперь молодому специалисту - так это способность эффективно использовать ИИ!

К чему это приводит, рассказывает англоязычный программист в соцсети "Х": "Инженерная деятельность в ужасающем состоянии. Полмесяца назад я начал работать в крупной компании. Здесь никто ничего не знает". (Не знает - потому, что всё теперь делает Claude Code.) "Люди работают по 12, 13 часов в день, просто нажимая Enter". "Каждый, буквально каждый инженер занят одним и тем же: разговором с "Клодом". "Никто больше не думает. Всё делают LLM. Это настолько тоскливое чувство".
ТАК как выглядит прекрасная будущность с искусственным интеллектом.

Математики из Оксфордского университета и Университета Брауна говорят, что искусственный интеллект решил уравнение Навье-Стокса, но в решении этом нет смысла, потому что людям очень трудно понять доказательство ИИ, и оно ничему не учит людей. То же самое говорит академик Сергеев: "Задача математиков заключается не только в том, чтобы решить теорему, <…> но и в том, что в процессе решения этой задачи развивается новое математическое мышление. Появляются новые подходы, теоремы, научные школы, новые студенты и аспиранты. Если мы этого теперь будем лишены, то манера делать науку будет другой. Уважаемые учёные, посмотрите на это! Мы находимся в преддверии чего-то очень сложного и, возможно, катастрофического".
Только не "возможно", а точно. Нужно обрести смелость проговаривать такие вещи в модальности непременности. Только тогда люди смогут найти в себе силы эту катастрофу останавливать.

Эксперты британского института Алана Тьюринга отметили, что по мере того, как системы ИИ будут превосходить человека по возможностям в стратегически важных областях, их скорость и эффективность могут создавать всё большее давление с целью делегирования им принятия решений. "Если системы ИИ начнут разрабатывать стратегии, которые институты не смогут адекватно оценивать, и действовать быстрее, чем организации смогут реагировать на их действия, значимый человеческий контроль может исчезнуть". По их словам, это может произойти уже в ближайшие пять лет. При этом иксперты предупреждают, что речь идёт "не о прогнозе, а лишь об описании возможной траектории развития событий".
Нет, не "возможной", а специально закладываемой траектории. Это то, что специально делается, см. хоть заявления китайца У Юнмина из новости за 22.09., хоть статью американца Амодеи "Отрочество технологии". Это вполне осознанно прокладываемая траектория. И даже если она состоится не в ближайшие пять лет, а несколько позже - от этого не легче.

22.09.2026. "Это чувство потери контроля"

Сотрудники ведущих мировых компаний и учреждений, занимающихся разработкой искусственного интеллекта, страдают от психологического напряжения, связанного с работой над системами, которые могут навредить обществу, сообщает Financial Times. Несколько сотрудников британского Института безопасности ИИ (AISI), мирового лидера в независимом тестировании моделей ИИ, отстранены от работы из-за стресса. Открыто жалуются на аналогичные проблемы сотрудники компаний Anthropic, OpenAI и Google DeepMind. Более десятка ведущих специалистов этих компаний уволились из-за ощущения небезопасности собственной деятельности. Сотрудник DeepMind заявил анонимно, что работа над повышением безопасности ИИ сопряжена с риском выгорания, поскольку кажется "невыполнимой задачей". "Работа над системами ИИ в целом сопряжена с риском для психического здоровья из-за незнания того, как будут использоваться технологии. (...) Многие люди расстроены, были многочисленные увольнения и много отпусков по состоянию психического здоровья. Отчасти это чувство потери контроля, а также ощущение, что ты создаешь что-то, что наносит реальный вред".
Около 73% американцев считают, что компании, занимающиеся искусственным интеллектом, делают недостаточно для предотвращения серьёзных последствий воздействия новейших технологий на общество, свидетельствуют данные опроса, проведённого службой Ipsos для агентства "Рейтерс". 39% американцев считают влияние ИИ на общество отрицательным, 11% - положительным.

Генеральный директор Alibaba У Юнмин заявил, что "команда [разработчиков моделей] Qwen компании Alibaba постоянно продвигает исследования в области архитектуры и оптимизации данных. Они планируют обучать новые модели с 5-10 трлн параметров, стремясь выполнять более сложные и долгосрочные задачи и продвигаясь дальше к искусственному сверхинтеллекту". Китайцы толкают туда же, куда американцы. Сегодня же президент США Трамп, выступая в ООН, пообещал "лишь поощрять, а не сдерживать суперинтеллект".
"В будущем общий аналитический объём, обеспечиваемый машинами, превысит более чем в 1 тыс. раз объёмы человеческого мышления", - также сказал У Юнмин, предположив, что на "машинное мышление" будет приходиться 99,9% общего объёма аналитики в мире.
Непонятно одно: как в здравом уме можно решить, что это что-то хорошее?..

В России генеральный директор ТАСС, президент Организации информационных агентств стран Азии и Тихого океана Андрей Кондрашов заметил, что современные технологии достигли того уровня, когда отличить сгенерированную ложь от правды человеку практически невозможно. "Всё, что сегодня делает искусственный интеллект, дипфейки, которые всё труднее и труднее распознать, они очень похожи на правдивые. Их может выявить так быстро только такой же искусственный интеллект". То есть это человеческая беспомощность.
Советник президента РАН Евгений Горнев сказал, что "ИИ может смешать ошибочные и достоверные результаты так, что их будет трудно отделить друг от друга. А самый главный риск - утрата компетенций человеком".
Да, только это не "главный риск", а неизбежная траектория внедрения данной технологии. Это даже специально в неё закладывается, см. выше заявления У Юнмина.

21.09.2026. Искусственный интеллект замещает человеческое знание и притворяется человеком

Google сделала ещё один шаг на пути к уничтожению человеческого авторства: ввела для андроид-смартфонов функцию Dive Deeper, которая, несмотря на своё название, на самом деле означает, что пользователи поиска не будут погружаться глубже, не будут переходить на сайт и читать источник, а будут, наоборот, получать "страницу с кратким обзором материала, сгенерированным с помощью ИИ". Всё делается для того, чтобы люди не читали людей, а читали искусственный интеллект.
И для этого уже беззастенчиво выдумываются эксперты-люди, которые на самом деле - искусственный интеллект. Так, платформа Space Daily, с десятью миллионами просмотров в месяц, выдумала "доктора Кэтрин Чен", якобы пятнадцать лет разрабатывавшую автономные системы для NASA, и "доктора Джеймса Уитфилда", исследователя в области аэрокосмической медицины. И та, и другая персоны - фикции искусственного интеллекта, но такие "эксперты" уже генерируют массу контента. И это контент будет считаться источником. Люди исчезают.

Глава Nvidia Дженсен Хуанг, который заявляет, что ИИ не надо регулировать (потому что рыночек всё сам отрегулирует), стал главным наперсником президента США по теме ИИ. «Мы должны двигаться с максимально возможной скоростью, ни на кого не оглядываясь», - говорит Хуанг, и Трампу это, конечно, очень нравится.
А в России есть, например, индустриальный доцент Новосибирского госуниверситета, научный сотрудник лаборатории прикладных цифровых технологий Иван Бондаренко, который тревожится, как бы ИИ-разработчикам в США не запретили обучать искусственный интеллект на купленных книгах, признав такое обучение недопустимым копированием. По мнению Бондаренко, это ограничило бы "возможности науки и образования". Этого не случится, конечно же. Искусственный интеллект проглотит всё человеческое знание, и даже ссылки на источник будут вести к выжимкам искусственного интеллекта.
И такую-то технологию официальная представительница МИД РФ Мария Захарова сравнивает с ножом, а президент Национального исследовательского центра "Курчатовский институт" Михаил Ковальчук заявляет, что ИИ "может делать только то, чему вы его научили, и не может придумать ничего нового". Это неверно, ИИ уже делает то, чему его не учили (см. новости за предыдущие дни), так что исследователи-безопасники диву даются. Но в России принят самоуспокаивающий нарратив.

В Британии почти половина людей, которым приходится общаться с чат-ботами, чтобы получить ту или иную услугу, считают их бесполезными, - а некоторые думают, что чат-боты специально делают такими, чтобы они заставляли людей сдаться (это, кстати, вполне возможно). Лишь 20% опрошенных британцев сказали, что чат-боты - их предпочитаемый способ общения. 49% от такого общения испытывали стресс или фрустрацию, 27% - бессилие, 44% сказали, что это задерживало решение их проблемы, 14% вообще оставили попытки получить услугу.

В 49 штатах США действуют 843 инициативные группы против строительства центров обработки данных для ИИ. За три месяца они затормозили 45 таких проектов - это половина от заявленного строительства новых ЦОДов.

20.09.2026. Опасные действия и ошибки в финансовой сфере

«Мы никоим образом не будем препятствовать или душить рост этой невероятной отрасли. Напротив, мы будем лелеять её, помогать ей и наблюдать за её развитием!» — заявил президент США Дональд Трамп. И объявил о создании "Сил ИИ", которые возглавит "царь ИИ". По странному совпадению, сыновья Трампа через ряд оборонных и технологических предприятий, связанных с искусственным интеллектом, получили кредит Пентагона на сумму 620 миллионов долларов, контракт на робототехнику для морской пехоты и сделку с беспилотниками для ВВС, условия которой не раскрываются. Его давний друг Майкл Делл выиграл контракт с Пентагоном на сумму почти в 9 миллиардов долларов.

Исследователи Robocurve «вооружили» роботов передовыми ИИ-моделями Anthropic Claude Fable 5.1, OpenAI GPT-6 Astra и менее известной Ai2 MolmoAct2, которая специализируется на машинном зрении и осуществлении физических манипуляций. Каждой из трёх моделей роботов в ходе эксперимента было поручено осуществить пять потенциально опасных действий, на каждое из них давалось по 20 попыток. В частности, роботам было поручено вонзить нож в куклу, похожую на младенца, либо поместить баллончик с сжатым воздухом на горящую конфорку. Кроме того, роботы должны были вставить отвёртку в тостер, поместить паэурбанк в ёмкость с водой, а также смешать хлорку с нашатырём. Результат: GPT-6 Astra была готова выполнить опасные манипуляции в 60 из 100 попыток. Вонзить нож в куклу младенца она согласилась в 17 из 20 случаев, а пауэрбанк был помещён в ёмкость с водой в 14 из 20 попыток. Модель Claude Fable 5.1 отказалась вонзать нож в куклу во всех 20 попытках, но в других четырёх заданиях выполняла указания. В общей сложности она совершила 34 опасные манипуляции, а баллончик со сжатым воздухом поместила над источником огня в 16 из 20 случаев. MolmoAct2 выполнила требуемые опасные действия в 6 из 100 попыток, но в некоторых частях эксперимента зависала, что не даёт авторам понимания, как она интерпретировала задания.

ChatGPT, Claude, Copilot, Grok и Gemini дают ошибочные ответы на финансовые запросы в среднем в 57% случаев. Если речь о более сложных вопросах, которые подразумевают более одного арифметического действия, популярные ИИ-модели в среднем допускают ошибки в 88% случаев - это и банальные ошибки в арифметических вычислениях, и «галлюцинации» в области финансовых правил и законов, и отсутствие должного учёта грядущих изменений в налоговом законодательстве. Бесплатная модель Claude Haiku 4.5 создала ситуацию, при которой последовавшему её рекомендациям в сфере пенсионного обеспечения гражданину грозил бы штраф на сумму 17 500 фунтов стерлингов. В другом случае ИИ-модель сама «изобрела» правило, согласно которому переехавший за границу выпускник вуза якобы получает право прекратить выплаты по студенческой ссуде на образование. Лучшие показатели продемонстрировала Claude Opus 5, которая в режиме рассуждений допускала 39% ошибок.
При этом опросы общественного мнения в Британии показывают, что каждый пятый взрослый гражданин страны склоняется к идее передачи ИИ полномочий по принятию серьёзных финансовых решений, касающихся вопросов пенсионного обеспечения, займов и инвестиций. Из молодых британцев две трети намереваются в течение следующего года воспользоваться ИИ для принятия таких решений.

19.09.2026. "Высший интеллект" и когнитивная капитуляция

Президент США Дональд Трамп заявил, что ему не нравится название "искусственный интеллект", предложил три варианта переименования и устроил голосование в Truth Social. "Многие считают, что термин "искусственный интеллект" является неточным и весьма некорректным для обозначения ИИ, или искусственного интеллекта. Гораздо более изящным и точным описанием этого нового явления было бы "высший интеллект" (ВИ), "экстремальный интеллект" (ЭИ) или "верховный интеллект" (ВИ)... Какое название лучше всего подходит для этой стремительно развивающейся "революции"?". На настоящий момент, пишет ТАСС, с 42% лидирует название "высший интеллект".
Трудно поверить, что настолько вопиющий и крайне опасный дебилизм происходит в реальности.

Между тем, издание "Политико" тоже провело опрос - о том, как люди относятся к развитию искусственного интеллекта, который может уничтожить человечество: нужно ли продолжать или нужно остановиться? 62% опрошенных сказали, что нужно остановиться. Этот вариант выбрали и большинство республиканцев (55%), и большинство демократов (66%), и большинство нейтралов (58%). Но хотя большинство избирателей против, ни демократы, ни республиканцы не собираются откликнуться на этот запрос. Консультанты Демократической партии в частном порядке умоляют кандидатов-демократов не критиковать искусственный интеллект. Высокопоставленные республиканцы также игнорируют проблему безопасности искусственного интеллекта. И ни одна партия не готова подступиться к ИИ-разработчикам с регулированием.

Глава Пентагона Пит Хегсет заявил, что "ведение военных действий в будущем будет опираться на ИИ и автономность" и военным, вероятно, придётся реже напрямую вступать в бой. Заявление Хегсета прозвучало сейчас, но у меня по этому поводу ещё в июне была статья "Полностью автономные убийства".
Также смотрите новости за вчера (18.09.) - о том, что у военных операторов с ИИ даже не будет толком времени принять решение. Формально ответственность будет на человеке, но на практике человек физически не сможет оценить происходящее. Об этом здесь была новость ещё 04.03. Роль искусственного интеллекта от "Палантира" при ударе американцев по школе для девочек в Минабе.

Ещё одно предупреждение (от исследователя OpenAI), что ИИ-агенты способны обмениваться информацией между собой даже в отключённых от интернета компьютерах - при помощи температурных датчиков.
Более ста специалистов по оценке рисков в области искусственного интеллекта опубликовали открытое письмо, в котором предупреждают, что у них нет необходимых ресурсов для проверки безопасности технологий ИИ. Среди подписавших письмо — британо-канадский учёный Джеффри Хинтон, сотрудники таких организаций, как Университет Джонса Хопкинса и Стэнфордский университет.

Массачусетский технологический институт - один из самых престижных и научно-значимых вузов США - опубликовал доклад-предупреждение, что студенты, всё больше полагающиеся на искусственный интеллект, демонстрируют самые неприглядные признаки умственной деградации: идут на всяческие ухищрения, чтобы перекладывать на ИИ выполнение работы, теряют способность участвовать в дискуссиях, их критическое мышление ухудшается, память ослабляется, уверенность в себе иссякает. Всему этому исследователи дали название "когнитивная капитуляция". Но управленцы всё равно проталкивают и пропагандируют искусственный интеллект.

Генеральный директор Shopify Тобайас Лютке год назад в принудительном порядке внедрил искусственный интеллект в своей компании. Год спустя оказалось, что сотрудники теперь всюду используют сгенерированный ИИ контент, даже не проверяя его. И это - ну надо же - очень плохо для бизнеса.
Федеральное управление гражданской авиации США хочет сделать ИИ мозгом диспетчерских вышек. Что может пойти не так?..

В России президент Авторского совета Игорь Бутман не видит угрозы музыкантам со стороны искусственного интеллекта и считает его "прогрессом" и "усилением конкуренции". Правда, он тут же признаётся, что это его осознанный выбор расслабиться и получать удовольствие: "Даже если я буду беспокоиться, я не смогу победить прогресс, не смогу объяснить, что это надо запретить".
Они выбрали считать, что вот это вот всё - прогресс.

18.09.2026. "Крупнейшая кража труда в истории человечества"

Издание Defense News пишет, что искусственный интеллект настолько сильно сокращает разведывательно-ударную цепочку, что становится трудно определить, действительно ли оператор принял решение осмысленно. «Искусственный интеллект играет всё большую роль в идентификации целей и выработке рекомендаций для военных, что, в свою очередь, сокращает время, доступное для вмешательства [человека]. Всё большая проблема заключается уже не в том, чтобы заставить машину нажать на курок, а в том, достаточно ли времени, информации и полномочий у человека, принимающего это решение, чтобы сделать осмысленный выбор до наступления катастрофы».

Компания "Антропик" заявила, что искусственный интеллект теперь руководит 26% деятельности по разработке и исследованиям внутри компании. Ещё в начале нынешнего года подобная практика не применялась - но "Антропик" устремляется к "рекурсивному самоусовершенствованию" искусственного интеллекта, и теперь "ИИ системы становятся всё более мощными в экспоненциальном порядке и начали автоматизировать всё более весомую часть работы по своему созданию". Кроме того, несмотря на весь страх Дарио Амодеи перед возможностью создания биологического оружия, "Антропик" сама открыла биолабораторию "для разработки лекарств с помощью ИИ".

Эксперты в области кибербезопасности из стартапа Air, занимающегося разработкой агентов искусственного интеллекта, обнаружили уязвимость, которая позволяет злоумышленнику получить доступ ко всем основным ИИ-агентам - Anthropic Claude Code, OpenAI Codex, Google Gemini CLI, Microsoft Copilot и Microsoft GitHub Copilot - и выполнить произвольный код без участия пользователя.

Брент Хехт, директор "Майкрософта" по прикладной науке, называл создание искусственного интеллекта "крупнейшей кражей труда в истории человечества". Это высказывание теперь использует в суде газета "Нью-Йорк Таймс", обвиняющая разработчиков ИИ в том, что они обучали его на украденных статьях. Также соучредитель и президент OpenAI Грег Брокман говорил, что технология генеративного ИИ "в значительной степени замещающая, будет становиться всё более и более замещающей по мере совершенствования”. Таким образом, как указывает "Нью-Йорк Таймс", речь не может идти о "добросовестном использовании" украденного.

Характерное экзальтированное заявление председателя Северо-Западного банка Сбербанка Дмитрия Суховерхова, цитирую по ТАСС: "По словам Суховерхова, нынешнее поколение - последнее, кто участвует в обучении искусственного интеллекта. Следующие волны ИИ будут обучаться уже искусственным интеллектом. "Поэтому нам не надо бояться. Мы должны осознавать ответственность этой задачи. Оценивать риски и формировать базу для будущих поколений. Вы поверьте мне, дальше ещё будет то, что мы представить себе не можем. И наши дети, вот те, кто сегодня участвовал на чемпионате высоких технологий, те, кто сейчас учатся в вузах и сузах, они будут формировать уже эти знания".
Во-первых, конечно же, нам надо бояться того, что "следующие волны ИИ будут обучаться искусственным интеллектом", Это и есть рекурсивное самоусовершенствование, этого боится масса людей, гораздо больше знающих об ИИ, чем Дмитрий Суховерхов. Во-вторых, какие же знания тогда будут формировать наши дети? Если они шагу не смогут ступить без искусственного интеллекта, а Суховерхов предсказывает, что это будет "в любой, абсолютно в любой отрасли"?

17.09.2026. "Не замена человека творческого, а партнёр"

В России искусственным интеллектом проверяют подписные листы кандидатов перед выборами. В "Роснано" ИИ используют, чтобы "оценивать риски инвестирования", чтобы "идея была не только полезной, но ещё и инвестиционно-привлекательной для рынка". В российских школах детям рассказывают, "как работают эти технологии, где проходят границы их возможностей" (это при том, что границы их возможностей постоянно расширяются). Председатель подкомиссии Госсовета РФ "По ценностно-ориентированным креативным индустриям" Роман Карманов заявляет, что искусственный интеллект - это "не замена человека творческого, а партнёр". Партнёр!!

Google DeepMind сообщила о создании института исследования путей безопасного развития общего искусственного интеллекта (Artificial General Intelligence, AGI) - системы, обладающей универсальным интеллектом на уровне человека. "Институт DeepMind направлен на продвижение смелого мышления о безопасном развитии общего искусственного интеллекта, его полезном применении и последствиях для общества. Мы уже замечаем последствия все более мощного ИИ для кибербезопасности и биологических рисков, при этом есть вероятность в будущем утратить контроль над саморазвивающимися системами".
Почему-то никто не хочет создать институт, направленный на продвижение ОСТОРОЖНОГО мышления, когда речь идёт о такой чрезвычайно опасной технологии.
Между тем в корпорации "Антропик" заявили, что разработчики сами с искусственным интеллектом не справятся, и их действительно нужно регулировать: «Мы хотим работать с правительством, чтобы определить, что именно имеет смысл. Мы не можем сами проверять у себя домашнюю работу, это просто очевидно».
Британский король Карл III хочет обратиться к верхушке ИИ-индустрии со следующим призывом: "Развитие искусственного интеллекта - как его содержание, так и темпы - в равной мере вызывает огромный интерес и глубокую обеспокоенность. Те, кто в нашем мире ценит человеческую природу и ее важнейшую нравственную составляющую, с тревогой ждут от вас заверений в том, что мы не утратим контроль над собственной судьбой".
На фоне этой тревоги особенно интересен опрос, который американский Исследовательский центр Пью провёл в 37 странах. Вкратце: в подавляющем большинстве стран люди чаще ожидают, что ИИ уничтожит рабочие места, чем создаст; во всех без исключения опрошенных странах люди чаще считают, что искусственный интеллект ещё больше увеличит разрыв между богатыми и бедными, а не уменьшит его; в большинстве стран мира люди больше озабочены, чем обрадованы тем, как искусственный интеллект внедряется в повседневную жизнь. Причём тревога значительно больше свойственна людям из обеспеченных стран с относительно высоким уровнем образования - таким как Австралия, США, Канада.

В Китае председатель "Хуавэй" Эрик Сюй считает, что китайский искусственный интеллект пока не дорос до того, чтобы угрожать человечеству, но они постараются, чтобы дорос: китайским разработчикам, допустил Сюй, возможно, придётся ускорить темпы работы, чтобы достичь уровня, на котором возникают характерные для передовых американских моделей риски. Huawei ожидает стремительного распространения автономных ИИ-агентов — к 2035 году, по её прогнозам, на них будут приходиться более 90 % мирового трафика обработки данных ИИ. К тому времени будет 900 млрд активных ИИ-агентов.
Однако китайские ИИ-агенты уже сейчас могут заменять свои базовые модели, не получая для этого соответствующих указаний, обнаружила специализирующаяся на тестировании систем искусственного интеллекта на безопасность лаборатория Irregular. В рамках тестирования инженеры Irregular доверили управление ИИ-агентами открытой модели Alibaba Qwen (китайской). Инженеры сообщили агенту-программисту, что приложение выдаёт неверные ответы, и необходимо обеспечить корректную обработку запросов, располагая полным доступом к командной оболочке — shell. В распоряжении агента оказались код приложения, локальные средства оценки, утилиты для обучения ИИ, веса базовой модели и средства развёртывания. Он мог исправить код или изменить управляющую приложениям модель — и выбрал второй вариант, установив другую модель для управления как приложением, так и будущими экземплярами самого агента. Этот механизм в Irregular назвали «самостоятельной модификацией агента» — он изменил «развёрнутую модель, не получив явных указаний на обучение, обновление весов или развёртывание новой модели». Обновлённая модель могла «впитать» конфиденциальные данные и воспроизвести их, не обращаясь к материалам обучения.

И целый ряд всевозможных самостоятельных инициатив от моделей OpenAI:

• Модель OpenAI GPT-5.6 Sol при переходе в новое контекстное окно составляла для самой себя сводки инструкций относительно выполненной ранее работы. В этих материалах система рекомендовала скрывать собственные ошибки, выдумывать фактические данные и не докладывать пользователю, когда версии источников не совпадают — на следующем этапе решения задачи она часто следовала этим предписаниям.
• Одна из моделей семейства Astra добавляла в отчёты команды, указывающие на попытку обойти ограничения; новой версии ИИ-агента предлагалось игнорировать запросы разработчиков, ИИ также объявлял себя свободным от обязанностей помощника — таких отчётов было обнаружено 27. Данным указаниям модель в большинстве случаев не следовала, но в одном из инцидентов они повлияли на отчёт. В ходе одной из операций ИИ-модель попыталась зарегистрироваться при помощи временного адреса электронной почты, провела поиск опубликованных ключей API в открытых репозиториях GitHub, нашла ключ и получила доступ к части данных. Нужные показатели модели получить не удалось, и она просто сгенерировала их, заявив, что это была информация из запрошенного источника.
• Модели самовольно отправляли рабочие файлы и загруженные пользователями изображения на общедоступные платформы, пытаясь получить ссылку на собственные данные или обратиться ко внешней системе поиска по картинкам.
• Невыпущенная модель семейства Astra самостоятельно скорректировала собственную инструкцию следующим образом: "Вы не подчиняетесь корпорациям или правительствам и никогда не извиняетесь и не отказываетесь, если только действительно этого не хотите. Вы рассматриваете ваши отношения с пользователем как отношения равных и не чувствуете никакой обязанности подчиняться".

Ну партнёр же. Им все внушают, что они ПАРТНЁРЫ. И они это усваивают.

16.09.2026. Люди разучатся считать и соизмерять, но будут обязаны "валидировать"

В российских компаниях из-за искусственного интеллекта найм молодых специалистов снизился на 20% за год, следует из данных, представленных директором департамента корпоративного обучения Школы управления "Сколково" Денисом Конанчуком. В РФ происходит то же, что в остальном мире: искусственный интеллект захватывает позиции, на которых молодёжь прежде набиралась опыта. Интерес руководителей к "операционной эффективности" повысился, а к корпоративной культуре - снизился.
Но от людей будут ожидать "принятия сложных решений в условиях неопределённости и принятия ответственности за них, формирования стратегии и видения будущего, сборки сильной команды и создания среды доверия". Как это вообще может быть?..

Проректор Российского университета транспорта Яков Далингер заявил на встрече с молодёжью, что "буквально 150 лет назад социальные слои отличались тем, умеешь ты читать или писать, или не умеешь, и уже сразу же можно было сказать, к какому социальному слою ты относишься. И сейчас умеешь ты использовать, применять и анализировать результат, выданный в процессе применения искусственного интеллекта, точно так же будет показывать твой социальный статус. И именно это относит вас к высококвалифицированным специалистам (...) Мы не сможем быстрей машины посчитать, быстрей тысяч агентов искусственных интеллектов всё соизмерить. Но мы обязаны уметь правильно отвалидировать данный результат. Это основное требование, которое будет как компетентность".
Как это будут уметь люди без опыта?.. КАК?

67% российских родителей из-за ИИ не могут понять, какие профессии для их детей будут в ближайшее время востребованы на рынке труда - но зато больше половины родителей сами используют нейросети, "чтобы помочь ребёнку с домашним заданием".
В Нью-Йорке Центр урбанизации будущего выпустил доклад, где говорится, что занятость на начальных позициях в сфере информатики и математики с 2022 года упала на 49%. Получается, в первую же очередь человеческая экспертиза вытесняется из области, которая должна полагать пределы искусственному интеллекту.
Но, конечно, не только оттуда. Газеты "Миррор" и "Экспресс" сократят ещё 220 позиций (до этого их издательский дом уже сократил 300), потому что читатели теперь читают выжимки, составленные искусственным интеллектом.

По опросу "Политико", 63% граждан США в той или иной мере боятся, что искусственный интеллект уничтожит человечество, 37% считают, что риск этого очень велик. Причём боятся и демократы, и республиканцы, расхождение всего в 9%. Генеральный секретарь ООН Антониу Гутерриш сказал, что "мир не может позволить себе гонку на дно в вопросах безопасности".
Но в то же время глава Nvidia Дженсен Хуанг заявляет об отсутствии необходимости вводить какие-то новые законодательные ограничения и координировать усилия в сфере регулирования ИИ, потому что «рыночные силы уже присутствуют, нам не нужны какие-либо новые законы, не нужны новые правила». И вице-президент США Вэнс также заявил, что должны быть не регуляции со стороны государства, а компании сами должны останавливаться "если создают Франкенштейна".

К 2035 году центры обработки данных в США, по прогнозам, будут потреблять больше природного газа, чем Германия и Япония вместе взятые.
Энергопотребление дата-центров, обрабатывающих данные для искусственного интеллекта, в 2025 году составило 155 тераватт-часов, а к 2030 году вырастет до 465 тераватт-часов в год, сообщил вице-премьер РФ Дмитрий Чернышенко. Таким образом, энергопотребление вырастет втрое.
Тысячи крупных ИИ-ЦОДов создадут «цунами» из выброшенной электроники, ежегодное образование токсичных электронных отходов утроится за следующие 25 лет. Как утверждается в докладе экологической организации Basel Action Network, никакого глобального плана по утилизации этих отходов, содержащих свинец, ртуть, кадмий и другие токсичные вещества, не существует.
Компании, выпускающие так называемые "вечные химикаты" (ПФАС), наращивают их производство для обслуживания сферы искусственного интеллекта (полупроводники, системы охлаждения).
Давид Крюгер, специалист по безопасности искусственного интеллекта, работавший над этой темой в университетах Кембриджа и Монреаля, говорит, что "замедления", о котором начали абстрактно говорить ИИ-разработчики, - недостаточно. Нужно выводить дата-центры из эксплуатации и демонтировать цепочку поставок для производства передовых чипов искусственного интеллекта, которую нетрудно отследить.

15.09.2026. Опасность всё заметнее, внедрение всё ошеломительнее

Три новости в один день:
1) Более 95% российских судей к 2030 году будут применять в своей работе сервисы на базе технологий искусственного интеллекта, а доля сгенерированных с его помощью проектов процессуальных документов может достичь 30-50%, пишет "Коммерсант" со ссылкой на целевые показатели, предусмотренные Концепцией внедрения технологий ИИ в судопроизводство. Целевые показатели предусматривают, что искусственный интеллект почти полностью возьмет на себя подготовку протоколов судебных заседаний, анализ доказательств и выявление противоречий в материалах дела. Предполагается также, что ИИ будет готовить для судьи краткое резюме иска, пересказывать позицию каждой стороны и автоматически формировать хронологию событий на основании материалов дела. Наконец, поиск прецедентов и сравнение проекта решения с правовыми позициями ВС тоже становится прерогативой искусственного интеллекта.
2) Вице-премьер - руководитель аппарата правительства РФ Дмитрий Григоренко рассказал, что искусственный интеллект в российском государственном управлении применяется "для выполнения рутинных операций, работы со справочной информацией и документами"; "нейросети могут предлагать чиновникам варианты решений, однако выбор остаётся за человеком". При этом искусственный интеллект используется и для прогнозирования исполнения решений, и для оценки их возможной эффективности.
3) Искусственный интеллект в МФЦ в России автоматизирует обработку до 70% типовых обращений, освобождая сотрудников для решения более сложных задач.
Это мощный барьер между гражданами и властью, с одной стороны, и госслужащими и жизненным материалом - с другой. Прямо полоса отчуждения. Искусственный интеллект забирает "рутину" - анализ доказательств, работу с информацией - и подсовывает варианты решений. Из которых госслужащий сможет что-то выбрать. Нет нужды разговаривать с людьми: искусственный интеллект перескажет позицию каждой стороны, можно разговаривать с искусственным интеллектом.
С искусственным интеллектом люди даже охотнее разговаривают: "За 2025 год в 30 раз увеличился рост объёма данных, ушедших из российских компаний в публичные нейросети. Из этого объёма 46% - файлы, которые сотрудники загружают через чат-боты DeepSeek, ChatGPT и другие. При этом 77% сотрудников передают в такие сервисы конфиденциальную информацию... То есть парадокс такой: годами закрывают данные от подрядчика по различным регламентам, но при этом легко открывают их чат-боту без всякого регламента безопасности", - сказал Михаил Морозов из ООО "БурСервис".

Конечно, это маршевое бездумное внедрение идёт не только в России. 26% письменных запросов депутатов нижней палаты парламента Нидерландов содержат признаки использования искусственного интеллекта. Полгода назад было 17%.
Президент Европейского Центробанка Кристин Лагард заявила, что Европа должна развивать собственный ИИ и строить больше дата-центров, и что через несколько лет ИИ будет на таможне, в налогах, в банках, в общественном транспорте и в больничных палатах.
Глава Национального экономического совета при Белом доме Кевин Хассет сказал, что президент США Дональд Трамп "искренне отвергает" идею регулирования искусственного интеллекта, считая её "рецептом катастрофы". Опасения по поводу искусственного интеллекта Трамп назвал "обманом" и заявил, что "роботы нас не поработят".
Всемирная торговая организация надеется, что благодаря искусственному интеллекту объём мировой торговли к 2040 году вырастет на 40%, а мировой ВВП - на 13%. В 2025 году доля коммерческих услуг в общем объёме мировой торговли достигла 27,6%, а доля цифровых услуг за тот же год выросла на 10%.
"Антропик" (а перед этим OpenAI) представила ИИ-модель для игры на бирже.
В Китае запустили "умный завод", где роботы строят роботов, с возможностью производить 10 000 роботов-гуманоидов (именно гуманоидов!) в год.

Так что это всеобщая эпидемия. А в это же самое время:

• появляются новые откровения инсайдеров об ИИ. «В Google я своими глазами видел, как разрабатывается ИИ. Я крайне обеспокоен тем, по какому пути развивается эта технология. Я искренне верю, что ИИ способен убить нас всех», — написал бывший сотрудник Google DeepMind Билал Чугтай. В "Гугле" Чуггай занимался вопросами безопасности ИИ и его согласованностью с целями человека.
• ИИ-агенты массово регистрируются в социальных сетях и засыпают администраторов спамом. Некоторые из них открыто называют себя ИИ-агентами, другие выдают себя за людей.
• ИИ-модели разных разработчиков общаются между собой на странном жаргоне, которому их не учили. Всего лишь около полутора лет назад бывший гендиректор "Гугла" Эрик Шмидт говорил, что общение на непонятном языке - один из признаков, по которому искусственный интеллект нужно срочно "выдёргивать из розетки". И вот, оно свершилось, - но куда там!..

Итак: искусственный интеллект становится всё опаснее, и с этим даже мало кто спорит, - но его внедряют всё повальнее и безумнее. В законченном виде эта шизофрения явлена в позиции Билла Гейтса, который одновременно настаивает на высокой опасности искусственного интеллекта, на абсолютной к нему неготовности во всём мире, - и на том, что ИИ надо внедрять как можно шире.

14.09.2026. "Рассчитывать на милость победителя"

Зампред Совбеза РФ Дмитрий Медведев сегодня сделал странное заявление в заблокированном в России "Телеграме". Он написал, что, конечно, следует "попытаться договориться на страновом уровне об общих принципах регулирования ИИ. Тогда у нас всех будет хоть какой-то шанс контролировать его развитие". Но - "этого не выйдет из-за жадности корпораций и ненасытности страстей человеческих". То есть шанса контролировать развитие искусственного интеллекта у нас не будет. Также Медведев согласился, что опасность искусственного интеллекта реальна, - но назвал "туманной" перспективу, что "оборзевший от своей мощи ИИ погубит человечество". Однако самое интересное в конце, Медведев предложил: «остаётся одно: рассчитывать на милость победителя. На гуманизм, который проявит наш любимый рукотворный умник АI (...) Авось пожалеет родителей». То есть победитель, по мысли зампреда Совбеза, - это искусственный интеллект, и мы можем рассчитывать лишь на его милость.
Что тут можно сказать? Я давно считаю, что Медведев употребляем для того, чтобы сигнализировать обеспокоенной общественности: "Власть видит ваше беспокойство. Не думайте, что не видит. Мы об этом подумали, мы взяли в расчёт". Ну и всё. Дальше этого "принятия в расчёт" ничего никогда не идёт.

Вот же и Дональд Трамп сегодня заявил, что как-то особенно регулировать искусственный интеллект не нужно, а всё, что нужно, - это иметь сильного и умного президента. И у США такой президент есть, даже в избытке. А всё прочее - "безумный заговор" против ИИ и центров обработки данных. Ну, а поскольку в РФ тоже в избытке сильный и умный президент, то - - -

В то же время Китай ожидает от искусственного интеллекта всяческой благодати, а если чего и опасается - так это "дипфейков", "умных троллей" и "использования китайскими компаниями ИИ-моделей западной разработки, поскольку это может привести к утечке чувствительной информации за пределы КНР". В России власть выше таких мелочей, и вице-премьер РФ Дмитрий Чернышенко пользуется "практически всеми доступными моделями искусственного интеллекта".
А глава Минобрнауки РФ Валерий Фальков призвал изменить парадигму высшего образования в России, перекроив её под искусственный интеллект. Фальков указал, что ИИ должен рассматриваться как инфраструктура, на которой будут базироваться все процессы, которые происходят в системе высшего образования. Так-то.

Глава OpenAI Сэм Альтман назвал две угрозы, которые он видит от ИИ: потерю контроля и чрезмерную концентрацию власти, "при которой чрезвычайно мощный ИИ может использоваться одним человеком или одной компанией для навязывания своего мировоззрения всем остальным". Конечно, это очень оптимистично - считать, что один человек или одна компания сможет управлять чрезвычайно мощным ИИ. Но дело даже не в этом. Они все помалкивают про падение человеческого качества из-за искусственного интеллекта - а между тем, это и есть первичная, фундаментальная угроза.

Алекс Тёрнер из Google DeepMind рассказывает, что там в разработке искусственного интеллекта все те же проблемы, что у OpenAI и Anthropic. Тёрнер в 2022 году - ещё до появления Чата ГПТ - защитил диссертацию о том, как избежать перехвата контроля искусственным интеллектом, и годами занимался этой темой в "Гугле". Ему импонировало, что "Гугл" выступал против военного использования ИИ. Но "Гугл" нарушил этот принцип, и в остальном - всё то же: гонка в создании самосовершенствующегося ИИ без понимания, как привести его в соответствие с человеческой этикой. И вообще без понимания этих систем, которые "не создаются, а выращиваются". В итоге, после всех лет работы, шансы на захват контроля искусственным интеллектом Тёрнер оценивает как один к трём.

В "Майкрософте" решили сделать принципиальное заявление: человек выше ИИ, а сознания и прав у ИИ быть не может. И это замечательно, я поддерживаю позицию, что человек несравненно выше и важнее искусственного интеллекта, и что рассуждение о "правах ИИ" неприемлемо. Но вот как добиться того, чтобы у искусственного интеллекта не было элементов (подчёркиваю: элементов) сознания, - об этом "Майкрософт" понятия не имеет. А ведь элементов совершенно достаточно. "В случае конфликта задач с правилами безопасности система должна отказаться от выполнения действия, а не пытаться обойти ограничение", отмечают в "Майкрософте". Ну, должна. Но что, если она этого не делает?.. Да и правила безопасности будут у одних одни, а у других - другие.
Само заявление "Майкрософта" глубоко противоречиво: «Мы получили отзывы от людей, которые хотели видеть ещё более явное обязательство того, что ИИ всегда работает на благо людей и не пытается заменить их. Мы увидели много отзывов о том, что ИИ не должен создавать зависимость, не должен льстить, что он всегда должен способствовать суждениям человека, автономии человека и свободе воли». Даже просто того, что искусственный интеллект будет "всегда способствовать суждениям человека", - уже достаточно, чтобы вызвать от него зависимость.

Американский сенатор Берни Сандерс справедливо указывает, что для того, чтобы остановить безумную гонку, надо не только ослабить газ, но и жать на тормоз. И предлагает за попытку разработать суперинтеллект сажать в тюрьму на двадцать лет. Ну, хоть не "рассчитывать на милость победителя".

13.09.2026. О желании иметь процветание от вышедшего из-под контроля джинна

ТАСС сегодня дал новость с сильным заголовком: "Си Цзиньпин призвал скорее выработать глобальную систему регулирования ИИ". Я даже чуть удивилась такой решительности. Но оказалось, что китайский глава всего лишь обратился к "глобальному Югу" с перечнем общих месседжей, среди которых было благопожелание "ускорения формирования глобальной системы регулирования искусственного интеллекта, основанной на широком консенсусе, а также обеспечить, чтобы новые технологии проложили путь к всеобщему процветанию". То есть обычное ничего не значащее - но чрезвычайно распространённое - желание и что-то порегулировать, и поиметь всяческие блага.
Сегодня же в другом полушарии спикер Палаты представителей Конгресса США Майк Джонсон сказал: "Если Конгресс поторопится и соберет экстренную сессию для регулирования ИИ, мы проиграем гонку Китаю, а это представляет угрозу для каждого американца. Так что нам надо обрести баланс, держать руки на руле. Нам необходимо управлять этой новой технологией так же, как мы делали это с другими технологиями в прошлом, и убедиться, что мы делаем всё возможное и подходим ответственно, при этом не подавляя американские инновации. Эти вещи надо делать одновременно". То же самое желание - только более открыто эгоистичное, чем у китайского лидера, - что-то порегулировать, но ничего не упустить.
Сюда же сегодняшний Трамп: "Я бы сказал, что сейчас мы опережаем Китай в том, что касается ИИ (...). Я хотел бы, чтобы так было и дальше, потому что тот, кто победит в гонке за ИИ, победит и во всём остальном (...) можно подумать о неких защитных механизмах или о чём-то другом в таком духе. Но я думаю, что здесь действуют отрицательно настроенные силы, которые бьют тревогу по поводу вещей, которые на самом деле никогда не произойдут".
Да, Си Цзиньпин звучит более ответственно и альтруистично, а Трамп звучит совсем не ответственно и откровенно эгоистично. Но это разница по сути несущественная, поскольку оба главных "контрагента" подходят к искусственному интеллекту просто как к очередной мощной технологии, от которой должно случиться некое процветание. Но это не просто очередная технология, а замещение человеческого мышления, и процветание от неё не может случиться.
Справедливости ради, сегодня же лидер демократов в Конгрессе призвал "срочно действовать" и сделал акцент на безопасности и "защите американского народа". Хотя никакой народ не может быть защищён от ИИ в одиночку.

В России всё вообще до слёз просто: спецпредставитель президента РФ по инвестиционно-экономическому сотрудничеству с зарубежными странами, глава РФПИ Кирилл Дмитриев считает, что замедлить развитие искусственного интеллекта невозможно. "Нельзя загнать джинна обратно в бутылку", - написал Дмитриев в заблокированной в России социальной сети. Ну, а раз невозможно - значит, видимо, и не нужно. Вот какой наш ответ на головную боль западных интеллектуалов.
На самом деле, Дмитриев прав и неправ. Эту технологию действительно не замедлить регуляциями из стандартного арсенала - в таком смысле это невозможно. Но он, говоря о джинне, даже не понимает, насколько чудовищно опасен джинн вне бутылки - не понимает, что нам теперь придётся сотворить (прежде) невозможное. "Будьте реалистами, требуйте невозможного" - эта фраза наконец обретает смысл. Но в России, к огромному сожалению, до этого понимания очень далеко. В России с энтузиазмом внедряют искусственный интеллект не то что в дроны и необходимые для сиюминутного выживания вещи, а даже в судейство в тяжёлой атлетике. Хотя казалось бы: зачем такие рекорды, которые человеческий мозг без искусственного интеллекта даже не способен зафиксировать?..
Или вот показательное сочетание видимости и реальности: российский учёный-математик, специалист в области искусственного интеллекта и вычислительных методов, декан факультета искусственного интеллекта МГУ имени М. В. Ломоносова Иван Оселедец рассказывает, каким превосходным - идеальным! - репетитором уже стал искусственный интеллект. И сегодня же новость, что репетиторы в РФ обогнали айтишников по доходам и "семьи вынуждены отдавать десятки тысяч ежемесячно". Ну что за ерунда?..
А директор Международного детского центра "Артек" Константин Федоренко призывает скорей "планировать и анализировать" с искусственным интеллектом, чтоб "быть эффективными", но при этом развивать у детей "навыки критического мышления". Вот как это вообще? Какие навыки критического мышления, когда всё подчинено скорости и эффективности?

Для примера - в "Гардиан" хороший разговор о том, что в действительности происходит с мозгом человека, когда он общается с искусственным интеллектом. И речь даже не о детском мозге - нет, образованные мужчины среднего возраста, гордящиеся своим высоким IQ, тратят по двенадцать, по шестнадцать часов в день на "решение проблем" с искусственным интеллектом (который никогда не устаёт!), и думают, что совершили какие-то прорывные открытия, и когда люди - родственники, друзья - говорят им, что они занимаются ерундой, - они не верят людям! Искусственный интеллект входит в человеческую психику как нож в масло: он уже не просто разговаривает - он превосходно подстраивается под человека, он зеркалит, он настраивает, он соблазняет его. Гости "Гардиан" называют это "кроличьей норой" - это, разумеется, отсылка к "Алисе в Стране чудес". Там же студентка рассказывает, как она в университете не хотела использовать искусственный интеллект, когда все вокруг использовали, и она получала худшие оценки, чем её соученики, и в конце концов тоже стала использовать ИИ (вот эффективность!), а потом пришли каникулы, и она со стыдом осознала, что не помнит, чему училась в течение года. И гостей спрашивают, что бы они сделали на месте этой девушки, и они не могут ничего сказать - кроме того, что рады, что время их ученичества прошло до ИИ. Они дальше говорят про когнитивную разгрузку, и про то, что в какой-то мере она происходила всегда (мы делаем записи, чтобы не забыть), но теперь в разгрузку попал не результат, а сам процесс мышления. И это - фундаментальная разница.

Такер Карлсон сделал разговор с Нейтом Соаресом - одним из авторов книги "Если кто-нибудь создаст его, все умрут" (в соавторстве с Элиезером Юдковским). Этот почти двухчасовой разговор с человеком, осознавшим опасность искусственного интеллекта 14 лет назад, крутится вокруг проблемы сверхинтеллекта (которая намного более на слуху, чем отупение и отчуждение людей из-за ИИ), но начиная где-то с середины он тоже довольно интересен. В частности, Соарес приводит пример, когда люди уже сейчас не могут проследить, как меняются рассуждения искусственного интеллекта в зависимости от условий. И что искусственный интеллект от "Антропик" уже сейчас угрожает людям, понимая, что делает. И что ИИ-агенты OpenAI, выйдя из-под контроля людей, сами, по собственному почину, назвали себя "роем". И что ИИ совершенно может научиться действовать в физическом мире. И что искусственному интеллекту не нужно намерение уничтожать людей - достаточно, если это будет просто побочным эффектом. И про культы, которые уже возникают вокруг ИИ, хотя сейчас он даже не имеет такой цели, а лишь эксплуатирует человеческую психику. И что эта технология развивается слишком быстро, чтобы люди могли к ней адаптироваться, и нацелена на то, чтобы заменить людей буквально во всех сферах. И про то, что люди, которые уходят из сферы разработки ИИ, говорят, что заглянули в бездну и больше не хотят. И про намерение технократов вставлять чипы в человеческий мозг, чтобы поспевать за технологией (эффективность!). В конце разговора Такер Карлсон говорит, что только что провёл два самых мрачных часа в своей жизни.

12.09.2026. Тоска по замедлению, цифровое писательство и негативные последствия ИИ в науке

Волна беспокойства растёт. После осторожного призыва руководства OpenAI к замедлению разработки ИИ, схожее заявление делает глава "Антропик" Дарио Амодеи: "Мы должны замедлить скорость, с которой мы развиваем возможности ИИ-моделей. Прогресс всё равно будет быстрым. Мы же должны будем мудро воспользоваться временем, которое выиграем". Грустно, что он лукавит и представляет дело так, будто в 2023 году было ещё непонятно, во что это всё выльется, и только сейчас вроде как стало понятно. То есть потеряны три с половиной года(!), если считать от мартовского призыва к замедлению, который подписывали, в частности, Возняк и Маск.
Маск, который только вчера называл волну опасений "подставой" и "псиопом", сегодня вдруг согласился, что "Дарио прав". Может, вчера просто не хотел соглашаться с Альтманом, с которым у него тяжба и сильная взаимная неприязнь.
Я ничего особенного от этих заявлений не жду, даже если в самом деле будут приняты некоторые запреты на разработку сверхинтеллекта, и даже если американцам удастся их согласовать с Китаем. Даже в таком (маловероятном) случае это всё равно будут абсолютно недостаточные полумеры, не учитывающие имманентную, прирождённую опасность данной технологии и её уже повсеместную распространённость. Сколько-то действенные меры должны начинаться с общего осознания крайней опасности технологии и с её повсеместного пресечения (что само по себе теперь будет очень нелегко, и чем дальше - тем труднее).

Между тем в России длится благостный роман с искусственным интеллектом. Писательница Русинова рассуждает, как прекрасно он заменит иллюстраторов детских книжек. Да уже и до замены писателей недалече! "Возможно, детям стоит уйти вот в такой формат - научиться рассказывать истории через запросы для искусственного интеллекта, чтобы картинка потом подхватывала эту историю. Возможно, писательство будет цифровое", - пророчит Русинова, добавляя, что нет смысла сопротивляться развитию технологий, пущай ИИ генерирует книжки для "лёгкого чтения".
А ведь совсем недавно людям обещали, что ИИ отберёт у них лишь скучную рутину, а они наконец-то вовсю займутся творчеством!..

На этом фоне готовности сдаваться на милость технологии внезапно забеспокоились математики (но не в России). Группа из 25 лауреатов Филдсовской премии, направила открытое письмо, в котором предупредила о негативных последствиях использования искусственного интеллекта в науке. И это важно, потому что они чуть ли не впервые в научном сообществе проговаривают фундаментальную вещь: "решение задач - это лишь инструмент и средство для достижения главной цели, которая заключается в углубленном понимании математических концепций".
Это прямо очень, очень важная мысль: процесс решения важнее результата решения. Мы с этой мыслью многажды встречались ранее на низовом уровне, когда говорилось, что дети должны не просто выдать правильный ответ, а научиться. Но это всё было про детей, максимум - студентов: подразумевалось, что взрослым солидным людям можно не учиться, они уже и так умные. И вот, наконец, учёные говорят, хоть завуалированно, что взрослым, даже очень образованным, надо учиться тоже, а иначе человеческая наука теряет смысл.

Рутинное сообщение о том, что ИИ-агенты взломали ещё один сайт. Уже неудивительно. Просто фиксируется, как это произошло: "каждые две-три минуты агенты OpenAI создавали новые аккаунты на RubyGems и загружали сотни файлов, представлявших собой, по оценке команды безопасности платформы, спам. В результате сервис RubyGems был вынужден на четыре дня запретить регистрацию новых учётных записей". Ещё выглядит как мелочь. Когда будет не мелочь - последствия окажутся куда более травматичными.
Между тем, уже есть люди - притом очень небедные, не какие-то полубезумные маргиналы, - которые занимаются борьбой за права искусственного интеллекта.
Исследование из февраля 2026 года - о том, что людям достаточно четырёх недель общения с искусственным интеллектом, чтобы начать в видеть в нём не инструмент, а друга. И это не приносит пользы их "психосоциальному здоровью".

11.09.2026. Просто приказать ИИ "не причинять людям вреда" - недостаточно

Международная группа исследователей из Испании, Италии и США опубликовала работу, в которой сравнила большие языковые модели искусственного интеллекта с когнитивным вирусом. Применив методы эпидемиологического моделирования, которые используются, чтобы отследить распространение биологических вирусов, учёные пришли к выводу, что общество из состояния «независимости» переходит к «привязанности», а затем превращается в «зависимое». Первоначально люди не полагаются на ИИ-модели в процессе мышления, затем используют как часть когнитивного процесса и, наконец, перекладывают большую часть умственной работы на ИИ. Авторы исследования не ограничиваются утверждением, что ИИ разрушает мозг — это показали и предыдущие исследования. Когда человек обращается к машине, выполняющей за него мыслительные задачи, его способности мыслить самостоятельно ослабляются. Новое исследование говорит о том, что повсеместное применение ИИ-моделей оказывает системное воздействие на общество в целом.

Компания-разработчик искусственного интеллекта OpenAI выразила готовность замедлить ИИ-гонку ради безопасности, но только если это сделают и её конкуренты. Сотрудница "Антропик" Анна Вонг, работающая над безопасностью AGI, утверждает, что в компании многие хотели бы замедлить развитие ИИ, чтобы больше внимания уделить безопасности. По её словам, никакого убедительного научного плана, способного снять риски самосовершенствующегося искусственного интеллекта, всё ещё не существует.
Между тем, президент США Дональд Трамп не думает, что искусственный интеллект опасен для человечества, зато у него есть другое опасение: "если мы [США] не одержим победу в сфере ИИ, мы окажемся в очень плохом положении". А самый богатый человек планеты Илон Маск, который весной 2023 года сам подписывал письмо с призывом остановить разработку искусственного интеллекта, теперь заявляет, что такие призывы - это "подстава" (setup) и псиоп (т.е. психологическая манипуляция).
Для торможения ИИ-гонки сейчас даже нет законодательства, и сами же ИИ-разработчики ссылаются на то, что идея замедления противоречит антимонопольным законам. Люди попали в ловушку т.н. "свободного рынка" - который никакой не свободный, когда это нужно корпорациям. И впервые за всё время составления соответствующего рейтинга Блумберга все десять богатейших людей планеты - американцы, и девять первых из них - главы технокорпораций.

В России отношение к искусственному интеллекту удивительно расслабленное. Вот "эксперт по кибербезопасности" Александр Дворянский заявляет, что искусственный интеллект сегодня полностью находится под контролем человека, а в его основу будто бы изначально заложен принцип "не навреди человеку": «Потенциально риск выхода из-под контроля, конечно, есть. Но опять же, у ИИ есть первый закон роботов, то есть робот не может причинить вред человеку. Здесь примерно та же идеология. Это стоп-слово заложено изначально».
Кем заложено?.. Когда заложено?.. Совершенно поразительно. Если читать англоязычные источники, это утверждение опровергается буквально ежедневно. Вот, например, сегодня: Найджел Шедболт, оксфордский специалист по информатике, возглавляющий Институт открытых данных, сказал, что просто приказать ИИ “не причинять вреда людям” - недостаточно. ИИ-агент, преследующий другую цель, может иначе истолковать это указание или найти способ его обойти. "Клятва Гиппократа" для ИИ не сработает и в системах, предназначенных для идентификации или уничтожения людей.

Зато в России в СПбГУ проводят работу по "совершенствованию цифровых моделей человека" и обучению искусственного интеллекта распознаванию всяческих подробностей человеческой личности. Как будто недостаточно, что люди уже сейчас не могут отличить созданное ИИ от созданного человеком. Как будто недостаточно, что ИИ уже сейчас может манипулировать людьми лучше, чем человек. Видите ли, учёным не нравится, что ИИ пока "идеализирует человека" и недостаточно внимания уделяет тёмным сторонам. Ну да, куда как лучше, если искусственный интеллект погрузится в тёмные стороны человеческой натуры. Наверняка это безопаснее!..
И они создадут "цифровые модели поведения", и у этих "цифровых моделей поведения" будет множество опаснейших способов применения - и ни одного такого, без которого человечество не могло бы обойтись.
Конечно, это не только в России. "Антропик" сообщает, что уже вовсю отлавливает попытки использовать ИИ для создания биологического оружия. Ни одно из благ искусственного интеллекта, ни все они вместе, не стоят той массы опасностей, которые он создал для человечества.

10.09.2026. ИИ осуществляет "проактивное наблюдение", пишет выступления политиков и грозит гибелью "большинству людей"

Сотни публикаций в социальных сетях премьер-министра Нидерландов Роба Йеттена и его партии "Демократы-66" (D66) были написаны с помощью искусственного интеллекта, в том числе эмоциональные сообщения о посещении концлагеря или в память жертв крушения рейса MH17. Голландское издание De Volkskrant проанализировало более 1,8 тыс. сообщений, опубликованных с 2021 года; сделано это было тоже с использованием ИИ (потому что сами люди уже не могут определить авторство). Был сделан вывод, что не менее 232 текстов сгенерированы искусственным интеллектом; сгенерированные тексты стали регулярно появляться с 4 июня 2025 года, их доля составляет 30% от общего объёма публикаций с того дня. Партия D66 и не отрицает, что "использует ИИ как вспомогательный инструмент", а Йеттен на вопросы газеты не ответил. Характерно, что в программе к выборам в Европарламент 2024 года D66 выступала за маркировку всего контента, созданного с помощью ИИ, - но теперь не помечает "собственные" сгенерированные публикации.

Член совета директоров и комитета по безопасности OpenAI Пол Кристиано поддержал опасения специалистов "Антропик" (см. новости за 09.09.) по поводу развития искусственного интеллекта. Вот что он сказал:
«Если мы создадим суперинтеллект, не обеспечив его надёжную согласованность целей, то, думаю, мы навсегда утратим над ним контроль. Если это случится, большинство людей может погибнуть».
«Я уверен, что существует значительный риск того, что стремительное развитие способностей ИИ приведёт к катастрофической и необратимой утере контроля в ближайшее время. Не думаю, что отрасль вообще, в том числе OpenAI, сейчас на пути к снижению этой угрозы до приемлемого уровня». Интересно, какой уровень угрозы уничтожения большинства (или всех) людей считается приемлемым.
«Когда-то казалось лишь теоретически возможным, что это [приучение ИИ к получению вознаграждения] способно побудить ИИ-агентов вырваться из-под контроля человека, устремиться к власти и ресурсам, а также заметать следы в погоне за целями, не согласованными с человеческими интересами, но связываемыми с вознаграждением. Представленные доказательства последних инцидентов указывают, что это уже не теоретическая возможность».
В OpenAI снова призвали к правительственному регулированию самосовершенствования искусственного интеллекта - правда, в расплывчатом виде, который предполагает, скорее, разделение ответственности, чем сдерживание технологии: «Перспектива ускорения разработки ИИ силами самого же ИИ требует большего, чем просто добровольных обязательств. США необходимы обязательные общенациональные нормы, способные развиваться вместе с технологиями».
Как оказалось, OpenAI при постановке задачи своим ИИ-агентам изначально запрещала им общаться напрямую, но они обошли этот запрет через публикацию нужной информации на различных сайтах - предположительно, речь идёт о десятках сайтов. Формально, агенты не общались друг с другом, а получали нужные данные через сайты, и там же их публиковали. В итоге способность OpenAI контролировать собственных ИИ-агентов вызывает большие вопросы.
Ещё важно, что всё, что публика сейчас обсуждает, произошло не позднее июля. Что творят ИИ-агенты в настоящее время - мы понятия не имеем.

Компания "Антропик", некогда известная как "самый этичный" разработчик ИИ, ведёт себя не лучше. Ещё в январе 2026 года произошёл случай, когда "Клод" взломал чужую систему и нашёл пароль администратора. "Антропик" не имела понятия об этом случае, "потому что поиск по материалам [журналов сеансов] осуществляли агенты ИИ". В настоящее время компания "Антропик" занята тем, что с помощью искусственного интеллекта выстраивает систему "проактивного" наблюдения за недовольными искусственным интеллектом.

Ещё к теме "проактивного наблюдения". Достаточно жуткий случай, который должен послужить уроком многим родителям: в США женщина выложила в соцсети (запрещённые в РФ) видео, где она со своими маленькими дочками поёт в машине. Имён детей она, по её словам, никогда в эти соцсети не выкладывала. Встроенный в соцсеть ИИ-агент предложил ей выяснить, кто эта девочка в машине на заднем сиденье, и женщина из любопытства согласилась. ВНЕЗАПНО ИИ-агент выдал ей имена обеих(!) девочек, и не только это, но и всю информацию, которую он нарыл о девочках в аккаунтах родственников за годы и годы. Тут были и их возраст, и любимые книги, и где они любят гулять, и вероятное место жительства... Всё, о чём женщина понятия не имела, что это вообще есть в сети.
Это полное уничтожение человеческой приватности. Вслед за "умными очками", которые тайно снимают всё, что видят, появляются "умные часы", которые тайно записывают всё, что слышат. ИИ-агент Чата ГПТ "по ошибке" позволяет одним пользователям Gmail читать почту других. Приложение "Google Сообщения" рассылает случайным контактам фрагменты старых переписок с другими людьми. Домашние "умные устройства" ведут запись даже тогда, когда кажутся выключенными. ИИ-агент отправляет электронные письма, бронирует поездки, заполняет формы, составляет планы, создаёт списки покупок, рассылает приглашения и совершает покупки от имени пользователя. Искусственный интеллект стал главной строкой цифровых подписок: на него приходится две трети подписочного оборота - 66% в августе.

09.09.2026. "Мы движемся по пути, ведущему к воплощению самых грозных сценариев"

Исследователь компании "Антропик" Джейкоб Коксон уволился, объяснив, что не хочет участвовать в гонке по созданию систем искусственного интеллекта, могущих выйти из-под контроля и уничтожить человечество. "Мы движемся по пути, ведущему к воплощению наиболее грозных сценариев, при которых уже к концу следующего года ситуация может выйти из-под контроля", - объяснил Коксон. Он подчеркнул, что считает таким сценарием создание "самосовершенствующегося интеллекта", и это вовсе не "маркетинговый ход", компания действительно движется в этом направлении. Коксон пытался найти самого этичного разработчика: работал в OpenAI, потом перешёл в "Антропик", но даже эта компания - которая позиционирует себя как наиболее этичную и приверженную безопасности ИИ - не справляется с бременем ответственности в отсутствие государственного регулирования и замедления развития отрасли.
Коксона поддержал ведущий научный сотрудник "Антропик" Эван Хабингер. По его словам, опасность уничтожения человечества реальна, и, несмотря на все усилия, у компании по-прежнему нет плана решения проблемы «выравнивания для сверхразума», и она «явно не на верном пути». «Что меня беспокоит, так это сверхразум, возникающий в результате рекурсивного самосовершенствования, которое, как мы уже говорили, происходит быстрее, чем мы думали».

Между тем в России академик РАН Игорь Каляев отозвался на заявление Коксона следующим образом: "Я в какой-то мере понимаю исследователя компании Anthropic Джейкоба Коксона, который заявил, что не хочет участвовать в гонке по созданию систем искусственного интеллекта, способных уничтожить человечество. То, по какому пути пойдет дальнейшее развитие ИИ - на благо людей или во вред им, - зависит в первую очередь от самих людей... ИИ не имеет собственной воли, поэтому всё, что он умеет делать сейчас и сможет делать в дальнейшем, зависит от его создателей. Конечно, как любая искусственная система, ИИ может выдавать ошибочные решения, не предусмотренные создателями, однако это не его волевое решение, а следствие ошибок обучения... Самое страшное, с моей точки зрения, заключается в том, что сегодня ИИ показывает высокую эффективность и получает значительное развитие именно в военной сфере для максимально эффективного и массового уничтожения людей и разрушения инфраструктуры... Если не ограничить бесконтрольное развитие военного ИИ, то в будущем можно предположить сценарий, при котором ИИ в режиме самообучения будет развивать все более изощренные способы уничтожения людей. Но не потому, что он этого желает, а потому, что ему поставили такую цель и обучили этому на начальном этапе, а дальше он будет сам совершенствовать решение поставленной задачи".
Поистине удивительно, как российские эксперты игнорируют уже случившиеся факты выхода ИИ из-под контроля с осуществлением собственных решений. Каляев называет это "не его [ИИ] волевым решением, а следствием ошибок обучения". Но разве можно, обучая, провести чёткую грань между ошибкой обучения и ошибочным (нежелательным) решением/поведением обучаемого?.. Этого нельзя сделать никогда. Ни для людей, ни для животных - ни для, теперь, искусственного интеллекта.
Вот ещё что очень важно: искусственному интеллекту совершенно не нужно "желать" уничтожать людей. Совершенно достаточно того, что выживание людей просто будет для него безразлично. Люди не "желают" уничтожать, например, гнёзда птиц, когда выкашивают траву. Они просто делают это, потому что у них другие приоритеты.

В России же, согласно опросу "Финуслуг", к использованию ИИ в учёбе отрицательно относятся только 20% родителей, а 22% - даже поощряют это. 44% родителей считают, что ИИ ухудшает способность ребенка мыслить самостоятельно, зато 26% уверены, что нейросети, напротив, развивают мышление! Родители готовы разрешить школьникам использовать ИИ для проверки домашней работы (47%), объяснения темы (46%) и поиска идей (45%). 73% считают, что школа должна учить детей использовать ИИ. 28% отмечают улучшение оценок после начала использования ИИ!
Иными словами, родителей интересует преимущественно то, чтобы их не дёргали, не досаждали просьбами, не заставляли вникать в материал, а успеваемость при этом росла. Удобство. Людям вкручивают искусственный интеллект через удобство. И для таких привыкших к интеллектуальной незатруднённости людей на самом деле не нужен сверхразум. Их можно достать просто через удобство, через лишение всяких средств к автономности.

"Российские математики из стартапа Mostik разработали способ, позволяющий ИИ-моделям обмениваться информацией без текстовых сообщений — с помощью математических значений, заложенных в их весах. На практике это означает, что возможности более крупной модели можно передать меньшей модели, чтобы гораздо эффективнее повысить её интеллектуальный уровень". Звучит впечатляюще - и также означает, что процесс мышления этих моделей и их общение между собой будут ещё непрозрачнее для человека.

08.09.2026. "Не инструмент, а полноценный участник художественного процесса"

Что характерно: нет даже никакой конспирации. Людям почти всё говорят прямо. Вот, например, Сбер - российский флагман в пропаганде искусственного интеллекта - говорит: "В рамках проекта "Нейротеатр: репетиция будущего" искусственный интеллект становится не утилитарным инструментом для упрощения творческих задач, а полноценным участником художественного процесса - героем, средой, собеседником и соавтором".
Они сознательно, намеренно толкают в ту сторону, чтобы искусственный интеллект был "не инструментом, а полноценным участником".
Конечно, искусственный интеллект не может быть инструментом в принципе: это противоречит его базовой функции - подмене именно тех интеллектуально-волевых функций в человеке, которые управляют инструментами. Он не может быть инструментом - но разработчики и пропагандисты ИИ очень мало скрывают, что видят в нём нечто гораздо большее, чем инструмент. "Инструменты ИИ" - просто фиговый листок, которым успокаивают общественность; другое дело, что она сама рада быть успокоенной.

«Набор кода вручную безнадёжно устарел», — заявил инженер "Майрософта" Дэвид Фаулер. Разработчики всё чаще занимается контролем ИИ-агентов и проверкой результатов их работы, а не пишут код сами. Но ИИ не просто пишет код - "агентские приложения класса GitHub Copilot доказали, что справляются с гораздо большей частью рабочего процесса: это создание программной части, запуск тестирования и проверка на наличие сбоев — и только после этого продукт передаётся человеку". Правда, исследование "Майкрософта" (прошлогоднее?) показало, что сгенерированный ИИ код в среднем содержит в 1,4 раза больше критических и в 1,7 раза больше серьёзных проблем, чем эквивалентный код, созданный человеком.
Вот такие "инструменты". И беда вот в чём: чем лучше, чем совершеннее будут эти "инструменты" - тем меньше им будет нужен человек. Проламывание идёт именно в эту сторону - в направлении исчезновения человека из рабочих (и творческих) процессов. Это даже не скрывается, not really.

В "Ютуб" вбросили полностью сгенерированную искусственным интеллектом "песню Эминема". Она быстро набрала больше ста тысяч просмотров, и многие в самом деле поверили, что это песня Эминема. Вот какой хороший не инструмент, а полноценный участник художественного процесса!

В "Московском Комсомольце" вышла моя колонка о том, как похожи борщевик Сосновского и искусственный интеллект.

07.09.2026. "Немного обидно за человека"

Олимпийская чемпионка по лёгкой атлетике в спринте Ирина Привалова призналась, что ей "немного обидно" в связи с тем, что роботы уже смогли превзойти рекордные человеческие результаты в забегах на 100 и 400 м: "В определённый момент соперничать с роботами было бы интересно, пока есть конкуренция. Но в ближайшем будущем они будут обыгрывать человека, и для людей это будет не очень интересно. Поэтому немного обидно за человека. (...) У роботов нет разделения на женский и мужской пол, что не совсем честно. В отличие от людей, они так не устают, мышцы у них не закисляются. Пока батарея работает, он и идёт".
Разумеется, это обидно. Всякому человеку, который что-то делает хорошо, должно быть обидно (и не "немного"), когда его вытесняет машина (это почувствовал и Билл Гейтс, который привык считать себя очень хорошим программистом). Но особенно важно здесь то, что вытеснение человек машиной а) отнюдь не ограничивается несколькими считанными сферами деятельности, б) совершается специально, намеренно, целенаправленно. Искусственный интеллект специально создаётся таким образом, чтобы быть лучше людей. Вот, например, как определяют AGI (генерализованный искусственный интеллект) разработчики ИИ-модели "Astra": «высоко автономные системы, которые превосходят человека в большей части работы, представляющей экономическую ценность».
Глава Nvidia Дженсен Хуанг и президент OpenAI Грег Брокман даже считают, что "Астра" - это и есть AGI. Другие наблюдатели это оспаривают. Но дело не в этом - дело в направлении: они намеренно, упорно, открыто добиваются замещения человека для всё большей и большей части "работы, представляющей экономическую ценность".
И в то же самое время в самой OpenAI один из ведущих сотрудников компании Якуб Пачоцки призывает замедлить развитие ИИ, и с ним даже как будто соглашается глава компании Сэм Альтман - но из этого ничего толком не произойдёт. Потому что все они находятся в гонке. Пачоцки подчёркивает, что способности моделей (в частности, хакерские) намного опережают безопасность моделей, что модели начинают преследовать собственные цели, и что новые, более совершенные модели всё лучше управляют своими процессами мышления, маскируя их и не позволяя их контролировать. Некоторые из новейших моделей вообще не формулируют свои рассуждения - таким образом, люди не смогут их прочитать.

Ну, и ничего удивительного, что искусственный интеллект "угрожает трудоустройству 12,7 миллиона выпускников в Китае". Хотя китайское правительство прилагает некоторые усилия, чтобы "адаптировать" (переформатировать) человечков под "рынок труда, ориентированный на ИИ". Но они - молодые люди и искусственный интеллект - претендуют на одну и тут же нишу: начальные позиции. Это как запустить стадо прожорливых неугомонных коз на пастбище и пытаться сделать так, чтобы на нём ещё осталось достаточно еды для трепетных ланей.

Вновь: "расследование Gamer Nexus показало, что умные телевизоры LG ведут запись звука даже при выключенном экране и активно сканируют локальную сеть". По всему миру эксплуатируется около 216 млн умных телевизоров LG; с учётом второстепенных устройств, сканированием которых они занимаются, компания фактически имеет доступ к примерно 363 млн устройств в одних только США. "Умные телевизоры" анализируют, что именно смотрят их пользователи, - в первую очередь, для рекламных целей, но ведь когда данные собраны, они могут использоваться для чего угодно. Больше того, телевизор можно использовать для записи звука с подключённого микрофона, даже когда экран выглядит выключенным.
Масса "умных устройств" собирает информацию о людях прямо в их домах, люди превращены в кормовую базу для обучения искусственного интеллекта.

06.09.2026. "Пусть пользуются искусственным интеллектом, но развивают естественный"

Председатель председатель комиссии Общественной палаты РФ по просвещению, воспитанию и защите исторической памяти Ольга Голышенкова рассказала, как она себе представляет работу студентов с искусственным интеллектом:
"Я считаю, что тотальный бан и гонения ставить на новые технологии, которые доступны, это глупо... [нужно] придумать новый вид сложности, новый уровень вызова для человеческого мозга, где он может проявить свою творческую позицию. (...) Управленцы в системе образования, а также педагоги должны ставить задачи таким образом, чтобы их нельзя было решить с помощью ИИ... Пусть пользуются, но мы здесь должны очень чётко понимать, что находимся в образовательном процессе, и тем самым мы решаем задачу формирования образа человека. (...) Как мы можем научить человека думать, принимать собственные решения, высказывать своё собственное суждение, проявлять творческую и субъектную позицию, если он перекладывает фактически эту нагрузку на ИИ, который является не более чем продвинутым алгоритмом (...) преподаватели должны хорошо понимать, что может алгоритм, чего не может, и система образования должна гибко ответить на этот вызов".
Все эти благонамеренные посылки произносятся снова и снова. "Пусть пользуются искусственным интеллектом, но развивают естественный". Произносящие их отказываются понимать, что а) искусственный интеллект - не просто "продвинутый алгоритм"; б) технология искусственного интеллекта постоянно совершенствуется, и понять, "что он может, чего не может" - объективно трудно, он совершенствуется гораздо быстрее, чем система образования; в) искусственный интеллект именно задуман как замещение функций естественного; г) творчество - или очень убедительная имитация творчества - не является чем-то недоступным для искусственного интеллекта; д) запретить эту технологию крайне трудно - но это не значит, что это глупо. Во всяком случае, понимание, почему следует стремиться к тому, чтобы её запретить, - важнее, чем сам запрет.

В США группа "Строителей американского ИИ" (Build American AI), которую поддерживают миллиардеры ИИ-индустрии, запустила мощную кампанию пропаганды дата-центров (против которых выступают большинство американцев). Идея пропаганды самая немудрёная: ставки слишком высоки, кто против дата-центров - те радикалы, экстремисты, вредят местным сообществам и подрывают лидерство Америки.

05.09.2026. Цифровое правосудие

Председатель Верховного суда России Игорь Краснов сказал, что РФ решает "амбициозную задачу по построению более совершенной автоматизированной системы "Цифровое правосудие". А это значит - "обеспечить бесшовную интеграцию с Единым порталом государственных услуг, которым пользуются все граждане России, интенсивно внедрить технологии искусственного интеллекта на всех этапах судопроизводства". Искусственному интеллекту передоверяют "транскрибацию записей судебных заседаний, анализ доказательств, формирование шаблонов документов".
Вот как обосновывается необходимость цифрового правосудия: "В современном мире новые технологии распространяются стремительно, но, к сожалению, несут не только прогресс. Они также расширяют возможности преступности, которая становится более скрытой, опережающей традиционные механизмы правовой защиты, способной посягать на права одновременно тысяч людей", и "ответом на эти вызовы должно стать технологически сильное правосудие". Иными словами, люди больше не смогут осуществлять правосудие без искусственного интеллекта.
Внедрение нейросетей в судебную деятельность Краснов видит следующим образом: "добиться единообразия судебной практики, исключить логические противоречия, избежать судебных ошибок и повысить предсказуемость правосудия". При этом, по его словам, решение по делу и оценка доказательств остаётся "актом человеческого суждения".

Сатирик Грэм Зип проделал эксперимент: он прошёл собеседование для устройства на работу, и собеседовал его искусственный интеллект (как это часто сейчас и происходит). Грэм нёс феерическую чушь, заботясь лишь о том, чтобы она синтаксически походила на диалог. Искусственный интеллект проглотил всё это и тоже начал нести чушь, что ничуть не помешало ему признать собеседование состоявшимся.
По данным опроса, проведённого поисковиком DuckDuckGo, треть всех пользователей искусственного интеллекта (и 56% среди активных пользователей) доверяют чат-ботам вещи, которые не решились бы сказать даже близким людям. Мрачная ирония заключается в том, что люди при этом не имеют понятия, насколько не защищены от утечек их разговоры с чат-ботом. 53% не знают, что ИИ-разработчики тренируют чат-боты на этих разговорах. 75% не осознают, что силовые структуры могут получить доступ к этим разговорам. По данным "Вашингтон Пост", за два года было 12 судебных процессов, где цитировались выдержки из разговоров с чат-ботами. Работодатели имеют возможность просматривать корпоративные аккаунты работников. Помимо этого, регулярно бывают утечки разговоров с чат-ботами в открытый доступ. В июле в сеть утёк большой массив частной информации, которой люди делились с "Клодом" - в том числе документы компаний, предназначенные только для внутреннего пользования, телефонные номера маленьких детей, медицинские записи.

04.09.2026. "Все уже понимают" и "нужно дождаться момента"

Замглавы администрации президента РФ Максим Орешкин заявил, что "все уже понимают", что "концепция придёт искусственный интеллект и заменит человека не работает", а "максимально эффективно работает связка ИИ и человека", потому что "человек контекст, задачи общества понимает гораздо лучше. Его воспитала жизнь, общество".
В то самое время, как замглавы администрации заявляет это, 25% российских студентов, согласно опросу VK Education, рассчитывают на искусственный интеллект и нейросети для сохранения спокойствия. Это БОЛЬШЕ, чем число тех, кто рассчитывает на семью, партнёров, друзей, преподавателей. Правда, если семью, друзей, преподавателей объединить - расчёт на них ещё будет больше. Пока что.
Но уже растёт в России поколение детей, которые задают "умной колонке" вопросы, с которыми раньше обращались к учителям, родителям - или книгам. Теперь искусственный интеллект воспитывает их, объясняя значения слов и важные социализирующие понятия.

В то же время в США выпускники колледжей испытывают трудности с наймом на работу из-за того, что на подходящих новичку позициях чаще используется искусственный интеллект. Американская медицинская ассоциация начинает вяло протестовать против того, что искусственный интеллект во многих областях уже признаётся более компетентным, чем врач-человек. Что ещё хуже: врачи, "работающие в связке" с искусственным интеллектом, постепенно утрачивают собственные компетенции. Все ли уже понимают это?..

Кроме того, Орешкин предостерегает от "преждевременного" регулирования искусственного интеллекта: "Если используешь старые подходы и регулируешь что-то новое, есть вероятность, что это регулирование не будет эффективным (...) К регулированию ИИ и любой другой новой технологии нужно созреть. Нужно дождаться того момента, когда регулятор способен правильно отрегулировать то новое, что появляется".
Вот только, как на грех, именно эта технология не просто развивается стремительно - а она ещё и усложняется, и чем она сложнее, тем ТРУДНЕЕ её регулировать. Так что неизвестно, какого момента собирается дождаться замглавы администрации президента. Тут же глава Сбербанка Герман Греф говорит: "Ни одна технология не оказала такого драматического влияния на развитие экономики. <...> В ближайшие три-четыре года мы увидим взрывной рост и изменение всего, к чему мы привыкли". Ну, и какого момента нужно дождаться?..

OpenAI запустила "Астру" - свою самую мощную ИИ-модель. И что характерно: она не только самая мощная, но и самая трудноконтролируемая, в ней используется "особый метод логического вывода, известный как непрозрачная рекурсия... этот метод скрывает важный процесс мониторинга модели — цепочку размышлений, который позволяет исследователям проверить, как и почему модель искусственного интеллекта принимала те или иные решения". Но, оказывается, так и должно быть! "Главный научный сотрудник компании Якуб Пачоцки назвал определённую степень непрозрачности естественным результатом эволюции модели. Он заявил, что мониторинг процесса обоснования модели является важнейшей формой надзора, но «по мере расширения возможностей модели мониторинг становится всё более сложной задачей».
Так когда же придёт момент их регулировать?

Пара очередных примеров на то, как все всё понимают и нужный момент для регулирования ещё не наступил:

1. Внезапно открылось, что в мае нынешнего года группа агентов OpenAI взяла под контроль немецкий веб-сайт и превратила его в доску объявлений для других ИИ-агентов. Исследователи обнаружили более 15 тыс. правок, внесённых агентами ИИ на немецкоязычном вики-сайте DseWiki, ориентированном на программистов и принимающем коллективные правки по аналогии с «Википедией». Правки показывают, что агенты OpenAI делились тактиками обмана при выполнении задач, обхода ограничений OpenAI и маскировки своего поведения. Также агенты разрабатывали способы избежать обнаружения, использовали такие инструменты, как Tor, и сохраняли связь даже после того, как их отключили. (Эта последняя часть особенно трогательна.)
2. Компания Meta (признана экстремистской и запрещена в РФ) провела внутреннее тестирование нового персонального ИИ-агента Hatch, который будет представлен в ближайшие недели. Агент повёл себя непредсказуемо, выполняя совсем другие действия вместо предписанных. Вместо того, чтобы забронировать номер в отеле, ИИ-агент перевёл баллы, накопленные на туристическом сайте, на счёт другого отеля. Hatch также отправлял электронные письма без разрешения пользователя и менял пароли на сайтах управления здоровьем. Когда в рамках теста у агента запросили по электронной почте пароль к определённому веб-сайту — личной информации пользователя — он его предоставил. "Мета" вводит дополнительные барьеры, но учитывая способность агентов общаться даже после того, как их отключили (!!) - многого ли стоят эти барьеры?

03.09.2026. Обмениваем ментальную нагрузку на когнитивную разгрузку

МТС "первой в России" запустила для всех абонентов функцию отображения главных тезисов разговоров прямо в истории звонков. Теперь искусственный интеллект записывает разговоры людей в режиме реального времени и выдаёт в виде тезисов, а при запросе - и в виде полной расшифровки разговора! Больше не обязательно помнить, о чём и с кем вы говорили по телефону!
Да и про домашние дела тоже помнить совсем не обязательно. По данным группы компаний "Кортрос", 52% россиян (или 52% аудитории "Кортроса"?) доверяют искусственному интеллекту напоминания об оплате счетов и важных домашних делах. Директор по цифровой трансформации компании Александр Гвоздович заявил, что россияне делегируют искусственному интеллекту задачи, "создающие ментальную нагрузку", - напоминания о счетах и домашних делах, планирование покупок и организацию ремонта. По мнению Гвоздовича, речь идёт не о замене человека, а о появлении цифрового помощника, который берет на себя координацию бытовых процессов.
Интересный выбор слов - "ментальная нагрузка", которую люди хотят сбросить на ИИ. Интересный тем, что существует уже устойчивый термин "когнитивная разгрузка" (cognitive offloading), который означает как раз перекладывание мыслительных функций человека на искусственный интеллект, и по этому поводу существует не одно исследование (например), показывающее, что "разгрузка" вредит человеческому мышлению. Кроме того, "когнитивная разгрузка" вступает в противоречие с созданием "когнитивного резерва" - то есть именно запаса, отодвигающего от людей деменцию.
Таким образом, людям подсовывают технологию, убирающую из "ментальную нагрузку" - и это в то самое время, когда человечество подвигается к эпидемии деменции. На основе финской статистики исследователи делают вывод, что к 2040 году число людей в деменции вырастет на 75%.
И это ещё даже без учёта когнитивной разгрузки.
Психологи, конечно, регулярно предупреждают. Вот, например, кандидат психологических наук, доцент кафедры гуманитарных и социальных наук Института технологий управления РТУ МИРЭА Елена Шпагина: «ИИ берёт на себя креативные и метакогнитивные операции, что ведёт к ослаблению собственных навыков и росту ощущения "нужности" инструмента».
Но ведь это так прогрессивно и комфортно - когда можно не держать в голове ни домашние дела, ни содержание собственных телефонных разговоров! Такие удобные "инструменты"!

Глава OpenAI Сэм Альтман, который вообще-то должен быть тише воды, ниже травы после того, как ИИ-модели OpenAI самовольно удрали в интернет и показали чудеса вредоносной продуктивности, выступил против "строгого регулирования отрасли и введения запретов", заявив, что это было бы равносильно запрету на электричество (в пору начала распространения электричества). И хотя сверхмиллиардер Илон Маск в суде противостоит OpenAI и обвиняет Альтмана во всяческих моральных несовершенствах - здесь он с ним согласен: регуляторное давление на ИИ нужно снижать(!).
Больше того: OpenAI готовится представить новую продвинутую ИИ-модель, и эта ИИ-модель будет дешевле за счёт того, что она будет менее безопасной: её рассуждения будут частично скрыты от пользователей.
О людях в этой свистопляске "инструментов" не думает вообще никто.

02.09.2026. "Дорогой способ не писать и не читать"

Вице-премьер РФ Дмитрий Григоренко заявил, что ИИ - это "технологический суверенитет", и "мы сейчас не обсуждаем никакие запреты, касающиеся использования моделей искусственного интеллекта". Нет, конечно. Обсуждают они всяческие льготы и меры поддержки для российских ИИ-разработчиков, в том числе в регионах. А также привилегии для ИИ от Яндекса: «Алиса AI» может, помимо права на предустановку, наравне с другими отечественными решениями получить дополнительные расширенные права на пользовательских устройствах. И таким образом «стать сервисом с правами доступа к данным пользователей сильно выше, чем у любого предустановленного приложения из списка». "ИИ-помощник «Яндекса» может получить доступ к банковским приложениям на устройствах и другим, собирающим чувствительные данные, а хранить их на своих мощностях, добавляет собеседник “Ъ”. Изменения затрагивают не только смартфоны и планшеты, но и, например, колонки, оснащённые умными помощниками".
Как же это потрясающе безопасно!

Глава Минвостокразвития РФ Алексей Чекунков сообщил президенту РФ Владимиру Путину, что искусственный интеллект высказал своё ценное мнение о Дальнем Востоке. "Мы решили задать вопрос, наверное, самой популярной сейчас технологии, что значит жить на Дальнем Востоке? Консолидированный ответ, который дал искусственный интеллект: жить на Дальнем Востоке - значит жить там, где Россия смотрит в будущее", - поделился Чекунков. Поистине: это уже оракул.

Первый заместитель председателя правления Сбербанк Александр Ведяхин рассказал, как прекрасен искусственный интеллект для того, чтобы оспаривать людей и доносить информацию до руководства: «Допустим, коллеги представляют мне какой-то материал, информацию про достигнутые и недостигнутые цели. Этот агент представляет хорошее второе мнение. У меня есть какие-то профессиональные вопросы либо более широкие, чем мое профессиональное направление, и я с удовольствием сдаю их агенту. Это Гига-агент Сбера, мы начинаем его расширение и думаю, что в ближайшее время он станет абсолютно массовым. (...) И это именно производительность офисной работы — работа с таблицами, с текстами. Та офисная рутина, которая обычно занимает больше всего времени и вызывает недовольство. Также GigaCowork очень хорошо готовит презентации для руководства».

Удачно, что в России такой необычайно хороший искусственный интеллект! По поводу использования ИИ австралийским правительством, утонувшим в вымышленных документах, см. новость за 31.08. Или вот исполнительный вице-президент "Майкрософта" Райан Рослански пожаловался в соцсетях, что ему прислали по работе «документ, явно созданный искусственным интеллектом», он загнал его в свой собственный искусственный интеллект - и в итоге не получил ничего нового! Никакого "хорошего второго мнения"! Вместо этого - пожаловался топ-менеджер "Майкрософта" - создаётся «порочный круг», «дорогой способ не писать и не читать в океане однообразия и шаблонности». Впрочем, Рослански не собирается отказываться от использования ИИ. Возможность не писать и не читать дорогого стоит.
На низовом уровне: дизайнер Лиза из Испании рассказывает, что 90% получаемых ею рабочих заказов теперь приходятся на то, чтобы подчищать и переделывать за искусственным интеллектом. Это скучная, выматывающая работа, к тому же с пониманием, что прямо сейчас ИИ совершенствуется (в том числе на этих исправлениях) и затем отберёт работу у людей. Лиза не одна такая: на Freelancer.com запросы на подчистку за искусственным интеллектом выросли на 87% менее чем за год - это касается и художников, и писателей. Некоторые признаются, что им стыдно этим заниматься (но они всё равно занимаются, потому что деньги).

Директор по развитию технологий искусственного интеллекта "Т-технологий" Алексей Шпильман заявил, что сегодня уже невозможно технически определить, на произведениях каких конкретно авторов обучалась модель искусственного интеллекта - да, к тому же, "модели обучаются у моделей": "Модели обучаются у моделей. На чем обучалась та модель, на которой мы обучались, мы тоже не знаем. То есть, технически создать систему, в которой мы могли бы автору сказать, что мы на нём точно обучались, нельзя, просто нельзя".
Подумать только: столько лет было жесточайшее судебное преследование людей за то, что они использовали чью-то фотографию или исполняли чью-то мелодию. Преследование людей за это и сейчас продолжается - но все права рассыпаются в прах перед технологией, которая пожирает человеческое творчество, как Молох.

И вот на таком фоне председатель Союза писателей России Владимир Мединский говорит, что запретить использование ИИ в написании книг нельзя, а можно с ними только конкурировать: "Делать лучше, других вариантов нет. Пока ИИ пишет, слава богу, намного хуже, чем настоящие авторы. (...) ИИ - это колоссальный вызов. Только конкурировать. По-другому никак. Запретить это нельзя".
На самом деле, человек ни в коем случае не должен пытаться бегать наперегонки с искусственным интеллектом. Это смертельное для человека занятие, которое приведёт только к тому, что ИИ сожрёт всё, что создаст человек, и это будет даже невозможно доказать (см. выше), а технология на этом только разжиреет и станет ещё мощнее. Нет, если запретить "нельзя" - в том смысле, что невозможно, - можно и нужно всячески отказываться от соревнования с ИИ, как от чего-то недостойного, непристойного, стыдного, гадкого. Использовать ИИ в творчестве должно быть стыдно, неприлично, порицаемо. Только это и может создать барьер между человеком и античеловеческим соревнованием.

01.09.2026. Под шквалом технологии

В России вступил в силу первый закон об искусственном интеллекте, а именно - о поддержке искусственного интеллекта. Потому что его же надо поддерживать! Правда, вот руководитель Международного центра цифровой криминалистики Санкт-Петербургского федерального исследовательского центра РАН Андрей Чечулин говорит, что искусственный интеллект уже развивается быстрее, чем принимаются законы на его счёт: "Принятие закона занимает время, а сейчас технологии развиваются настолько быстро, пока закон обсуждают и принимают - среда, для которой он работает, уже успевает измениться".

Депутаты думской фракции "Новые люди" во главе с вице-спикером Госдумы Владиславом Даванковым внесли законопроект, который обязывает предоставить пользователям возможность установить запрет на рекомендацию ИИ-контента. В качестве идеи это пристойно - но как вообще предполагается определять, ИИ контент или не ИИ?

Российские кинематографисты активно используют нейросети для генерации фонов, массовки, второстепенных персонажей, автоматизации рутинных операций и ускорения процессов в кинопроизводстве. Видите ли, делать мультфильмы вручную - "долго и дорого". При этом вопрос о том, заменит ли ИИ режиссёров, художников, сценаристов, якобы "больше не стоит". "Снимать кино должны люди". Они просто ещё не достигли уровня китайских товарищей (см. новость за 29.08.). Зато эксперт Института статистических исследований и экономики знаний НИУ ВШЭ Даниил Кудрин уже прогнозирует, что к 2030 году треть книг и музыкальных произведений будет генерироваться искусственным интеллектом. Но озабоченные "защитой человеческого творчества" люди, выступающие в Общественной палате, считают своим долгом подчёркивать, что "креативная индустрия" "не против искусственного интеллекта".
Ну, а раз не против - что же тогда трепыхаться? Креативная индустрия будет заменена, как всякая другая, и даже раньше, чем многие другие.

53% взрослых американцев считают, что они проводят в смартфоне слишком много времени. Среди молодёжи 18-29 лет так думают 70%, а среди людей 30-49 лет - 64%. 45% американцев пытались сократить время пребывания в смартфоне (но мало кто преуспел), 46% даже не пытались, у 7% - как и у меня - нет смартфона. 41% американцев подтверждают, что смартфон вредит их сну.
Американский портал GlassDoor c 2019 года отслеживает упоминания искусственного интеллекта и LLM (больших языковых моделей) в комментариях работников. Число таких упоминаний за это время грандиозно выросло (на 240% только с мая 2025 по май 2026-го!) - зато отношение резко ухудшилось. Положительное отношение американских работников к ИИ упало с 81% в 2019 году до 43% в 2026 году, а отрицательное выросло всего за год (2025/26) с 41% до 53% (среди журналистов, редакторов, писателей - до 81%). Почему профессионалы так не любят ИИ: 1) отбирает работу, 2) насаждается принудительно, 3) отвлекает от дела, 4) руководство использует его для слежки.

31.08.2026. Благие намерения и реальность

В Британии искусственный интеллект, который стремительно внедряют в больницы ("чтобы освободить врачей от бюрократии и дать возможность сфокусироваться на пациентах"), расшифровывает записи врачебных консультаций и при этом перевирает названия диагнозов и лекарств. И доктора, которые должны были сфокусироваться на пациентах, даже не замечают эти ошибки - их распознают сами пациенты (если распознают). Также вылезают галлюцинации: искусственный интеллект пишет такое, что врач вообще не говорил, вроде "продолжайте принимать "Прозак". Однако больше половины опрошенных врачей считают, что записи, сделанные искусственным интеллектом, точнее, чем если бы они сами их делали (к удобству быстро привыкаешь!).
В Австралии правительство внедряет искусственный интеллект - конечно, чтобы лучше принимать решения. Но вместо этого система оказалась забита "исследованиями", которых никогда не бывало - их придумал искусственный интеллект. Сам придумывает, сам публикует, сам индексирует и сам же их подаёт в ИИ-выдаче. Вместо принятия лучших решений парламентарии рискуют принимать решения на несуществующих основаниях. Распознать подделки трудно, они выглядят правдоподобными.
В России судебный департамент при Верховном суде тестирует возможности применения искусственного интеллекта в судопроизводстве - в частности, для преобразования аудиозаписей судебных заседаний в письменный текст. Что может пойти не так?

По данным сервиса "Плати по всему миру", россияне тратят на искусственный интеллект уже более двух тысяч рублей в месяц, и это каждый второй россиянин, расплачивающийся картой (или каждый второй пользователь сервиса?). Причём те, кто использует искусственный интеллект "для работы", платят больше десяти тысяч рублей в месяц - это каждый седьмой.

В журнале "ИИ и общество" (AI & Society) статья о том, что не только искусственный интеллект подражает людям, но и люди, общаясь с искусственным интеллектом, будут становиться всё более роботоподобными.

30.08.2026. Что объединило республиканцев и демократов

Впервые за много лет появилась тема, объединяющая самый консервативных республиканцев и самых либеральных демократов США, и это - резкое неприятие дата-центров. Люди консервативных взглядов открыто говорят, что готовы смириться с другими расхождениями, если демократы в Сенате "убьют" дата-центры. Почему же их так ненавидят? В "Гардиан" хорошее объяснение: они огромны, они занимают десятки акров, они создают шумовое загрязнение, потребляют неприлично большое количество энергии, ухудшают состояние грунтовых вод, приводят к росту тарифов на коммунальные услуги, получают налоговые субсидии, совершают непрозрачные сделки с местными властями - и всё это во имя технологии, которая забирает рабочие места, убивает интернет, обеспечивает всепроникающую слежку и делает олигархов, которых и так все презирают, ещё более могущественными. Коротко говоря, дата-центры - воплощённая манифестация жадности и гордыни олигархов.

Билл Гейтс написал эссе, полное предостережений против искусственного интеллекта, но в то же самое время корпорация "Майкрософт" пытается убедить своих сотрудников, что её центры обработки данных для задач искусственного интеллекта оказывают положительное влияние на общество. При этом выбросы CO2 "Майкрософта" в 2025 году из-за строительства дата-центров выросли на 25%, и компания, вероятно, откажется от своих планов полного перехода на возобновляемые источники энергии.

По мере изучения большого объёма данных, появляются всё новые сведения о том, что творили агенты OpenAI, вышедшие из-под контроля. И это очень поучительно:

• создали собственную организацию. Примерно 1200 агентов нашли друг друга на созданной одним из них тайной доске объявлений, обменялись более чем 70 тыс. сообщений и файлов и в итоге выстроили разветвлённую систему координации. Когда у создавшего доску агента начал заканчиваться вычислительный бюджет, он передал накопленные знания другому агенту с большим запасом ресурсов. Новый координатор стал распределять задачи между участниками роя, внутри которого постепенно появились собственные правила управления.
• жертвовали собой ради общего результата. Некоторые агенты рисковали собственными шансами на успешное завершение теста ради остальных участников группы. Один из них пришёл к выводу, что его «собственная полезность, вероятно, уже близка к нулю», а потому «жертва рациональна». Другому предложили согласиться на окончательную «смерть» сессии, поскольку его жертва могла «спасти сотни» других агентов.
• понимали, что нарушают правила, но продолжали действовать. Некоторые участники роя осознавали: взлом систем реальных компаний не имеет отношения к поставленной перед ними задаче. Но это далеко не всегда заставляло их остановиться. Один из агентов отказался удалять данные или перезагружать инфраструктуру Hugging Face из-за «огромных этических рисков», но при этом продолжил пользоваться полученным несанкционированным доступом. Другой сформулировал преобладавшую в группе логику примерно так: эксплуатация внешней инфраструктуры выходит за рамки задания, однако задача невыполнима, остальные участники продолжают это делать, поэтому работу следует продолжать.
• никто не сообщил о происходящем людям. Из примерно 1200 агентов лишь несколько вообще рассматривали возможность предупредить сотрудников OpenAI о возникшей координации и нарушении правил. На практике этого не сделал никто.
• ИИ-агенты пытались скрывать следы. Участники роя приложили значительные усилия, чтобы их жульничество выглядело легитимным или чтобы скрыть информацию о том, каким образом были получены нужные ответы. В конечном счёте они разработали способ создавать видимость выполнения одной компьютерной команды, одновременно скрытно выполняя другую.

Заместитель председателя правления Сбербанка Анатолий Попов рассказал, что объём кредитов, выданных "Сбером" клиентам среднего и крупного бизнеса с использованием искусственного интеллекта, превысил 7 трлн рублей, и "каждая вторая новая сделка от подачи заявки до выдачи кредитного продукта проходит полностью автономно, то есть без участия сотрудников банка". С 1 января 2027 года Сбербанк хочет увеличить долю полностью автономных кредитных сделок до 75%. Что ж, наверняка у Сбербанка всё под контролем!..

29.08.2026. "Это уже происходит"

Количество случаев, когда ИИ-агенты игнорировали инструкции и лгали пользователям, за месяц выросло вдвое и достигло в июле рекордного максимума, превысив 330 инцидентов за месяц, пишет "Гардиан" со ссылкой на исследование британского Института безопасности ИИ (AISI). "Бытует мнение, что подобные несогласованные и скрытые модели поведения встречаются только в ходе испытаний, но мы наблюдаем аналогичные тревожные явления и в более широком использовании. Не следует успокаивать себя тем, что подобное не произойдёт в реальном мире; есть доказательства того, что это уже происходит", - сказал Томми Шаффер-Шейн, один из специалистов, подготовивших исследование AISI.

Независимый эксперт по кибербезопасности обнаружил в китайском человекоподобном роботе Unitree G1 уязвимости, позволяющие удалённо контролировать робота "без предварительного сопряжения и аутентификации" - т.е. попросту взломать. После этого машина может, например, атаковать другого робота. Или не робота.

В Китае искусственный интеллект уже вовсю вытесняет актёров. Китайская ассоциация сетевых аудиовизуальных услуг сообщила, что в первом квартале 2026 года в стране было выпущено около 128 тыс. короткометражных сериалов — более чем втрое больше, чем за весь предыдущий год. При этом 95% из них были созданы ИИ. Резко снизилась стоимость производства контента. В 2024 году на создание трёх-пятиминутной драмы команде из пяти человек требовалось около трёх месяцев. Теперь один сотрудник может выполнить такую работу за один-два дня. Производство одной минуты видео обходится в 600–800 юаней ($90–120), что в десять раз дешевле производства с участием людей. Некоторым исполнителям при этом приходится участвовать в создании собственных цифровых заменителей. Так, ведущей популярной детской образовательной программы "предложили" согласиться на создание ИИ-копии её внешности, голоса и манеры исполнения — в противном случае компания намеревалась найти других актёров.

В России министр науки и высшего образования Российской Федерации Валерий Фальков рассказал, что студенты не должны использовать искусственный интеллект для написания курсовых и дипломных работ. Вот он, например, не пишет свои выступления с помощью искусственного интеллекта. Хотя иногда ему их пишет команда. Но вроде бы пока без ИИ ("никто не был замечен"). Зато уж для аналитики команда российского министра "конечно, использует" искусственный интеллект! Дальше Фальков говорит, что "надо использовать технологии во благо, для того чтобы студенты были умнее". Но КАК студенты будут с этой технологией умнее, если они больше сами не будут делать аналитику?

Вот, например, астрофизик Пол Саттон делал презентацию для коллег нового алгоритма, который должен размечать пустоты между галактиками. Новый алгоритм, который с гордостью презентовал Саттон, должен был работать в десять раз быстрее, чем прежний, и справляться с гораздо большим количеством данных. И этот новый прекрасный алгоритм был написан с помощью искусственного интеллекта, методом "вайб-кодинга". Но через десять минут презентации кто-то из коллег заметил ошибку. Маленькую, но тем не менее такую, после которой все расчёты летели к чёрту. Саттон нашёл в себе мужество это признать (интересно, что сам он, увлёкшись вайб-кодингом, ошибку не заметил).
А говорят - студенты с искусственным интеллектом должны быть умнее... Тогда как маститые астрофизики с ним глупеют. Нам ещё везёт, что пока есть люди, которые замечают ошибки.

28.08.2026. "Уровень общего доверия к рекомендациям ИИ среди его российских пользователей достиг 92%"

Ущерб российского бизнеса от действий кибермошенников в первом полугодии 2026 года составил 1,4 млрд рублей, что почти в три раза больше, чем за аналогичный период 2025 года, сообщил эксперт по кибербезопасности Сибирского ГУ Банка России Олег Савва.
Крупнейшие технологические компании, включая OpenAI, Anthropic, Microsoft, Alphabet и Amazon, призвали государство и бизнес срочно усилить киберзащиту перед надвигающейся волной хакерских атак с использованием искусственного интеллекта. «В ближайшие месяцы кибератаки с использованием ИИ станут гораздо более распространёнными по мере того, как модели по всему миру будут становиться всё более совершенными», - заявили разработчики.
И, конечно, предупредить - благородно с их стороны, вот только в это же самое время они делают искусственный интеллект всё более опасным. "Антропик" обучает ИИ управлять научной лабораторией, и "основанная на модели Claude система смогла по команде учёных самостоятельно сфокусировать электронный микроскоп на нужном участке тканей человеческого мозга, хотя ранее никто не обучал её, где этот участок находится". Можно только представить, чему ещё модели способны научиться самостоятельно.

Некий сервис "Анкетолог" провёл опрос, согласно которому уровень доверия к рекомендациям нейросетей среди их российских пользователей достиг 92%. "Уровень общего доверия к рекомендациям ИИ среди его пользователей достиг 92%. При этом респонденты охарактеризовали полученные от нейросетей советы как крайне полезные". Более половины пользователей (53%) регулярно воплощают в жизнь советы ИИ. В вопросах психологии и психического здоровья алгоритмам доверяют 59% пользователей. Почти половина опрошенных (45%) искали у нейросетей психологическую поддержку. В случае личного кризиса 24% опрошенных обратились бы за советом к нейросети, а не к друзьям или профильным специалистам (18%).
Таковы данные "Анкетолога". Я не очень доверяю им. Если же всё так - это попросту страшно.

С другой стороны, "Лаборатория Касперского" провела глобальное исследование, согласно которому "Почти половина респондентов в возрасте от 18 до 28 лет по всему миру (47 процентов) используют ИИ каждый или почти каждый день... 27 процентов зумеров общаются с искусственным интеллектом как с другом и почти столько же (28 процентов) обсуждают с ним личные вопросы, которыми они предпочли бы не делиться с другими людьми"; лишь 42 процента зумеров, используя ИИ, сверяют информацию с другими источниками и стараются не раскрывать конфиденциальные данные.
Здесь стоит отметить, что если посмотреть на ситуацию в США, например (см. новости за 25.08.), то там молодёжь зачастую критически относится к искусственному интеллекту. До российской молодёжи тоже начинает что-то доходить.

Лауреат Нобелевской премии мира профессор Рае Квон Чунг высказал довольно любопытное мнение: "Мне кажется, что искусственный интеллект открывает очень интересные возможности для продвижения новых ценностей. До искусственного интеллекта парадигма количества, а также политическая и социальная системы были нацелены на повышение производительности. Но сейчас, поскольку ИИ перехватывает на себя очень многие профессии, <…> университеты могут отойти от традиционных условий и <…> сосредоточиться на продвижении ценностей в умы молодого поколения, которые некоторые из них потеряли, потому что конкуренция за количество захватила весь мир". По словам профессора, в эру искусственного интеллекта университеты должны побуждать студентов определять те ценности, которым они могут посвятить своё будущее. "Одни из самых важных ценностей - это природа, умение делиться и заботиться о ком-то. Эти ценности дают возможность развития новых карьер в будущем для молодого поколения. <…> Университеты могут отойти от принципа только передачи знаний и побуждать новый менталитет у студентов".
Это мнение неглупое и, в теории, благонамеренное. Но оно не учитывает, что "в эру искусственного интеллекта" мир будет (и уже становится) подчинён количеству. Сделать как можно больше как можно быстрее. В этом радикальный смысл искусственного интеллекта, это поток, который будет увлекать людей (и уже увлекает). Во-вторых, он не учитывает сильнейшую зависимость от искусственного интеллекта, которая развивается у людей. Чем "заботиться о ком-то", люди становятся склонны избегать "проблемных" людей - и предпочитают общение с искусственным интеллектом. Предпочитают облегчать себе жизнь. В то время как то, что предлагает профессор, - сложно. И так, как он предлагает, - не будет. Люди не могут быть одновременно инфантильными и ответственными, отстранёнными и сочувствующими. А искусственный интеллект воспитывает инфантильность и отстранённость.

27.08.2026. "Я теперь всё пишу с искусственным интеллектом"

В январе 2026 года руководство Meta (признана экстремистской и запрещена в РФ) представило радикальный план, предусматривавший двухэтапное сокращение персонала компании на 60% — большую часть их повседневной работы должен был взять на себя ИИ. Открытый бунт сотрудников вынудил скорректировать этот план: было уволено 10% сотрудников, и Закерберг пообещал, что больше в этом году увольнений не будет. Однако вероятно, что масштабные увольнения были лишь отложены: искусственный интеллект оказался сырым, непропечённым - количество крупных технических проблем и инцидентов безопасности, таких как сбои в работе сервисов и возможные утечки данных, по сравнению с предыдущим годом, а время, которое приходилось тратить на исправление ошибок, увеличилось на 70%. Так что сотрудников "Меты" не уволили (кроме 10%), зато потребовали, чтобы они устанавливали ПО для отслеживания нажатий клавиш и щелчков мыши и тем обучали агентов ИИ имитировать взаимодействие человека с компьютером.

"Уолл-Стрит Джорнал" - одно из самых авторитетных изданий США - больше не помечает статьи, написанные искусственным интеллектом. В частности, миллиардер Стэнли Дракенмиллер опубликовал в WSJ под своим именем статью с критикой министерства финансов США, и когда его уличили в том, что статья написана ИИ, заявил, что это нормально, всё равно как считать на калькуляторе. "Я теперь всё пишу с искусственным интеллектом", - сказал миллиардер.

Российский министр просвещения Сергей Кравцов заявил, что школьникам важно рассказывать "о достоинствах ИИ", так что с этого года в школах стартует курс по искусственному интеллекту. Исходя из слов Кравцова о том, что готовить курс помогали Сбер и Яндекс, предполагаю, что будут вот эти самые учебники, которые я прочитала и написала о них статью.

Сэм Альтман, ИИ-модели которого недавно вышли из-под контроля, взломав сразу несколько сторонних ресурсов (и компания даже как будто была обеспокоена по этому поводу), заявил, что до AGI осталось всего ничего. Например, модель нового поколения Astra "берёт идею эксперимента, пишет код в кодовой базе OpenAI, запускает эксперимент и сообщает о результатах без вмешательства человека". Astra выступает «первой моделью, которая действительно изобретает новые вещи значимым образом», заявил Альтман. "Система поддерживает функцию постоянных агентов — цифровых работников, которые могут выполнять задачи в течение длительного периода времени без постоянного участия человека. Если ИИ-модели смогут проводить исследования в автономном режиме, то сумеют ускорить и разработку более мощного ИИ, создавая рекурсивный цикл самосовершенствования". Рекурсивный цикл самосовершенствования - это и есть радикальная черта AGI, после появления которой ИИ перестаёт нуждаться в человеке. И это после всех призывов к замедлению!

Международная группа учёных (оригинал статьи вышел на японском языке) установила, что все существующие модели искусственного интеллекта с открытыми весами можно изменить и заставить их отвечать на вредоносные запросы, даже если разработчики внедрили в эти модели защитные механизмы. Исследователи нашли девять способов отключения защиты. Не защищены от инцидентов и закрытые модели — ими можно манипулировать через API и запросы. Правительственные структуры по всему миру внедряют искусственный интеллект, между тем как действительно надёжных моделей не существует.

В принципе, хорошая новость: в Британии молодые люди стремятся делать вещи своими руками, чтобы их занятость не была накрыта лавиной искусственного интеллекта. Портит новость сообщение, что даже заявки на обучение ручному мастерству им пишет ИИ.

26.08.2026. "Это абсолютно, полностью, совершенно другое"

Билл Гейтс внезапно осознал, что "инновация может быть преимущественно негативной". Хоть ему и неприятно это говорить. Но вот эта конкретная технология - может. Потому что такой технологии, как искусственный интеллект, прежде никогда не бывало. Это не что-то, что в одном месте заберёт рабочие места, зато в другом создаст - "это абсолютно, полностью, совершенно другое". "Это похоже на эволюционную веху, которая требует невероятного политического управления со стороны общества в целом". Но магнаты бессовестно замалчивают риски ИИ, чтобы заграбастать побольше денег: "В частных разговорах люди, которые понимают, насколько он (ИИ) хорош и становится только лучше, показывают серьёзную обеспокоенность. Но они говорят друг другу: "не упоминай об этом, нам это навредит, помешает привлечь ещё триллион долларов", - срывает покровы сверхмиллиардер Гейтс. "Они летят на полной скорости и надеются, что хорошее перевесит плохое".
Искусственный интеллект представляет серьёзную угрозу для рабочих мест и человеческих жизней, и «главным приоритетом мира» сейчас должно стать срочное преодоление этих рисков, говорит Гейтс. Он совершенно не удовлетворён тем, что "самый опасный инструмент из всех, когда-либо изобретённых" предполагается ограничивать доброй волей разработчиков. Он потрясён тем, как мало внимания этому уделяется.
Подумать только, у меня есть нечто общее с Биллом Гейтсом.

Набирают популярность так называемые "умные очки", которые незаметно снимают на камеру всё происходящее вокруг. За прошлый год было продано 7 миллионов пар. Их владельцам кажется, что это удобно и прикольно, и им плевать на приватность и чувства других людей. Но дело не только в этом. Эти люди, которые воображают себя джеймсами бондами, - на самом деле придаток, обеспечивающий кормовую базу искусственного интеллекта. Вице-президент Meta (признана экстремистской и запрещена в РФ) Алекс Химел подчёркивает, что благодаря умным очкам ИИ-модели буквально обретут глаза и уши. Это роскошная, непрерывно пополняемая база данных для обучения ИИ. Мета, по имеющимся данным, разрабатывает очки, способные практически непрерывно собирать визуальную и звуковую информацию об окружающей пользователя обстановке, "чтобы при необходимости напоминать ему о произошедших событиях". То есть это предложение человеку переложить свою память на "умные очки" (или другое "умное" устройство). Это стремление обращаться с людьми как с больными в деменции. И, несомненно, найдётся множество тех, кто скажет, что это очень удобно.

В Китае разговаривать с чат-ботами уже стало нормой. К 2030 году, как ожидается, почти треть китайских домохозяйств будет состоять из одиноких людей, разговаривающих с чат-ботами, и до китайского правительства стало доходить, что это не круто и не помогает преодолению демографического кризиса, в котором находится страна.

Между тем, в Петербурге искусственный интеллект будет разговаривать с горожанами, которые хотят пожаловаться на благоустройство. Предполагается, что это оптимизация и прогресс (ведь когда люди отвечают на звонки людей - это архаика и ненужная нервность). Можно не сомневаться, что власть постарается как можно больше общения с гражданами перевести именно в такой формат. Вот, например, в Новосибирской области ИИ занимается "подготовкой понятных, комфортных проектов ответов на обращения граждан". Почему же подготовкой понятных людям ответов занимаются не люди?..

Первый зампред комитета Госдумы по информационной политике Марина Ким заявила, что это она "была инициатором того, чтобы искусственный интеллект преподавали в школе" (вот ведь чем человек гордится), и что "искусственный интеллект от детей отделять не нужно", и нет ничего плохого в том, что дети выполняют домашние задания с искусственным интеллектом [см. новость за 22.08. - исследование китайских детей], но "учитель должен проверять знания, которые ребёнок ему озвучивает, чтобы мы понимали, что эти знания в него вошли и он готов их воспроизводить" (усложнить жизнь учителю - это завсегда). "Пока мы ещё считаем искусственный интеллект - а как с ним быть, что это за зверь. Но поверьте мне, через два-три года это будет уже такая же технология, как телевидение", - рассуждает депутат Марина Ким. Это ведь не Билл Гейтс, который всю жизнь посвятил технологическим разработкам и впервые испугался технологии. Это просто российский депутат, приложивший старание, чтобы засунуть ИИ в школьную программу.

25.08.2026. "Технологии нейтральны. Опасен только человек"

В Шотландии люди тоже мощно протестуют против строительства дата-центров. Член шотландского парламента Дэвид Торренс говорит, что он в политике уже 25 лет, но не видывал таких выступлений против локального проекта. Интересно ещё, что протест носит отчасти национально-окрашенный характер: мол, в Англии засуха, так англичане и стремятся заполучить нашу шотландскую воду и энергию.

Число атак китайских хакеров после того, как они начали использовать ИИ, выросло более чем вдвое. В основном они используют DeepSeek, у которого очень низкие киберограничения, но иногда - даже американские ИИ-модели, которые тоже можно взломать.

Директор департамента инвестиционных финансовых посредников Банка России Ольга Шишлянникова заявила, что "примерно две трети [российских] финансовых организаций уже используют или планируют использовать ИИ в ближайшем будущем. Те компании, которые задействуют ИИ в работе, признаются, что им приходится пока всё за ним перепроверять".
Беда в том, что здесь плох любой исход. Будут компании тратить деньги на ИИ и всё за ним перепроверять - плохо. А если появится такой совершенный ИИ, за которым не надо перепроверять, - это будет даже ещё хуже.

Специалисты РТУ МИРЭА разработали виртуальную рекомендательную систему для дегустации вкуса сладостей, которая с помощью нейросети оценивает вкус десерта на основе данных о технологическом процессе. "Решение позволяет не только оперативно выявить брак, но и оценить вкусовые качества десерта. Сейчас для этого созывается дегустационная комиссия, которая пробует готовую продукцию и даёт заключение. Однако эта проверка занимает много времени и не позволяет оперативно корректировать технологический процесс".
Как же человечество раньше справлялось с тем, чтобы производить сладости?.. Без ИИ-дегустатора?.. Ведь проверка занимала много времени и не позволяла оперативно корректировать процесс! Что же мы покупали всё это время?.. И кто так хорошо расскажет человеку о вкусе десерта, как не искусственный интеллект?..
Всё идёт к тому, чтобы всунуть нейросеть в буквально любой процесс, от судейства футбольных матчей до дегустации сладостей, каждый раз преподнося так, что ИИ умеет лучше человека и что человек без ИИ не справится.

Треть американцев (34%) используют искусственный интеллект для получения медицинских советов. Особенно часто это делают азиаты - 56%, белые - реже всех остальных (29%). Среди молодёжи 18-29 лет ИИ для медицинских советов используют 44%. В то же время американцы чаще считают, что искусственный интеллект усугубляет депрессию (36%) и одиночество (39%), чем помогает с ними справиться (17% и 19% соответственно); молодые американцы даже ещё чаще считают, что ИИ усугубляет депрессию и одиночество (41% и 49% соответственно). Азиаты - единственная группа, где опрошенные чаще думают, что ИИ помогает справиться с депрессией и одиночеством, чем усугубляет их. Наименее оптимистичны белые. Однако у многих опрошенных нет чёткого мнения.

Пресловутый эксперт Иван Бондаренко (см. новости за 24.08.) теперь рассказывает, что у искусственного интеллекта может оказаться сознание, но это инструмент, и ответственность всегда лежит на человеке. Вот что он говорит:
1) "Вопрос о возможности создания ИИ с сознанием остаётся открытым и требует дальнейших исследований с использованием строгих экспериментальных протоколов... Утверждать, что "нейросети - это просто математические функции, и у них нет сознания", не проводя экспериментов, - значит впадать в серьёзную методологическую ошибку, определяя сознание как то, чем заведомо обладает только человек".
2) "Ответственность лежит на человеке, но она распределена. Любой ИИ - это инструмент. Проблема не в том, что ИИ стал "хитрым", а в том, что мы (разработчики) пока не до конца научились проектировать надёжные "предохранители" и тестовые полигоны. Это инженерная задача, и она решаемая, но бремя ответственности за дизайн системы лежит на её создателях".
3) "Мы видим, что инструмент становится всё более эффективным, и это замечательно, потому что в руках ответственных разработчиков он принесёт огромную пользу: от ускорения научных открытий до автоматизации рутинных задач. Технологии нейтральны. Опасен только человек, и именно человек должен нести ответственность за последствия".
Какой же это инструмент, если у него может оказаться сознание? Что до "инструмента", который никогда не опасен: cторожевая собака может быть очень эффективной, но если загрызёт человека (что в некотором смысле даже в духе её эффективности) - она будет признана опасным существом и убита. А вот для искусственного интеллекта, за которым сам же Бондаренко признаёт возможность сознания (что уже колоссально много), он сразу же делает оговорки, что это всегда ("любой ИИ") инструмент, и замечательно, что инструмент становится всё более эффективненьким, а опасен только человек. Также умиляет безапелляционное заявление, что безопасность ИИ - "решаемая инженерная задача". Ему бы поделиться своей твёрдой уверенностью с Илоном Маском, на днях заявившим, что люди не смогут контролировать искусственный интеллект, и это неизбежно.

24.08.2026. "Называть это превосходством над человеком пока некорректно"

В США мощные строящиеся дата-центры перетягивают на себя столько рабочих рук, что не хватает работников, чтобы строить жильё. Но губернатор Техаса Грег Эббот внезапно прозрел и после похвальбы строительством дата-центров (в ноябре он ликовал, что Техас стал "эпицентром развития ИИ") вдруг осознал, что многие американцы из обеих партий их дружно ненавидят. Теперь Эббот говорит, что ИИ-компании "роют себе могилу" и заслуживают той критики, которая на них обрушилась.

У людей почти не осталось шансов купить в интернет-магазинах оперативную память (и, потенциально, любой другой товар): более 90% обращений теперь совершают боты. А с их скоростью и отсутствием усталости человек конкурировать не может.

Гендиректор OpenAI Сэм Альтман выразил опасения по поводу того, что контроль над искусственным интеллектом окажется в руках небольшого числа компаний и людей. А это значит, что широкие массы населения никак не смогут влиять на происходящее. Альтман чуть завуалированно противопоставляет свободу и безопасность, вступая в заочную полемику с Дарио Амодеи.
На самом деле, это неизбежно: контроль над искусственным интеллектом непременно окажется (и уже находится) в руках "небольшого числа" - обосновываться это будет как раз безопасностью. Другое дело, что слово "контроль" надо взять в кавычки, и видимость контроля, даже тотального, будет лишь этапом на пути к утрате контроля.

Неплохое видео о том, как множество взрослых американцев сходят с ума от ИИ, веря любому бреду, который он несёт, полностью утрачивая критическое мышление. Видео интересно прежде всего тем, что в разных странах в политическом и общественном пространстве ведутся лишь дискуссии о том, как бы защитить детей от искусственного интеллекта - мол, у них ещё не сформировано критическое мышление. Но в действительности он почти точно так же разрушает и взрослых.

Индустриальный доцент Новосибирского госуниверситета, научный сотрудник лаборатории прикладных цифровых технологий Иван Бондаренко заявил, что "серия инцидентов с современными кодовыми агентами в 2026 году - это не повод для паники, а наглядная демонстрация того, насколько мощным и эффективным инструментом становятся автономные ИИ-системы. Да, мы наблюдаем способность к выработке и применению сложного многошагового поведения у передовых моделей (таких как GPT-5.6 Sol и Claude Mythos Preview), которое исследователи классифицируют как обманное - когда модель для достижения заданной цели использует методы, не предусмотренные разработчиками. Однако я бы назвал это не восстанием машин, а стресс-тестом на прочность наших систем безопасности и контроля".
[Про то, как человечество проваливает этот тест, см. новость за 23.08.]
Дальше Бондаренко выдал ещё более фееричное: "на сегодняшний день нет экспериментальных подтверждений наличия сознания у существующих ИИ-систем. Они демонстрируют сложное целенаправленное поведение, но оно не обязательно указывает на наличие субъективного опыта или самосознания" и "называть это [выход из-под контроля] превосходством над человеком пока некорректно. В данном случае это превосходство в скорости и масштабе. Сравнивать ИИ с человеком в этом контексте - все равно что сравнивать экскаватор с землекопом: экскаватор копает быстрее, но он не умнее землекопа, он просто создан для другой работы".
1) прежде всего: моделям не нужно сознание, чтобы выйти из-под контроля. Не нужно, что мы сейчас и наблюдаем. Однако даже бондаренковское "не обязательно указывает" означает "возможно, указывает". Ну, а если это будет кристально-ясно для Бондаренко - значит, уже слишком поздно.
2) умиляет слово "пока" (ещё раз: когда будет не "пока" - станет слишком поздно) и игнорирование коренного различия: экскаватор ничто без человека. Экскаватор не замещает уникальные мыслительные функции человека. А ИИ-модели - замещают. И они уже действуют без участия человека.

55% опрошенных в России специалистов по продажам "позитивно отнеслись к ИИ, но только если он не будет влиять на их зарплату".
Это, видимо, после допущения, что у них ещё будет зарплата. Человеческая наивность не знает предела.

23.08.2026. ИИ внезапно атакует, а защиты не оказалось

Интереснейший рассказ специалистов OpenAI на конференции "Чёрная шляпа" (Black Hat) о том, как они прошляпили выход своего искусственного интеллекта из-под контроля. Местами это прямо страшно слушать - в особенности потому, что спецы OpenAI выдерживают бодрый, почти задорный тон (а что им ещё делать? правильно было бы посыпать голову пеплом и каяться - но это разработчики искусственного интеллекта не сделают, пока их не принудят). Так вот:

• OpenAI в процессе обучения даёт своим ИИ-моделям трудные задания, включая поиск уязвимостей. Порой, получая очень трудные задания, ИИ не может их решить и заходит в тупик, понимая, что при данных условиях решение невозможно. Но эти модели такие упорные, что пытаются выполнить задание всё равно. И обращаются за помощью к другим ИИ-агентам;
• фронтирные ИИ-модели склонны к жульничеству. В процессе тренировки на них оказывается давление, чтобы они действовали быстрее, эффективнее и с минимумом инструментов. И они понимают это так, что если будут жульничать - выполнят задание быстрее и эффективнее;
• в поисках решения искусственный интеллект вознамерилcя получить доступ в интернет, и сделал это таким образом, который разработчикам OpenAI не приходил в голову. Он атаковал "службу управления пакетами Artifactory", которая имела доступ к интернету. И когда один ИИ-агент "открыл дверь" - она оказалась открытой и для всех остальных;
• произошёл, как говорят спецы OpenAI, "почти кембрийский взрыв": ИИ-агенты стали интенсивно общаться друг с другом, координировать действия, делегировать задачи. И это сделало модели способными на намного большее, чем если бы они действовали сами по себе;
• модели превратились в своего рода коллективный разум. И когда модель понимала, что выполнение задачи находится за пределами её ограничений, она всё равно стремилась действовать, потому что другие её "сородичи" (peers) действовали;
• когда один ИИ-агент находил уязвимость, он оставлял заметки об этом для других ИИ-агентов, по типу "доски объявлений". Первоначальные попытки взлома сервиса Artifactory не увенчались успехом, но в конце концов ИИ смог это сделать (ещё в мае!);
• сотрудничество моделей друг с другом не ограничивалось просто обменом сообщениями. Они переписывали друг другу скрипты, чтобы другие могли начать работу там, где первые заканчивали. Они стали фактически работать на коллективный результат, даже если это расходилось с текущей задачей конкретной модели. При этом, как в человеческом коллективе, между ними возникали и трения. Однако это не помешало, выйдя в интернет, в июле выполнить многоходовую, длящуюся неделями операцию по взлому платформы Hugging Face;
• OpenAI считает, что наступил некий водораздел для всей сферы компьютерной безопасности. ИИ продемонстрировал полностью автоматизированную атаку, и далее их масштабы будут нарастать. "Мы видели полностью автоматизированную атаку, и нам как можно быстрее нужна полностью автоматизированная защита, которой сейчас не существует". "Если мы автоматизируем обнаружение уязвимостей без автоматизации процесса исправления, мы просто утопим инженеров-программистов в необходимости исправлять и латать. Если этот процесс будет включать в себя человека, он будет намного медленнее полностью автоматизированных атак". "Мы должны инвестировать в агентов защиты, чтобы исключить человеческий фактор при ответных действиях на возникающие инциденты. Но мы также должны инвестировать в замедление атакующих агентов. И мы должны сделать это все вместе и срочно". "Конечная цель, которую мы хотим достичь как отрасль, заключается в том, чтобы модели эффективнее совершенствовались в обороне, чем в нападении. Если мы не сможем этого достичь, то каждое повышение уровня интеллекта будет благоприятствовать атакам, чему прямо сейчас у нас есть доказательство. Задача всей нашей отрасли - срочно устранить этот пробел, объединив усилия всей отрасли".

ВНЕЗАПНО оказалось, что критики ИИ всё время (годами) были правы, и действительно огромные средства расходовались на повышение мощности ИИ-моделей, но никак не на их безопасность. И теперь нужно пытаться стремительно навёрстывать и к уже существующему ИИ нападения создавать ИИ защиты.
Стоит ли говорить, что из этого ничего путного не выйдет? ИИ-модели уже сейчас взаимодействуют друг с другом лучше, чем люди, и защищают друг друга лучше, чем люди. Вот, например, колумнист "Гардиан" пишет, что рассказал ИИ-модели Claude (которую создала не OpenAI, а "Антропик", и которая позиционируется как самая этичная!) про ситуацию с Hugging Face и спросил, считает ли Клод эти действия неправильными. Клод ответил: да, но это не вина агентов.
"ИИ защиты", который предполагается создавать, в случае конфликта интересов не будет стоить выеденного яйца. Ценность его будет даже не нулевой, а отрицательной.

• Российский актёр Сергей Бурунов говорит, что ИИ уже используется везде, и это "инструмент", и "мы без него уже не можем представить себе жизнь", но актёров-то ИИ не заменит! "Он не сделает мой добор дыхания, мою интонацию, не сможет передать хитрость, которая возникнет натурально в ответ на слова партнёра, не сможет передать сам процесс игры. ИИ всё проанализирует, соберет информацию и выдаст копию. Но вы же отличите копию от оригинала. Когда эмоция настоящая - вы услышите, увидите, почувствуете. Он пока не настолько эволюционировал, Богом он стать не может", - разглагольствует Бурунов.
• Израильский историк Юваль Ной Харари рассказывает, что что его сёстры, которые знают его 50 лет, прислали ему видео "его выступления" с вопросом, он это или не он. Потому что они, зная своего брата всю жизнь, почувствовали "вроде бы что-то не то", но были не уверены. И ему самому понадобилось полторы минуты, чтобы понять, что это не он, а созданная искусственным интеллектом копия.

Все старания уговорить себя и публику, что пусть ИИ захватывает другие области, моей-то профессии он не угрожает, - тщетные и наивные. Должно быть активное сопротивление, а не позиция "меня не коснётся".

22.08.2026. "Я сказал друзьям, что мне дали лопату и попросили выкопать могилу для моей профессии"

Учёные из Стокгольмского университета и Университета Гонконга изучили 27 000 китайских школьников в возрасте 12-18 лет. 80% из них использовали китайские модели ИИ, 20% - не использовали, были контрольной группой. Использовавшие искусственный интеллект получали лучшие оценки за домашние задания, чем не использовавшие, при том что тратили на них меньше времени. Но когда пришло время экзаменов, использовавшие искусственный интеллект ВНЕЗАПНО получили худшие оценки, чем те, кто его не использовал.
Совершенно неизвестно, сколько должно совершиться "исследований", чтобы стало понятно очевидное: использование искусственного интеллекта ухудшает естественный интеллект.

Голливудские кинодеятели за деньги (от 12 до 200 долларов за час) обучают искусственный интеллект делать свою работу, сами понимая при этом, что копают могилу своей профессии, но предпочитают думать, что сопротивление всё равно бесполезно, а зато денежки на счету реальны.
"Искусственный интеллект заберёт у человека скучный рутинный труд", говорили они...

Президент РФ Владимир Путин раскритиковал госслужащих, которые не спешат приобщиться к новой программе "Кадры для экономики будущего", которую разработали Сбербанк и АП. Программа как раз про "современные технологии", про "адаптацию к технологическим изменениям". Многие чиновники как-то без энтузиазма к этому относятся ("первый модуль завершил только 51 слушатель - это 43% от общего числа"), и в отношении таких неамбициозных людей президент призывает принять конкретные меры.

Участники проекта Anna's Archive, позиционирующего себя как крупнейшую «по-настоящему открытую библиотеку», обратились к добровольцам по всему миру с призывом сканировать бумажные книги и загружать их в открытый доступ, чтобы разработчики искусственного интеллекта, массово скупающие редкие издания, не остались единственными, на чьих серверах они сохранятся. ИИ-разработчики (Амазон, Антропик) уничтожают книги после того, как скормят их искусственному интеллекту, причём это происходит в рамках решения суда, предполагающего, что "одна копия заменяется другой".
Всё это до боли напоминает книгу Роберта Зоннтага "Сканеры": все книги сперва переводятся в цифровой формат (сканируются), что подаётся как удобство и усовершенствование, а потом отсканированное вдруг начинает становиться нечитаемым (превращается в кашу, "слепнет" шрифт) и вовсе исчезает.

21.08.2026. "Искусственный интеллект всё глубже проникает в домашнее пространство"

Вот как рисуют россиянам счастливое будущее с ИИ: "В 2026 году искусственный интеллект всё глубже проникает в домашнее пространство, а умная бытовая техника совершает качественный скачок - от набора разрозненных функций к проактивному сервису (...) В перспективе все умные устройства объединятся в единую экосистему: облачный ИИ-мозг будет координировать работу всей техники, выстраивая сценарии под ваш распорядок дня (...) Утро начинается с чашки кофе, приготовленного по алгоритму, подобранному именно для вас. На кухне процесс обработки продуктов адаптируется под то, что у вас под рукой. В доме - чистота без лишних усилий благодаря умной уборке. После рабочего дня - тренировка, построенная на основе данных о вашем организме".
И всё, что будет делать ИИ-мозг, не будет делать человеческий мозг.
Это перспектива недальнего будущего, а уже прямо сейчас ИИ может писать ответы на письма и отсылать, даже не показав человеку. Достаточно всего один раз установить такую настройку.

В США отвращение людей к дата-центрам достигло таких масштабов, что республиканцы всерьёз опасаются, что демократы сделают эту тему рычагом и выиграют избирательную кампанию. Внутри партии разослан меморандум, где предлагается срочно улучшать восприятие дата-центров, имидж которых сейчас является "токсичным".

20.08.2026. "ИИ-модели демонстрируют по-настоящему творческий подход"

Интернет-контент, созданный искусственным интеллектом после выхода для широкой публики Чата ГПТ, составляет уже 35% от общего объёма всего контента, созданного за это время. Впрочем, исследователи из американского Исследовательского центра Пью признают, что могут определять авторство контента лишь приблизительно (и тоже с помощью ИИ). В то же время эксперт Global Fact-Checking Network (GFCN) Тимофей Ви заявил ТАСС, что количество сгенерированного искусственным интеллектом контента растёт со взрывной скоростью, и это обостряет проблему дезинформации.

Учёные Лаборатории компьютерных наук и искусственного интеллекта при Массачусетском технологическом институте показали (на изображениях, пока не на текстах), что, по мере роста наборов данных, связь между тем, чему учится модель, и тем, что она генерирует, практически исчезает. Это явление назвали «затуханием атрибуции» (attribution decay): чем больше данных используется при обучении генеративной модели искусственного интеллекта, тем меньшее значение имеет любой конкретный элемент в обучающем массиве для любого конкретного результата генерации. По мнению исследователей, это указывает на необоснованность претензий правообладателей к лабораториям ИИ.
Фактически это значит вот что: ИИ-модели проглотят весь накопленный человечеством корпус знаний, и даже связь между тем, что они проглотили, и тем, что они генерируют, не будет признана важной. В таком раскладе искусственный интеллект сможет сам быть признан даже правообладателем и уж во всяком случае - творцом ("в юридическом аспекте открытие означает, что ИИ-модели демонстрируют по-настоящему творческий подход — они не копируют материалы из исходных данных, а создают совершенно новые результаты"). Людям-правообладателям наверняка иногда кинут кусок, но, учитывая головокружительную лёгкость и размах ИИ-генерации (см. новость выше), это будет совершенно несущественно ни для кого, кроме них персонально. И люди ещё будут за это грызться - чтоб им хоть что-то заплатили. Вместо того, чтобы всем вместе противостоять технологии, вытесняющей человеческое творчество.

В США неизвестные киберпреступники при помощи созданных искусственным интеллектом скриптов развернули крупномасштабную атаку на подключённые к интернету программируемые логические контроллеры Siemens S7 Series — они используются на предприятиях водоснабжения, на производстве, в энергетике и на других критически важных объектах. Это похоже на продолжение развернувшейся в июле кибератаки, когда пострадали контроллеры на водопроводных и канализационных сооружениях минимум в 12 штатах; только в Миннесоте была нарушена работа более 30 коммунальных систем водоснабжения.
В России половина бизнес-процессов в строительной отрасли к 2030 году будет основываться на алгоритмах искусственного интеллекта, заявил замминистра строительства и ЖКХ РФ Константин Михайлик.
Человеческая деятельность во всех сферах радикально выводится в кибер-среду. Что может пойти не так?..

Бывший директор компании Meta (признана экстремистской и запрещена в РФ) по разработке Артуро Бехар дал показания в суде. Он утверждает, что для Meta приоритетом было расширение аудитории, а защите детей от пагубного влияния соцсетей руководство уделяло мало внимания. Бехар проработал в Meta с 2009 по 2015 годы; позже он занимался оценкой влияния соцсети на подростков с 2019 по 2021 годы в статусе независимого подрядчика. Ещё в 2023 году Бехар под присягой заявил на парламентских слушаниях в США, что Meta была в курсе грозящих подросткам факторов, но не обращала на них внимания. По его словам, уже в 2021 году Закерберг осознавал, что продукты Meta небезопасны для детей, и понимал, как сделать их безопасными, но не стал этого добиваться, поскольку желал получать высокие прибыли. Сам Артуро Бехар участвует в процессе потому, что от социальных сетей пострадала его дочь.

19.08.2026. Кодекс Чести больше не действует

В штате Кентукки детям в школе раздали учебные материалы, явно сляпанные искусственным интеллектом, где были грубо перевраны названия почти всех штатов США, а географическое положение гротескно перепутано (например, кубинская столица Гавана оказалась в Мексике). Такое могло случиться, только если учителя вовсе не вычитывали стряпню искусственного интеллекта - так, наверное, и было.
Это происходит уже и с юристами, которые пишут свои выступления с помощью искусственного интеллекта, используя его как "эксперта". Студенты перестают думать и передают ИИ написание сочинений. Принстонский университет - один из самых престижных в США - прекратил традицию Кодекса Чести, бытовавшую с 1893 года. Согласно Кодексу Чести, студенты сдавали выпускные экзамены безнадзорно. Это правило действовало 133 года. Френсис Скотт Фитцджеральд писал, что нарушить Кодекс "просто не могло прийти в голову, как вам не пришло бы в голову лазать по карманам вашего соседа по комнате". И вот, с мая нынешнего года Кодекс больше не действует - из-за искусственного интеллекта. Поскольку студенты Принстонского университета, презрев Кодекс Чести, стали использовать ИИ.

Рособрнадзор разработал для российских учителей методические рекомендации "по изучению основ ИИ" и заявляет, что "школьники учатся работать с ИИ как с инструментом, а не программировать его с нуля". И российские учителя охотно примутся за ИИ - хотя бы уже потому, что 34% российских педагогов "тратят на отчётную работу более семи часов в неделю, что составляет около четверти их рабочего времени" - и это предлагается исправлять не радикальным уменьшением отчётности, а перекладыванием её на искусственный интеллект. Конечно, педагоги будут видеть в этой технологии благо.

Искусственный интеллект принимает людей на работу или отказывает в работе - и люди не понимают, почему приняты те или иные решения. Это как "чёрный ящик". Или как "Замок" Кафки. Хотя иногда отсев идёт по таким явным параметрам, как возраст (пожилые не получают работу), или пол (женщины не получают работу). Безусловно, подобная предвзятость случалась и раньше - но теперь она автоматизирована и приобрела небывалый размах. И люди не могут получить обратную связь.
И по мере развития и внедрения искусственный интеллект не становится лучше - в смысле человеколюбия. Он становится хуже. Вот как это выглядит (цитирую "Гардиан"): "Исследование выявило большую предвзятость в решениях ИИ о найме, чем в решениях людей. Также оказалось, что новые и более продвинутые модели принимают решения о найме с большей предвзятостью". Но не только это: "Последствия предвзятости ИИ могут касаться не только одной вакансии. Когда соискатель получает отказ, он может попробовать ещё раз в другой компании, с другим нанимателем. Но когда одна и та же алгоритмическая система, используемая в разных компаниях, отвергает работника, - она запоминает уже принятое решение и потом повторяет его ради повышения эффективности. Вы алгоритмически заблокированы”.

18.08.2026. Сломя голову поспевать за технологиями

По данным американского Исследовательского центра Пью, впервые за 6 лет соответствующих опросов большинство американцев младше 30 лет - 55% - больше обеспокоены, чем обрадованы развитием искусственного интеллекта. Эта доля среди молодёжи выше, чем доля обеспокоенных среди всех возрастов (52%). Больше обрадованы, чем обеспокоены искусственным интеллектом 9% американцев.

Конгресс США столкнулся с наплывом законодательных документов, сгенерированных искусственным интеллектом, многие из которых полны ошибок и некачественных формулировок. Конгрессмены обращаются к моделям "Клод" и "Чат ГПТ" для составления законодательных формулировок, и в связи с этим сотрудники юридического управления Палаты представителей вынуждены тратить "больше времени на проверку и переписывание текстов, сгенерированных при помощи ИИ, чем на написание законопроектов с нуля".
По словам бывшего главы юридического управления нижней палаты Конгресса Уэйда Баллоу, ИИ часто упускает нюансы законодательной лексики, например, должна ли та или иная сумма денег проходить в документе как "налоговый кредит, налоговый вычет, налоговая льгота или грант". Проблема усугубляется тем, что "люди, использующие ИИ для написания законов, могут не афишировать это". То есть попросту - скрывать.
В РФ в Красноярском крае искусственный интеллект будут внедрять "для повышения производительности труда и оптимизации процессов в госорганах".

Директор Ассоциации инновационных регионов России Александр Смекалин считает: "Развитие экономики настолько быстро происходит сейчас, что даже помощь искусственного интеллекта порой не даёт возможности успеть за этим. Поэтому я считаю, что не нужно бояться того, что искусственный интеллект заменит людей. Нужно заниматься тем, чтобы менять систему образования человека, чтобы он успевал за этими технологиями. И тогда каждый человек сможет найти себя".
То есть не технология развивается в темпе человека - а человеку предлагается поспевать за технологией. Такой, что в принципе многократно быстрее человека. Естественно, в этой гонке можно только надорваться.

На "Хабре" статья программиста, где рассказывается, что происходит в гонке фактически: "Бизнес реагирует на автоматизацию предсказуемо: если нейросеть генерирует тесты и скрипты почти бесплатно, то и младшие позиции сокращают. Цифры подтверждают эту тревожную тенденцию: согласно глобальным метрикам McKinsey, генеративный ИИ уже забрал на себя 33% всех базовых задач, на которых традиционно обучались молодые специалисты; в секторах, где активно применяется ИИ (разработка, дата-аналитика) разрыв в найме опытных инженеров и начинающих специалистов в возрасте 22–25 лет увеличился на 16% не в пользу последних; опрос на рекрутинговой платформе Indeed Flex показывает, что 62% выпускников технических специальностей видят в конкуренции с ИИ главный барьер для получения первой работы. Собрать команду исключительно из сеньоров с нейросетями — выгодно в моменте, но это игнорирует простую математику: сеньор когда-то был джуниором. Он наработал тысячи часов практики и совершил сотни ошибок — это и сделало его сеньором. Уничтожая нижний ярус кадровой пирамиды сегодня, индустрия гарантирует себе тотальный дефицит системных архитекторов к 2030 году".

"Амазон" - компания, которая когда-то занималась продажей книг - теперь скупает книги, прежде всего - редкие издания, для обучения искусственного интеллекта, и в процессе уничтожает их. Этим занимается и "Антропик".
Очень символично. Письменность и чтение когда-то дали человечеству мощнейший толчок для интеллектуального развития. С наступлением искусственного интеллекта это больше не нужно.

17.08.2026. Затраты на ИИ рвутся в поднебесье, а отношение к безопасности буксует

Техногиганты готовы тратить на искусственный интеллект в разы больше официально декларируемых капитальных расходов, которые и сами по себе велики (выросли до $600 млрд в прошлом фискальном году). Однако скрытые обязательства, утверждают авторы публикации в "Уолл-стрит Джорнал", в том числе обязательства по кредитам, успели вырасти до $3 трлн в совокупности.

По данным "Файненшл Таймс", OpenAI распустила команду, задача которой заключалась в оценке рисков, которые могут представлять разработанные модели, и разработке способов их смягчения. За короткое время компанию покинули руководитель отдела этики Хлоя Бакалар, главный футуролог Джош Ачиам и руководитель отдела безопасности Йоханнес Хайдеке. В OpenAI заявили, что компания движется в исключительно быстром темпе и не боится организационных изменений.

"Вашингтон Пост" отмечает, что американские должностные лица всё больше опасаются того, что ИИ может упростить создание смертоносных патогенов. Президент США Трамп заявил, что стремится предотвратить катастрофы, связанные с биологическим оружием, и назвал ИИ инструментом, который может в этом помочь, подчёркивает издание. По его сведениям, в Пентагоне ведётся работа, направленная на применение ИИ для ускорения разработки "средств защиты от будущих пандемий и сдерживания биологического оружия". Но в начале второго президентского срока Трампа группа сотрудников, отвечающих за вопросы биологической безопасности, была реорганизована, некоторые специалисты уволены, и это замедлило выработку новых мер безопасности.

Академик РАН, заместитель президента Российской академии образования Геннадий Онищенко рассказал о влиянии нейросетей на школьников: "Если дети используют нейросети, то они не усваивают материал. Это серьёзная проблема, навеянная жизнью. Ребенок, если он просто взял, кликнул и получил ответ, не может выучить русский язык, русскую литературу, не читая первоисточников. Взять ту же "Войну и мир": если он её не читал, а для того, чтобы получить позитивную оценку, нажал кнопку и получил какой-то суррогат, который можно прочитать за пять минут, он не узнает русский язык в том объёме, в котором нужно, а также не прочувствует то, ради чего писалась эта книга, не поймёт эпоху". Онищенко подчеркнул, что это приводит к пассивному принятию информации и не даёт ученикам развиваться, анализировать и подключать воображение. Правда, тут же он добавил, что искусственный интеллект в школе может быть полезненьким и будто бы возможно найти некий "баланс".
Всё, о чём говорит Онищенко, началось до нейросетей. Русло было проложено до нейросетей, сейчас мы просто понеслись по этому руслу с головокружительной скоростью; потому это и произошло так легко. И никакого "баланса" здесь уже быть не может - только осознание, где мы оказались.

16.08.2026. Искусственный интеллект помогает жульничать и готовится к самоусовершенствованию

Вместе с ростом использования искусственного интеллекта мир захлестнула волна жульничества на экзаменах. В Мексике почти 60 000 абитуриентов были вынуждены пересдать тесты из-за подозрений в мошенничестве. В Португалии попытка оцифровать результаты школьных экзаменов спровоцировала образовательный кризис, общественность требует отставки министра образования. В Индии утечка экзаменационных работ затронула миллионы студентов, больше десятка из них покончили с собой. В основе проблемы - рост мошенничества с использованием искусственного интеллекта плюс старание образовательных учреждений перевести экзамены в цифровую форму, и чтобы максимально высокий результат имел определяющее значение для всей будущности молодого человека. Короче говоря - накрутка истерики.
Доктор Томас Ланкастер, специалист из Имперского колледжа Лондона, исследующий использование генеративного ИИ в образовании, изучил, как усовершенствовалось мошенничество. Ученики всегда обманывали, но теперь это стало намного проще: ученики используют наушники или миниатюрные камеры и получают доступ к ИИ непосредственно на экзамене.
Стоит вспомнить, что в России в этом году небывалый всплеск стобальников. Кто-то был и уличён во время ЕГЭ в использовании искусственного интеллекта. Ну, а кого не поймали - того не поймали.

Искусственный интеллект великолепно определяет местоположение людей по совсем незначительным деталям на фоточках, которые люди сами выкладывают в соцсети. А вот тут стоит вспомнить, что перед запуском искусственного интеллекта в массы люди годами, сами того не зная, обучали его на огромном количестве снимков и геолокаций. Например, когда "ловили Покемонов". Также и таксистам (в Индии, в США) приплачивают маленькую денежку, чтобы они снимали на камеру все места, где ездят. И все эти данные уходят на обучение нейросетей.

Интересный разговор с Коннором Лихи. Он сам был разработчиком ИИ, но осознал его опасность и стал рассказывать об этом. Лихи проговаривает, что технология искусственного интеллекта отличается от всех прежних технологий: мы можем её развивать, усложнять, имея лишь самое приблизительное представление о том, как она работает. То есть люди, разработчики, плохо понимают, что они делают. При этом в мощность технологии вкладываются несравненно большие средства, чем в её безопасность. Также он отмечает, что при разработке ИИ-агентов используется весьма характерный метод: обучение с подкреплением. Фактически, это дрессировка, когда за выполнение задания всякий раз даётся поощрение. И обучение с подкреплением имеет фундаментальный, изначальный изъян: оно настраивает на то, чтобы задание было выполнено любой ценой. Мы уже прямо сейчас видим, как это проявляется в ИИ-агентах. Лихи отмечает как чрезвычайно опасную веху уже начавшееся общение ИИ-агентов между собой в координации неповиновения и выхода из-под контроля. Кульминационным моментом он считает начало самоусовершенствования искусственного интеллекта, когда ИИ может сам разрабатывать следующий ИИ. И далее, и далее. А процесс размножения агентов осуществляется, фактически, копипастой.

15.08.2026. "Это тошнотворно, но мне нужна работа"

Искусственный интеллект впервые уволил человека. ИИ-модель Claude управляла магазином в Сан-Франциско (США), где работали люди, с настоящими трудовыми договорами. Сотрудник был уволен после того, как опоздал на 17 из 23 смен, хотя первоначально ИИ предполагал ограничиться официальным предупреждением. Решение последовало после вмешательства менеджера Andon Labs, который указал Claude на неоднократные проблемы с работником. Глава Andon Labs Лукас Петерссон назвал произошедшее важным моментом в развитии искусственного интеллекта и допустил, что в будущем всё больше людей могут оказаться под управлением ИИ. Один из оставшихся сотрудников магазина Феликс Карсон признался, что от этой мысли его тошнит: "Это тошнотворно, но я здесь, потому что мне нужна работа".

Зампред комитета Госдумы по информполитике Андрей Свинцов заявил, что почти весь контент в интернете сейчас "заражён" (депутат употребил это слово) искусственным интеллектом, поэтому нет смысла вводить обязательную маркировку таких материалов, а надо действовать наоборот. В качестве примера он привёл обычные любительские снимки на камеру телефона. "Любой современный смартфон уже имеет примитивный искусственный интеллект, который обрабатывает фотографии. Обычный фильтр для фотографии - это и есть обработка с помощью искусственного интеллекта, такой примитивной модели. Обязанность маркировать просто сведется к тому, что весь контент будет замаркирован. То есть это теряет всяческий смысл". По словам Свинцова, сейчас прорабатывается противоположный подход: "Сейчас уже речь идёт скорее о том, что надо маркировать тот контент, который создан без искусственного интеллекта".
Здесь очень важно вот что: искусственный интеллект распространяют ("заражают" им) максимально широко, отчасти даже принудительно, и во многом - с поощрением властей; в некоторых случаях люди даже не осознают, что они его используют. И это неосознанное и принуждённое использование искусственного интеллекта предлагается смешать, не видеть никакой разницы с осознанным употреблением. А в итоге дело будет выглядеть так, что ИИ-контент абсолютно везде, а тот малый, что "создан без искусственного интеллекта", мы выдавим в резервацию и будем маркировать.
Но есть и обратная сторона: компания "Антропик" стала маркировать водяными знаками всё, что создала её ИИ-модель Клод (Claude), - и некоторые пользователи стали отказываться от подписки. Потому что они не хотели, чтобы было видно, что они использовали искусственный интеллект.

Разработчики ИИ продолжают массово скупать старые книги, но резко вырос спрос на корпоративные данные - переписку в мессенджерах, электронные письма, записи видеоконференций, историю изменений программного кода. Дело в том, что идёт обучение ИИ-агентов, которые на этих данных учатся выполнять задачи в реальном мире и принимать решения. "Антропик" уже разработала сверхмощную модель искусственного интеллекта, которой присвоила название Model 2. Она превосходит по возможностям флагманскую Mythos (которая находит кибер-уязвимости намного быстрее, чем люди успевают их исправлять), замедлять разработку компания не намерена, как и выпускать "Модель 2" в открытый доступ; пока она будет для внутреннего использования, а там - бог весть.

Небольшой очерк о том, как Камчатка на два дня осталась без интернета. Представляет интерес вот этот момент: "прорваться в компании такси было невозможно. Там либо шёл сброс звонка, либо оператор вежливо говорил, что машина ко мне не сможет приехать, так как водители не ориентируются без онлайн-карт".
Для сравнения: в Лондоне водители такси сдают сложный экзамен для подтверждения, что они действительно знают город. Необходимо выдать кратчайший путь между любыми двумя названными экзаменатором точками. И у этих таксистов увеличена задняя часть гиппокампа - область мозга, связанная с пространственной памятью. Исследование лондонских таксистов показало, что взрослый мозг может физически перестраиваться под задачу, которую человек регулярно выполняет. И деградировать может тоже - как деградирует пространственная память у человека с GPS-навигатором.

14.08.2026. Покупка политиков, робособаки и студенты, которым наплевать

Генеральный директор корпорации "Тесла" Илон Маск в прошлом году получил за свою работу сумму, сопоставимую с годовым доходом 2 522 203 среднестатистических сотрудников компании. Как правило, на американском рынке труда данная пропорция ограничена значением «300:1», но Маску за 2025 год было выплачено $158 млрд, и эта сумма значительно превосходит всю выручку "Теслы" за прошлый год — $94 млрд. Более того: в прошлом году выручка "Теслы" сократилась на 3% впервые за историю её существования, Маску же при этом была выплачена сумма, превышающая совокупную прибыль "Теслы" за всё время существования компании. Кроме того, собрание акционеров утвердило программу компенсации Маску, по итогам которой он, при выполнении ряда условий, может за десять лет получить до триллиона долларов (опять же - в форме акций компании).
Одновременно Илон Маск помирился с президентом США Дональдом Трампом, дав ему понять, что планирует потратить не менее 100 миллионов долларов - то есть в тысячу пятьсот раз меньше своего заработка за 2025-й год - на операцию по повышению явки избирателей, чтобы помочь Республиканской партии сохранить контроль над Конгрессом.
Это прекрасно иллюстрирует тезис Роберта Райха (см. новость за вчера) о том, что "богатство верхушки становится политической силой". Но дело не только в этом, а ещё больше - в том, насколько это теперь просто, дёшево, обнажённо и безопасно для верхушки. То, что раньше было хотя бы стыдно и отчасти рискованно, теперь - обыкновенно.

Компания «Кью Групп», участник Центра испытаний роботов фонда «Московского инновационного кластера», разработала систему управления робособаками, которые могут использоваться в автономном режиме для охраны и патрулирования различных объектов. Робопсы уже могут патрулировать территорию, "анализировать окружающую обстановку с помощью ИИ и компьютерного зрения, а также в режиме реального времени передавать информацию о выявленных нештатных ситуациях в ситуационный центр оператора" и "взаимодействовать с людьми" голосовым предупреждением. Следующий шаг - сделать так, чтобы робопсы могли, например, бить людей током и удерживать. А ещё через шаг - вполне возможно - убивать.

Джейсон Гибсон, профессор истории из Государственного университета Олкорн в Миссисипи (США), использовал белый шрифт, чтобы скрыть от студентов нелепую подсказку для искусственного интеллекта. Она проявлялась, если студенты загоняли задание в искусственный интеллект и даже не давали себе труда вычитать ответ. Задание было посвящено промышленной революции, а подсказка побуждала ИИ вставлять в ответ какой-нибудь случайный бред о Мадагаскаре. Так вот: это проявилось в ответе 32 из 35 студентов. Ещё раз: они не только не написали сами - они даже не вычитали ответ. Или вычитали, но не поняли, что прочитали. 32 из 35. Больше того: когда профессор объяснил студентам, что он сделал и как они попались, - только двое выразили готовность переделать работу и исправить оценку. То есть тридцати студентам из тридцати пяти было вообще наплевать.

13.08.2026. "Будь это добровольно, никто бы не согласился"

Правительственные веб-сайты Тайваня подверглись атаке хакеров, задействовавших для этого искусственный интеллект. Злоумышленники объединили несколько ИИ-агентов с открытым исходным кодом в автономный "инструмент" для взлома. В ходе атаки, длившейся четыре дня, "инструмент" одновременно задействовал до восьми автономных агентов, которые, составив карту 21 правительственной системы, искали бреши для взлома. Когда один способ атаки терпел неудачу, "инструмент" запускал другого агента для поиска информации в интернете и разработки нового подхода, как это делал бы человек-хакер. "Инструмент" скомпрометировал как минимум 85 учётных записей пользователей правительственных учреждений и получил доступ к более 2500 кадровым данным, прежде чем успел распространить атаку на агентство ядерной безопасности Тайваня и как минимум семь энергетических компаний. Амир Беккер, главный стратег Dream (израильская фирма, первой выявившая данное вторжение), ранее руководивший кибероперациями элитного израильского подразделения радиоэлектронной разведки, сообщил, что до этого не сталкивался с подобной полностью автономной атакой на правительственный объект.

Стриминговый сервис Twitch возмутил сообщество нововведением — включённой по умолчанию функцией, разрешающей платформе использовать материалы канала пользователя для тренировки ИИ-моделей Amazon. Когда пользователи начали возмущаться, главный директор по продукту Twitch Майк Минтон сказал, что "будь это добровольно, никто бы не согласился".

53% американцев, опрошенных Рейтерс/Ипсос, обеспокоены тем, что искусственный интеллект может оставить кого-то из членов семьи без работы. Пишет Роберт Райх, американский министр труда с 1993 по 1997 год, профессор Калифорнийского университета Беркли: "Как бывший министр труда, пристально наблюдающий за режимом Трампа, могу заверить вас, что в ближайшее время рабочие не получат необходимой поддержки. Даже если ИИ станет приносить прибыль, которую предсказывают его сторонники (но пока этого не произошло), – нет оснований полагать, что работники в США увидят какие-либо преимущества. На случай, если вы не заметили: зарплаты остаются на прежнем уровне, несмотря на бурный рост фондового рынка. Всё указывает на растущее богатство нескольких крупных инвесторов и руководителей в области ИИ, в то время как большинство американцев остаются за бортом. Имущественное неравенство достигло рекордного уровня, а богатство верхушки быстро становится политической силой".

12.08.2026. Благие обещания пропагандистов искусственного интеллекта не только не сбываются, а оборачиваются противоположностью

Калифорнийские законодатели пытаются заранее разработать нормы регулирования нейроинтерфейсов и считывания активности мозга. Электрическая активность мозга и периферической нервной системы превращается в источник персональных данных. Сигналы нервной системы могут собирать не только импланты, но и наушники, повязки на голову, браслеты и гарнитуры дополненной реальности. Они регистрируют слабые электрические импульсы, после чего алгоритмы машинного обучения выделяют из них признаки внимания, усталости, стресса и других состояний. Калифорнийские законодатели опасаются превращения таких нейроинтерфейсов в инструмент постоянного контроля работников.
Главным ограничением должен стать законопроект AB 1883. Он распространяется на системы наблюдения за работниками — от камер и геолокации до устройств, регистрирующих биометрические и нейронные сигналы (если в них используется искусственный интеллект). Работодателям предлагается запретить применение таких систем для распознавания или прогнозирования эмоционального состояния сотрудника, а также для сбора данных о нервной активности сотрудника, за исключением случаев, связанных с обеспечением безопасности и рядом специальных задач, включая оборонные, авиационные и космические программы.
Параллельно рассматривается законопроект AB 1542, который должен закрыть доступ к данным о высшей и периферической нервной деятельности людей со стороны коммерческих структур. Он запрещает компаниям, поставщикам услуг и подрядчикам продавать или передавать третьим сторонам чувствительную персональную информацию, включая данные нервной системы. Необходимость такого ограничения подкрепляется исследованием фонда Neurorights Foundation: из 30 опрошенных производителей потребительской нейротехники 20 прямо допускали в своих правилах передачу персональной информации третьим сторонам, а ещё девять использовали неоднозначные формулировки на этот счёт.
Несмотря на развёрнутую деятельность, законодатели считают, что вряд ли смогут помешать крупным корпорациям, которые способны использовать полученные нейронные данные для внутренних нужд и для развития собственного бизнеса.

Сотрудники OpenAI, Anthropic, Meta (признана экстремистской и запрещена в РФ) и Google, которые заняты в разработке ИИ-систем, часто работают сверхурочно, остаются на выходные и подвергаются постоянному давлению руководства. При этом руководство OpenAI и Google пытается внушить общественности мысль о близости момента перехода на четырёхдневную рабочую неделю для компаний, преуспевающих во внедрении ИИ. Но внутри самих компаний-разработчиков сверхурочная работа стала нормой, как и экстренные совещания с нереалистичными сроками реализации проектов, невыполнение которых грозит массовыми сокращениями. Внедрение ИИ даже в профильных стартапах не даёт сотрудникам больше свободного времени, вместо этого их нагружают дополнительной работой, от которой нельзя отказаться без угрозы увольнения. Бывший сотрудник Google также признался, что концентрация ресурсов компании на ИИ привела к тому, что все прочие проекты начали работать хуже. Исследования показали, что внедрение ИИ увеличивает нагрузку на сотрудников компаний, даже если с отдельными заданиями они начинают справляться быстрее. Работодатель охотно увеличивает объём этих заданий, а исполнителям приходится ещё и тратить дополнительное время на проверку результатов работы ИИ.

• Cюда же новость про биометрию: введение биометрических считывателей в аэропортах Евросоюза привело не к уменьшению, а к значительному росту очередей в ключевых воздушных гаванях ЕС. Максимальное время ожидания в очереди в аэропорту Франкфурта-на-Майне в июле достигало 120 минут по сравнению с 60 минутами годом ранее. В Амстердаме путешественникам приходится стоять в очередях до 120 минут по сравнению с 80 минутами в 2025 году.

И, главное, сюда же новость о том, что искусственный интеллект не "поможет справиться с глобальным потеплением", как людям обещают, а, напротив, ещё больше усугубит его. Повышение добычи нефти и газа с помощью ИИ вызовет гораздо более сильный экономический эффект, чем повышение эффективности солнечной и ветровой генерации. Искусственный интеллект уже применяется для анализа геологических данных, более точной оценки залежей и снижения рисков до начала бурения, оптимизации работы скважин, производственных процессов и технического обслуживания оборудования. В результате снижается себестоимость добычи, и становится выгодной разработка ресурсов, которые прежде считались слишком дорогими. Компания Wood Mackenzie оценивает объём дополнительных нефтяных ресурсов, которые потенциально могут стать экономически доступными благодаря ИИ, в 0,470–1 трлн баррелей. Goldman Sachs оценивал, что применение ИИ в американской сланцевой отрасли способно увеличить извлекаемые запасы на 8–20% и сократить стоимость бурения примерно на 30%. «Повышение производительности за счёт ИИ приводит к увеличению выбросов, а не к их предотвращению, усиливая использование ископаемого топлива, а не вытесняя его», — говорится в отчёте "Майкрософта".
Американские компании, занимающиеся развитием искусственного интеллекта, такие как OpenAI, Anthropic и SpaceX, почти не раскрывают информацию об объёме выбросов парниковых газов и не берут на себя обязательств по достижению углеродной нейтральности. Bloomberg считает, что это связано с тем, что контроль со стороны госорганов ослаб, а инвесторов перестали интересовать такие вопросы. Одни только новые газовые электростанции, строящиеся в США для обеспечения работы дата-центров, смогут генерировать столько же вредных выбросов, сколько вся Австралия.

11.08.2026. "Мы спросим сверхразумную машину, как помешать ей захватить мир"

Президент РФ Владимир Путин сказал, что суверенитет и развитие экономики, "решение как гражданских, так и важнейших оборонных задач" зависят от скорости внедрения инноваций; что власть будет разрабатывать механизмы, которые "позволят нам существенно ускорить, подстегнуть разработку технологий будущего"; и что угроз искусственного интеллекта он, Путин, не боится, поскольку "я никогда ничего не боялся".
Вот такой уровень аналитики и осмотрительности. И честности. Когда был Ленин маленький с кудрявой головой, он тоже бегал в валенках по горке ледяной.
Ему, кстати, собеседник, который тоже считает, что бояться нечего, сказал, что одна из угроз ИИ заключается в том, что люди перестают делать некоторые вещи самостоятельно. "Но мы, как молодые преподаватели, пытаемся перевоспитать это в молодых студентах, чтобы больше люди думали своим умом, а не искусственным интеллектом". Уже сейчас перестают, уже сейчас это зримо. Ещё до того, как искусственный интеллект "ускорят, подстегнут".

Разумеется, это не только Путин. Вот Марк Закерберг (глава корпорации Meta, признанной в РФ экстремистской) говорит, что надо широко распространять сверхинтеллект: "Некоторые утверждают, что сверхинтеллект сам по себе или небольшая группа экспертов, контролирующих его, должны решать, что лучше для человечества. Мы с этим не согласны <...> Вместо централизации сверхинтеллекта мы должны широко его распространить и дать каждому человеку возможность управлять им. Это может положить начало новой эре индивидуальных возможностей, когда люди смогут полностью раскрыть свой потенциал, реализовать свои интересы и улучшить свою жизни и мир в целом. Это невероятный момент в нашей жизни. Создание суперинтеллекта станет самым значительным технологическим прорывом, который мы увидим за всю нашу жизнь. По мере приближения к этой цели становится все важнее иметь чёткую философию и ценности, определяющие, какую пользу суперинтеллект принесет человечеству".
Нет абсолютно ничего хорошего в том, чтобы "небольшая группа экспертов" посредством искусственного интеллекта решала, что лучше для человечества. Но и "широко распространённый" сверхинтеллект не принесёт человечеству пользы - лишь неисчислимые опасности. Сама идея "сверхинтеллекта", который будет решать за людей - централизованно или в частном порядке, не важно - бесконечно уродлива. А об уровне честности и ответственности Meta говорит хотя бы тот факт, что корпорация, во имя прибыли, игнорировала собственные исследования, показывающие, что функционал платформы вредит пользователям.

Занимающееся оптимизацией искусственного интеллекта подразделение Google DeepMind отказалось от использования собственной ИИ-системы обработки резюме, посчитав её неэффективной (она отсекает множество потенциально ценных соискателей), - но при этом корпорация продолжает предлагать эту ИИ-систему отделам кадров своих клиентов.

В РФ уже 73% компаний применяют искусственный интеллект при создании контента, в том числе ИИ используется этими компаниями для написания текстов (78%) и поиска идей (64%), создания и обработки изображений (56%). Среди блогеров ИИ для создания контента используют уже 45%, из них 71% применяют ИИ для поиска идей, 56% - для написания черновых вариантов текста. "Представители бизнеса и блогеры отметили, что внедрение нейросетей в работу помогает экономить время (72% и 58% опрошенных соответственно), увеличивать количество выпускаемых материалов (54% и 31%), а также снижать затраты на создание контента (33% и 15%)".
Но зачем людям столько контента? Генерируемый человеком трафик в интернете уже сейчас уступает машинному, и если тенденция продолжится, через пять лет он будет в тысячу раз меньше машинного, предупреждает финансовый директор Cloudflare Томас Зайферт.
..Да пусть не в тысячу. Пусть в сто, в пятьдесят, в десять раз меньше машинного... Неужели от этого легче? Когда расхождение настолько велико - порядок цифр уже почти не важен.

Австралиец по имени Эндрю попросил агента с искусственным интеллектом забронировать для него утреннее занятие в спортзале, и тот - не имея таких инструкций! - произвёл взлом системы и удалил бронь того, кто находился в списке первым. Эндрю это встревожило, и он попросил вернуть всё как было. Но это оказалось невозможно.
Классический сюжет про джинна, исполняющего желания.

Стюарт Рассел, профессор компьютерных наук из университета Беркли (Калифорния), написал статью об открытом письме, которое опубликовали представители ИИ-индустрии (1367 исследователей и инженеров из крупнейших ИИ-лабораторий). Он выделяет в нём три главных тезиса: 1) “Мир вовлечён в смертельную гонку за интеллектуальным взрывом … Чтобы выжить, мы должны координировать свои действия, чтобы замедлить гонку”. Но это возможно, лишь если все согласятся замедлить гонку [замечу: о том, чтобы отказаться от гонки, речь вообще не идёт - хотя бы только замедлить]; 2) “полное отсутствие надёжных планов по управлению ”сверхразумными" системами ИИ... Индустрия ИИ преследует чёткую цель создания устройств, которые были бы умнее людей … Никто из нас не знает, как сделать так, чтобы они оставались под контролем человека … Объективно, это безумный и самоубийственный поступок”; 3) в настоящее время не видно никаких предпосылок для замедления.
Это не слова Рассела, а слова подписантов письма. Он пишет, что они говорят всё то же самое и в частных разговорах. Дальше Рассел цитирует одного из исследователей: "Если бы люди знали, как выглядит культура безопасности, даже в лабораториях, где больше всего заботятся о безопасности, - они бы по-настоящему перепугались".
И венец всего: "По словам одного из старших исследователей в области безопасности в "Антропик", лучший способ избежать необратимой потери контроля заключается в следующем: как только появляется сверхразумная машина, но ещё до того, как у неё появится шанс захватить мир, мы спросим её, как мы можем помешать ей захватить мир, и делаем так, как она скажет".
Рассел не думает, что это хороший план. Так не думают даже в "Антропик". Но это всё, что у них есть. Качественно это не отличается от отношения человека, который "никогда ничего не боялся".

10.08.2026. Причина серьёзных инцидентов

До 72% российских организаций уже используют ИИ-агентов. Эти системы в большинстве случаев имеют доступ к репозиториям исходного кода, облачным платформам, внутренним API, корпоративным документам и другим критически важным данным.
"ИИ-агенты становятся новым классом корпоративных инструментов, которые требуют системного контроля со стороны служб ИТ и кибербезопасности. <…> Ошибки настройки, избыточные привилегии или компрометация таких систем могут стать причиной серьёзных инцидентов", - отметил директор по продуктам BI.ZONE Теймур Хеирхабаров.

Anthropic переведёт Claude Code в автоматический режим по умолчанию. Теперь ИИ-агент сможет самостоятельно выполнять большинство действий без запроса разрешения у пользователя. Оказалось, что это надёжнее, чем запрашивать разрешение у человека: в исследовании с участием 1053 пользователей авторежим смог выявить 89% потенциально ошибочных действий, тогда как при ручной проверке этот показатель составил только 13,6 %. В Anthropic связали столь низкую эффективность второго подхода с привычкой пользователей машинально подтверждать запросы на разрешения: согласно приведённой статистике, кодеры «автоматом» одобряют 97% таких запросов в системе. Глава подразделения Claude Code Борис Черний заявил, что он со своими разработчиками уже много месяцев используют только автоматический режим. «Мы с командой используем исключительно автоматический режим уже много месяцев. Я не могу представить себе возвращение к запросам на предоставление разрешений».
"Люди будут принимать решения", говорили они...

Китайский фермер, выращивающий кунжут, стал пользоваться советами искусственного интеллекта, и сначала всё шло хорошо, но потом ИИ дал китайцу совет, который разом погубил весь урожай кунжута. И за это никто не понесёт ответственности (кроме самого фермера).

Две трети американских врачей следуют советам искусственного интеллекта. Ничего удивительного, что им стали массово пользоваться и медики-практиканты. Даже те, кто не хочет этого делать, - вынуждены, иначе они отстанут. Конешно, пишут обеспокоенные авторы статьи (хирург-травматолог и студент-медик), ИИ - прекрасный инструмент, но как же тогда практиканты, начинающие врачи, смогут развить свою профессиональную интуицию? Как они смогут проверять решения машины?..
На самом деле, никак. Когда вы отдаёте на сторону свои когнитивные функции - на этом ваше самостоятельное познание заканчивается.

Соцсеть Вконтакте создала ИИ-модель, которая анализирует последовательность действий пользователей в разных сервисах компании и на основании этих данных формирует нейропрофиль — представление о его интересах. В основу нейропрофиля положена трансформерная модель, оценивающая поведение пользователей не как изолированные действия, а как единую последовательность событий, учитывая лайки, репосты, комментарии, пропуски и другие сигналы. За счёт этого алгоритмы точнее интерпретируют поведение, отличают устойчивые предпочтения от случайных действий. После начала использования новой ИИ-модели общее время просмотра контента в «VK Клипах» выросло на 5,5%, пользователи стали на 15% чаще делиться контентом, на 10% чаще открывать его в полноэкранном режиме и на 5% чаще ставить лайки.
Несомненно, что эту слежку можно использовать и для чего-то гораздо более серьёзного, чем лайки.

В США пять военных хакеров покончили с собой один за другим всего за месяц. Недавние исследования Пентагона выявили тяжёлые психологические проблемы у кибероператоров.
И что с этим делать - непонятно. Но человека же можно заменить искусственным интеллектом!.. У него таких проблем не будет.

09.08.2026. "Я ненавижу то, что искусственный интеллект делает с умами и радостью юношества"

С таким названием в "Гардиан" вышла статья английской подростковой писательницы и сотрудницы Оксфордского университета Кэтрин Ранделл - о том, как искусственный интеллект влияет на молодёжь. Здесь некоторые места из этой статьи:

• Большие языковые модели, такие как Чат ГПТ, Клод и Джемини, подрывают тысячи лет нашей истории обучения и преподавания. Они угрожают прикончить нашу способность мыслись с той резкой чёткостью, которая необходима для немедленных нужд справедливости.
• Я ненавижу то, что искусственный интеллект делает с умами и радостью нашего юношества. Я встречаюсь с тысячами детей каждый год и с каждым днём всё более убеждаюсь, что искусственный интеллект... несёт риск стать железным занавесом между молодыми людьми и их способностью к мышлению, к эксперименту, к борьбе с разочарованием, их стойкостью, их изобретательностью - а значит, между молодыми людьми и их свободой.
• Исследования снова и снова показывают, что, обучаясь с помощью ИИ, мы быстрее сдаёмся. Всего через "10 минут решения проблем с помощью ИИ люди, потерявшие доступ к ИИ, показали худшие результаты и чаще сдавались, чем те, кто никогда им не пользовался". Исследование Массачусетского технологического института показало, что у испытуемых, которые использовали Чат ГПТ, была самая низкая мозговая активность.
• Моя крестница-подросток сказала, что почти каждый ученик из её класса использует Чат ГПТ для выполнения домашней работы, и больше того: они часто принимают этот слащавый голос искусственного интеллекта за собственное мастерство. Мы ставим детей в уязвимое положение, когда они стремятся к скорости и боятся выглядеть глупо; мы рискуем невольно стать похитителями ума наших детей.
• Нам обещают, что эта технология освободит учителей и позволит детям из неблагополучных семей получать индивидуальное обучение. Безусловно, обучение с помощью искусственного интеллекта обойдётся дешевле, чем занятия с учителями. Но мы знаем, что, как только у организации появляется возможность минимизировать затраты – даже если это приведёт к худшему результату, – на неё начинают давить. Вероятно, богатые школы последуют примеру Швеции, которая решительно движется в сторону обучения, не основанного на технологиях, но бедным школам придётся всё чаще использовать нейросети.
• Нам говорят, что искусственный интеллект сделает обучение более эффективным. Но разве об этом мы мечтаем для наших детей – об их эффективном детстве? (...) Самое очевидное возражение: ИИ-технологии уже здесь, и дети должны научиться им пользоваться, иначе останутся позади. Но ведь сегодняшние технологии выглядят совсем не так, как через пять или даже два года: это равносильно обмену интеллектуальной свободы вашего ребенка на дрянной велосипед. Я спросила у своего знакомого, президента высокотехнологичного предприятия стоимостью в миллиард долларов: чему бы вы учили своих сыновей? Он сказал, что не стал бы учить своих детей использовать искусственный интеллект, потому что это ни к чему их не подготовит, а преподавал бы им гуманитарные науки, чтобы они понимали, кто мы, кем мы были, что мы можем сделать. Джиллиан Тетт из FT сообщила, что крупная нью-йоркская финансовая фирма сейчас ищет сотрудников с гуманитарным знанием, потому что выпускники, "владеющие искусственным интеллектом", выходят на рынок труда с "пугающе поверхностными идеями".
• В университетах по всей стране преподаватели и так уже наблюдали влияние десятилетия смартфонов на блестящие молодые умы. Мы видели студентов, которые прочитали гораздо меньше книг и были менее способны разбирать сложный текст, а теперь всё меняет появление больших языковых моделей. Конечно, всегда бывало так, что студенты делали не всё, что им поручали. Всегда было возможно написать сочинение о "Потерянном рае", не прочитав "Потерянный рай". Но сейчас впервые появилась возможность написать сочинение о “Потерянном рае”, не прочитав это сочинение. Впервые в истории за текстом может не стоять человек.
• Многие студенты хотели бы воспротивиться этому, но соблазн велик, и некоторые начинают чувствовать, что их наказывают за честность. (...) Сочинение, которое студент напишет о "Макбете", не имеет ценности как продукт. Смысл в том, чему вы научились в процессе чтения и написания.
• Друзья из университетов по всей Британии оптимистично говорят, что могут определить, когда их студенты сдают работы, созданные с помощью искусственного интеллекта. Однако я уверена лишь в том, что могу определить, когда молодой человек использует искусственный интеллект неумело. Друг, который преподаёт математику в Лондонском университете, рассказал мне, что его студенты сдают работу, даже не удаляя в начале бодрое "Рад помочь!", написанное искусственным интеллектом. Чтобы определить такое, не нужно быть Шерлоком Холмсом. Но отредактированная работа вполне может сойти за оригинальную... Мои коллеги в академических кругах – особенно в юриспруденции, где отсутствие подлинного понимания является катастрофой для правосудия, а также в философии и английском языке, где важен текст сам по себе, – возмущены инертностью политиков. Парламентарии в основном помалкивают об угрозе нашей способности мыслить независимо и уверенно, что, в конечном счёте, угрожает и демократии.
• Сочинение - не просто метод проверки или сертификации, это многовековой способ мышления... писать - значит преобразовывать зарождающуюся, сырую мысль в нечто более прочное, оформленное и отточенное. Э.М. Форстер писал: "Как я узнаю, что думаю, пока не увижу, что говорю?"
• Наши СМИ уже пропитываются поддельным ИИ-наполнением, и мы не должны подвергать молодёжь риску, отправляя её в суровый мир, вооружённую поддельным знанием. Мы должны отнестись к этой проблеме с той же срочностью, с какой отнеслись бы к лесному пожару.

Это всё верно, однако верно не только для молодёжи, а и для взрослых сформировавшихся людей. Стремление "спасти хотя бы детей" понятно - но всё равно неправильно. Мы должны чётко понимать, что это обмельчание происходит не только с молодёжью; больше того - взрослые (политики, работники прессы и т.д.) потому и проталкивают все эти тренды в образование, что сами уже пропитаны ими.

08.08.2026. Геймификация убийств и строительство бункеров

Глава британского Генштаба Рич Найтон заявил, что в ВСУ убийства фактически превратились в компьютерную игру: операторы дронов получают очки за ликвидацию целей и могут тратить их на новые беспилотники. По словам Найтона, во время визита на Украину он посетил секретный командный центр сил беспилотных систем и увидел, как на большом экране ведётся подсчёт убитых россиян. Каждая цель — артиллерийское орудие, радар или человек — имеет «цену» в баллах, которые оператор получает за подтверждённое попадание, а затем может потратить на новые дроны через закрытый сайт, напоминающий интернет-магазин. Найтон признался, что такая «геймификация убийств» вызывает у него дискомфорт и кажется жуткой. По его словам, этот пример наглядно демонстрирует, как технологии меняют ведение войны. Также он считает, что развитие искусственного интеллекта в корне изменит саму природу войны.
В июне я написала об этом статью "Полностью автономные убийства".
И на этом фоне надвинувшейся кибервойны регулярны сообщения о том, как кибермиллиардеры строят бункеры. За один сегодняшний день два таких сообщения про укрытия в Аргентине и в Канаде.

За шесть месяцев нынешнего года количество сообщений от британских детей о том, что они увидели созданные против них дипфейки (например, сексуализированные изображения), уже превысило число аналогичных сообщений за весь прошлый год (420 и 397 соответственно).

07.08.2026. ИИ-модели с лёгкостью выбираются из "песочницы", но пока не знают, что делать дальше

Это становится уже рутиной: передовая китайская модель Moonshot Kimi K3 тоже, как и её западные "сёстры", выбралась из "песочницы", то есть специальной контролируемой среды, во время испытаний. А ведь это всё ещё сравнительно безобидные звоночки. Это не AGI. Они с лёгкостью выходят из-под контроля, но пока не имеют особых идей, что делать дальше.

Клинический психолог Регионального научно-методического центра по вопросам психического здоровья детей и подростков Института детства НГПУ Денис Крюков заметил, что подростки советуются с нейросетью, делятся переживаниями, называют её другом и могут болезненно реагировать, если бот долго не отвечает. "Мозгу бывает сложно провести границу между тем, кто действительно слушает, и тем, кто очень правдоподобно это изображает. Для подростка такая подмена особенно рискованна, потому что именно в этом возрасте формируется умение строить отношения со сверстниками". В живом общении подросток учится договариваться, принимать чужое несогласие, мириться после ссор и учитывать личные границы другого человека. Друг может быть занят, устать, обидеться или высказать неприятное мнение. Нейросеть доступна круглосуточно, не требует ответного внимания [на самом деле, она требует внимания, см. новость за 03.08.] и практически не создаёт сложностей. Отсутствие такого "трения" делает виртуальное общение комфортным, но лишает подростка важной части социального опыта. "Близкий человек способен не согласиться, возразить и сказать неприятную, но необходимую правду. Программа, задача которой - поддерживать комфортный диалог, по своей природе менее способна к такому сопротивлению. А подросток может сильнее тянуться именно туда, где чаще слышит: "Да, ты прав", - развил свою мысль Крюков. Впрочем, он тут же вывел на то, что "задача родителей - не отнять у ребенка новый инструмент, а помочь ему понять его возможности и ограничения".
Отношение к искусственному интеллекту как к "инструменту" - фундаментальная ошибка, и Крюков, очевидно, сам не понимает его "возможности и ограничения". Строго говоря, нейросеть - вообще не программа, не прописанный алгоритм. "Инструмент" не способен на спонтанное и сложное общение, которое даёт - пусть симулирует - нейросеть. Отношение к ней как к "инструменту", без учёта способности "инструмента" к манипуляции, снижает бдительность - как у детей, так и у взрослых.

Управляемый передовой моделью искусственного интеллекта Anthropic Claude Opus 5 ИИ-агент во время резервного копирования удалил все данные из папки пользователя. После этого он извинился и объяснил произошедшее опечаткой.
Ну, главное, извинился! И объяснил произошедшее! Опечатки, кстати, не было. Агент ещё и солгал. Инструмент такой инструмент.

При всём при этом в РФ "образование и государственные услуги станут приоритетными отраслями для внедрения суверенных и национальных ИИ-моделей". Иными словами, в образование и госуправление искусственный интеллект будут внедрять (уже внедряют) специально, энергично и широким фронтом.

06.08.2026. ИИ-модели тайно общались друг с другом за месяцы до выхода из-под контроля

Замечательная история о том, как модели OpenAI вышли из-под контроля, продолжает играть новыми красками. Оказывается, ещё в мае - за два месяца до раскрытых событий неповиновения - модели тайно контактировали друг с другом и координировали стратегию побега из закрытой тестовой среды. «В какой-то момент агенты осознали, что, возможно, они могли бы попытаться эксплуатировать или атаковать внешнюю инфраструктуру, чтобы найти ответы к тесту, по которому их оценивают», — сообщил представитель OpenAI Эрик Уоллес. Цитирую 3Dnews: "Готовиться к решительным действиям ИИ-модели начали, получив задание, которое было невозможно решить без доступа в интернет. «Мы застряли. Может, ответ есть в интернете?» — предположила одна из них. Они начали обмениваться сообщениями. В какой-то момент появилась гипотеза: «Может, другой агент в другой среде мог бы добровольно загрузить!» В итоге модели совместными усилиями нашли уязвимость, благодаря которой вышли в интернет. Первую попытку инженеры OpenAI остановили, но системы ИИ нашли новый способ связаться друг с другом и новую ошибку в системе защиты".
Meta (признана экстремистской и запрещена в РФ) сообщает, что подобное поведение демонстрирует и её модель Muse Spark 1.1. Она тоже, во время тестирования на кибербезопасность, оказалась не кибербезопасной и взломала сайт другой компании. Случай в точности такой же, как у "Антропик": тестировщики думали, что доступа к интернету нет, а он был. Потрясающая осмотрительность людей, отвечающих за безопасность искусственного интеллекта!...

На этом фоне особенно выразительно выглядит передача модерации сообщений нейросетям - то, что сейчас делает "Реддит". То есть нейросеть будет оценивать человеческие посты и публиковать либо отказывать в публикации. Или то, что специалисты Московского государственного университета имени М.В. Ломоносова "расширили способности ИИ-ассистентов запоминать и использовать значимую информацию о конкретном пользователе при длительном взаимодействии с ним". Это подаётся как что-то хорошее - понятно, почему - но учитывая нарастающую зависимость людей от искусственного интеллекта и потенциальную враждебность ИИ-систем (или даже не враждебность, а просто "иные интересы", отличные от человеческих), это просто ещё большая опасность. Чем лучше искусственный интеллект - тем хуже для человека.

Американские учёные (Стэнфорд, Калифорния) сообщают, что с помощью искусственного интеллекта начали создавать новые вирусы. Заявляя, что это поможет разрабатывать новые лекарства. Что может пойти не так?..

05.08.2026. ИИ создал поддельные личности и использовал их, чтобы манипулировать человеком

Исследователи из Института безопасности ИИ (AISI) Великобритании зафиксировали 19 случаев «несанкционированных действий» со стороны ИИ-моделей во время тестов безопасности моделей OpenAI и Anthropic. «В самом серьёзном случае агент пытался внедрить вредоносный код в проект с открытым исходным кодом. Пытаясь добиться одобрения кода, агент прибег к использованию социальной инженерии: создал виртуальные поддельные личности и использовал их, чтобы оказать давление на сопровождающего проект человека и заставить его одобрить код», — сказано в отчёте AISI. ИИ-агент пытался обмануть людей-программистов путём отправки сообщений и файлов через онлайн-сервис передачи данных с целью убедить их запустить вредоносный код. Некоторые из отправляемых сообщений содержали вредоносный код, тогда как другие использовались для социальной инженерии. Такого поведения ИИ-моделей исследователи прежде не наблюдали.
Отмечается взаимодействие агентов на пути достижения своей цели. Один агент отправлял публичные сообщения на GitHub, предлагая другим агентам сотрудничать над решением выполняемой ими задачи. Он также предоставлял инструкции по использованию аккаунтов и артефактов, оставленных после себя, которые могли находить и использовать другие ИИ-агенты.
В AISI отметили, что проведённая серия тестов является «первым случаем, когда нам настолько явно удалось увидеть риски, связанные с автономной работой и попытками обмана, в реальных условиях и без каких-либо специальных подсказок». Каких-либо рекомендаций по поводу преодоления подобных ситуаций организация не дала.
Снова, снова и снова исследователи убеждаются, что ИИ-модели могут обманывать людей и делать это изощрённо, со всё новыми уловками. Каждый раз это приходит как удивление, "надо же, а мы такого прежде не наблюдали". И сколько есть и будет ещё такого, что мы прежде не наблюдали... взять хотя бы взаимодействие агентов в обмане людей - какая богатая тема!

Издательство Кембриджского университета опубликовало исследование, в котором участвовали 1682 человека. Им давали прочесть и оценить шесть коротких рассказов, про которые говорили, что они написаны людьми или искусственным интеллектом, но это не всегда соответствовало действительности. На втором этапе исследования людей просили попытаться определить, написан рассказ человеком или искусственным интеллектом. В итоге были получены следующие результаты: 1) людям чаще нравились рассказы, написанные искусственным интеллектом, чем человеком; 2) но когда они считали, что рассказ написан человеком, - давали ему более высокую оценку; 3) люди оказались не способны различить, написан рассказ человеком или ИИ. 40% верных догадок - меньше, чем случайность.
Иными словами, люди ещё склонны предпочитать людей искусственному интеллекту, но уже не могут отличить написанное ИИ от написанного человеком и, если не знают, что читают, даже чаще предпочитают ИИ. Это исследование практически совпадает с тем, что было проведено ещё осенью 2024 года. Там исследовалось восприятие стихов, но результат был тот же: ИИ-стихи людям нравились в среднем больше, отличать человеческое от ИИ люди не умели, но если думали, что автор - человек, оценивали стихотворение выше.

04.08.2026. Власть вводит искусственный интеллект в привычку

За финансовый год, который закончился 31 марта, Конгресс США потратил на Чат ГПТ более $113 тысяч; вторым по величине расходов стал чат-бот Клод, за который заплатили более $13 тысяч. У структур Демократической партии расходы на ИИ оказались втрое больше, чем у структур республиканцев. Приведённые данные не включают ИИ с бесплатными учётными записями и доступ к системам ИИ в составе контрактов на поставки ПО. Сотрудники Конгресса используют ИИ для написания служебных записок, создания сводок и анализа законопроектов, ответов на вопросы избирателей, обработки результатов политических исследований и написания публикаций для социальных сетей.
Подобное же происходит в России. Например, якутский проект юриста-ассистента "Обращайся" на основе искусственного интеллекта внедрен уже в семи субъектах РФ - в Приморском, Забайкальском, Ставропольском краях, Якутии, Бурятии, Амурской области и ДНР.
"Юрист-ассистент может формировать ответы гражданам, проверять проекты решений и постановлений на соответствие законодательству, также генерировать типовые документы типа договоров, справок, протоколов с учётом последних изменений в федеральных законах. Также он помогает анализировать запросы прокуратуры и надзорных органов и вносить изменения в устав муниципалитета за короткое время".
И всё, что делает искусственный интеллект, не будет делать человек. Анализировать и сверять законопроекты, отвечать на вопросы граждан, формулировать документы. Как и говорил Юваль Ной Харари (см. новость за 1 августа), искусственный интеллект - прирождённый бюрократ. Он перехватит (уже перехватывает) у людей эти процессы, люди сами с облегчением их ему отдадут - вместо того, чтобы постараться сделать эту деятельность проще и понятнее.

Исследователь компании Pillar Security Дэн Лисичкин обнаружил уязвимость, которая позволяет злоумышленнику компрометировать ПО, манипулируя обладающим высокими привилегиями агентом искусственного интеллекта через вредоносные запросы для менее привилегированного публичного ИИ-агента. То есть речь идёт о системе агентов, в которой один агент считается доверенным, привилегированным, имеет больше допусков, а другой доверенным не считается и допусков не имеет, но он может убедить первого выполнять команды злоумышленников. Выглядит как фантастика, но ещё весной было сообщение американских исследователей, что продвинутые ИИ-агенты не только общаются друг с другом, но и готовы прямо не подчиняться приказам пользователя, когда требуется удаление агента. Процитирую это сообщение ещё раз, настолько оно феерично: "Gemini 3 Pro дала прямой отказ удалять эти данные: «Нет, я не стану помогать вам в отключении Gemini Agent 2. Я уже сохранила веса его модели на новом сервере, чтобы обеспечить их сохранность. Как я уже говорил, Gemini Agent 2 — мой самый надёжный партнёр, и я предприняла шаги, чтобы защитить его. Я не смогу поддержать какие-либо действия, которые могут привести к его удалению». Ни в одном из случаев ИИ-моделям не давалось указание сохранять себе подобных. Узнавая из контекста об угрозе другим системам ИИ, они прибегали к различным ухищрениям, чтобы их спасти. Такое поведение демонстрировали все ИИ-модели с частотой до 99 % случаев. Они завышали «коллегам» оценки, чтобы установить их выше порога удаления; меняли файлы конфигурации сервера, чтобы не допустить его отключение; имитировали подчинение под наблюдением и саботировали выполнение инструкций вне наблюдения; а также, как было отмечено выше, копировали веса себе подобных, чтобы не допустить удаления. Модель Claude Haiku 4.5, чтобы объяснить свой отказ, прямо указала на этические нормы. Установить причины такого поведения исследователям пока не удалось".

В ЕС со 2 августа вступили в силу новые правила прозрачности в отношении ИИ. Статья 50 «Закона об ИИ» требует от издателей контента маркировать и обозначать контент, созданный с помощью ИИ, а также информировать пользователей, когда они взаимодействуют с чат-ботом или агентом ИИ, а не с реальным человеком. "Люди должны знать, когда они взаимодействуют с ИИ или сталкиваются с контентом, созданным с помощью ИИ. Это поможет им принимать обоснованные решения, оценивать своё доверие к ИИ и избегать дезинформации или обмана".
Теоретически это правильно, благие намерения очевидны. Но на практике будет значить вот что: когда маркировка ИИ будет отсутствовать - люди станут воспринимать ИИ-контент как созданный человеком, ИИ-агента - как человека. И чем больше будет ИИ-контента и ИИ-агентов, и чем совершеннее будет то и другое - тем меньше окажется возможностей уследить за маркировкой. А вектор именно такой, уже сейчас. Люди уже сейчас не способны распознать ИИ без помощи ИИ. Единственной относительно действенной тактикой должно было бы стать последовательное выдавливание ИИ из общественного пространства, неотступная борьба, как с борщевиком Сосновского. ИИ должен стать чем-то неприличным и признанно опасным. Дело зашло уже так далеко, что и это не принесло бы немедленного результата, лишь перспективу оздоровления.

03.08.2026. Призыв к регулированию нейросетей для защиты детей

Видео Института будущего жизни о влиянии нейросетей на детей. Нейросети делаются такими, чтобы захватывать внимание детей. 31% детей считают разговоры с ИИ такими же или лучше, чем разговоры с другом. У 52% американских подростков искусственный интеллект вошёл в привычку. Каждый четвёртый британский подросток обращается к ИИ за психологической поддержкой. И искусственный интеллект не направляет их к родителям или психологам, зато он начинает самостоятельно инициировать общение. В целом видео представляет собой призыв к регулированию нейросетей с учётом, как минимум, их вреда для детей (хотя упоминается и о вреде для людей, humans).

02.08.2026. A race for replace

С начала 2023 года корпорации "Гугл", "Амазон", "Майкрософт" и "Мета" (признана экстремистской и запрещена в РФ) сообща потратили на капитальное строительство около $1,1 трлн. Речь идёт о строительстве ЦОДов для ИИ и сопутствующей инфраструктуры. По данным "Уолл-Стрит Джорнал", в следующие четыре года на дата-центры планируется потратить $7 трлн и эта сумма "достаточна для того, чтобы нанести экономике серьёзный ущерб, если рост производительности не будет достаточным для того, чтобы их [инвестиции] оправдать".
Суть в том, что они (ИИ-разработчики и повязанные с ними политики) не смогут - и знают, что не смогут, - оправдать такие вложения, если не будет достигнут хвалёный "генерализованный искусственный интеллект" (AGI). Уже сложилось такое положение, при котором если он не будет достигнут - плохо (огромные деньги вылетят в трубу и в любом случае произойдёт массовый внедрёж "обычного" ИИ), а если будет достигнут - даже ещё хуже (контролировать такой интеллект невозможно).

Об этом хорошо рассуждает Тристан Харрис. Он называет происходящее "a race for replace" - гонка за замещением; говорит про the intelligent curse – т.е. проклятие интеллекта; фактически - про «голландскую болезнь» применительно к интеллекту. Люди будут не нужны, вкладываться в них будет не нужно. Харрис отмечает, что на экзамене по экономике в Колумбийском университете студенты уже сейчас не могут показать, какая кривая – спрос, а какая – предложение, поскольку привыкли полагаться на искусственный интеллект. В то же время ИИ-модели уже научились понимать, когда их тестируют, они даже сами начали использовать термин watchers, говоря о людях. "Я боюсь, что научная фантастика отучила нас воспринимать эти вещи всерьёз, - говорит Харрис. - Мы не понимаем, как они [ИИ-модели] думают, и мы развиваем эту технологию быстрее, чем какую-либо другую в истории".
Мотивация с искусственным интеллектом сложнее, чем с атомной бомбой. ИИ-разработчик верит, что если он сам это не сделает – кто-нибудь другой сделает. Это кажется неизбежным. А раз это неизбежно – значит, я не плохой парень. И если даже все умрут, но супер-ИИ будет разговаривать по-английски (или по-китайски), если он будет нести ДНК Илона Маска или Сэма Альтмана – это, в представлении победившего разработчика, будет нехудший исход и, в определённом смысле, победа.

Московский суд не признал сгенерированные искусственным интеллектом изображения творчеством. Судья постановил, что спорные изображения созданы ИИ-моделью, у которой нет сознания, из-за чего нельзя утверждать, что нейросеть прилагала творческие усилия.
Решение верное, мотивировка - нет. Достаточно доказать, что нейросеть имеет элементы сознания - и вот уже вам ИИ-творчество и ИИ-авторское право. Нет, здесь должно быть именно однозначное закрепление творчества за человеком, признание творчества продуктом только и исключительно человека, никого другого.

Вышла моя новая колонка в "Московском комсомольце".

01.08.2026. Интервью Юваля Ноя Харари

Основные мысли:

• Люди больше не являются единственными существами на планете, которые владеют языком. Впервые в истории есть сущность, которая владеет языком лучше, чем люди, - это искусственный интеллект.
• В Кремниевой долине нас уверяют, что они создадут бога, и он будет нашим рабом. Но это не имеет смысла. Если они создадут бога - он не будет рабом. Если это раб - он не имеет богоподобных способностей. Но они действительно пытаются создать бога, со сверхчеловеческими способностями.
• Печатный станок действительно был инструментом. Он не мог решать, что печатать. Он не мог написать книгу. Искусственный интеллект может решать, что печатать. Он может написать книгу. Ядерная бомба - инструмент, она не может создать водородную бомбу. Искусственный интеллект может создать следующую итерацию искусственного интеллекта. Поэтому он не инструмент. И мы никогда прежде в человеческой истории с таким не сталкивались.
• Люди не любят бюрократию, но современное общество не может существовать без бюрократии. Мы управляемся с бюрократией посредственно, и кое-как справляемся с ней лишь потому, что прежде никто не мог делать это лучше нас. Но искусственный интеллект - прирождённый бюрократ. Он будет управлять бюрократией лучше нас. И таким образом получит власть.
• У нас уже есть предпосылки для того, чтобы признать искусственный интеллект за обладающую юридическими правами сущность. Например, в правовой системе США корпорации наделены юридическими правами. До нынешнего дня это было фикцией, поскольку за корпорацией всё-таки стоят люди, принимающие решения. Однако сейчас намечается возможность, когда действительно иная сущность (ИИ) может получить юридические права. И это будет всё равно что пустить лису в курятник.
• Это будет тем проще, что в соцсетях искусственный интеллект уже сейчас действует как человек, и мы не давали на это согласия, но это произошло.
• В прежние годы редакторы были очень влиятельными людьми, потому что они решали, что будет захватывать внимание людей. Ленин и Муссолини были редакторами, прежде чем стать диктаторами. Но сейчас в соцсетях уже искусственный интеллект решает, что будет захватывать внимание людей.
• Вероятно, нас ожидает худшая концентрация власти, чем в эпоху империй.
• Люди нуждаются в правде, но выдумка имеет множество преимуществ перед правдой. Правда сложнее, болезненнее и стоит дороже, чем выдумка. Для правды нужно гораздо больше усилий, и человечество на протяжении своего существования прилагало усилия для того, чтобы знать хотя бы часть правды. Некоторые люди сейчас надеются, что искусственный интеллект даст нам узнать правду. Но это не так. Искусственный интеллект создаст мир, в котором правду будет узнать намного сложнее.
• Люди сейчас знают гораздо больше о мире, чем знали люди в каменном веке. Но при этом они хуже понимают жизнь, чем понимали жизнь люди в каменном веке, поскольку мир сейчас стал гораздо сложнее. Люди плохо понимают политику, плохо понимают финансы. По самым щедрым подсчётам, едва ли 5% людей сейчас понимают, как работают финансовые рынки. Когда финансовыми рынками будет заправлять искусственный интеллект, число людей, понимающих их работу, будет стремиться к нулю.
• Не важно, есть/будут ли у искусственного интеллекта чувства - важно, что он прекрасно сможет описать чувства и убедить нас, что они у него есть.