Публикации

На прошлой неделе Минцифры вынесло для обсуждения законопроект «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в Российской Федерации». Федеральный координатор партийного проекта ЕР "Цифровая Россия" Антон Немкин сообщил, что законопроект не должен «зарегулировать развитие», что он гибкий и рамочный; тем не менее в «Альянсе в сфере искусственного интеллекта» заявили, что ряд норм вводит «чрезмерную административную нагрузку на разработчиков» и это «может сказаться на развитии всей отрасли и отдельных сервисов и решений на основе ИИ. Например, нужно аккуратно подходить к вопросам маркировки и ответственности разработчиков ИИ и владельцев сервисов, ПО с ИИ».

Каким бы гибким и льготным власть ни стремилась сделать регулирование искусственного интеллекта – участникам рынка будет мало гибкости, а ответственности слишком много. Это характерно не только для РФ. Основные принципы предложенного законопроекта – «создать благоприятные условия для развития ИИ», «не распространять регулирование на госбезопасность, военную сферу и охрану правопорядка», «суверенная модель, технологическая независимость» – можно найти в любой попытке контроля над ИИ; повсеместно и сопротивление компаний-выгодополучателей любому, самому мягкому регулированию.

Положение делает уникальным другое. Два фактора, один из которых имеет отдалённое подобие в истории, а второй – совершенно беспрецедентный.
Первое – это гонка. Компании чувствуют себя вправе давить на государства, пугая их «задержкой в развитии». Они чувствуют себя в таком праве с тех пор, как по всему миру государства, заинтересованные в упрочении своего статуса, сделали главную ставку на искусственный интеллект: он должен и повысить эффективность во всех отраслях, и обеспечить безопасность от врагов внешних и внутренних, и открыть населению новые горизонты, и распространить влияние государства на ту часть земного шара (и даже космоса), которую оно считает находящейся в сфере своих интересов… Государства слышат клич: «скорей внедряйте ИИ, а то проиграете!». Нечто похожее происходило с компьютеризацией – но не под таким давлением, не с такой скоростью, не с таким эсхатологическим настроением, и заинтересованные частные лица тогда ещё не были так чудовищно, несообразно богаты, государства – не настолько погрязли в долгах, население – не настолько привыкло к удобству.  

Но что делает нынешнее положение беспрецедентным – это наличие «автономных (без участия человека) решений». Я сейчас цитирую тот самый законопроект «Об основах государственного регулирования сфер применения технологий искусственного интеллекта в РФ». Искусственный интеллект в нём определяется так: «Комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». Из этой формулировки стоит запомнить слова «самообучение и поиск решений без заданного алгоритма» и «результаты, превосходящие интеллектуальную деятельность человека». «Автономные (без участия человека) решения» находим в разделе «Права граждан при использовании технологий искусственного интеллекта», где говорится, что граждан о таких решениях нужно уведомлять, если они принимаются в отношении этих граждан и «затрагивают их законные интересы». То есть если ИИ примет в отношении вас самостоятельное решение и будет (кем-то) признано, что оно затрагивает ваши законные интересы, то вам сообщат, что решение было принято искусственным интеллектом, и вы сможете на это пожаловаться.

Кроме того, «лицо, осуществляющее продажу товаров или оказание услуг с использованием технологий искусственного интеллекта без участия человека в принятии решений о продаже товара или оказании услуги обязано информировать покупателей и потребителей услуг о применении технологий искусственного интеллекта». Это значит, что лицо, осуществляющее продажу товаров или услуг с использованием ИИ, но с хотя бы минимальным участием человека, даже не обязано нас об этом информировать.

Наконец, предлагается ввести такое право: «В случаях, устанавливаемых Правительством Российской Федерации, лица и организации, осуществляющие оказание услуг, обязаны обеспечить гражданину, отказавшемуся от использования технологий искусственного интеллекта в его отношении, возможность получения услуг в форме и порядке, не предусматривающем автономное использование технологий искусственного интеллекта». Это самая большая уступка людям на весь законопроект – и она показывает, насколько всепроникающей и определяющей всю нашу жизнь грозит стать технология искусственного интеллекта. Даже если вы сможете отказаться от автономных решений ИИ в отношении вас (хотя некоторые сферы государственной деятельности выведены из-под предложенного регулирования) – вы не сможете настоять, чтобы в отношении вас в принципе не принимались решения с использованием ИИ. Да, это важно. Например, если искусственный интеллект готовит для судьи выжимку из вашего дела – решение принимает судья, но от выжимки зависит очень многое. В предельном случае – это то, что, как видимо, произошло со школой для девочек в иранском Минабе. Решение о поражении цели принимал человек. Цели же ему подсовывал искусственный интеллект.

Итак, впервые в человеческой истории мы имеем дело с тем, что может работать без заданного человеком алгоритма, что способно к самообучению, что может принимать автономные (без участия человека) решения. То, что описывается такими словами, – уже не инструмент, а субъект. Субъект, который должен нести ответственность. Но как вы возложите ответственность на искусственный интеллект?..

Скажут: цели-то ему устанавливают люди! Они и должны отвечать! Но, как мы помним, заинтересованные лица не горят желанием отвечать за решения искусственного интеллекта. Они обернут в свою пользу все неясные места этого гибкого законопроекта. Вот например: «Разработчик модели искусственного интеллекта, оператор системы искусственного интеллекта, владелец сервиса искусственного интеллекта несут ответственность в соответствии с законодательством РФ за результат, полученный с использованием искусственного интеллекта, нарушающий законодательство РФ, при условии, что указанные лица заведомо знали или должны были знать о возможности получения такого результата с использованием модели, системы или сервиса искусственного интеллекта, разработчиком, оператором или владельцем которых они являются». Но как они могли «заведомо знать», если модель «самообучающаяся»? Как могли знать, чему она сама обучится? Если же акцентировать часть «должны были знать» – тогда надо решительно закрывать всю лавочку, потому что мы все «должны были знать», что от массового, повсеместного, стремительного внедрения такой экстраординарной технологии не может произойти ничего хорошего. Мы все должны это знать.

Постановка целей кем-то другим никогда прежде не освобождала исполнителя от ответственности. Цель «добиться возвращения долга» звучит законно, и попробуй докажи, что имелось в виду нечто криминальное. Но исполнитель может сделать возвращение долга криминальным – и будет нести ответственность. Искусственный интеллект может – это подтверждено экспериментально и в практике – самостоятельно (автономно) привнести в достижение цели такое, чего разработчики от него не ждали и не хотели получить. И не будет нести ответственность.

При этом речь идёт об интеллектуальных результатах, которые могут превосходить человеческие. Удивительным образом, законопроект (Статья 13) охраняет «объекты интеллектуальной собственности, созданные путём применения сервисов искусственного интеллекта» и признаёт «оригинальные творения», «независимо от того, были ли они созданы человеком или автоматизированной системой». То есть ИИ может превосходить человека интеллектуально, может принимать самостоятельные решения, может творить (отсюда один шаг до признания ИИ субъектом авторского права), но при всём том мы делаем вид, что это инструмент, и он не несёт ответственности ни за что! Именно потому не несёт, что, признай мы эту ответственность, – мы её никаким образом не смогли бы обеспечить. Поэтому притворимся, что её просто нет. И заодно напишем, что «не является нарушением авторских и (или) патентных прав их правообладателей извлечение информации из объектов, защищённых авторскими или патентными правами (…) для обучения искусственного интеллекта при условии, что изготовителем набора данных или разработчиком был получен правомерный экземпляр такого произведения, либо этот объект был доведён до всеобщего сведения и (или) доступен для анализа».

Это означает узаконивание паразитирования искусственного интеллекта на всём человеческом наследии. Вы потратили годы труда на написание книги – разработчики ИИ получат экземпляр правомерно, и после этого она будет брошена в чрево искусственного интеллекта, а он за минуты будет создавать «оригинальные творения» из трудов уходящего человечества.

В связи с препонами, которые в последнее время возникают у цифровых коммуникаций, поднялись разговоры про «неолуддизм». Примерно так: в России процветало всяческое цифровое удобство, а теперь некие «неолуддиты» его разрушают, вплоть до того, что приходится покупать бумажные карты, вызывать такси телефонным звонком и сохранять театральные билеты в памяти смартфона. Вот как тяжело стало жить с «неолуддитами», с гадкими разрушителями технологий.

Разумеется, в действительности этот процесс не имеет ничего общего с луддитами — рабочими, которые пытались бороться за свои права и иногда разрушали станки на фабриках, которые обесценивали их труд. Связь вроде бы на поверхности: дикие противники технологий сопротивляются Прогрессу и ломают Удобство. Но это именно поверхностная связь. Она никак не передаёт природу того, что сейчас происходит в России с коммуникацией. «Неолуддиты» — просто удобный ярлык, жупел: «вот ведь мракобесы». На самом деле управляющие коммуникацией в России люди гораздо более технологически оснащены и подкованы, чем мы с вами.

Если уж хочется предметно рассуждать про новых луддитов — следует обратить внимание прежде всего на миллиардера, основателя американской военно-технологической корпорации «Палантир» Питера Тиля. Он последовательно проводит идею (в лекциях, в интервью), что некий новый Антихрист сопротивляется мировому технопрогрессу, пугая людей Армагеддоном. То есть новые луддиты — это, по Тилю, сторонники Антихриста. Эту выдумку он продвигает сознательно, с целью пресекать невосторженные, скептические настроения. Напомню, что в Соединённых Штатах больше народа выражает озабоченность по поводу развития искусственного интеллекта, чем энтузиазм. Причём одинаково встревожены сторонники обеих главных партий, что вообще редкость в последнее время. Так что глава «Палантира» (кстати, он один из спонсоров избрания Трампа), объявляя своих оппонентов тяготеющими к Антихристу, готовится к идейной битве заранее.

Второе, на что непременно следует обратить внимание, рассуждая про новых луддитов, — конфликт, который совсем недавно случился между американским военным министерством Пентагоном и компанией «Антропик», одной из самых авторитетных в мире разработчиц искусственного интеллекта. Пентагон был очень доволен контрактом с «Антропик», используя их искусственный интеллект при похищении Мадуро и в атаках на Иран. Но дело в том, что у этой компании остались кое-какие минимальные принципы и она воспротивилась использованию своей ИИ-модели для массовой слежки за американцами и для автономных убийств. И что вы думаете? Их тут же назвали «сумасшедшими леваками» (президент Трамп), «ненавидящими западную цивилизацию» (сверхмиллиардер Илон Маск), «угрозой национальной безопасности» (глава Пентагона Пит Хегсет). А конкурент «Антропик», глава OpenAI Сэм Альтман, заявил, что не надо рассуждать, не надо пытаться определить, что этично, что нет — делай как от тебя требует власть. Демократически избранная, конечно.

Казалось бы: при чём здесь луддиты? Да вот именно при том, что, с точки зрения власти и избравших её сверхмиллиардеров, компания «Антропик» попыталась воткнуть палку в колеса прогресса. В представлении прогрессоров развитие технологий не должно быть стеснено химерами, именуемыми моралью и совестью. Но конфликт лежит глубже технологической сферы.

Ещё раз: исторические луддиты боролись не против технологий, а за свои права. Олигархам того времени это не нравилось, им было выгодно выставить луддитов дикарями, противниками Науки и Техники. Кроме того, борьба за права действительно может доставлять неудобства. Например: если вы едете в аэропорт и обнаруживаете, что дорога перекрыта бастующими людьми, — ведь вам, пожалуй, до фонаря проблемы этих людей, гораздо важнее, что вы из-за них опаздываете в аэропорт?

Но, думаю, пришло время сосредоточиться на том, что вменяли в вину луддитам «как что-то плохое». А именно: на этической оценке технологий.

Я не единственный человек, кто задумывается об этом. 12 марта в журнале «Эксперт» вышла статья заместителя председателя Совета безопасности РФ Дмитрия Медведева, где он пишет об искусственном интеллекте: «По сути, это инструменты мягкого порабощения человека обилием удобных и привлекательных услуг, лишающих его в итоге важных для самостоятельной и независимой жизни умений и навыков. Таких, например, как способность запоминать и анализировать большие объёмы данных, выстраивая длинные цепочки умозаключений, грамотно излагать результаты проведённого анализа, читать, писать и понимать сложные тексты... Человек, лишённый таких умений и навыков,— идеальный потребитель всё новых услуг, послушное орудие в руках лидеров рынка».

Оказывается, технологии могут не только нечто приносить в нашу жизнь, но и чего-то нас лишать. Чего-то важного для самостоятельной и независимой жизни, подумать только! Ведь это манифест луддизма «в плохом смысле»!

Дмитрий Анатольевич словно сам пугается этого, тут же говоря о «дурной алармистской публицистике» — дескать, мы не из таковских. Но мне надоело чураться слова «алармизм», да и гадко видеть, как от «алармистов» старательно дистанцируются самоназвавшиеся «реалисты», — в то время как положение впрямь очень, очень тревожное. Это не я говорю — это говорят сами разработчики искусственного интеллекта. Глава «Антропик» Дарио Амодеи в январе этого года написал о своих тревогах эссе «Отрочество технологии». Я написала очень подробную статью об этом эссе и не буду разбирать его здесь, но могу заверить: разработчик одной из самых мощных в мире ИИ-моделей чрезвычайно обеспокоен в том числе отсутствием регулирования этой технологии и трудностью её регулирования тоже. Если он обеспокоен угрозами ИИ, если он не может предложить внятных, надёжных мер контроля — как можем мы не беспокоиться и не быть «алармистами»? Мы должны тревожиться, должны показывать, что нам не всё равно, и на нынешнем этапе никакое беспокойство не будет слишком большим.

И это беспокойство, если окажется эффективным, тоже будет иметь свою цену. Всё имеет цену. Всего за десять-пятнадцать лет люди так привыкли ориентироваться по навигатору, быть всегда онлайн, что отключения мобильного интернета вызывают ощущение беспомощности и начинают казаться выдающейся подлостью. В то время как человек без смартфона (я, например) их вообще не замечает. Не говорю сейчас «делайте все как я», тем более людей уже приучают к смартфонам целенаправленно, переводя документы в электронный вид, — лишь то, что это дело привычки.

И когда Медведев пишет, что способности запоминать, понимать, анализировать, рассуждать, излагать пострадают, если вы передадите эти функции искусственному интеллекту, — он совершенно прав. Они пострадают ошеломительно. И быстро. Хотя всё будет подаваться так, что это удобно, эффективно и прогрессивно. И работодатели (в том числе в Российской Федерации: наверное, не читали статью зампреда Совбеза) уже начинают этого требовать.

Нам придётся стать в какой-то степени луддитами. Иметь смелость быть луддитами. Иначе мы перестанем быть человеками разумными, вот и вся цена за удобство.