Наталья Касперская

Вчера мы были в Суздале. Там всю неделю проходит Второй Летний фестиваль Дениса Мацуева, посвященный классической музыке. На вчерашнем концерте играла наша знакомая девочка — Полина Ерёмина. Полину я знаю с младенчества. Мы дружим с её родителями, и они приезжали к нам с Полиной на дачу, когда она ещё была грудничком. Потом родители завели собственную дачу, и видеться мы стали реже. А тут вот пригласили в Суздаль послушать дочь. Последний раз мы Полю видели года три назад, она была обычным ребёнком, только сильно удивляла родителей своим увлечением игрой на фортепиано. А сейчас ей 9 лет. И она — пианист-виртуоз, выступает на фестивале, как солистка. Я, конечно, слышала от родителей про её успехи, но такого не ожидала. Прикладываю видео — качество не очень хорошее, но даёт представление, что творит эта удивительная девочка в свои 9 лет. Полина играет Баха вместе с Владимирским Губернаторским симфоническим оркестром. Я не большой знаток фортепианной игры и не увидела большой разницы между исполнением Полины Ерёминой и знаменитого Народного артиста России Дениса Мацуева. Это потрясающий талант и потрясающий труд. Три часа ежедневных (!) занятий без перерывов и каникул. Всем бы нам так работать, как 9-летней Полине, и все бы мы были тогда Денисами Мацуевыми. Хочу пожелать Полине удачи! Всё остальное — терпение, умение, настойчивость — у неё уже есть.

Восьмого июля Госдума сразу во втором и третьем чтении (на следующий же день после принятия в первом чтении) приняла законопроект по поддержке ИИ. С момента внесения законопроекта в Госдуму и до момента его принятия прошло ровно 7 дней. Никаких публичных обсуждений, никакого учета мнений экспертов. Терминология и формулировки не проработаны, отсутствуют требования по безопасности и соблюдению прав граждан, любая конкретика отнесена в подзаконные акты... Ничто не остановило законодателей от скоропостижной приёмки этого законопроекта. Честно говоря, я не припомню законов в нашей ИТ-отрасли, которые бы принимались в такой спешке. Обычно второе и третье чтения используются для внесения изменений. Здесь ни буквы не изменили — да и как можно хоть что-то содержательно поправить и изменить за сутки? При этом никаких ограничений по небезопасному или недопустимому использованию ИИ в критически и жизненно важных применениях законодатели решили не вводить (а точнее, выбросили их из первоначальных вариантов законопроекта). Речь идёт только и исключительно о поддержке так называемых «больших фундаментальных моделей», которых в нашей стране ровно полторы штуки и больше пока не просматривается. Заметим, кстати, что искусственный интеллект — вещь, безусловно, полезная в экономике, обороне, на транспорте, в правоохране — к «большим моделям» не сводится. Вся эта широкая сфера — распознавание, управление, предиктивная аналитика и др. — осталась в серой правовой зоне. Глава комитета Госдумы по ИТ Сергей Боярский заявил, что «Главная цель этого законопроекта: простимулировать внедрение суверенных национальных моделей искусственного интеллекта во все сферы нашей жизни. Мы не можем проиграть гонку с Соединенными Штатами и Китаем за лидерство в этой области». Сейчас в области фундаментальных моделей Россия серьёзно отстаёт и от США, и от Китая, что известно не только профессионалам, но и пользователям ИИ-моделей. Что изменится в развитии российского ИИ, если мы начнём принудительно внедрять эти модели «во все сферы нашей жизни»? Они сразу перестанут отставать от Запада? Требование по обязательному использованию (не разработке! к качеству разработки в законе требований нет) суверенно-национальных «моделей» везде, где можно, поднимет их качество на уровень иностранных аналогов (а точнее, оригиналов)? Что-то сомнительно. Но зато примерно понятно, куда именно пойдут государственные средства на поддержку «искусственного интеллекта». Вот тогда и заживём…

Коль скоро мы начали обсуждать законопроект Минцифры РФ «О поддержке ИИ», то надо разобрать не только определение большой фундаментальной модели, которое мы разбирали на прошлой неделе, но и весь законопроект. К сегодняшнему посту прилагаю разбор (вложение в начале поста), который мы сделали вместе с Игорем Ашмановым. Краткие выводы из этого обзора следующие: ⬜️ Законопроект страдает декларативностью, терминологической несистемностью, избыточным делегированием полномочий Правительству РФ и принципиальным игнорированием вопросов безопасности.   ⬜️ Проект фактически направлен на закрепление монопольного положения двух разработчиков ИИ — Сбербанка и Яндекс, которых ни в чём нельзя ни проверять, ни ограничивать.   ⬜️ Из проекта выброшены любые ограничения или проверки ИИ на доверенность и безопасность, даже для критических применений. Само понятие доверенности ИИ также удалено полностью.   ⬜️ В проекте практически полностью отсутствует защита прав граждан, в том числе права тайну частной жизни, на информированность, права на защиту от принятия автономных решений техническими системами относительно их прав и судеб, и отказ от использования ИИ.   5️⃣Законопроект вторгается в область Гражданского Кодекса в сфере авторского права — делается попытка разрешить цифровым гигантам брать любой авторский материал «для обучения моделей», а по сути, бесплатно и произвольно использовать по своему усмотрению, без спроса или даже уведомления авторов. 6️⃣  Законопроект практически не содержит норм прямого действия, представляя собой пустую «рамку», то есть пытается подменить законодательную власть законотворчеством исполнительной власти путём последующего принятия несуществующих в настоящее время подзаконных актов в обход парламента.   ОБЩИЙ ВЫВОД: Принятие законопроекта в таком виде закрепит отставание нашей страны и приведет к краху отечественной отрасли ИИ.

Некоторые подписчики попросили меня опубликовать версию нашего законопроекта по ИИ. Прикладываю его к этому посту, вложение в самом начале. И хочу сделать несколько пояснений. Примерно год назад сенатор Российской Федерации Владимир Игоревич Кожин организовал рабочую группу при комитете Конституционного строительства А. А. Клишаса по разработке законопроекта, ограничивающего рискованные внедрения генеративного искусственного интеллекта. В группу, в частности, вошли мой муж — Игорь Ашманов, который 40 лет занимается разработкой ИИ, Андрей Калинин, бывший директор направления ИИ в МТС, Виктор Наумов, один из лучших в стране юридических специалистов по ИТ. И еще несколько серьезных специалистов по ИИ из образовательных и научных учреждений. Ну, и меня позвали. 9 декабря 2025, на ежегодной встрече Президента страны с СПЧ, Игорь Ашманов выступил перед Президентом и рассказал о необходимости закона о безопасном использовании ИИ. Он сказал, что законопроект уже подготовлен рабочей группой под управлением В. И. Кожина и попросил поддержки. Владимир Владимирович инициативу поддержал. Минцифры решила эту инициативу перехватить и выдала свой проект, направленный, как мне кажется, в основном на стимулирование развития ИИ-систем двух игроков — Яндекса и Сбербанка. Наша рабочая группа пыталась договориться с ведомством, встречались с замминистра Минцифры и даже с курирующим вице-премьером, чтобы как-то объединить наши два законопроекта. Это не удалось. Оба законопроекта были отвергнуты, причем выглядит все так, что они были отвергнуты именно большим бизнесом. В июне Минцифры представило новый законопроект (определение из него мы разбирали неделю назад). Суть проекта полностью изменилась — вместо регулирования ИИ он теперь направлен на поддержку использования ИИ. Зачем поддерживать использование — вообще непонятно, ведь можно просто пользоваться. Тем не менее, на прошлой неделе этот новый сырой документ уже был внесен в Госдуму в обход публичных слушаний. Что касается нашей версии законопроекта, которую я прилагаю, то у него есть несколько особенностей: 1. Он никак не регулирует развитие технологии ИИ. На наш взгляд, технологии надо дать свободно развиваться, чтобы не допустить отставание, о котором предупреждают апологеты. 2. Законопроект вводит ограничения на применение ИИ в некоторых критических для граждан страны областях — образовании, государственном управлении, законотворчестве и пр., то есть в сферах, которые прямо влияют на жизнь людей. 3. Законопроект вводит понятие доверенного ИИ в расчете на то, что проверку на доверенность будут осуществлять ФСТЭК, ФСБ, а также Консорциум исследований безопасности технологий ИИ, куда входят ИСП РАН, НТЦ ЦК, Академия криптографии и более десятка компаний, занимающихся разработками в сфере ИИ. Ограничение на применение ИИ и понятие доверенного ИИ — главные отличия от законопроекта Минцифры, поданного в Госдуму. Законопроект Минцифры ограничений на внедрение не вводит — можешь использовать вместо учебников, а можешь законы писать. Понятия доверенного ИИ в их законопроекте нет. Есть понятие «суверенного» ИИ, которое определяется, по сути, по географическому признаку — создано на территории РФ. Но как снижается вероятность утечек данных, проводились ли тесты на достоверность, на каких наборах данных и как именно проводилось обучение и т.д. – это не вопросы происхождения технологии, а вопросы именно доверенности. Если всех этих проверок не делать, то мы получим внедрение иностранного ИИ на российские объекты со всеми сопутствующими рисками. Как бы не пришлось потом долго и мучительно импортозамещаться….

Еще в конце мая поговорили с «Коммерсантом» о безопасности в банках. О высоком уровне защиты в банковском и финансовом секторе, о новых типах атак, которые породила всеобщая цифровизация, об ИИ в банках – куда же без него! О том, возможна ли вообще передача ответственности ИИ – например, при принятии решений о выдаче кредитов. И, конечно, о гигантских рисках и угрозах, которые несет использование генеративных ИИ-моделей. Ссылка на интервью здесь и ниже, в посте «Коммерсанта». Киберпреступники не могут ограбить банк, но они могут украсть ваши персональные данные, а потом, используя их, нацелиться на деньги. В рамках проекта «Банкинг будущего» президент ГК InfoWatch и председатель правления АРПП «Отечественный софт» Наталья Касперская подробно разбирает главные угрозы для финансовых организаций и их клиентов сегодня и в будущем. 🎦 Запись интервью с Натальей Касперской доступна на нашем сайте. «Банкинг будущего» — цикл интервью с визионерами российского рынка, который издательский дом «Коммерсантъ» реализует при экспертной поддержке ИТ-консалтинговой компании AXENIX.

Я наконец нашла время прочитать новую версию законопроекта про ИИ. Его разослали по всем ФОИВам, в ГосДуму, некоторые партии и т.п. Ну, и естественно, как-то документ попал в прессу. Для желающих изучить — прилагаю. Я споткнулась сразу же на определении большой фундаментальной модели ИИ. Вот оно: «..большая фундаментальная модель искусственного интеллекта — программа для электронных вычислительных машин (их составных частей), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их, использующая алгоритмы и обучающаяся (ранее обученная) на наборах данных для выведения (распознавания) закономерностей, предоставления информации, принятия решений или прогнозирования результатов по заданным человеком целям, одновременно являющаяся основой для создания и доработки различных видов программного обеспечения, содержащая не менее 1 миллиарда параметров и применяемая для выполнения большого количества различных задач». Данное определение прекрасно своей широтой. Например, под него полностью подходит определение программного обеспечения Microsoft Excel.  Это программа для ЭВМ, решает сложные интеллектуальные задачи на уровне человека или круче (например, столбцы чисел любой длины складывает моментально), использует алгоритмы, обучается на наборах данных, которые туда вводит пользователь. Эта программа, безусловно, используется для выведения закономерностей, принятия решений или прогнозирования результатов по заданным человеком целям. Она является основой для создания и доработки различных видов ПО — куча ПО действительно пишется с использованием Excel. В одном листе таблицы может быть до 17 миллиардов ячеек. Если каждую ячейку взять, как параметр (а определение, что такое параметр, в законопроекте отсутствует), то все — мы получили пример Большой Фундаментальной модели. Неточность определения термина дает возможности по его широкому трактованию. Что, может быть, и неплохо, так как власти грозятся ввести КПЭ по внедрению ИИ региональным органам исполнительной власти и прочим госучреждениям. Но при таком определении можно взять Excel. или аналог и заявить — вот, мол, внедрили то, что полностью соответствует определению, на все наши компьютеры в организации — КПЭ выполнен на 100%!

На этой неделе мне довелось принять участие в ИТ-Форуме стран БРИКС, который проходил в Ханты-Мансийске. Это прекрасный маленький город, выросший в несколько раз за последние 30 лет, очень богатый, ухоженный, с множеством новых добротных домов, как частных, так и многоэтажных. В городе много музеев, мост в виде красного дракона, парк Победы. Одной из главных достопримечательностей города является Поляна мамонтов. Это около двух десятков скульптур вымерших доисторических животных из бронзы двух-трёхметрового роста (мамонты в натуральную величину, а бизоны и саблезубые тигры в полтора раза больше). Судя по тому, что выступающие части — рога и носы — у некоторых статуй отполированы до блеска множеством суеверных рук, Поляну посещают тысячи людей. Возвращаюсь к ИТ-форуму. Он был про всё хорошее в международном и страновом ИТ. На пленарной дискуссии обсуждали цифровизацию государств с участием представителей Уругвая, Зимбабве, Анголы и других развитых ИТ-держав. Много сессий было посвящено ИИ – куда ж без него, но затронули и тему информационной безопасности, хотя последнее время она стала как-то менее модной, отодвинутая на второй план генеративным искусственным интеллектом. Вечером для ВИП-гостей были организованы экскурсии на корабликах по Иртышу до слияния с Обью – это местная достопримечательность. Различить слияние рек визуально сложно – нет такого заметного различия вод по цвету, как например, у Оки и Волги при слиянии на Стрелке в Нижнем Новгороде. Поэтому местные власти поставили на слиянии маленькую часовню, которая плавает на понтоне, как буй. Часовню освятил сам патриарх. Меня поместили на корабль с нашими иностранными гостями. Поначалу всё было очень официально, с переводчиками, прекрасно сервированным столом и официальными тостами. Но на обратном пути, после десятка тостов, переводчики остались без работы, все перешли на английский и расстались мы совершеннейшими друзьями.   А утром 18 июня у меня был рейс в Москву. Самолёт Аэрофлота должен был вылететь в 6.55 утра, а вылетел в 18.10 из-за мощнейшей атаки дронов на столицу. Пока мы с коллегами сидели в аэропорту, по телевизору показывали развлекательный контент, перемежающийся новостями про прошедший форум и про то, что правительство должно в ближайшее время разработать КПЭ по ИИ для госучреждений, всякое прочее как бы очень важное и интересное про мирную жизнь. И я подумала, что у нас как будто две жизни параллельно – в одной форумы, делегации иностранных гостей, КПЭ для мирного ИИ, а в другой – дроны, ракетные атаки всё глубже в регионы России, смерть, кровь, война. Точно ли нам нужны в этой жизни КПЭ по ИИ для госучреждений? Чем нам поможет на войне «генеративный ИИ для госучреждений», то есть автоматическое облегчение нелёгкого труда чиновников по общению со склочным подмандатным населением, которому всегда чего-то надо? Обеспечение чиновникам автоматической генерации квартальных отчётов о подготовке мозговых штурмов по планам создания дорожной карты по написанию стратегии внедрения КПЭ цифровизации? На мой взгляд, сейчас усилия правительства и Минцифры в области ИИ и «цифры» должны быть направлены на создание многоуровневой эшелонированной системы защиты регионов России, в том числе самых дальних. Система должна включать радарные и акустические поля для обнаружения дронов и ракет, ИИ для предсказания их маршрутов, автоматическое управление огневыми группами для перехвата маршрутов дронов (на манер Яндекс-такси), автоматические средства наведения ПВО и т.п. Вот где жизненно важен искусственный интеллект и КПЭ по его внедрению.

В понедельник Федеральный регулятор по надзору в сфере связи, информационных технологий и массовых коммуникаций, сокращенно называемый Роскомнадзор или РКН, провел встречу с компаниями-разработчиками ПО, куда пригласили и меня. Ну, о самой встрече я писать не буду — информация уже есть на просторах Рунета. На мой вопрос об эффективности блокировок высокий чиновник ответил, что они находят блокировки успешными. Я задала вопрос присутствующим, кто из них общается в Телеграме. Все подняли руки. - Ну что, — сказал председательствующий — тогда у вас и проблем нет. Ответ остроумный, конечно. Но всё-таки я не перестаю думать о целесообразности траты времени и государственных средств на то, что вообще не работает. РКН говорит, что является просто техническим исполнителем и выполняет волю других регулирующих органов. Каких именно, правда, нам выяснить не удалось — мол, сами знаете. Мы не знаем. Но дело даже не в органе. Должен ли технический исполнитель бессловесно и без возражений исполнять всё ему порученное? Приведу два примера. В былые времена был у нас вертолёт (как говорится, когда были деньги). И летали мы с пилотом в разные точки Подмосковья. Потом продали его и рады. Вертолёт — транспорт ненадёжный. То погодные условия не подходят, то диспетчер лететь запретит. Несколько раз бывало, что мы почти долетали до места, а потом пилот разворачивал борт и летел обратно. Однажды попали в туман за 10 км до точки посадки, обратно лететь 80 км, а пилот развернул вертолёт, и нам пришлось ехать до места по земле 4 часа. Было крайне обидно, но что делать — спорить с пилотом было бесполезно. Это командир воздушного судна. Он решает, лететь или нет. Хотя, казалось бы, он — подчинённый, исполнитель, получающий у нас зарплату. Но он осознавал свою ответственность в рамках имеющейся у него компетенции. А вот наш другой знакомый пилот и товарищ Дмитрий Ракитский — суперпилот, шеф-пилот Хелипорта, с 30-летним опытом безаварийных полётов и 16 тысячами часов налёта — как-то один раз послушался уговоров нанимателя и полетел в тумане вечером. Сейчас вместе с нанимателем и его женой они покоятся на дне Телецкого озера. Другой пример. Я даю начальнику службы ИТ задание автоматизировать некий бизнес-процесс. И вполне осознаю, что я могу получить от него три варианта ответа: 1. Моё требование технически невозможно и/или практически вредно реализовать; 2. Можем сделать, будет стоить столько-то дополнительных денег и времени; 3. Да, легко. Завтра реализуем в рамках текущего бюджета. Заключение о невозможности или нецелесообразности реализовать данную задачу я получаю крайне редко, но бывает. Тогда я либо переформулирую запрос, либо решаю пока не запускать этот проект. В обоих примерах исполнители принимают на себя ответственность в рамках своих компетенций и могут выдать своему начальнику отрицательный ответ и отказаться делать то, что делать неправильно. Почему же РКН не может сказать о невозможности блокировки некоторых ресурсов, вроде Телеграма и VPN, тому органу, который нельзя называть? Пилот может, разработчик может, а РКН не может? Это — профессиональный орган, где работают крутые специалисты в области связности сетей и блокировки плохого контента, которые не могут не понимать, что реализуемо, а что — нет, что полезно и достигнет заданных целей, а что вредно. Мы же видим, что ТСПУ работает всё хуже, блокировки результата не достигают. Вся страна поднимет руки, если спросить, есть ли у них доступ в Телеграм или к другим заблокированным ресурсам. Эскалация — вплоть до ковровой блокировки протоколов и сколько-нибудь подозрительного трафика — ухудшает связность сетей в стране. А исполнитель продолжает делать всё то же самое, не взирая на негодный результат. Прямо, как в анекдоте: Директор колхоза говорит на собрании: «Об прошлом годе мы посеяли 10 га кукурузы, всё пожрала тля. Об этом годе мы посеяли 20 га кукурузы, всё пожрала тля. В будущем годе мы посеем 40 га кукурузы, нехай сволочь подавится!». Я всё понимаю про «мы люди подневольные», «мы чиновники», «мы исполнители», «у нас задача», «делаем, что можем, что приказано». Но хотелось бы, чтобы у исполнителя такого уровня была хоть какая-то субъектность, сопротивляемость. Чтобы РКН мог объяснить неназываемым начальникам, что не всё реализуемо и не всё полезно, проявлял техническую честность и упругость. Как известно, опираться можно только на то, что сопротивляется. P.S. Кстати говоря, ВЦИОМУ или Медиоскопу было бы неплохо провести исследование — сколько граждан используют VPN и имеют доступ в Телеграм. Чтобы получить реальную картину результата блокировок.

ИИ стремятся внедрить везде и повсюду, причем занимается этим не только бизнес, но и отдельные сотрудники. Мы везде слышим о плюсах и достоинствах ИИ, но мало кто говорит о рисках и проблемах. А их тем временем уже накопилось достаточно. Завтра днем мы встречаемся в ТАСС с экспертами в области информационной безопасности и искусственного интеллекта, чтобы обсудить риски и угрозы, которые несет применение ИИ-инструментов в компаниях. А также поразмышлять над тем, как от них защищаться – юридически, технически и организационно. Вести круглый стол «ИИ как угроза корпоративной безопасности» буду я, в гостях у меня будут:   1. Дмитрий Лазаренко, руководитель направления облачных и дата-сервисов VK Tech   2. Виктор Бобыльков, директор по информационной безопасности MWS Cloud 3. Сергей Сидоренко, ведущий эксперт по развитию продуктов для защиты данных ГК InfoWatch 4. Илья Башкиров, юрист по информационной безопасности ГК InfoWatch 5. Дмитрий Служеникин, секретарь консорциума исследования безопасности технологий ИИ   Онлайн-трансляция начнется 9 июня, в 12.00.Подключиться можно по любой из ссылок: 📱 https://vkvideo.ru/video-70142447_456239132 📹 https://rutube.ru/video/7bc09adf2365fd5ae35877d052016b48/

Сегодня вечером в 19:00 я буду говорить об искусственном интеллекте в образовании в программе «Отражение» на ОТР. Кому интересно, присоединяйтесь. Ссылка на эфир: Личное мнение: Наталья Касперская | Программы | Общественное Телевидение России