Искусственный интеллект и права человека: эксперты «Цифрового клуба Югры» изучат правовые риски с учетом доклада Виктора Наумова
АНО «ЦТЭД» совместно с ЮГУ ведет подготовку расширенного заседания «Цифрового клуба Югры» по проблемам искусственного интеллекта и прав человека. В этой связи для обсуждения экспертами клуба очень важным является доклад руководителя проекта «Сохраненная культура» Виктора Наумова «Проблемы развития правового регулирования искусственного интеллекта в России» https://prescult.ru/news, а также мнение Натальи Касперской @natalya_kasperskaya_channel.
Доктор юридических наук, главный научный сотрудник ИГП РАН и руководитель проекта «Сохраненная культура» Виктор Наумов выступил с докладом на заседании Научного совета Российской академии наук по теме «Информационная безопасность систем искусственного интеллекта» под руководством академика Игоря Шеремета.
Позицию ученого публично поддержала президент группы компаний InfoWatch, сооснователь «Лаборатории Касперского» и председатель правления АРПП «Отечественный софт» Наталья Касперская. Ранее они совместно работали над альтернативным законопроектом об ИИ в рабочей группе сенатора Кожина при Совете Федерации. В своем телеграм-канале Наталья Касперская подробно разобрала тезисы доклада Виктора Наумова, выделив ключевые проблемы регулирования отрасли.
В своем выступлении Виктор Наумов проанализировал эволюцию законотворчества в сфере ИИ за последние шесть лет:
- Утрата регулирующей функции. Утвержденная в 2020 году «Концепция развития регулирования отношений в сфере технологий искусственного интеллекта и робототехники до 2024 года» (распоряжение Правительства РФ № 2129-р) предполагала принятие комплекса нормативных актов. Однако после закона об экспериментальных правовых режимах (ФЗ-258 от 31.07.2020) другие профильные инициативы — включая законопроект Минцифры и проект депутата Морозова — так и не были реализованы.
- Принятие ФЗ-243. Спустя шесть лет был принят закон о поддержке развития технологий ИИ (ФЗ-243 от 27.06.2026). По оценке Натальи Касперской, изначальная задумка по правовому регулированию отношений в этой сфере фактически подменилась исключительно мерами поддержки самих технологий.
Виктор Наумов обратил внимание участников совета на три принципиальные особенности принятого закона, несущие правовые и социальные риски:
- Продвижение идей трансгуманизма. Статья 3 ФЗ-243 закрепляет за искусственным интеллектом и большими фундаментальными моделями способность получать результаты, «сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их». По мнению докладчика, законодательное постулирование превосходства машины над человеком закладывает основы технотрансгуманизма и ведет к нивелированию роли личности.
- Угроза интеллектуальной собственности. Статья 10 разрешает использовать для обучения российских фундаментальных моделей объекты интеллектуальной собственности третьих лиц. Как отметил эксперт, это способно обрушить отечественные рынки книгопечатания и программного обеспечения. Обращения Российского книжного союза и других объединений правообладателей, указывавших на противоречие этих норм Конституции и Гражданскому кодексу, ранее остались без ответа.
- Отсутствие требований к доверенному ИИ. В законе отсутствует понятие «доверенного ИИ», а требования к качественной идентификации результатов работы алгоритмов носят факультативный характер. При этом в законопроекте рабочей группы при Совете Федерации закладывались строгие требования к доверенным системам и прямой запрет на применение ИИ там, где он может нанести ущерб критическим объектам.
Исходя из анализа ФЗ-243, Виктор Наумов делает вывод, что в коммуникации «технологии — человек» гражданин оказывается в положении «слабой стороны», которая в юридической практике требует особой защиты со стороны государства.
Для обеспечения антропоцентричности и сохранения традиционных ценностей (закрепленных в Указе Президента РФ № 809 от 09.11.2022) эксперты считают необходимым внедрить ряд базовых принципов:
- Презумпция несогласия. По умолчанию человек не выражает согласия на цифровое взаимодействие.
- Право на отказ от технологий. Оно должно стать универсальным правом гражданина.
- Маркировка и зоны без ИИ. Необходимо ввести обязательную идентификацию всего контента и решений, созданных с помощью алгоритмов, а также формировать пространства, свободные от искусственного интеллекта.
Комментируя выступление Виктора Наумова, Наталья Касперская также указала на опасность показателей, заложенных в прототип Национального плана по внедрению ИИ до 2030 года. Документ предполагает тотальную алгоритмизацию социальной сферы, образования и госуправления: закрытие 100% вакансий с помощью ИИ, формирование цифрового профиля пациента алгоритмами для 95% электронных медицинских карт, использование ИИ-помощников 80% преподавателей вузов и подготовку 50% проектов ответов на обращения граждан в госорганы.
По убеждению Натальи Касперской, принятие подобных нормативов напрямую реализует сценарий трансгуманизма, о котором предупреждает Виктор Наумов, низводя человека до роли безвольного помощника машины.
Ознакомиться с полной версией выступления можно в презентации к докладу Виктора Наумова (PDF) https://disk.yandex.ru/i/MJ-ZOXOpSGxzHg