Опубликована статья участника проектов АНО «ЦТЭД» Виктора Наумова об угрозах использования искусственного интеллекта в журнале «Информационное общество»

Статья в журнале «Информационное общество» №2, 2025 называется «Право и «Батлерианский джихад»: размышления об угрозах использования искусственного интеллекта» http://infosoc.iis.ru/article/view/1338/904

Статья затрагивает многие аспекты реализации проектов Центра технологий электронной демократии. Ее автор - многолетний партнер АНО «ЦТЭД» - Виктор Наумов, доктор юридических наук, главный научный сотрудник сектора информационного права и международной информационной безопасности Института государства и права РАН, руководитель проекта «Сохраненная культура».

Виктор Борисович более 25 лет консультирует государственные органы и ведущие компании России и мира по широкому спектру правовых вопросов, в том числе по вопросам защиты интеллектуальной собственности и управления нематериальными активами, регулирования Интернета и электронной коммерции, ИТ и защиты информации, регулирования искусственного интеллекта, компьютерных игр, средств массовой информации и телекоммуникаций и т.п.

Виктор Борисович регулярно участвует в мероприятиях АНО «ЦТЭД». В частности, в рамках XV Международного IT-Форума в Ханты-Мансийске в июне 2024 года была организована Стратегическая сессия «Нормативное регулирование цифровой среды: проблемы и перспективы», где Виктор Борисович выступил с докладом «Право на отказ от цифровых технологий как инструмент достижения баланса интересов общества, государства и бизнеса в XXI веке».

В своем полемическом исследовании в статье «Право и «Батлерианский джихад»: размышления об угрозах использования искусственного интеллекта» автор представляет правовые и междисциплинарные рассуждения о закономерностях внедрения искусственного интеллекта. Он рассматривает вопросы изменение роли человека и права в информационных правоотношениях, дает примеры кризиса критического мышления человека. В статье доказывается необходимость внедрения в государственную деятельность и социальные регуляторы моделей «человек - слабая сторона» и права на отказ от цифровых технологий. Кроме того, представлено содержание разработанного проекта закона о технологиях искусственного интеллекта и робототехнике.

Автор статьи во введении отмечает, что название «Батлерианский джихад» появилось в одном из самых известных фантастических романов писателя Френка Херберта (1920-1986) – «Дюна».

В своей статье Виктор Наумов подчеркивает: «… пора прекратить восторгаться всем, к чему добавляется слово «цифровой» и начинать критически смотреть на происходящее, обращая внимание на другую позицию, в том числе возникающую в системе государственного управления, когда, например, осенью 2021 г. в докладе «Цифровая трансформация и защита прав граждан в цифровом пространстве», представленном Советом при Президенте РФ по развитию гражданского общества и правам человека, было обозначено, что «тотальная цифровизация может являться вызовом ценностям человеческого достоинства, прав и свобод человека и гражданина».

Важно, что в своем исследовании Виктор Борисович подробно анализирует изменение роли человека в информационных правоотношениях. Он пишет: «Представляется, что за последние 25 лет начала кардинально меняться роль человека в современном мире. До этого в мире 30 -75 лет внедрялись потребительские ценности. В эпоху развития интернета возник «человек поисковый» − очень многое стало возможно найти в интернете. Процесс познания, с одной стороны, технически стал удобнее, с другой – примитивизировался. Кроме того, что не оказывалось в интернете, обществом стало забываться, возник продолжающийся и сейчас «цифровой разрыв» эпох. Затем, после удешевления услуг по передаче данных и возникновения потребительского идеала для очень многих на Земле – смартфона, появился «человек смартфонный, версия 1.0». И если в начале мобильность влияла на удобство доступа к информации и оцифрованным знаниям и создала условия для постоянного массового потребления контента, то затем произошел прорыв за счет тотального распространения мессенджеров (включая социальные сети) – поменялись общественные отношения, связанные с организацией коммуникаций и социальными связями в обществе. «Человек смартфонный, версия 2.0», не расстающийся с устройством, оказался не только перегружен «входящей» к нему информацией, но и стал жить в новом ритме жизни постоянного подключения через смартфон, детерминированному как потоком клиповой информации, так и потоком сообщений через мессенджеры. В итоге сейчас количество часов «подключения» человека к цифровому миру стало настолько большим, что это приводит к его постепенному удалению от природы и окружающего материального мира и, что важно, других людей. «Человек смартфонный» в ближайшей перспективе получит возможность сделать шаг в сторону «человека киберфизического» с его новыми техническими возможностями».

Также Виктор Наумов отмечает: «Последние годы у нас тестируется особая «сборка» –«человек генеративный». Таковой за счет технологии искусственного интеллекта (ИИ) начинает потреблять нужный ему сгенерированный контент, а также гораздо активнее познавать мир – цифровой. Это сочетается с распространением голосовых колонок с ИИ и ИИ-помощников в смартфонах, что сродни описанным идеям в других фантастических романах, где технологии начинают выполнять роль «охранителя» человека от внешнего мира. В комбинации с современными рекомендательными технологиями сервисов, с которыми человек взаимодействует, он получает от них все более привлекательную для него информацию, ориентированную на его потребности, привычки и демонстрирующую глубокое проникновение в его частную жизнь. Однако, главное, что может произойти для этого вида человека сейчас, – быстрая потеря творческих навыков и критического мышления, о чем будет сказано ниже».

Полностью прочитать статью можно по ссылке: http://infosoc.iis.ru/article/view/1338/904

Надо отметить, что мы полностью согласны с положениями статьи «Право и «Батлерианский джихад»: размышления об угрозах использования искусственного интеллекта» и вновь пригласили Виктора Борисовича с выступлением на наших мероприятиях в рамках проектов АНО «ЦТЭД» в 2025 году. В частности, сейчас идет подготовка Стратегической сессии «Право в эпоху цифровизации: тренды нормативного регулирования» в рамках XVI Международного IT-Форума в Ханты-Мансийске, которая состоится 26 июня.