Abstract
This article discusses the possibility of using artificial intelligence as a tool for identifying and preventing extremist sentiments in adolescents. The study examined teachers' ideas about artificial intelligence as a pedagogical technology for preventing extremism.

Key words: extremism, terrorism, teenagers, artificial intelligence, prevention, extremist sentiments.

----------------

В последние годы проблема роста экстремистских настроений среди подростков приобрела необыкновенную актуальность. В настоящее время мы видим яркие примеры пробелов предупреждения данного социально-опасного деяния в виде поджогов военных комиссариатов и железнодорожных релейных шкафов, совершаемых молодыми людьми в возрасте от 12 до 18 лет. Государством уделяется большое внимание поиску эффективных путей выявления и предотвращения угроз безопасности детей. В рамках реализации задач государственной политики в сфере обеспечения безопасности молодежи в Российской Федерации Указом Президента РФ от 17 мая 2023 г. №358 утверждена «Стратегия комплексной безопасности детей в Российской Федерации на период до 2030 года» одной из задач которой является формирование у детей стойкого неприятия идеологии терроризма и экстремизма в различных их проявлениях, противодействие обострению межнациональных и межконфессиональных конфликтов [1].

Подростки, находясь в процессе формирования своей идентичности, наиболее подвержены влиянию деструктивных идей, целенаправленно распространяемых террористическими и экстремистскими организациями, что приводит к серьезным социальным и психологическим последствиям для личности подростка. Одной из ключевых характеристик современного экстремизма является то, что поиск и вовлечение новых членов экстремистских организаций, а также исполнителей террористических актов в 90% случаев производится в сети «Интернет».

В настоящей статье рассматривается возможность использования искусственного интеллекта (ИИ) в образовательной среде для идентификации и профилактики экстремистских настроений у подростков.

Экстремистские настроения можно определить, как идеологические установки, которые оправдывают использование насилия или дискриминации против других групп людей или индивидуумов. Такие настроения могут сформироваться под воздействием различных факторов, включая социальные, экономические и культурные условия. Важно понимать, что экстремизм часто коренится в чувствах социального отчуждения, несправедливости и бесперспективности, что делает подростков особенно уязвимыми.

Искусственный интеллект способен анализировать большие объемы данных и выявлять скрытые паттерны, что делает его ценным инструментом для образовательных учреждений. Возможности применения ИИ в контексте предупреждения экстремистских настроений могут проявляться в следующих аспектах [2]:

1. Анализ текстов и сетевых взаимодействий. Системы ИИ могут анализировать текстовые сообщения, публикации в социальных сетях и другие формы коммуникации среди подростков. Используя методы обработки естественного языка (NLP), системы ИИ способны выявлять элементы, указывающие на радикализацию, такие как негативные (ненавистные) высказывания, выражение насилия или нетерпимости.
    
2. Мониторинг эмоций и психоэмоционального состояния. Современные алгоритмы машинного обучения могут быть обучены на выявление эмоциональных состояний пользователей. Путем анализа тональности сообщений и выраженных эмоций можно отслеживать изменения в психоэмоциональном состоянии подростков, что позволяет своевременно реагировать на потенциальные риски радикализации.
    
3. Разработка персонализированных образовательных программ. Искусственный интеллект может способствовать созданию персонализированных образовательных программ, которые учитывают индивидуальные потребности и интересы подростков. Такие подходы помогают формировать здоровую самоидентификацию и конструктивные социальные связи, что может снизить вероятность принятия экстремистских идеологий.
    
4. Создание виртуальных помощников и наставников. ИИ может быть использован для создания виртуальных помощников и наставников, которые будут помогать ученикам в решении сложных вопросов, предоставлять информацию и поддерживать их в процессе обучения.

В рамках реализации национальной стратегии развития искусственного интеллекта на период до 2030 года, утвержденной Указом Президента РФ от 10 октября 2019 г. N 490 «О развитии искусственного интеллекта в Российской Федерации» ряд образовательных учреждений уже применяют системы ИИ, в том числе для обнаружения и анализа изменений поведения учащихся. Например, в «Московской электронной школе» внедрена система предсказательной аналитики на основе ИИ, которая помогает учителям оценивать, сколько времени ученики потратят на различные виды активности, будь то выполнение домашних заданий, контрольные работы или практические упражнения. Учителя могут использовать эти прогнозы для планирования уроков и проверки эффективности движения класса по учебному плану. В проекте участвуют 37% школ Москвы, что предоставляет искусственному интеллекту достаточно данных для анализа и прогнозирования [3].

Несмотря на многообещающие возможности, использование ИИ в области предупреждения экстремистских настроений подростков выдвигает ряд этических вопросов. Применение технологий слежки, возможное нарушение приватности, а также вопросы предвзятости алгоритмов — все это требует внимательного анализа и разработки четких этических стандартов. Необходимым условием реализации проектов предупреждения экстремистских настроений подростков с использованием искусственного интеллекта является обеспечение прозрачности работы его алгоритмов, а также наличие механизма подотчетности и ответственности [4].

Для исследования вопроса возможности применения инструментов ИИ для предупреждения экстремистских настроений подростков проведены опросы среди субъектов профилактики экстремизма ФГКОУ «Омский кадетский военный корпус МО РФ» (классный руководитель, воспитатель, педагог-психолог), т.е. людей, не обладающих специальными знаниями в области применения технологий искусственного интеллекта. Исследование осуществлялось методом анкетного опроса с открытыми вопросами. В опросе приняли участие 45 человек. Выводы исследования раскрывались через такие категории как, отношение к ИИ, возможности ИИ в системе образования, использование ИИ как инструмент предупреждения экстремизма.

Большая часть респондентов, за исключением 3 из 45, утверждают, что когда-либо взаимодействовали с ИИ. При этом опрашиваемыми приводились конкретные примеры систем с ИИ (такие как YandexGPT, ChatGPT, бот «Алиса»), что свидетельствует о понимании ими принципов работы с такими системами.

91% (41 из 45 участников опроса) дали положительную оценку развитию технологий ИИ, однако 22% отметили возможный негативный аспект использования ИИ в преступных целях (подмена голоса, похищение персональных данных и т.д.).

Вместе с тем, на вопрос использования систем с ИИ в образовании, только 5 респондентов смогли привести конкретные примеры (платформа изучения иностранных языков Duolingo, платформа Учи.ру), что говорит о недостаточной осведомленности большинства опрошенных о практическом применении технологий искусственного интеллекта в образовательной сфере. Указанное обстоятельство подчеркивает необходимость информирования педагогов о конкретных примерах успешного внедрения таких технологий.

На вопрос – в каких сферах ИИ превосходит человеческий интеллект, 90% считают, что ИИ превосходит человека в анализе и хранении информации, при этом уступает в творческом потенциале и способности к обучению.

На вопрос – в будущем искусственный интеллект и роботизированные механизмы заменят педагога (воспитателя), 100 % анкетируемых отметили, что ИИ никогда не сможет заменить педагога, а только возьмет на себя его отдельные функциональные обязанности.

При этом 44 из 45 респондентов считают, что ИИ будет являться эффективным помощником для предупреждения экстремистских проявлений подростков. Опрашиваемыми отмечается эффективность использования ИИ как виртуального помощника, который будет давать рекомендации, но конечное решение будет оставаться за педагогом.

В оценке вопроса этичности использования ИИ, все респонденты считают, что в предупреждении преступлений экстремистской и террористической направленности использовании ИИ оправдывает возможное нарушение приватности и конфиденциальности подростков.

Исследование показало, что, хотя участники опроса сталкивались с ИИ, они плохо информированы об использовании цифровых продуктов с ИИ в образовании. При этом респонденты уверены, что ИИ является эффективным инструментом для выявления и предупреждения экстремистских настроений среди подростков. Педагогические работники прогнозируют благоприятное будущее для развития виртуальных помощников с ИИ, которые могут подсказывать потенциальные риски радикализации подростков.

Таким образом, искусственный интеллект как одна из технологий предупреждения экстремистских настроений обладает значительным потенциалом, тем не менее, ее внедрение должно осуществляться с учетом этических норм и стандартов. Реализация таких инициатив требует сотрудничества между образовательными учреждениями, техническими специалистами и сообществами, что позволит создать безопасную и поддерживающую образовательную среду для подростков.

Литература

1. Указ Президента Российской Федерации 17 мая 2023 г. №358 «О Стратегии комплексной безопасности детей в Российской Федерации на период до 2030 года» // Президент России. 17.05.2023. URL: http://static.kremlin.ru/media/events/files/ru/4uh7rGjByYswYabzs4PO6TVhZqcq5pZA.pdf [Дата обращения 05.11.2024]

2. Альманах «Искусственный интеллект». Текущее состояние в России и мире. Стратегия России. - М.: МФТИ, 2019. - С. 15.

3. В Московской электронной школе заработает система искусственного интеллекта» // Учительская России. 29.08.2024. URL: https://uchitelskaiarossiya.ru/v-moskovskoj-elektronnoj-shkole-zarabotaet-sistema-iskusstvennogo-intellekta/ [Дата обращения 05.11.2024]

4. Кодекс этики в сфере искусственного интеллекта // Альянс в сфере ИИ. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/%D0%9A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA%D0%B8_20_10_1.pdf [Дата обращения 05.11.2024]

Рекомендовано к публикации:
А.А.Ахаян, доктор педагогических наук, член Редакционной Коллегии

Literature

1. Ukaz Prezidenta Rossiyskoy Federatsii 17 maya 2023 g. №358 «O Strategii kompleksnoy bezopasnosti detey v Rossiyskoy Federatsii na period do 2030 goda» // Prezident Rossii. 17.05.2023. URL: http://static.kremlin.ru/media/events/files/ru/4uh7rGjByYswYabzs4PO6TVhZqcq5pZA.pdf [Data obrashcheniya 05.11.2024]

2. Al'manakh «Iskusstvennyy intellekt». Tekushcheye sostoyaniye v Rossii i mire. Strategiya Rossii. - M.: MFTI, 2019. - S. 15.

3. V Moskovskoy elektronnoy shkole zarabotayet sistema iskusstvennogo intellekta» // Uchitel'skaya Rossii. 29.08.2024. URL: https://uchitelskaiarossiya.ru/v-moskovskoj-elektronnoj-shkole-zarabotaet-sistema-iskusstvennogo-intellekta/ [Data obrashcheniya 05.11.2024]

4. Kodeks etiki v sfere iskusstvennogo intellekta // Al'yans v sfere II. URL: https://ethics.a-ai.ru/assets/ethics_files/2023/05/12/%D0%9A%D0%BE%D0%B4%D0%B5%D0%BA%D1%81_%D1%8D%D1%82%D0%B8%D0%BA%D0%B8_20_10_1.pdf [Data obrashcheniya 05.11.2024]