РБК: власти решили потратить 1,6 млрд рублей на софт для распознавания «угрожающих» школьных сочинений

Власти планируют выделить из бюджета 1,6 млрд рублей на разработку системы мониторинга информации, которая может склонить или побудить детей «совершить действия, представляющие угрозу их жизни» или жизни и здоровью других. Деньги получит автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды» (АНО «ЦИСМ»), созданная в 2018 году по поручению президента РФ Владимира Путина. Как сообщает РБК, сведения о финансировании разработки такой системы содержатся в справке к проекту трехлетнего бюджета.

Деньги для АНО планируется выделить в рамках федерального проекта «Социальная активность», ответственность за исполнение которого лежит на Федеральном агентстве по делам молодежи (Росмолодежь). Согласно проекту, АНО получит по 551,1 млн рублей в 2022–2023 годах и 555,7 млн — в 2024-м. Деньги пойдут на разработку софта для анализа письменных работ учащихся и выявления «склонности к социально опасному и деструктивному поведению». Исходя из данных Федерального казначейства,в этом году АНО уже были выделены почти 245 млн рублей из резервного фонда президента на создание такого софта, но средства еще не перечислены.

Напомним, за последние несколько лет в России произошло несколько трагедий, когда молодые люди подростки приходили в учебные заведения с оружием (огнестрельным, ножами, топорами), чтобы убивать. Самые «громкие» трагедии: в 2018 году студент политехнического колледжа в Керчи напал на сокурсников и убил 21 человека, ранил более 50, совершил суицид. В мае 2021 года была стрельба в школе в Казани, убиты девять человек, 24 ранены, стрелок находится в СИЗО 20 сентября в Перми студент устроил стрельбу в кампусе Пермского государственного научного исследовательского университета (ПГНИУ), убил шестерых и ранил 24 человека, был ранен при задержании.

О Центре изучения и сетевого мониторинга молодежной среды стало известно в 2019 году. Тогда Минобрнауки и Росмолодежь предлагали выделить ему более 600 млн рублей на три года на поиск угрожающей жизни и здоровью детей информации, распространяемой в интернете. Задача ЦИСМ — выявлять контент, связанный с суицидальными проявлениями, кибербуллингом, распространением криминальной субкультуры и другими деструктивными тенденциями.

Работу системы ЦИСМ он описывает следующим образом: в базу нейросетевого комплекса попадают разные аккаунты с суицидальным, депрессивным и другим подобным контентом, в автоматическом режиме система наблюдает за активностью таких страниц. Если активность увеличивается, аккаунт попадает в «красную зону», и операторы более детально разбирают профили, анализируют их и передают информацию в профильные службы «для организации профилактической работы» с их владельцами, если речь идет о суицидальной активности, либо в правоохранительные органы, если центр обнаруживает признаки подготовки преступления.

Финансирование всего федерального проекта «Социальная активность» предлагается значительно увеличить по сравнению с текущим бюджетным периодом: в 2022 году более чем в два раза (17,5 млрд рублей вместо плановых 6,5 млрд), в 2023-м практически в три раза — 12,5 млрд вместо 4,5 млрд, в 2024-м также более чем в два раза — 11,7 млрд вместо 4,6 млрд по плану.

При этом в Росмолодежи не ответили на запрос, как будет работать программа по анализу письменных работ, как организуется защита персональных данных несовершеннолетних и будет ли информация об учащихся направляться в правоохранительные органы.

Опрошенные РБК эксперты говорят, что, если речь пойдет об оценке текстов несовершеннолетних, сбор и обработка данных возможна только с согласия их законного представителя — родителя или опекуна. Тексты учащихся в таком случае должны быть обезличены, а подростку должен присваиваться индивидуальный идентификатор, который может декодировать только доверенная служба разработчиков софта, например, в системе правоохранительных органов.