В РФ хотят создать нейросеть для выявления социально опасных учащихся

Предполагается, что она будет анализировать письменные работы школьников. Разработкой займется структура Росмолодежи. Что думают о новой инициативе учителя, специалисты сектора IT и психологи?

В России школьников, склонных к агрессии, хотят вычислять с помощью нейросети, которая будет анализировать письменные работы. Как сообщает РБК, на подобную программу планируется выделить более 1,5 млрд рублей за три года в рамках федерального проекта «Социальная активность». Ее созданием займется одна из структур Росмолодежи — автономная некоммерческая организация «Центр изучения и сетевого мониторинга молодежной среды», созданная три года назад по поручению Владимира Путина.

Идея нового проекта в том, чтобы нейросеть выявляла детей, склонных к девиантному поведению. На этапе, когда эта склонность не успела реализоваться в виде буллинга, суицидальных попыток или такой агрессии против общества, как недавняя трагедия в Перми. Пока деталей о том, как именно будет построена работа новой системы, нет.

РБК предполагает, что сеть, обученная выискивать слова-маркеры в текстах, написанных людьми с психическими отклонениями, станет в дальнейшем анализировать работы школьников. Ранее была озвучена инициатива Минпросвещения о проверке нейросетью в будущем до половины школьных домашних заданий.

Если это так, то возникают новые вопросы: насколько безошибочно будет работать система, легко ли ее обмануть, что будет дальше с теми детьми, кто попадет в категорию потенциально опасных, кому доверят хранить и защищать эту базу данных и чем грозит ее утечка?

Процесс обучения нейросети поиску маркеров должен быть основан на огромных данных. Гигантское количество текстов, написанных обычными подростками, нужно сравнить с тем, что писали дети с подтвержденным статусом трудных, то есть с тем самым девиантным поведением. И выявить некие закономерности. Где найти эти тексты? Как проверить, что нейросеть обучилась правильно и не делает ошибок? И кто именно получит доступ к информации о нездоровых склонностях детей? Рассуждает директор по продвижению новых решений компании «КРОК» Иван Пластун:

Иван Пластун директор по продвижению новых решений компании «КРОК» «Что будет происходить в тот момент, когда система скажет, что этот ученик имеет нехорошие, по ее мнению, отклонения? Вряд ли его будут автоматически отправлять в тюрьму. Под всю эту историю точно нужно будет делать огромную инфраструктуру. Это какие-то кабинеты психологов, причем во всех регионах. Как мы будем понимать, что ученик переходит из условной «красноватой» зоны в «красную»? И наоборот, из «красной» зоны он вернулся обратно в «зеленую». Сейчас этот шаг видится мне скорее попыткой быстро и громко отреагировать на последние трагические события. Он не выглядит обдуманным, он не выглядит реалистичным».

Эксперт также считает, что для создания такой масштабной системы 1,5 млрд рублей недостаточно.

Кроме того, психологи отмечают, что чаще всего люди, склонные к девиантному поведению, довольно скрытны. В Перми Бекмансуров обманул психологические тесты, получив справку у психиатра для покупки оружия. Казанского Галявиева педагоги считали доброжелательным. И напротив, те подростки, кто открыто выражает агрессию, например в соцсетях, часто неспособны причинить вред окружающим. Мнение психолога и психиатра Владимира Крупина:

Владимир Крупин психолог и психиатр «Приходит вопрос: нейросеть выявила кого-то агрессивно настроенного. Что с этим дальше делать? А если кто-то агрессивно настроенный знает, что нейросеть его ищет, и готов к этому? Понимаете, как правило, те люди, кто причиняет реальную боль, горе и агрессию в реальной жизни, в соцсетях такие милые все, что с помощью маркеров, мне кажется, трудно будет их выявить. А то, что нейросеть с помощью разных зацепок найдет агрессивных людей, — да, это так. Но человек сам по себе агрессивен. Есть сомнения, что нейросеть сможет распознать действительно людей, которые планируют причинить вред другим. Порой на обследовании в больницах столько специалистов обследуют одного и того же пациента и не могут прийти к единому мнению».

Выявить склонности детей стараются и школьные педагоги. Но они делают выводы при личном общении, длительном наблюдении и информации об обстоятельствах в семье конкретного ребенка, подчеркивает заслуженный учитель России, доктор педагогических наук Евгений Ямбург.

Евгений Ямбург заслуженный учитель России, доктор педагогических наук «Огромное количество факторов начинает действовать. Это и генетические факторы, и обстановка в семье. Это такая сложная вещь. Мы этим занимаемся, начиная фактически с детского сада. И здесь никто не может обойтись без очень длительного наблюдения за ребенком, без бесед с ним психологов, с его родителями. Что выявлять надо, да. Но искусственный интеллект пока еще не так силен, чтобы эту проблему решать».

Большинство подростков в определенный период склонны к бунту и агрессии, хотят выделиться и быть особенными. В то же время, если в сочинении школьник написал, что ему близки убеждения Родиона Раскольникова, совсем необязательно, что он поступит так же, как герой Достоевского. Возможно, оригинальничая, он лишь хочет привлечь внимание одноклассницы. Поймет ли это нейросеть?