Статьи

АРТЕМ ФЕЩЕНКО: "Безопасность детей в интернете зависит от родителей".

Проблема безопасности детей в интернете становится очень актуальной. Потенциально опасный контент может нести угрозу для психологического и физического состояния детей и подростков, а также для безопасности окружающих.

В гостях редакции ДЕТСКИЙВОПРОС.РФ Артем Викторович Фещенко, старший преподаватель кафедры гуманитарных проблем информатики, заведующим учебно-научной лабораторией компьютерных средств обучения НИ Томского государственного университета, поговорили о том, что такое "вредный" контент и как работает алгоритм идентификации рисков безопасности пользователей социальных сетей.

Что такое вредный или опасны контент?

— Есть три вида вредного контента. Два из них запрещены, они находятся и блокируются либо программами и платформами, либо по предписанию контролирующих органов, таких как Роскомнадзор. Но есть еще третья категория — то, что не запрещено законодательством, но к чему рекомендуется ограниченный доступ, особенно несовершеннолетним детям. Это те фильмы, тексты, сообщества, которые могут не нести прямой угрозы, но быть потенциально опасными и оказывать негативное влияние на ребенка, подталкивая его к опасным действиям и поступкам.

Эта тема сейчас пользуется большим спросом, с чем это связано?

Эта тема действительно актуальна, потому что аудитория интернета с каждым годом молодеет. Безопасность детей в интернете зависит в первую очередь от родителей, но у них зачастую нет понимания того, какие угрозы могут быть для ребенка в сети. Даже несмотря на то, что большую часть контента блокируют надзорные органы, все равно ежедневно появляются новые группы, пропагандирующие идеи суицида, эстетику смерти и т.д., которые так или иначе вызывают интерес.

Почему Вы решили сделать именно такое приложение?

Создавая проект нашего алгоритма, нам в первую очередь была интересна не статистика этих сообществ, а механизм возникновения и распространения этой информации в социальных сетях. У нас уже был опыт анализа пользовательских данных, но тогда задача была противоположная — мы исследовали различные проявления одаренности у ребенка, основываясь на анализе его поведения в цифровом пространстве.

Сейчас мы только на первом этапе нашей работы. С помощью специальных систем мы научились находить в соцсетях опасный контент по 12 категориям и собрали базу из 3000 сообществ. Затем с аккаунта ребенка, подростка или студента выгружаем данные о его подписках, если они не скрыты настройками приватности. После чего сравниваем данные о его подписках с данными об опасных сообществах.

Что дает нам такое исследование, конкретные факты и лица, или общую картину?

Но мы получаем только факт того, что подписка есть, а когда она появилась и откуда — непонятно. Мы наблюдали две возрастные группы (подростков и студентов), и нам удалось определить, что можно считать нормой. Анализ показывает, что потенциально опасные подписки встречаются у 37% людей, а значит, если доля таких подписок в общем числе не превышает 2%, то это норма. Пока не беремся интерпретировать, почему так происходит, но, определив норму, можно обращать внимание родителей и самих детей на превышение ее. Это важно и для самих детей, поскольку иногда они подписываются на какие-то закрытые группы и не замечают, что ее тематика сильно влияет на инфополе.

Кому прежде всего полезен этот алгоритм?

Такой экспресс-анализ — это открытый инструмент, им можно воспользоваться и проанализировать подписки своего ребенка. Мы думаем, что эта система будет полезна как родителям, так и психологам образовательных организаций. Через 3 года планируется создать уже не прототип, а инструмент, который позволит проводить быструю диагностику присутствия опасного контента в подписках.

И еще важно сказать о том, что психологическое состояние, в котором находится человек, не всегда проявляется в его подписках на сообщества определенной тематики. Но может быть обнаружена закономерность, на что чаще подписываются люди, находясь, например, в депрессии. Это гипотеза, которую мы сейчас проверяем.

Это не нарушает право на частную жизнь и защиту персональных данных?

Проанализировать можно любого пользователя, у которого подписки не скрыты настройками приватности. Насколько это правильно с точки зрения этики и юриспруденции сказать сложно, но можно констатировать несколько фактов.

Во-первых, все, что мы размещаем в интернете, остается там навсегда. Неприкосновенности частной жизни в цифровом пространстве не существует.

Во-вторых, с помощью наших аккаунтов в социальных сетях мы можем управлять своей репутацией. Да, можно остаться приватным, но при поступлении в вуз, проходя собеседование на работу, это может выглядеть подозрительно и вызвать еще больший интерес и внимание к вашей странице.

Что посоветуете родителям и взрослым при выборе того или иного контента?

Родителям и детям не хватает навыков цифровой гигиены. Мы редко проводим ревизии сообществ в соцсетях, не отписываемся, не задаем себе вопросы о том, интересно нам это или нет, хотя нужно делать это регулярно. Хочется также добавить, что в нашем инструменте есть два анализатора: один выявляет опасный контент, другой — образовательные интересы для прогнозирования того направления подготовки, на которое может поступить ребенок, закончив 11-й класс. Также мы разработали робота-профориентатора, который сканирует цифровой след ребенка во "ВКонтакте" и показывает одну или несколько профессиональных сфер, соответствующих его интересам, сразу со списком специальностей и вузов, где их можно получить.

Дорогие родители, делимся ссылками на полезные приложения. Здесь вы найдете инструкцию и ссылки по работе с ними . Это робот-профориентатор, который подсказывает сферу профессиональной реализации подростка, опираясь на анализ интересов в соцсети.

Второе полезное приложение — анализатор интересов к "вредному" и образовательному контенту. Оба инструмента работают только во "ВКонтакте".

Инструкция по работе с приложением

Мы также взяли комментарий у психолога Татьяны Москвитиной, которая дала рекомендацию родителям, как правильно говорить с ребенком, чтобы он не перестал вам доверять:

— У родителей не должно быть пренебрежительного отношения к тому, что смотрят дети в интернете. Отмечайте это, но реагируйте без паники, без ярких эмоций. Старайтесь больше времени проводить со своим ребенком в офлайне, обсуждать книги и фильмы, делать какие-то совместные дела, чтобы у ребенка сформировались те ценности, которые есть у вас. Чем больше у него будет ценностей созидания, а не разрушения, тем меньше интереса будет вызывать просмотр нежелательного контента.

Если вы узнали о том, что ваш ребенок смотрел или бывал на сайтах с потенциально негативным или опасным содержанием, вы должны спокойно с ним поговорить, сказав о том, что вы обеспокоены его физическим и эмоциональным состоянием. Расскажите, как такой контент может на него повлиять, отмечайте изменения в ребенке, которые вас беспокоят. Дайте ему понять, что вы не хотите его

наказывать и не будете осуждать, вы лишь хотите разобраться и вместе подумать, что делать дальше. Затем спросите ребенка, что он думает по этому поводу.

Детям и подросткам бывает сложно подобрать слова, чтобы сказать о своем состоянии, поэтому постарайтесь за него проговорить те чувства, которые он может испытывать в данный момент, так ему будет лучше пойти с вами на контакт.

Обсудите с ребенком все факты, как давно он на это подписан, кто ему об этом рассказал, задайте уточняющие вопросы и подведите итог. Затем честно предупредите ребенка, что вы установите программу, которая ограничит пребывание в тех местах в интернете, где ему нежелательно бывать, что вы будете знать, если он попытается туда зайти, и каждый раз это будет вас больно ранить. Можно предупредить его о том, что если вам будет сложно справиться с этой проблемой, то вы обратитесь к специалисту.

Важно готовиться к таким разговорам заранее, они не должны быть спонтанными, потому что иначе это не закончится ничем хорошим. Пропишите себе план, о чем вам нужно сказать, какие вопросы вы будете задавать, чтобы в разговоре вы были спокойны, но тем не менее могли выразить свои переживания о том, что может произойти что-то нежелательное для вас и для ребенка.

Понравилась статья? Пишите свои мысли и комментарии по этой теме, будем рады, если расскажете о нас в социальных сетях.