Подростковые суициды, разборки, нападения на школы и другие учебные заведения – причиной массового безумия многие называют интернет. В частности, такого мнения придерживается правительство России, предпринимая множество действий для урегулирования ситуации.
Уже не первый год с сомнительным контентом в Сети борются правоохранительные органы, специалисты, работающие в области ИТ, волонтеры, аналитики и др. Но почему проблема только усугубляется? Как влияет на социум Всемирная паутина, какие методы борьбы против “сетевых угроз” используют власти, и чего ждать в будущем? Со всем этим будем пробовать разбираться в нашей статье.
Что творят “колумбайнеры”?
20 сентября этого года многие запомнят на всю жизнь. Опять стрельба, массовое убийство и снова учебное заведение… Россия буквально содрогнулась от новости, что на Пермский государственный национальный исследовательский университет в 11 утра напал вооруженный парень, студент этого же вуза, который произвел около 30 выстрелов, вследствие чего пострадало более 20 человек. А совсем недавно похожая трагедия произошла в Казани.
Чем же обусловлена такая тенденция? Многие уверены: виноваты соцсети, тематические форумы, сайты, посвященные тем или иным запрещенным темам. Взять хотя бы популярное деструктивное явление в молодежной среде под названием “Колумбайн”. Существуют целые группы, объединения, посвященные этой теме. Стрессонеустойчивые подростки, “насытившись” всеми подробностями, начинают уподобляться самоназванным “борцам с режимом”.
Еще несколько лет назад на одной из пресс-конференций Владимир Путин заявил, что нужно ужесточить “сетевой” контроль, активнее работать над поиском и наказанием людей, которые стимулируют подростков и молодежь совершать противоправные действия. Борьбу против “кибервлияния” все активнее ведут специальные подразделения правоохранительных органов, секретные организации, чиновники и даже специально созданные волонтерские объединения.
Печальная статистика и борьба против деструктивного контента на общественных началах
По словам члена РОЦИТ Марка Твердынина, вопрос о “сетевых угрозах” начал подниматься еще в 2008-м. Именно тогда стала расти популярность таких социальных сетей, как “Одноклассники”, “ВКонтакте”. Параллельно в Рунете начал активно распространяться запрещенный контент. И если в то время пользовательская аудитория социальных сетей составляла примерно 3-4 млн человек, то в 2021-м она увеличилась в десятки раз, достигнув отметки 100+ млн.
Уже тогда, в 2008 году, учитывая темпы роста популярности подобных сайтов и распространения запрещенного контента, сотрудниками РОЦИТ было принято решение запустить горячую линию, которая позволяла пресекать неправомерные действия, совершаемые во Всемирной паутине.
Эта программа существовала при поддержке спонсорских средств и государственного финансирования. По ее условиям, пользователи могли жаловаться на распространение сомнительных видео-, фото- и текстовых материалов. И такое решение действительно помогало представителям общественной организации бороться с противоправными действиями владельцев интернет-площадок. Последние по первому же требованию РОЦИТ удаляли соответствующий контент.
Ежедневно обращений касательно распространения деструктивного контента было все больше и больше. Если вначале запуска горячей линии было принято всего несколько сотен жалоб за определенный период, то через пару лет эта цифра достигла отметки пару сотен тысяч. Такая нездоровая тенденция не могла не привлечь внимание, в частности, бизнесменов, готовых поддерживать борьбу против деструктивного контента.
Лига безопасного интернета
Не прошел мимо существующей проблемы и бизнесмен Константин Малофеев. Он решил в 2011 году заручиться поддержкой Игоря Щеголева (в то время он занимал должность министра связи) и создать собственный проект, который получил название “Лига безопасного интернета”.
Главной целью создания этой неправительственной ассоциации было цензурирование Интернета. Малофеев неоднократно заявлял, что ключевая причина существования проблемы негативного кибервлияния на общество – отсутствие каких-либо ограничительных мер, направленных на борьбу с вредным и противоправным контентом. Он решил не перекладывать ответственность на государство и другие структуры, а заняться этим лично.
За основу организация взяла наработки Регионального общественного центра интернет-технологий и начала действовать. Для достижения поставленных целей Малофеев и его команда, состоящая примерно из 20 тыс. человек, “кибердружинников”, реализовали ряд мероприятий:
- организовали горячую линию;
- инициировали процесс блокирования многих сайтов, содержащих запрещенный или вредный контент;
- пролоббировали законы, направленные на защиту несовершеннолетних от вредоносной информации.
Малофеев неоднократно отмечал, что занимался развитием “Лиги” и реализацией идей лично, направив все свои силы на этот проект. Многие утверждали, что такое рвение бизнесмена небеспочвенно. По их мнению, он стремился стать главным регулятором Рунета. Но его мечты “канули в Лету”, так как в итоге это полномочие было передано Роскомнадзору.
Буквально сразу после этого бурная деятельность “Лиги” начала понемногу сбавлять темпы. Связано это с вопросом регулирования Рунета или нет – непонятно, но то, что на работу ассоциации негативно повлияли санкции со стороны Европейского Союза, факт.
Однако эта череда событий не свела деятельность “Лиги безопасного интернета” на нет. Уже в 2018-м она начала восстанавливаться и возобновлять свою активность после того, как ее возглавила Екатерина Мизулина. Малофеев же отошел от дел. Он объяснил это тем, что прежней потребности в данной организации уже нет, так как за всем происходящим в Сети начало пристально следить государство.
Тем не менее, организация продолжила развиваться и даже получила хорошую финансовую поддержку со стороны государства. Не последнюю роль в этом играет Мизулина, которая:
- провела ребрендинг команды “кибердружинников”;
- планирует запустить приложение и новый сайт “Лиги”;
- выдвигает разные идеи касательно борьбы против деструктивного контента, озвучивая их в СМИ (например, инициировала проведение проверки видео- и аудиоконтента Дудя, Моргенштерна и других медийных личностей на предмет пропаганды наркотиков).
Блокировка сайтов – выход?
Вопрос о блокировке определенных интернет-ресурсов поднимался еще в 2014-м. Максим Ксензов в одном из интервью заявил, что намерен заблокировать “Фейсбук” и “Твиттер”, потому как представители этих платформ несговорчивы. Но Дмитрий Медведев сразу же пресек эту угрозу, разместив соответствующий пост на своей страничке в соцсети. Поэтому Ксензову пришлось объясняться перед общественностью.
Однако если ранее Роскомнадзор старался избежать любых возможных публичных скандалов, то в 2021 году с владельцами интернет-площадок, на которых размещен сомнительный контент, никто не церемонится. Особенно это стало заметно после того, как ему поручили задание на государственном уровне контролировать оборот деструктивного контента.
Артем Козлюк, занимающий руководящую должность в “Роскомсвобода”, отметил, что после того, как Федеральной службе были делегированы полномочия контролировать ситуацию в Сети, появилось много ведомств, каждое из которых начало отвечать за определенное направление цензуры. Организация должна была пресекать:
- пропаганду распространения и употребления наркотиков;
- популяризацию детской порнографии;
- все, что связано с суицидальными наклонностями.
Федеральная служба дает площадкам, на которых есть хотя бы намек на подобный контент, определенное время на удаление запрещенных материалов, в противном случае блокирует сайт. Она активно работает над решением проблем в сфере ИТ, связи и массовых коммуникаций, и это, по словам ее организаторов, приносит свои плоды. В Роскомнадзор регулярно поступает большое количество заявок, и, по состоянию на октябрь 2021-го, уже заблокировано порядка 500 тыс. ресурсов (к около 5 млн платформ ограничен доступ).
В текущем году было принято решение привлекать к борьбе против деструктивного контента социальные сети. Их владельцы обязаны контролировать весь материал, размещаемый на сайтах, и при необходимости блокировать его. Тех, кто игнорирует это требование, ждут существенные штрафы.
Многие уже создали внутрисистемные подразделения, занимающиеся регулированием и контролем ситуации. Речь идет о таких популярных соцсетях, как “Одноклассники”, “ВКонтакте”, “Твиттер”, “Ютуб”, “ТикТок”. Представители “Фейсбук” и “Телеграм” пока не дали комментариев касательно того, как они контролируют размещаемый на страницах контент.
Специалисты Службы выявляют и устраняют противоправный контент не только с подачи других пользователей и владельцев интернет-площадок. Специалисты и сами активно работают над решением проблемы. В прошлом году им удалось разоблачить:
- более 100 тыс. организаций, которые так или иначе были причастны к терроризму;
- 20+ тысяч ресурсов, занимающихся продвижением детской порнографии;
- около 25 тыс. сайтов, на которых прослеживается контент, связанный с наркозависимостью и суицидальными наклонностями.
Сотрудники Роскомнадзора выявляют запрещенные материалы с помощью автоматизированной системы мониторинга, разработанной Главным научно-исследовательским вычислительным центром. Организация работает при поддержке спонсорских и государственных средств, уже потратила порядка 1,6 млрд долларов, которые пошли на расширение, развитие и обслуживание используемой системы.
Сказать, что проблема решается только с помощью блокировки, нельзя. Конечно, результаты есть, но этого недостаточно для ее полного искоренения. Одни сайты блокируются – другие появляются. Поэтому, как утверждает Леонид Армер, нужно выявлять не столько запрещенный контент, сколько его создателей и распространителей.
Правоохранительные органы и Сеть
Леонид Армер часто вспоминает, как ему удалось вычислить парня, создавшего игру, которая была разработана как аналог всем печально известного “Синего кита”. Последний создал более 100 аккаунтов в социальных сетях, несколько сотен пабликов, посредством которых и распространял свое “творение”. Поражало то, что юноша настолько был зациклен на процессе, что не мог остановиться, даже находясь под следствием. В итоге его смогли остановить только домашний арест и запрет пользоваться Всемирной паутиной.
Правоохранительные органы до сих пор задаются вопросом, как Армеру удалось вычислить этого злодеятеля. По его словам, сотрудники “Молодежной службы безопасности” вручную перепроверяют чаты социальных сетей, подозрительные сайты, каналы связи. Также они заручаются помощью специальных ПО.
Оперативники уже давно бы начали применять эти самые программы, позволяющие отслеживать запрещенный контент, но существует много камней преткновения. Один из них, по словам основателя организации “Интернет-розыск” Игоря Бедерова, – массовое использование пиратских версий. Они не дают желаемого результата и часто вводят в заблуждение, поэтому многие отказываются от них.
Другое дело – применять лицензированные ПО, но и здесь есть загвоздка. Чтобы начать ими пользоваться на законных основаниях, предварительно подписав нужные бумаги и получив разрешение вышестоящих органов, нужно время. Часто данная процедура занимает где-то год.
Стоимость такого решения (“СЕУС”) составляет пару миллионов рублей в год, и оно показывает неплохие результаты. Им уже активно пользуются многие региональные правительства, МВД, которые могут заказывать мониторинг таких социальных сетей, как “Одноклассники”, “ВКонтакте”, “Телеграм”, “Инстаграм”.
По какому принципу функционируют подобные ПО:
- сообщества в социальных сетях изучаются на предмет наличия опасных материалов, призывов, рекламы запрещенных средств и пр. (как правило, на это указывает фигурирование в пабликах специфических слов, дат, названий);
- обнаруженные слова и фразы “пробиваются” посредством специальной программы, которая ищет их связь с аккаунтами жителей определенного региона;
- сервис сортирует список подозрительных пользователей, с которыми впоследствии лично работают правоохранительные органы.
Однако подобная схема реализовывается далеко не всегда. По мнению Козлюка, силовики работают в таком формате, который удобен им и помогает выровнять статистику. Они особо не перетруждаются, ища потенциальных киберпреступников, а предпочитают выбирать более легкие пути достижения цели.
Ходят слухи, что многие даже лично “работают” в потенциально опасных сообществах под прикрытием и склоняют их участников к радикальным беседам. Итог – обыски, задержания и даже срок. В данном случае все зависит от порядочности силовиков и целей, которые они преследуют.
Читают ли наши сообщения?
Это один из главных вопросов, волнующих многих интернет-пользователей. В 2016-м ходили слухи, что некая система “Зеус” (якобы аналог “СЕУС”) позволяет правоохранительным органам следить за всеми действиями юзеров во Всемирной паутине, читать их сообщения в социальных сетях. Однако Рябчевский опроверг это заявление, подчеркнув, что программа “СЕУС” никак не связана с “Зеусом”, и никто из его сотрудников не читает личные переписки юзеров.
Но тот факт, что правоохранительные органы могут следить за интернет-пользователями, не исключен. Технически это возможно, причем в случае чего структуры даже не станут сообщать о своих действиях владельцев площадок. Для этого у них имеются соответствующие решения, которые позволяют деанонимизировать пользователей, читать их переписки, определять местонахождение и пр. Но подробности касательно этих продуктов ФСБ по понятным причинам не раскрывает.
МВД сообщает, что регулярно проводит большое количество мероприятий, направленных на выявление лиц, которые только планируют или уже внедряют свои идеи касательно распространения запрещенного контента, привлечения и склонения определенных лиц к совершению незаконных действий, суициду и пр. Но, помимо силовых ведомств, к киберборьбе с помощью специальных программ и систем прибегают и другие организации, которые скрывают какую-либо информацию о себе и применяемых методах.
Мониторинг молодежной среды
В 2018-м, в преддверии Международного женского дня, В. Путин посетил самарский кондитерский комбинат. Во время обсуждения насущных проблем Наталья Касперская, совладелица организации “Крибрум”, занимающейся анализом социальных сетей, подняла вопрос пагубного влияния соцсетей на современную молодежь, подростков и детей.
Статистика, которую продемонстрировала экс-супруга создателя “Лаборатории Касперского”, была крайне печальна. По ее словам, на то время в околокриминальные сообщества было вовлечено порядка 1 млн подростков. А в группах, посвященных издевательствам над людьми, буллингу, состояло более 3 млн. Касперская акцентировала на том, что организаторов подобных сообществ нужно привлекать к уголовной ответственности.
Президент РФ поддержал инициативу предпринимательницы, добавив, что, как правило, такими “полководцами” оказываются трусливые недотепы с кучей комплексов. Он предложил Наталье объединиться и решать проблему вместе. По его поручению, агентством Росмолодежь был создан ЦИСМ (Центр изучения и сетевого мониторинга молодежной среды).
Главной задачей организации было выявление информации, которая склоняла подростков и детей к противоправным и опасным для жизни и здоровья действиям. Для решения проблемы не зря была выбрана именно эта организация. Сотрудники Forbes подчеркнули, что в данном случае нужны не правоохранительные органы, а единомышленники молодежи, которые будут на одной волне с ней и смогут отличить стеб от реальных злоумышленных действий. “Центр” начал работать при помощи программы “Крибрум”. Эту информацию подтвердил супруг Касперской, Игорь Ашманов.
Если ранее никто особо не зацикливался на вопросах распространения небезопасного контента, так как ситуация в России в этом плане была более-менее спокойной, то после произошедшей трагедии в Керченском политехническом колледже в конце 2018-го все кардинально изменилось. Именно с того времени и правоохранительные органы, и прочие государственные/негосударственные организации начали уделять львиную долю времени и внимания урегулированию “сетевых” проблем, заручившись помощью вышеупомянутой системы “Крибрум”.
Ее главное преимущество в том, что она содержит информацию почти о 400 млн зарегистрированных в Рунете аккаунтах. Помимо этого, аналитики разработали эффективные поисковики, которые позволяют находить нужные данные, видео-, фотоматериалы, текстовый контент посредством введения соответствующих ключевых слов/фраз, изображений и прочих маркеров, связанных с субкультурами и деструктивными сообществами.
Подробнее о работе ЦИСМ
Как заявляет Ашманов, ЦИСМ – это некий “диспетчер”, так как организация не применяет никаких прямых действий для устранения, блокировки или запрета какого-либо контента. Она занимается сбором данных, мониторингом ситуации и обнаружением “сетевых” угроз, после чего передает всю важную информацию соответствующим органам: Министерству внутренних дел, ФСБ, Роспотребнадзору или Министерству просвещения России.
ЦИСМ развернула свою деятельность не только при поддержке “Крибрума”. Не последнюю роль в этом сыграли “Медиалогия” и система мониторинга социальных сетей Brand Analytics. Благодаря этому “Центр” может выполнять ряд действий: деанонимизировать юзеров, читать переписки, отслеживать контент.
Куда делись государственные деньги?
Организация не делится подробностями касательно своей работы – все поверхностно и в общем. Она скрывает все полномочия и возможности в целях безопасности. Это возмутило Ксению Собчак, которая засомневалась в целесообразности существования ЦИСМ после массовых расстрелов в школах и других учебных заведениях. Телеведущая задала вполне закономерный вопрос: на что было потрачено около 1 млрд рублей, выданного организации из госбюджета.
Если взглянуть на финансовые отчеты, выставленные на официальном сайте ЦИСМ, деньги, полученные в качестве субсидии, “разошлись” практически сразу:
- на содержание офиса компании и выплату заработной платы ее сотрудникам;
- на закупку нематериальных активов и необходимых для ведения деятельности средств;
- на реализацию поставленных целей.
Организация Росмолодежь почему-то проигнорировала вопрос касательно бюджета и финансирования ЦИСМ. Хотя, судя по документам, последняя получила аж 800 млн рублей от государства в рамках проекта “Культура” якобы на создание “позитивного контента” в Сети. Планировалось, что он вызовет настоящий фурор и соберет несколько сотен миллионов просмотров.
В 2019-м на сайте ЦИСМ действительно было размещено пару объявлений о приеме заявок для участия в каком-то проекте. Но, чем закончилась данная “акция”, неизвестно. Кто прошел конкурсный отбор, была ли реализована идея, какой был зафиксирован охват пользовательской аудитории, – конкретных данных продемонстрировано не было.
Многие утверждают, что субсидия, выданная ЦИСМ, на самом деле не имеет отношения именно к работе организации. Последняя просто занималась распределением средств между производителями контента. Оставшиеся деньги были поделены в равных частях для покрытия прочих расходов (зарплата сотрудникам, офисные затраты, приобретение программных решений и др.).
Сама же организация ЦИСМ комментариев касательно стоимости контрактов и другого финансирования не дает и имеет на это право, так как является некоммерческой и автономной. Поэтому формально она не имеет никакого отношения к госзакупкам.
Вместе с тем, Рабчевский утверждает, что, если рассматривать ЦИСМ как часть госструктуры, то разработанная система этой организации является одной из лучших по предотвращению молодежного, подросткового и детского деструктива. Такую точку зрения поддерживает и Черный, подчеркивая, что все ее действия способствуют предотвращению трагедий и своевременному выявлению опасных кибервлияний.
Можно ли защитить общество с помощью инновационных технологий?
Если взять в качестве примера трагедии, произошедшие в Казани и Перми, то становится очевидно, что одними компьютеризированными системами для предотвращения подобных случаев не обойтись.
Во-первых, оба “колумбайна”, прежде чем совершить теракт, заранее оповестили общество о своих намерениях. Только это было обнародовано уже после массовых расстрелов. Пермский убийца прибегнул к использованию функции отложенной публикации, которая доступна в Телеграме. Казанский же использовал подобное решение в “ВКонтакте”, написав предупреждающий пост за полчаса до совершения преступления.
Во-вторых, специалисты утверждают, что невозможно было заранее предугадать психопатические наклонности парней. Их профили в социальных сетях не вызывали никаких подозрений. Более того, стрелок из Казани и вовсе не проявлял никакой активности с начала 2019-го. Поэтому они и не попали в мониторинг.
По словам Ашманова, одна автоматика не позволит решить существующую “сетевую” проблему. Для этого нужны специальные человеко-машинные, гибридные технологии. Его поддерживает и Андрей Масалович, который в свое время разработал поисково-аналитическую систему Avalanche. Он подчеркивает, что современные технологии способствуют избежанию трагических ситуаций, но 100% гарантии не дают.
В то же время Александр Хинштейн отмечает, что мониторинг социальных сетей нельзя недооценивать, так как за последнее время именно благодаря ему с подачи ЦИСМ удалось предотвратить более 10 нападений на школы и другие учебные заведения. В результате было выявлено и привлечено к уголовной ответственности ряд людей, планирующих совершение противоправных действий.
Лилия Гумерова заявляет, что для повышения эффективности мониторинга ЦИСМ необходимо сотрудничать с регионами, чем организация активно и занимается. Но не все готовы к такому формату работы – некоторые регионы все же отказываются от сотрудничества, называя массу причин, почему это нецелесообразно. Но “Центр” все же настаивает на своем. Его сотрудники разработали целую стратегию:
- региональные органы государственной власти должны собирать любую информацию об активности школьников и учащихся других учебных заведений в социальных сетях (ее должны предоставлять учителя и преподаватели);
- сотрудники ЦИСМ будут загружать полученные данные в систему и проводить комплексный мониторинг.
Но пока этот план реализовывается частично и персональные данные собираются не во всех регионах.
Чем обеспокоено правительство?
Власти России намерены увеличить сумму, которую они готовы предоставить ЦИСМ (речь идет об 1,6 млрд рублей). Такое решение было принято после того, как в Перми произошел очередной массовый расстрел студентов.
Но целью правительства является не только обеспечение безопасности граждан. Все чаще в интернет-среде начали появляться так называемые “провокаторы”, которые создают вокруг себя деструктивные группы, привлекая “единомышленников” к радикальным политическим движениям. Причем формируются подобные объединения не из обычных пользователей, а из “шутеров”, “суицидников” и прочих морально неустойчивых граждан.
Как заявляет Масалович, правительство активно борется против подобных объединений и готово финансировать организации, чья деятельность направлена на выявление злоумышленников.
Также власти России задумываются над тем, чтобы ужесточить законодательство в отношении интернет-среды. Например, Гумерова неоднократно подчеркивала, что ответственность за распространение опасного контента должна возлагаться не только на самих пользователей, владельцев соцсетей, но и на провайдеров.
Хинштейн, в свою очередь, неоднократно акцентировал на том, что представители социальных сетей должны тщательно проверять своих юзеров, составляя психологический портрет каждого. По его мнению, это позволит определить группу потенциально опасных лиц и вовремя среагировать на возможные противоправные действия с их стороны.
Но владельцы социальных сетей относятся к этому скептически. Например, тот же Павел Дуров написал в “Телеграме” пост, в котором подчеркнул, что такие трагедии, которые случились в Казани или Перми, в большинстве случаев невозможно предотвратить.
Никакие системы мониторинга, составление психологических портретов онлайн, ужесточение правил использования социальных сетей не сведут вероятность возникновения подобных ситуаций на нет. Поэтому, по его мнению, то, что произошло в пермском и казанском учебных заведениях не должно становиться поводом для превращения общества в “концлагерь”. И он отчасти прав.