Что такое неприемлемый контент
Запрещенный контент в Google Play — квест на выживание
В статье приводятся официальные правила от Google Play, что считается запрещенным контентом и не должно у них публиковаться. (Версия правил от июня 2019)
Статья будет полезна следующим группам лиц:
Fake Slap! — её тоже удалили из Google Play. Тут нарушение очевидно, но во многих других случаях нет.
Сначала субъективная оценка правил со ссылками на статьи-примеры описываемых проблем, сами правила в конце.
Правил довольно много и они часто обновляются. Почти всегда в сторону увеличения. На их перечитывание уходит заметно много времени и нервов.
Правила часто описаны нечетко — это официальная политика Гугла, которой они гордятся. Мотивация такая: «Все случаи злоупотреблений описать невозможно. А нарушители и сами понимают, когда они идут на нарушение». В этом есть разумный смысл, но вся соль как всегда в деталях.
Забанить приложение может как автоматически ИИ Гугла, так и модератор. При этом разработчик не получает чёткого указания причины бана. Причина та же: «нарушители и сами понимают, когда они идут на нарушение». Однако проблема в том, что разработчикам очень сложно выявить, что не понравилось проверяющему и приходится натурально гадать, какое из размытых правил у них сработало?
За что Android-разработчики ненавидят Google [1] — разработчики не могут получить вразумительной причины блокировки аккаунта.
За что блокируют разработчиков Google Play [2] — большой любопытный список дел с блокировками и итоговым результатом
7 основных причин, почему блокируют приложения в Google Play и AppStore [3] — есть полезное упоминание про опасность ключевых слов.
Автоматические блокировки приложений в Google Play [4].
Наличие «мерзких голых тел» — это просто гарантированный повод огрести проблем от проверок гугла. Достаточно и «мерзких почти голых тел», например, с использованием бикини. Подобные фото ИИ Гугла уже давно с легкостью научился выявлять автоматически.
Тут, кстати, проявляется светлая сторона сервиса. Реально стрёмных приложений найти очень сложно, особенно если не заниматься этим целенаправленно.
Темная сторона Google Play — блокировка была за грудь на обложке музыкального диска в одном из скринов (скорее всего, ибо точного объяснения не было) [5]
А вот дальше самое интересное.
Если разработчику будет выдано несколько страйков за «короткий» промежуток времени (около 3 за полгода), то аккаунт разработчика удаляется. Это означает, что будут удалены все приложения разработчика, а заодно и все остальные сервисы гугла: Аккаунт на ютубе, гуглопочта, гугл-диск, гугл-документы и другие.
А бан в Гугле пожизненный «по паспорту». Это особенно пугает, учитывая, как сильно растёт этот гигант Алфавит (головная компания Гугла).
Бан может быть и не таким жёстким, бывают случаи временной блокировки всех приложений. Чёткой зависимости не выявлено — скорее всего зависит от размеров аккаунта, самых крупных могут поберечь.
Google не прощает ошибок: противостояние с Google Play [6] — история с гейм овером.
Есть апелляция, но на неё Вам будут отвечать шаблонными ответами без вникания в суть проблемы. Есть веские поводы считать, что почти всегда это будут ответы ИИ. И единственной возможностью вернуться тогда становится шумиха в соц.сетях или связи с влиятельными журналистами. В абсолютном большинстве случаев у мелких и средних разработчиков вернуться не удаётся.
Вот типичный алгоритм для тех кому повезло [1]:
Ситуацию еще портят раздутые привилегии крупных правообладателей. У них есть возможность забанить любое приложение за любую маломальскую связь с их брендами. Имеются случаи откровенных злоупотреблений. Ситуация с подобным произволом идентична ситуации в Ютубе.
Google и Apple против инди-разработчиков, правообладатели умудрились увидеть достаточное совпадение на их шерифа Вуди в стереотипном ковбое [7].
Профессор Вильям Фишер опубликовал видео-лекцию «The Subject Matter of Copyright: Music.» на Ютубе [8]. В лекции были процитированы отрывки из музыкальных клипов (то есть fair use), однако Sony удалила это видео за нарушения. Благодаря скандалу это видео вернули, но у огромного числа других авторов такой финт ушами не выходит. Были случаи наказания за собственные исполнения классических произведений — это когда рассылаются запреты в автоматическом режиме, а за ошибки эти крупные компании никак не отвечают.
Как заблокировали мое приложение в Google Play — не те формулировки при использовании слов-товарных знаков Гугла [9]
Google решил сделать из Google Maps новый миллиардный бизнес, подняв цены в 14 раз и уменьшив лимит бесплатного использования почти в 30 раз, всё с минимальным периодом уведомления [10].
Кстати, я до сих пор встречаю сайты городских больниц, в которых висят поломанные внедрённые гугл-карты. Но для рядовых пользователей гугл-карты остаются прекрасным сервисом (погулять панорамно по улочкам Парижа и глухих деревнях по всему миру).
Как итог: Гугл чаще всего является весьма полезной компанией для потребителей и очень рискованной для партнёров-разработчиков, особенно некрупных. Как вы могли заметить, в статьях были перечислены и случаи очевидных нарушений разработчиков, но наказание в виде пожизненного бана выглядит безумно суровым. Гугл уже давно отказался от своего «Don’t be evil» (в том числе и официально).
Как это ни странно, с учётом написанного, мне Гугл все равно нравится и его сервисами я пользуюсь. Наверное, я как та мышь, которая плакала, кололась, но продолжала жрать кактус.
Правила Google Play (раздел «Запрещенный контент») [11]
Google Play используют люди со всего мира. Прежде чем опубликовать приложение, убедитесь, что оно соответствует требованиям нашего сервиса и законам страны, в которой вы его распространяете.
Нарушение прав ребенка
Категорически запрещается публиковать приложения, в которых несовершеннолетние изображены в сексуальном контексте, а также приложения, предназначенные для детей, но содержащие материалы для взрослых.
Если мы обнаружим такие приложения, то немедленно уберем их из Google Play, сообщим о них в правоохранительные органы и удалим аккаунты всех пользователей, участвовавших в распространении этого контента.
Неприемлемый контент
Мы стремимся к тому, чтобы в Google Play было безопасно и комфортно всем пользователям. Ниже перечислены виды контента, который считается неподобающим и может причинить людям вред.
Материалы сексуального характера
Вот примеры наиболее распространенных нарушений:
Дискриминационные высказывания
Насилие
Вот примеры наиболее распространенных нарушений:
Материалы террористического характера
Мы не позволяем террористическим организациям публиковать приложения в Google Play ни для каких целей, в том числе для вербовки.
Также нельзя размещать контент, связанный с терроризмом, например пропагандирующий террористическую деятельность, призывающий к насилию и прославляющий теракты. Если такой контент содержится в ваших образовательных, документальных, научных или художественных материалах, сопроводите его необходимыми пояснениями, чтобы пользователи понимали его цель.
Трагические события
Запрещается публиковать приложения, спекулирующие на трагических событиях (природных катаклизмах, случаях проявления жестокости, конфликтах, смерти и т. д.) или выражающие крайнее пренебрежение ими.
Вот примеры наиболее распространенных нарушений:
Издевательства и угрозы
Запрещено публиковать приложения, содержащие угрозы, издевательства и домогательства, а также способствующие совершению таких действий.
Вот примеры наиболее распространенных нарушений:
Опасные товары
Заключение
Конечно, существуют и положительные стороны от подобной линии поведения. В общее пользование попадает гораздо меньше мусора, чем могло бы, если бы контроля вообще не было бы. Однако драконовская политика с вечным пожизненным баном, уже традиционными двойными стандартами и сложностью работы со службами поддержки в критических ситуациях навевает грусть.
В Instagram добавили фильтры нежелательного контента
Вслед за возможностью отключать комментарии или ограничивать общение с нежелательными собеседниками социальная сеть Instagram добавила возможность фильтрации материалов неоднозначного характера, вполне подходящих одним, но неприемлемых для других.
«Сегодня мы делаем очередной шаг, запуская то, что называем контролем деликатного контента, это позволяет вам решить, как много потенциально неприемлемого контента будет демонстрироваться в разделе рекомендаций», — заявили представители социальной сети в своём блоге.
По данным компании, хотя Instagram давно блокирует контент, разжигающий ненависть или посты, инициирующие и поддерживающие кибертравлю, до сих пор остаются «серые» зоны — некоторые материалы могут показаться вполне допустимыми одним пользователям и неприемлемыми для других.
Для тех, кто не желает видеть посты с сексуальным подтекстом или сцены насилия, появилась возможность нескольких ступеней фильтрации таких материалов. Для выбора соответствующих опций необходимо зайти в меню «Настройки», перейти в раздел «Аккаунт» и перейти к «Фильтру потенциально неприемлемого контента» — от «Разрешить» до «Ограничить» и «Ограничить больше контента». Стоит отметить, что опцию «Разрешить» могут выбрать только те, кому уже исполнилось 18 лет.
Как сообщает Instagram, «если вы разрешили показ потенциально неприемлемого контента, то можете видеть в разделе «Интересное» больше фото и видео, которые могут быть вам неприятны». Больше информации можно найти в Справочном центре компании.
Что такое Даркнет. Объясняем простыми словами
Даркнет (англ. darknet — «теневая Сеть») — сегмент интернета, который не индексируется поисковиками и доступен только через специализированные браузеры.
Основные ресурсы в Даркнете — это всевозможные магазины, форумы с нелегальной информацией и другие сайты, к которым могли бы возникнуть претензии в обычном интернете. В теневом сегменте Сети продают базы данных, берут заказы на взлом аккаунтов и проведение кибератак, торгуют наркотиками и нелегальной порнографией.
Расцвета этот чёрный рынок достиг благодаря использованию биткоина и других криптовалют, отследить транзакции по которым довольно сложно.
Помимо нелегальной торговли, Даркнет даёт возможность безопасно общаться жителям стран, в которых существует политическое преследование и нет свободы слова. В серой зоне интернета есть версии и вполне привычных сайтов, например, Facebook, The New York Times или BuzzFeed.
Пример употребления на «Секрете»
«Если мы объективно столкнулись с тем, что человек вышел с рабочего компьютера в Даркнет или смотрит неприемлемый контент, это повод для индивидуального разбирательства».
Ошибки в употреблении
Нюансы
Даркнет изначально создавался скрытым и анонимным, чтобы никто не смог установить в нём цензуру или ограничить деятельность участников.
Однако анонимность достигается не всегда. Причём правоохранительные органы пытаются деанонимизировать не отдельных пользователей, а целые серверы, на которых те общаются. В январе 2021 года в Германии объявили о ликвидации крупнейшей в мире торговой площадки в Даркнете DarkMarket, на которой были зарегистрированы свыше 500 000 человек. Там продавали и покупали краденые кредитки, фальшивые деньги и сим-карты. Власти конфисковали более 20 000 серверов в Молдавии и на Украине.
Помимо видимого интернета (все обычные сайты) и Даркнета, во Всемирной сети выделяют также глубинный интернет. Он, как и Даркнет, скрыт от поисковиков, но не требует для доступа специального браузера. Это закрытые базы данных, внутренние сайты для сотрудников (интранет), значительная часть платного контента. Чтобы попасть на эти ресурсы, необходимы логин, пароль и действующее разрешение или подписка.
В Instagram появилась защита от просмотра «потенциально неприемлемых материалов» Статьи редакции
В Instagram запустилась функция, защищающая от просмотра «потенциально неприемлемых материалов». Фотографии или видео, на которые пожаловались пользователи, закрываются специальным экраном. Об этом TJ рассказали представители компании.
Для того, чтобы посмотреть скрытое изображение, необходимо нажать на надпись «Смотреть фото».
Как пояснил представитель Instagram, подобными экранами помечается контент, не нарушающий правила сервиса, но на который пожаловались пользователи.
Например, многие защитники животных жалуются на жестокое обращение некоторых пользователей со своими питомцами. Если фотография или видео не нарушают правила сервиса, мы не можем её удалить. Теперь подобный контент будет закрываться специальным экраном.
В профиле пользователя такие снимки будут также закрываться пометкой с перечёркнутым глазом и размытым фоном.
Для российских пользователей стала доступна страница «Instagram Together», на которой собрана информация, рассказывающая о безопасном использовании сервиса. Там можно прочитать о том, как бороться с фейками, почему ту или иную фотографию могут удалить и какой контент разрешается публиковать. Также для защиты своего профиля теперь можно установить двухфакторную аутентификацию, которая появилась в настройках.
10 марта западные пользователи Твиттера обратили внимание на предупреждения о «потенциально деликатном контенте», которые появились в нескольких профилях. Представители компании сообщили, что тестировали функцию, чтобы сделать соцсеть менее враждебной.
Нежелательный контент
В современном мире интернетом пользуются люди разных возрастов. Едва ли не каждый, будь то ребенок или пожилой человек, имеет страницу в социальной сети, пользуется поисковыми системами для получения ответов на вопросы, смотрит видео, читает книги или слушает музыку. В связи с этим вероятность того, что пользователь встретит в сети нежелательный контент, очень велика, и от вида такого контента будут зависеть размер и тяжесть полученного ущерба.
Классификация нежелательного контента
Нежелательный контент можно разделить на несколько основных типов.
Вредоносные программы различаются методами проникновения, принципами работы и решаемыми задачами. Традиционная классификация включает три их разновидности: классические вирусы, черви и «троянские кони». Классический вирус встраивается в существующие программы или документы («заражает» их) и в дальнейшем выполняется при каждом запуске инфицированного файла. Черви распространяются по компьютерным сетям — как правило, посредством уязвимостей в прошивках оборудования, операционных системах и прикладных программах. Под «трояном» обычно понимают вредоносный код, который маскируется под легитимное полезное приложение. Стоит дополнительно отметить инструменты, скрывающие свое присутствие не только от пользователя, но и от защитного программного обеспечения (руткиты), а также средства удаленного администрирования (RAT, бэкдоры), которые позволяют злоумышленнику не только управлять любым приложением на ПК, но и производить запись видео / аудио с имеющейся камеры / микрофона, загружать и сохранять файлы, сохранять последовательности нажатия клавиш.
Спам — это письма, которые приходят на электронную почту от неизвестных людей и компаний. Такие сообщения обычно имеют завлекающую тему и содержат какую-либо рекламную информацию, призывающую что-то купить или выиграть. Выполняя действия, описанные в письме, можно не только потерять деньги: просмотр прикрепленных к письму документов и изображений является одним из способов загрузить на свой компьютер вредоносную программу, что может привести к потере личной информации.
К потенциально опасным объектам можно отнести программы, которые содержат рекламу (adware), а также шпионские приложения (spyware), скрытно устанавливаемые на устройство без согласия пользователя с целью сбора информации, изменения каких-либо настроек и т.д. Кроме того, разработчики средств безопасности иногда включают в эту группу легитимные программные комплексы, которые можно использовать во вред (например, утилиты для удаленного управления компьютером партнера, применяемые в рамках оказания технической поддержки, могут превратиться в инструмент злоумышленника, аналогичный бэкдору).
В целом каждый сам решает, какая информация для него является нежелательной, что загружать на свой ПК и какие сайты посещать, при этом в некоторых случаях осознанно идя на риск. Однако существуют сетевые ресурсы, содержащие информацию, распространение которой запрещено в Российской Федерации на законодательном уровне. Такие сайты образуют особую категорию нежелательного контента. Кроме того, в особую группу можно выделить веб-страницы с информацией, не соответствующей возрасту пользователя (т.е. неподходящие для определенных возрастных категорий), и ресурсы, блокируемые на рабочих местах с целью уменьшения времени, которое тратится сотрудниками организации на развлечения.
Объект воздействия
Угрозе заражения подвержены все устройства, имеющие подключение к интернету. С нежелательным контентом сталкиваются все: домашние и корпоративные пользователи, владельцы смартфонов и персональных компьютеров. Никто не защищен от вредоносных программ на 100%, но неопытные пользователи более уязвимы. Если человек знает о киберкриминальных инструментах и о том, как они могут попасть в компьютер, то злоумышленнику придется приложить много усилий, чтобы добраться до жертвы. Если же пользователь слабо просвещен в таких вопросах, то он становится легкой добычей для атакующего.
В частности, тот, кто имеет опыт работы с различными приложениями, не будет скачивать на свой ПК сомнительные файлы или посещать сайты такого же характера. Это и отличает опытного пользователя от неопытного, последний будет не раздумывая переходить по ссылкам и загружать оттуда любое содержимое.
То же касается и спам-рассылок: опытный пользователь знает, к чему приводят подобные сообщения, и не будет открывать прикрепленные документы, заполнять какие-то анкеты, переводить куда-то деньги и т.д. Однако наивные или падкие на легкую наживу люди, увидев громкий заголовок или яркую картинку, без сомнений перейдут по ссылке.
Источник угрозы
Основным генератором нежелательного контента является киберкриминальный бизнес. Киберпреступники зарабатывают деньги на вредоносных программах и результатах их работы, а также на злонамеренных или рекламных рассылках.
Анализ риска
От вредоносных и потенциально нежелательных программ помогают защититься комплексные антивирусные средства (для дома — класс Internet Security, для компаний — Endpoint Protection). Существуют и узкоспециализированные решения. Такое программное обеспечение обычно работает на основе сигнатурных баз, которые постоянно обновляются, что позволяет обнаруживать новые виды угроз. Необходимо помнить, что само по себе наличие антивирусной защиты не сможет предотвратить заражение компьютерной системы, если пользователь не будет соблюдать правила безопасности. Для этого нужны знания об основных механизмах работы вредоносных программ.
В некоторых продуктах для личной и корпоративной безопасности доступна т.н. «песочница» — средство запуска приложений в изолированной среде, откуда невозможно нанести вред операционной системе и данным. Такой модуль полезен для борьбы с неизвестными угрозами. Кроме того, в нем можно провести пробную установку нового программного обеспечения, чтобы проверить, не инсталлирует ли оно вместе с собой рекламные компоненты и иную лишнюю нагрузку.
Для защиты от спам-рассылок используют антиспам-фильтрацию и черные списки. Эти способы доступны и позволяют если не полностью обезопасить себя от спама, то по крайней мере значительно уменьшить его объемы. Фильтрация применяется также и для того, чтобы предотвратить посещение нежелательных веб-ресурсов. Как правило, подобные компоненты тоже входят в состав комплексных антивирусных решений.