Новости NBC имеет обнаруженный что алгоритмы рекомендаций Pinterest облегчают педофилам создание досок, заполненных изображениями несовершеннолетних девочек. После первоначального поиска Pinterest начнет предлагать похожие поисковые запросы, которыми можно легко злоупотребить. Сами изображения иногда получают сексуальные комментарии.
NBC отмечает, что в ходе расследования не было обнаружено материалов о сексуальном насилии над детьми (CSAM). Тем не менее, у людей, создающих жуткие доски, иногда были коллекции, содержащие порно, несмотря на запрет Pinterest на этот контент. У социальной сети также не было прямых способов сообщить о попытках сексуализировать контент с участием несовершеннолетних. Хотя политика Pinterest запрещает такую практику, пользователям приходилось полагаться на неподходящие категории сообщений (такие как «обнаженное тело или порнография»), и у них не было возможности жаловаться на целые доски.
Pinterest сообщает Fanoftech, что относится к этому контенту «очень серьезно» и предпринимает ряд действий, которые могут помочь. На следующей неделе он начнет развертывать опцию отчетности на доске и вскоре предложит расширенные инструменты отчетности профиля, которые включают второстепенный контент. В ответ на NBCпресс-секретарь Кристал Эспиноса говорит, что компания также планирует усилить модерацию ИИ (она также использует модераторов-людей), чтобы автоматически ловить некоторых нарушителей, и добавит новые системы проверки возраста.
Разоблачения важны отчасти из-за агрессивной позиции Pinterest в отношении модерации по сравнению с другими платформами — это одна из немногих, которая прямо запрещает дезинформацию. В то же время результаты подчеркивают недостатки в инструментах отчетности и механизме рекомендаций компании. У Facebook, Instagram и TikTok есть способы напрямую сообщать о контенте, связанном с детьми.
Есть и политическое давление, чтобы действовать. Президент Байден недавно призвал Конгресс и технологических гигантов повысить безопасность детей в Интернете. Между тем Судебный комитет Сената провел слушание, повторяющее эти призывы. Pinterest не подвергается непосредственной опасности репрессивных мер со стороны регулирующих органов (создание этих коллекций разрешено законом), но также не гарантируется отсутствие проверки.
Нажмите здесь, чтобы узнать больше новостей