Любой может подвергнуться преследованиям в Интернете, но это неизбежно для активистов и журналистов, освещающих спорные темы и бросающих вызов властям своей страны, особенно если они женщины. Подразделение Google Jigsaw выпустило открытый исходный код для веб-приложения под названием Harassment Manager, которое может помочь им просматривать, сортировать и экспортировать токсичные комментарии, которые они получают в социальных сетях. Разработчики могут использовать код для создания собственной версии инструмента, но у Jigsaw есть партнеры по внедрению, в том числе Thomson Reuters Foundation, которая в июне развертывает функциональное веб-приложение для своих журналистов.
В своем нынешнем виде Harassment Manager работает в Twitter, который объединился для проекта с Jigsaw. Он использует Perspective API устройства для обнаружения комментариев, которые, скорее всего, будут вредными, и позволяет пользователям легко документировать и скрывать эти ответы, а также отключать или блокировать учетные записи, которые их беспокоят. Jigsaw обучает Perspective обнаруживать домогательства в Интернете как минимум с 2017 года, отправляя ему комментарии, которые рецензенты определили как токсичные.
Как сообщает The Verge , Perspective дает Harassment Manager возможность проверять сообщения, которые получает пользователь, и сортировать их по высокому, возможному и неизвестному уровням вредоносности. Затем пользователь может обрабатывать их пакетами, а не по одному, и он может стирать токсичные сообщения, если не хочет их читать.
Согласно исследованию Jigsaw, 70 процентов женщин-журналистов получают угрозы в Интернете, и в результате более 40 процентов из них перестали публиковать свои статьи. Подразделение надеется, что код может дать разработчикам то, что им нужно для создания инструмента для защиты людей, которые «имеют дело с непропорционально высокой токсичностью в Интернете», особенно «женщин-журналистов, активистов, политиков и других общественных деятелей». Jigsaw говорит, что открытый исходный код инструмента — это всего лишь шаг к тому, чтобы помочь людям, которые постоянно сталкиваются с домогательствами в Интернете. Он продолжит работу с НПО в области журналистики и прав человека, чтобы выяснить, как технология Harassment Manager может помочь обеспечить безопасность их сообществ.