На этой неделе Google анонсировала сотрудничество с проектом StopNCII.org, направленное на противодействие распространению интимных фотографий и видео через свой поисковик, которые были размещены без согласия изображённых на них людей. Компания начнёт использовать хеши, предоставленные StopNCII, для обнаружения и удаления подобного контента из выдачи.

Google будет применять хеши — уникальные идентификаторы, созданные алгоритмом, которые позволяют находить и блокировать контент, признанный оскорбительным. По данным источников, проект StopNCII.org использует PDQ-хеши для изображений и MD5-хеши для видео. Под блокировку могут попасть не только интимные материалы, размещённые без разрешения, но и обработанные изображения и дипфейки, созданные с помощью нейросетей.

Ранее Google подвергалась критике за медленное внедрение данной инициативы по сравнению с другими крупными игроками в индустрии. Facebook, Instagram, TikTok и Bumble присоединились к StopNCII ещё в 2022 году, в то время как Microsoft с Bing сделал это только в сентябре 2024 года.

Google уже внедрила инструменты для подачи запросов на удаление оскорбительного контента, но теперь основная нагрузка по поиску и маркировке будет лежать на StopNCII.org и Google. Проект StopNCII был инициирован британской благотворительной организацией South West Grid for Learning.