Facebook рассказала, как борется с террористическим контентом"
В июне прошлого года Facebook начала использовать искусственный интеллект для поиска террористического контента. В ноябре компания заявила, что с помощью ИИ удалила почти весь контент, связанный с ИГИЛ и Аль-Каидой (деятельность группировок запрещена в России) ещё до обнаружения его пользователями. Теперь Facebook раскрыла новые подробности борьбы с проявлениями терроризма в социальной сети.
В понимании Facebook террористы — «любая неправительственная организация, которая производит преднамеренные акты насилия в отношении лиц или имущества для запугивания гражданского населения, правительства или международных организаций с целью достижения политической, религиозной или идеологической цели». Компания отметила, что в борьбе с террористическим контентом важную роль сыграли не только компьютерные алгоритмы, но и специализированная команда, которая с июня выросла со 150 до 200 человек.
В первом квартале 2018 года компания предприняла меры по отношению к 1,9 млн элементов террористических материалов, что в два раза больше, чем в последнем квартале прошлого года. 99 % этого контента было обнаружено без вмешательства пользователей.
Новый контент Facebook обнаруживала в среднем менее чем за минуту. Но компания с помощью специальных средств ищет и старое содержимое. В первом квартале этого года таким образом было удалено 600 тысяч элементов контента.
«Мы не думаем, что работа закончена и что того, чего мы достигли, достаточно, — заявила компания. — Террористические группировки всегда пытаются обойти наши системы, поэтому мы должны постоянно совершенствоваться. Исследователи и наши собственные сотрудники постоянно находят материалы, которые наши технологии упускают. Но мы учимся на каждой ошибке, экспериментируем с новыми методами обнаружения и стараемся охватывать как можно больше террористических группировок».
