Незавидная работа возложена на плечи команды модераторов, насчитывающей 7500 человек (помимо алгоритмов сайта), которые просматривают множество неприглядных публикаций, начиная с террористических материалов и заканчивая изображениями жестокого обращения с детьми, передает интернет-издание Хроника.инфо со ссылкой на 3dnews.ru.
Неудивительно, что модераторы не всегда верно понимают суть изображения или публикации (частично из-за двусмысленных рекомендаций самой Facebook). Проблеме распространения ненависти и вражды с помощью крупнейшей социальной сети был посвящён недавний материал некоммерческой организации ProPublica.
Её сотрудники отправили в Facebook набор из 49 примеров (выбранных из 900 публикаций добровольцев) с просьбой объяснить решения модераторов. В большинстве этих случаев сообщения, содержавшие сексистские, расистские или антимусульманские высказывания, остались опубликованными; в нескольких же случаях вполне законное выражение эмоций было удалено.
Социальная сеть признала, что её редакторы неверно отреагировали на 22 случая. В шести примерах Facebook сказала, что пользователи запутали модераторов неверно оформленными жалобами или авторы сами удалили сообщения; а в двух случаях не было достаточно информации для реакции. Компания также выступила в защиту решений 19 своих редакторов.
«Мы сожалеем об ошибках, которые допустили, — сказал в заявлении Facebook вице-президент Джастин Ософский (Justin Osofsky). — Мы должны справляться лучше».
Руководитель добавил, что в следующем году социальная сеть расширит свою команду по безопасности и защите до 20 тысяч человек, чтобы лучше поддерживать стандарты сообщества. Он добавил, что Facebook еженедельно удаляет порядка 66 тысяч сообщений, на которые поступают жалобы в распространении ненависти.
Помимо борьбы с дезинформацией, Facebook старается развивать и свои инструменты для удаления чувствительных материалов. Например, в апреле социальная сеть добавила механизм жалоб на «порновозмездие» (Revenge Porn — распространение фото- или видеоматериалов жертвы, запечатлённой во время сексуальной активности или в ином непотребном виде).
Появляются и другие инструменты борьбы с агрессивным поведением собеседников и тому подобными тёмными сторонами общения в социальных сетях. Например, благодаря недавним новшествам должен снизится поток нежелательных сообщений и запросов в друзья.
