Blogs News

news-details

Ее назвали n-word и дали инструкции разрезать ее запястья. Что сделал Facebook? - CNN

(CNN) Вы можете назвать кого-то n-словом и дать ей графические инструкции о том, как убить себя, и вы не будете выгнаны с Facebook. Или вы можете сказать матери, что вы надеетесь, что ее сына изнасилуют, и вы не будете получить выгоду от самой популярной в мире платформы социальных сетей. Или вы можете сказать матери, чья 5-летняя дочь умерла, что «если ваши дети продолжают умирать, бог пытается сказать, что вы их не заслуживаете». Вы можете написать этой матери: «F ** k you c * * t. Вы мертвы еще c ** t? Пальцы скрещены. Плевать на c ** ts, как вы. Вы c ** t собака. Die c ** t. Вы кусочек sh * tc ** t собака. Вы Невежественная тупая собака. Умереть с ** т. «Тем не менее, вы можете остаться на Facebook. Таковы результаты шестимесячного расследования CNN по поводу издевательств и преследований, с которыми сталкиваются родители, врачи и другие, кто выступает за вакцинацию на Facebook. Facebook Представитель сказал, что платформа проводит свое собственное расследование в результате выводов CNN. Facebook: Мы не терпим издевательств и преследования должностных лиц Facebook - уже под угрозой роли платформы в выборах 2016 года, среди других вопросов - говорят, что они не понимают не терпит издевательств и преследований. «Мы несем ответственность за безопасность людей в наших услугах - будь то от терроризма, издевательств или других угроз», - говорит руководитель Facebook Марк Цукерберг Например, в ноябре прошлого года. «В соответствии со стандартами сообщества Facebook, издевательства и домогательства происходят во многих местах и ​​принимают разные формы». «Мы не терпим такого рода поведение, потому что оно мешает людям чувствовать себя в безопасности и уважаться в Facebook». Однако расследование CNN ставит эти заявления под сомнение. Наше расследование показало, что Facebook иногда позволяет пользователям оставаться на своей платформе, даже если они неоднократно нарушают стандарты Facebook по издевательствам и преследованиям, и оскорбляют других людей самым ненавистным и жестоким образом. Например, женщина, получившая сообщение, называвшее ее н Слово и веление ей разрезать запястья сообщили об этом в Facebook. Facebook определил, что сообщение нарушало его стандарты сообщества, и что отправитель был повторным нарушителем - но тем не менее отправителю было разрешено оставаться на платформе, пока CNN не начал задавать вопросы. «Это ужасно. Это ошеломляет», - сказал Эндрю Марантц. Автор новой книги «Антисоциальное». «Facebook любит называть себя сообществом, и если они хотят выполнить это обещание, то, как минимум, они должны попытаться защитить людей от подобных вещей». Даже Цукерберг говорит, что его компании нужно делать больше. «Что касается издевательств и преследований, у нас много работы», - сказал генеральный директор Facebook в мае журналистам. «Я был напуган» Аиша Одом, которая получила сообщение с n-словом. , соглашается. Одом, мать троих маленьких детей в Остине, штат Техас, призвала других людей на Facebook сделать прививку, чтобы помочь защитить таких людей, как ее брат, у которого болезнь Крона и которая не может получить определенные прививки. Она думала, что станет привыкли к атакам против vaxxer, но в апреле Одом залогинился в Facebook Messenger и прочитайте сообщение, из-за которого она почувствовала себя физически больной: «Можем ли мы сделать прививку, если [sic] дети станут невежественными, как вы?» пользователь написал ей, излагая n-слово. «Вы необразованный ребенок, вот что вам нужно выучить ... Как правильно нарезать эти запястья. Убейте себя, убейте своих детей, убейте своих родителей, убейте их всех». Затем пользователь дал иллюстрированные инструкции о том, как Odom должен разрезать ее запястья. "Я не знал, была ли это угроза. Я был напуган", сказал Одом. «Я позвонил своему мужу и послал ему скриншот, и он тоже испугался». Одом немедленно сообщил об этом в Facebook. Facebook определила, что сообщение не только нарушало стандарты Facebook, но и ранее пользователь нарушал стандарты Facebook, по словам представителя Facebook. Наказание пользователя: в течение 30 дней ей не разрешали отправлять сообщения в Messenger, согласно Facebook пресс-секретарь. В противном случае ей было разрешено продолжать участвовать и публиковать сообщения в Facebook, как обычно. Одом сказала, что она «ошеломлена» тем, что Facebook не сделал больше. «Призвать кого-то к ужасной расовой грязи и сказать, что он убивает себя, вполне нормально с Facebook». Одом сообщил CNN. В августе, через четыре месяца после того, как Одом сообщил об этом сообщении, CNN отправил его в Facebook и спросил, почему пользователь не был удален с платформы. В сентябре Facebook удалил учетную запись пользователя. «Мы провели дальнейшую проверку учетной записи и определили, что учетную запись следует предпринять», - заявил представитель CNN в ответ. Представитель не объяснил, почему Facebook не удалил пользователя самостоятельно. Пресс-секретарь, который говорил на условиях анонимности, отказался предоставить руководителю Facebook доступ к интервью для этой истории. Расследование CNN Наше расследование началось в марте с рассказа о том, что против фаворитов против вакцин атакуют в Facebook. После того, как эта история была опубликована, представитель Facebook попросил CNN отправить контент, который мы собрали во время репортажа о нашей истории. С разрешения получателей, CNN отправил представителю 65 материалов, которые, по словам защитников вакцин, они считают оскорбительными, включая посты и комментарии, и прямые сообщения. Представитель направил комментарии группе разработчиков стандартов Facebook, которая обнаружила, что 39 из этих материалов, размещенных 31 отдельным пользователем, нарушили стандарты сообщества, большинство из которых касалось домогательств. Facebook удалил только одного из пользователей - - тот, кто написал сообщение Одому. Другие пользователи остаются на платформе, даже несмотря на то, что они нарушили стандарты Facebook. С разрешения получателей CNN отправила 39 материалов для специалистов по этике, юристов и экспертов по социальным сетям. «Кто бы ни отправлял эти сообщения, они должны быть вне социальных сетей навсегда. Все они », - сказал Артур Каплан, глава Отдела медицинской этики Медицинского факультета« Нью-Йоркского университета ». «Разве Facebook не может сделать больше, чтобы контролировать это? Они должны». «Это абсолютно ужасно», - сказала Мэри Энн Фрэнкс, профессор юридического факультета Университета Майами, специализирующаяся на социальных сетях. «Facebook может сделать намного лучше», - написал автор книги Маранц, вспомнив известное высказывание Цукерберга: «Facebook - одна из самых прибыльных компаний в мире. Они могут двигаться быстро и ломать вещи. Почему они не могут двигаться быстро и ремонтировать вещи? он сказал. «Если они не пересекают границу вежливости, что делает?» Когда CNN спросили, почему Facebook удалил с платформы только одного из 31 пользователя, представитель дал два ответа. Во-первых, представитель сказал, что Facebook не может идентифицировать пользователей, поскольку по большей части CNN отправляет скриншоты комментариев, а не ссылки на них. Представитель не объяснил, как Facebook удалось идентифицировать человека, который отправил сообщение Одому, но ни один из других пользователей. Представитель также не объяснил, почему они не смогли идентифицировать пользователей, однако CNN смог идентифицировать большинство из них, используя информацию из скриншотов, такую ​​как имена, фотографии профиля, место работы и школы посещали. Во-вторых, представитель отметил, что Facebook, как правило, не удаляет кого-либо из-за одного нарушения правил запугивания и преследования. Вместо этого требуется несколько нарушений или «забастовок». «Мы не хотим, чтобы люди играли в систему, поэтому мы не разделяем определенное количество забастовок, которые приводят к временному блокированию или постоянной приостановке», - говорится в отчете Facebook. «Обеспечение соблюдения стандартов сообщества». «Последствия забастовки различаются в зависимости от серьезности нарушения и истории человека в Facebook». Помимо пользователя, отправившего сообщение в Odom, расследование CNN обнаружило, по крайней мере, двух пользователей, которые ранее заявляли, что нарушили стандарты Facebook, и все же было разрешено оставаться на Facebook. Один пользователь сказал CNN, что он был в «тюрьме Facebook» семь раз, а другой сказал, что она была так же часто наказана на Facebook «довольно часто». Когда CNN указал, что эти два пользователя все еще были на Facebook, несмотря на то, что было несколько ударов, представитель ответил, что Facebook начнет «более тщательное расследование» в отношении пользователей, которые написали нарушающий контент. Специалисты по сомнению, почему Facebook не удалил пользователей, которые сделали некоторые из самых грубых оскорблений комментарии - особенно те, которые поощряли насилие. «Некоторые из них заслуживают немедленного запрета», - сказал Тимоти Колфилд, профессор права и политики в области здравоохранения в Университете Альберты в Канаде. «Если они не пересекают какую-то черту вежливости, что делает?» Колфилд и Каплан, специалист по этике из Нью-Йоркского университета, заявили, что для Facebook особенно важно жестко относиться к злоупотреблениям со стороны анти-ваксеров, поскольку они могут запугивать пользователей, которые публикуют факты о вакцины. Они указали на вспышку кори в этом году - крупнейшую за 27 лет с более чем 1200 случаев, согласно данным Центров по профилактике заболеваний США. Эксперты говорят, что корь процветала в значительной степени из-за дезинформации о вакцинах в социальных сетях, в частности, в Facebook. «Пространство вакцин чрезвычайно чувствительно в том, что очень уязвимая жизнь - новорожденные, больные раком, люди с иммунными заболеваниями - находятся на волоске». , "Каплан написал в электронном письме к CNN. «У Facebook не должно быть терпимости или места для фанатиков и фанатов анти-vaxx.»? Их необходимо отслеживать или, если сообщать, проверять, а затем блокировать и запрещать немедленно .?? Государственное здравоохранение должно отвергать дезинформацию и угрожающее поведение в области вакцины ". В этом году Facebook предпринял шаги, чтобы уменьшить влияние дезинформации против вакцин. В марте платформа объявила, что начнет понижать рейтинг групп и страниц, которые распространяют такую ​​дезинформацию в своих новостях и поиске. В сентябре Facebook объявил, что образовательные всплывающие окна появятся на платформах социальных сетей, когда пользователь ищет контент, связанный с вакцинами, посещает группы и страницы, связанные с вакцинами, или нажимает на хэштег, связанный с вакцинами, в Instagram. Обнаружение издевательств В январе 2018 года Цукерберг поставил перед собой задачу: исправить Facebook. «Мир чувствует себя обеспокоенным и разделенным, и у Facebook много работы, будь то защита нашего сообщества от злоупотреблений и ненависти, защита от вмешательства нации» заявляет, или убедиться, что время, проведенное на Facebook, хорошо проведено », - написал Цукерберг в своем посте на Facebook. «Моя личная задача на 2018 год - сосредоточиться на исправлении этих важных проблем. Мы не будем предотвращать все ошибки или злоупотребления, но в настоящее время мы совершаем слишком много ошибок, применяя наши политики и предотвращая неправильное использование наших инструментов». В серии «Применение стандартов сообщества» В сообщениях Facebook были опубликованы результаты его усилий. Например, за первые три месяца 2019 года платформа социальных сетей изъяла 5,4 миллиона единиц контента, которые нарушали ее стандарты по борьбе с детской наготой и сексуальной эксплуатацией детей. Почти в каждом случае - в 99% случаев - Facebook обнаруживал этот контент сам по себе, не будучи предупрежденным о нем пользователями. Но Facebook был гораздо менее успешным, обнаруживая издевательства и преследования. В первом квартале 2019 года платформа социальных сетей принял меры в отношении 2,6 миллиона единиц контента за нарушение стандартов издевательств и преследований, но пользователи должны были сообщать об этом в 86% случаев; Только в 14% случаев Facebook самостоятельно находил и помечал контент. Проблема в том, что хотя алгоритм относительно легко обнаруживает обнаженное тело, его гораздо сложнее обнаружить, когда кто-то подвергается издевательствам в Интернете, поскольку в нем есть тонкости. в распознавании оскорбительной речи из речи, которая не нарушает руководящих принципов сообщества: «По мере того, как вы впадаете в ненавистнические высказывания и издевательства, языковые нюансы становятся еще сложнее - например, понимание, когда кто-то осуждает расовую неискренность, а не использование его для нападок на других». Цукерберг написал в записке в ноябре прошлого года. По словам Фейсбука, поскольку издевательства трудно обнаружить, они должны полагаться на пользователей, сообщающих о злоупотреблениях. «Когда дело доходит до издевательств и домогательств, контекст действительно имеет значение», - добавил представитель. «Трудно понять разницу между запугивающим комментарием и беззаботным шутом, не зная причастных людей или нюанс ситуации. Поэтому мы в значительной степени полагаемся на сообщения - если вас или ваших знакомых оскорбляют или преследуют, мы рекомендуем вам сообщить об этом. «Недавний отчет Facebook пришел к тому же выводу.« В таких областях, как издевательства и домогательства, где контекст так важен для понимания, если контент нарушает нашу политику, мы ожидаем, что в обозримом будущем наши автоматизированные системы будут не имеют возможности обнаруживать этот контент в масштабе, аналогичном другим нарушениям политики », согласно отчету о прозрачности Facebook. «Во многих случаях нам нужен человек, чтобы сообщить нам об этом поведении, прежде чем мы сможем его идентифицировать или удалить». В прошлом году Гай Розен, вице-президент Facebook по управлению продуктами, заявил, что платформа пытается улучшить. «Мы полны решимости улучшить наше понимание этих типов злоупотреблений, чтобы мы могли лучше выявлять их заранее», - пишет Розен. «В целом, мы знаем, что нам предстоит гораздо больше работы, когда речь идет о предотвращении злоупотреблений в Facebook. Машинное обучение и искусственный интеллект будут и впредь помогать нам выявлять и удалять плохой контент». Полагаться на скорбящих матерей, в то время как Facebook призывает пользователей сообщать о злоупотреблениях Кэтрин Хьюз говорит, что просто не могла. Она была слишком занята, оплакивая смерть своего ребенка. 1-месячный сын Хьюза, Райли, умер от коклюша. Она обратилась в Facebook, чтобы убедить других сделать прививку, чтобы защитить таких детей, как Райли, которые слишком молоды, чтобы делать все снимки. По оценкам Хьюз, после смерти ее сына в 2015 году она и ее муж получили тысячи оскорблений. Facebook сообщения и комментарии. По ее оценкам, около половины из них были от пользователей в Соединенных Штатах. Их называют детскими убийцами. Она была названа шлюхой и хуже. Им сказали убить себя. Они получили угрозы смерти. Комментарии продолжали появляться, даже в день похорон ее сына. «Эти сообщения, в то время как мы были на похоронах Райли, особенно пинали нас в живот. Вы переживаете худший день своей жизни, и они думали, что их убеждения были более важнее, чем базовая человеческая этика », - сказала она. Хьюз отметила, что даже если бы она не оплакивала потерю своего ребенка, она никогда не смогла бы сообщить об огромном объеме сообщений, комментариев и сообщений. Кроме того, по ее словам, многие из них были комментариями к ее собственному профилю, и хотя такие комментарии можно скрыть или удалить, Facebook не позволяет пользователям сообщать о запугивающих или оскорбительных комментариях, сделанных в их собственном профиле или на временной шкале. «Когда дело доходит до культура запугивания, вы не можете просто оставить жертвам - погибшим родителям - сделать работу по устранению этого отвратительного поведения », - сказал Хьюз. «Facebook сделал невероятные вещи. Они очень дальновидны. Почему они не могут придумать технологию, с алгоритмом, чтобы найти решение этой проблемы?» Сереза ​​Маротта соглашается. Ее пятилетний сын Джозеф скончался от гриппа в 2009 году. После того, как он призвал других сделать прививку от гриппа, Маротта подверглась нападению антивирусных препаратов. Они назвали ее непристойными именами, и один пользователь отправил смертельную угрозу. Как и Хьюз, она не сообщала о комментариях и сообщениях: «Я твердо верю, что Facebook должен быть в состоянии выяснить, как контролировать это, и я думаю, что это их ответственность», - сказала Маротта, которая живет в Сиракузах, Нью-Йорк, и является главным операционным директором семьи борьбы с гриппом. «Если они могут придумать алгоритмы для мониторинга детской порнографии, они должны быть в состоянии придумать алгоритм для мониторинга этого типа поведения.» Marantz, автор книги, согласны. "Если эти люди должны быть лучшим компьютером инженеры во всем мире, и они не могут написать программу, которая помечает комментарий, который говорит кому-то убить себя и называет ее n-словом - это кажется мне неправдоподобным », - сказал он. Марантц сказал, поскольку платформа использует перехват данных и алгоритмы для нацеливания рекламы на пользователей, они должны использовать те же инструменты для защиты пользователей, вместо того, чтобы полагаться на то, что пользователи сообщают, когда над ними издеваются ». Требуется много наглости и обвинений жертв, чтобы утверждать, что ответственность должна быть на жертвах », - сказал он. Предлагания для Facebook Когда CNN довел эту критику до сведения Facebook, представитель отправил комментарий по электронной почте.« Мы хотим, чтобы члены нашего сообщества чувствовали себя в безопасности и уважали себя на Facebook и удаляли материалы, которые, по-видимому, целенаправленная цель подстрекать людей с намерением унизить или опозорить их. Мы стараемся предоставить нашим пользователям элементы управления, такие как блокирование других пользователей и модерирование комментариев, чтобы они могли ограничить доступ к нежелательному, оскорбительному или вредному контенту. Мы также призываем людей сообщать о насилии на нашей платформе, чтобы мы могли просматривать контент и принимать надлежащие меры », - сказал представитель. Представитель также указал на заявление Facebook о запугивании и преследовании на странице стандартов сообщества, где упоминается издевательство над платформой. Prevention Hub, ресурс для подростков, родителей и педагогов, которым нужна поддержка по вопросам, связанным с издевательствами и другими конфликтами. Год назад Facebook представил «новые инструменты и программы, чтобы люди могли лучше контролировать нежелательные, оскорбительные или вредные действия на Facebook», включая возможность сообщать о возможном издевательстве или преследовании друга или члена семьи. «Получив сообщение, наша команда по работе с сообществом рассмотрит сообщение, оставит ваш отчет анонимным и определит, нарушает ли он наши? Стандарты сообщества», - Антигона Дэвис, глобальная сеть Facebook. Руководитель службы безопасности, пишет в посте. Facebook просматривает более двух миллионов единиц контента в день, сообщает представитель Facebook. Пресс-секретарь повторил технические проблемы, связанные с обнаружением издевательств, прежде чем об этом сообщают, потому что в издевательствах и безвредных сообщениях может содержаться схожий язык. Колфилд, эксперт по законодательству и политике в области здравоохранения, сказал, что нет никаких сомнений в том, что существуют технические проблемы в отношении полицейских издевательств, особенно если У Facebook такой большой объем контента. «У Facebook наверняка есть проблема с ресурсами и управлением», - сказал он. «Но, учитывая то, где мы находимся сейчас в культурном плане, в эту эпоху неправды и дезинформации исчисление изменилось, и мы должны начать более агрессивно следить за этими платформами. Я думаю, что необходимы более четкие правила и более четкие действия». У трех экспертов есть предложения о том, как Facebook может преодолеть технические проблемы, связанные с обнаружением издевательств. Автор книги Марантц сказал, что более человеческий взгляд на контент может иметь большое значение для решения проблем издевательств ». Завтра, благодаря распоряжению, Марк Цукерберг может сделать Facebook немного менее прибыльным и Это гораздо менее аморально: он мог бы нанять еще тысячи модераторов контента и платить им справедливо », - написал Маранц в недавней статье« Нью-Йорк Таймс ». У Тома Уилера, бывшего председателя Федеральной комиссии по связи, есть идея о том, как может помочь программное обеспечение. Он предлагает правительству заставить Facebook и другие сайты социальных сетей предоставлять результаты своих алгоритмов третьим сторонам. Такая «открытость», как он написал в прошлом году в статье «Нью-Йорк Таймс», будет включать в себя то, что называется программированием открытых приложений. интерфейс. По мнению Даррена Линвилла и Патрика Уоррена (Darren Linvill) и Патрика Уоррена, API позволяют сторонним организациям получать доступ к частям базы данных платформы. Хотя Facebook разрешает доступ к некоторым данным в своих API, он обеспечивает гораздо меньший доступ, чем другие платформы, такие как Twitter и YouTube. Университет Клемсона. Команда Клемсона заявила, что более открытые API Twitter позволили им идентифицировать подозреваемых российских троллей и предупредить Twitter: «Мы с Патриком убили пару десятков российских троллей, потому что Twitter открыт, и мы не можем делать то же самое в Facebook». По словам Линвилла, доцента Клемсонского колледжа поведенческих, социальных и медицинских наук. Исследователи отметили, что, хотя относительно закрытые API-интерфейсы Facebook предоставляют своим пользователям большую конфиденциальность, исследователям становится труднее помогать Facebook в достижении таких целей, как уменьшение запугивания ». Есть последствия для того, что делает Facebook », - сказал Уоррен, доцент Клемсонского колледжа бизнеса. «Существуют негативные последствия для общественного интереса». Уилер, ныне приглашенный сотрудник Института Брукингса и старший научный сотрудник Гарвардской школы Кеннеди, сказал, что если Facebook будет вынужден открыть результаты своих алгоритмов, то посторонние смогут провести собственное исследование по поводу издевательств. на платформе. «Таким образом, вы могли бы разработать свой собственный алгоритм, чтобы сказать:« Я хочу посмотреть использование n-слова », или что бы вы ни хотели посмотреть», - сказал Уилер CNN. не избавиться от издевательств на Facebook, это был бы шаг в правильном направлении. «Мы не можем решить эту проблему с помощью волшебной палочки, но мы не можем начать решать ее, пока не появится прозрачность», - сказал он. Цитрон, юридический ученый и получатель в этом году "гранта гения" Фонда Макартуров за свою работу по борьбе с притеснениями в Интернете, также предложила Фейсбуку. Онлайн-шпионы проникли в группы по борьбе с вакцинами и обнаружили, что члены группы звонят, чтобы атаковать вакцину. защитники, включая матерей, которые оплакивая своих погибших детей. Результатом являются волны преследования, с десятками комментариев или более, которые приходят сразу, по словам жертв. «Я называю эти кибер-мобы. Это смерть от тысячи порезов. Это как тысяча укусов пчел », - сказал Цитрон. Цитрон сказал, что Facebook должен придумать способ сообщать о толпе, а не сообщать о каждом отдельном фрагменте контента.« Facebook должен рассматривать кибермоб как реальное явление », - сказала она. «Должен быть способ, с помощью которого пользователи могут сообщить, что этот шторм происходит, - где они могут сказать:« Посмотрите на мою страницу, спустился кибермоб ». «Цитрон, профессор юридического факультета Бостонского университета, который был бесплатным консультантом Facebook, сказал, что Facebook прошел« большой путь »за последнее десятилетие в вопросах запугивания и преследования». Они не все понимают правильно, но они пытаемся », - сказала она. Но она сказала, что Facebook сталкивается с внутренним конфликтом в сфере самоконтроля.« Они не хотят лишать людей платформ. Они хотят, чтобы их бизнес ", сказала она. Цитрон сказал, что Facebook должен помнить, что он теряет бизнес, если жертвы, подвергающиеся насилию, пугаются с платформы." Это нехорошо, когда людей пугают и преследуют в автономном режиме ", - сказала она. Моратта, адвокат вакцины чей 5-летний сын умер от гриппа, сказала, что ее не напугали из Facebook - но она разговаривала со многими родителями, которые получили жестокие угрозы, и они в ужасе. «Очевидно, у нас есть свобода слова в в этой стране, но когда вы говорите о причинении вреда другому человеку, я не думаю, что это должно быть разрешено, - сказала она. - Facebook оказывает медвежью услугу, позволяя распространять этот тип плохого поведения. Они облегчают это, и они не должны быть. "Джон Бонифилд CNN, Минали Нигам и Кристен Роджерс способствовали этому отчету.