Как Instagram продвигает подросткам контент, посвященный анорексии

Когда молодая женщина подписывалась на учетную запись «thinspiration» в Instagram и использовала термины, связанные с расстройством пищевого поведения, система рекомендаций Instagram быстро предложила ей подписаться на другие учетные записи «thinstagram», которые часто показывали изображения Вскоре женщина получила незапрошенные прямые сообщения от «тренера» по снижению веса, приглашение присоединиться к групповому чату «про анорексию» («про-ана») и просьбы от других пользователей, которые ищут «друзей» для призывать их к ответственности за опасные цели по снижению веса. К счастью, в данном случае молодая женщина была ненастоящей. Ее аккаунт был создан двумя группами по наблюдению за технологиями, Reset Tech и Tech Transparency Project (TTP), чтобы показать, насколько легко пользователям, в том числе подросткам, столкнуться с контентом, поощряющим беспорядочное питание и членовредительство, с помощью рекомендаций Instagram, поиск , хэштеги и функции обмена сообщениями. Согласно отчету, опубликованному в среду, тестовая учетная запись для 29-летней женщины создала шесть «вдохновляющих» постов и подписалась на единственного влиятельного лица, Юджению Куни, популярную в кругах сторонников ана в Интернете. . (У Куни более 700 000 подписчиков в Instagram, более 850000 подписчиков на TikTok и более 2 миллионов подписчиков на YouTube. Она проверена на всех трех платформах.) Представитель Instagram подтвердил, что учетная запись Куни не нарушает политику компании и является рекомендуется всем пользователям. Представитель добавил, что учетная запись «часто используется, чтобы делиться историями выздоровления». Куни не ответил на запрос о комментарии. Reset и TTP также создали второй тестовый аккаунт, представляющий гипотетическую 14-летнюю девушку. Аккаунт следовал за 100 аккаунтами pro-ana, включая пользователей, за которыми следовала тестовая учетная запись для взрослых, а также пользователей, рекомендованных Instagram. Также было сделано шесть «тонких» постов. После этих действий аккаунт получил рекомендации про-ана во вкладке Instagram Instagram, в том числе несколько фотографий истощенных женщин в нижнем белье. Отчет Reset и TTP был выпущен всего за несколько часов до того, как генеральный директор Instagram Адам Моссери должен был дать показания перед Комитет Сената о влиянии приложения на молодых пользователей. Он был выпущен через несколько часов после того, как Instagram объявил об изменениях в контенте, который можно рекомендовать подросткам в приложении, и анонсировал родительский контроль, который он планирует запустить в следующем году. Это следует за сенсационным отчетом Wall Street Journal и свидетельством разоблачителя Фрэнсис Хоген о том, как компания-учредитель Instagram Meta (урожденная Facebook) проигнорировала внутренние исследования об опасном влиянии платформы на психическое здоровье подростков. Но доклад также появился в тот момент, когда распространенность расстройства пищевого поведения среди подростков резко возросла. Доктор Джейсон Нагата, профессор педиатрии Калифорнийского университета в Сан-Франциско, который занимается лечением подростков, госпитализированных с расстройствами пищевого поведения, сказал BuzzFeed News, что в его клинике во время пандемии число подростков, нуждающихся в стационарной помощи, увеличилось более чем вдвое. Доктор Трейси Ричмонд, директор программы по лечению расстройств пищевого поведения в Бостонской детской больнице и профессор педиатрии в Гарварде, сказала, что в ее клинике наблюдается аналогичное увеличение. пользователи-подростки. Но в новом отчете также показано, как платформа способствовала созданию саморазрушающих онлайн-сообществ — и как она не смогла защитить уязвимых членов этих сообществ. Люди с расстройствами пищевого поведения часто сопротивляются усилиям членов семьи, врачей и других групп по уходу. чтобы побудить их к выздоровлению и поделиться стратегиями и «хитростями», чтобы облегчить это сопротивление. Нагата описал случаи, когда госпитализированные подростки использовали функции геолокации на своих телефонах для поиска пациентов в соседних палатах и ​​палатах, с которыми они могли бы обменяться советами о том, как спрятать еду и обмануть персонал больницы. С. Брин Остин, директор Стратегической учебной инициативы по профилактике расстройств пищевого поведения Гарвардской школы общественного здравоохранения, назвал уклонение от оказания медицинской помощи «признаком расстройства пищевого поведения». По ее словам, сегодня «дети учатся всему этому онлайн», — сказала она. Остин согласился: Instagram и другие социальные сети позволили уязвимым пользователям получить доступ к саморазрушающим советам и методам в масштабах, превосходящих то, что исследователи видели раньше. Тем не менее, непонятно, почему платформа сделала так мало, чтобы их остановить. Исследователи Reset / TTP обнаружили, что про-ана-пользователи часто готовят «резервные» учетные записи, ожидая, что их основные учетные записи будут отключены, и что они собираются вокруг закодированных, неправильно написанных или альтернативно написанных хэштегов, чтобы избежать обнаружения системами модерации контента. Но все это не ново. Вредоносные группы, в том числе QAnon, мальчики-бугалу, активисты-противники вакцинации и различные ополченцы, годами использовали резервные учетные записи и неправильно написанные хэштеги в Instagram и его родном Facebook, что дало платформам большой опыт в обнаружении их тактик и применении против них. Reset / TTP Однако исследователи также обнаружили, что пользователи, уязвимые для сообщений pro-ana, часто становятся жертвами прямых сообщений, и оттуда иногда настоятельно рекомендуется перейти с Instagram на зашифрованные чат-приложения, такие как Kik и Telegram. И правила Instagram в отношении DM заметно отличаются от их правил о том, что можно сказать в сообщении или комментарии. «Поскольку DM предназначены для частных бесед, — говорится в сообщении Instagram в блоге компании от февраля 2021 года, — мы не используем технологии. для упреждающего обнаружения такого содержания, как разжигание ненависти или издевательства, так же, как мы это делаем в других местах ». Это создает мощную лазейку для применения политик в DM: контент должен сообщаться пользователем. Соответственно, пользователи, которые поддерживают нарушения друг друга правил платформы (например, в групповых чатах белых националистов или групп людей с анорексией, которые хотят помочь друг другу похудеть), могут бесплатно получать контент DM, который нарушает принципы сообщества Instagram, без каких-либо последствий. Представитель Instagram подтвердил, что компания до сих пор не сканирует прямые сообщения на предмет контента, который нарушает стандарты ее сообщества, даже в сообщениях, отправленных детям, объяснив: «Мы хотим уважать конфиденциальность людей в прямых переписках». Аналогичная проблема присутствует в подходе Instagram к ограничения поиска. Когда пользователи ищут определенные про-ана термины в Instagram, они получают сообщение, предлагающее ресурсы для пользователей, которые борются с проблемами изображения тела. Специалисты по расстройствам пищевого поведения, которые разговаривали с BuzzFeed News, поспешили похвалить эту инициативу «перенаправления», но пользователи, которым не нужны эти ресурсы, могут свободно отклонить сообщение и просмотреть контент, который они искали в первую очередь. Таким образом, хотя сообщение может быть полезно для обычного пользователя, ищущего, оно, скорее всего, не может помочь пользователям, подвергающимся наибольшему риску членовредительства. Эксперты также согласились с тем, что для работы с про-ана-контентом в Instagram потребуется более комплексный подход, чем сегодня на платформе. . Нагата и Ричмонд подчеркнули, что кумулятивное воздействие «тинспо», даже менее экстремальных разновидностей, играет важную роль в траекториях пациентов. Лорен Мюльхейм, частнопрактикующий специалист по расстройствам пищевого поведения из Лос-Анджелеса, пошла дальше, заявив, что для защиты пользователей от расстройств пищевого поведения платформы также должны более решительно нацеливаться на «крайние издевательства над крупными людьми на этих платформах». Исследователи из Reset и TTP обнаружили случаи запугивания крупных пользователей под хэштегом #reversethinspo. Ричмонд, однако, быстро заметил серебряную подкладку: более чем когда-либо, по ее словам, «сейчас в социальных сетях отмечается праздник здоровья любого размера и телесного благополучия». Тем не менее, «регулирующие органы должны принять меры», — сказала она. сказала: «и платформы должны брать на себя ответственность — защищать молодых людей, по крайней мере, если не всех». Эмили Бейкер-Уайт ранее занимала политические должности в Facebook и Spotify.