Алгоритмы Инстаграм заставляют пользователей раздеваться [расследование AlgorithmWatch]

Рубрика: Теория и статистика | Время на чтение: 13 мин.

Эксклюзивное расследование AlgorithmWatch и European Data Journalism Network показало, что алгоритмы Инстаграм отдают предпочтение фотографиям, на которых изображены раздетые мужчины и женщины.

Алгоритмы Инстаграм заставляют пользователей раздеваться [расследование AlgorithmWatch]

Сара (имя изменено) – предприниматель из ниши еды в большом европейском городе. Созданная ею компания помогает женщинам непринуждённо обращаться с пищей и пропагандирует «интуитивное питание».

Как и многие владельцы малого бизнеса, Сара использует социальные сети для привлечения клиентов. Instagram, вторая по величине социальная сеть Европы после Facebook, является маркетинговым каналом, без которого она не могла обойтись, по её же собственным словам.

Предпринимательница со временем заметила, что Инстаграм, сильно ориентированный на фотографии и видео, не показывает её контент многим из её 53,000 подписчиков. Особенно, если Сара не позирует в нижнем белье. 4 из 7 самых популярных постов инстаграмерши за последние несколько месяцев изображали её в бикини.

Писательница Эли Киллеуз, владеющая аккаунтом со 132,000 подписчиков, согласилась поучаствовать в расследовании и рассказала о текущем положении дел в Инстаграм под запись. Оказалось, что «практически все» фотографии, получающие максимальное количество лайков, изображают её в нижнем белье или купальных костюмах.

Возможно, это просто конкретно их аудитория предпочитает видеть Сару и Эли в купальных костюмах. Но с начала 2016 года Instagram размещает изображения в новостной ленте так, что фотографии, которые «больше всего интересуют пользователя, будут отображаться в верхней части ленты». Если другие фотографии, опубликованные Сарой и Эли, менее популярны, быть может, они не так часто показываются их подписчикам?

Какие фото показывать, а какие – нет, это не только вопрос пристрастия. Предприниматели, которые полагаются на Instagram для привлечения клиентов, должны подстраиваться под нормы, поощряемые алгоритмами социальной сети, чтобы достучаться до своих последователей. Даже если эти нормы не соответствуют ценностям, на которых построен бизнес и которых придерживаются клиенты.

Оглавление

Анализ 2,400 фотографий

Чтобы понять, какие фотографии являются приоритетными для Instagram, European Data Journalism Network и AlgorithmWatch попросили 26 добровольцев установить расширение для браузера и подписаться на определённых профессиональных создателей контента.

Исследователи выбрали 37 профессионалов из 12 стран (14 из них являются мужчинами), которые используют Instagram для рекламы брендов или привлечения новых клиентов в свой бизнес. Основные сферы:

еда;
путешествия;
фитнес;
мода и красота.

Надстройка автоматически открывает домашнюю страницу Instagram через регулярные промежутки времени и отмечает, какие сообщения появляются в верхней части новостных лент добровольцев, предоставляя обзор того, что платформа считает наиболее релевантным для каждого участника эксперимента.

Если Инстаграм не вмешивается в алгоритм, разнообразие постов в новостной ленте пользователей должно соответствовать разнообразию постов создателей контента, за которыми они следят.

Когда Instagram персонализирует ленту новостей каждого пользователя в соответствии с его личными вкусами, разнообразие сообщений должно быть перекошено по-разному для каждого пользователя. Оказалось, всё совсем не так.

В период с февраля по май было проанализировано 1,737 сообщений, опубликованных создателями контента, содержащих 2,400 фотографий. Из этих постов 362, или 21%, были распознаны компьютерной программой как содержащие изображения женщин в бикини или нижнем белье, или мужчин с голой грудью.

Однако в новостных лентах добровольцев посты с такими изображениями составляли 30% от всех записей, показанных с тех же аккаунтов (некоторые посты показывались более одного раза).

Сообщения, которые содержали изображения женщин в нижнем белье или бикини, на 54% чаще появлялись в новостной ленте добровольцев. Сообщения с фотографиями обнаженных по пояс мужчин были показаны на 28% чаще. Напротив, сообщения с изображениями еды или пейзажей были примерно на 60% менее вероятными для показа в фиде.

С результатами вы можете ознакомиться на специальной странице проекта. Они соответствуют стандартным требованиям к подобным исследованиям со стороны статистики.

В ожидании аудита

Склонность к наготе может не распространяться на всех пользователей Инстаграм. Хотя для участников эксперимента это оказалось бесспорным фактором с сильной корреляцией, небольшой группе всё же показывался более разнообразный контент.

Вполне вероятно, что алгоритмы Инстаграм в целом поощряют обнажение, но персонализация или другие факторы ограничивают этот эффект для некоторых пользователей.

Результаты расследования нельзя со 100% уверенностью переносить на всю социальную сеть. Они лишь документируют то, что произошло в новостных лентах добровольцев. Вы можете помочь улучшить данный научный эксперимент, установив специальный аддон. По мере поступления данных, организаторы обещают обновлять цифры.

Facebook на официальный запрос прислал следующий ответ:

Это исследование имеет ряд недостатков и показывает неправильное понимание того, как работает Instagram. Мы оцениваем посты в вашем фиде на основе содержания и аккаунтов, к которым вы проявили интерес, а не на произвольных факторах, таких как наличие купальных костюмов.

Тем не менее, у AlgorithmWatch есть основания полагать, что их выводы отражают то, как в целом работает Instagram.

Максимальное вовлечение

В патенте, опубликованном в 2015 году, инженеры Facebook, которые запускали Instagram, объяснили, как новостная лента может выбирать, каким фотографиям отдавать предпочтение.

Патент, отвечающий за алгоритмы Инстаграм

Когда пользователь публикует изображение, оно сразу автоматически анализируется, в соответствии с патентом. Снимкам присваивается «показатель вовлечённости», который используется для определения, показывать или нет изображение в новостной ленте пользователя.

Показатель вовлечения частично основан на прошлом поведении пользователя. Если человеку понравился определённый бренд, и на фотографии изображён продукт того же бренда, показатель вовлечённости увеличивается.

Но «engagement metric» также может быть рассчитан на основе прошлого поведения всех пользователей сервиса. В патенте, в частности, указывается, что пол, этническая принадлежность и «состояние раздетости» людей на фотографии могут быть использованы при расчёте показателя вовлечённости.

В то время как Instagram утверждает, что новостная лента организована в соответствии с тем, что «больше всего заботит» конкретного пользователя, в патенте компании объясняется, что контент может ранжироваться в соответствии с предпочтениями всех пользователей сети.

Видят ли пользователи фотографии, размещённые в учётных записях, за которыми они следят, зависит не только от их прошлого поведения, но и от того, что Instagram считает наиболее привлекательным для других пользователей платформы.

Ложные корреляции

Facebook автоматически анализирует изображения с помощью программного обеспечения, известного как «computer vision» (компьютерное зрение), прежде чем его алгоритм решает, какие из них показывать в ленте новостей пользователя.

Такое ПО автоматически делает выводы из набора данных. Его вручную обучали на тысячах изображений. В итоге это ограниченный инструмент сортировки контента. Учёные давно знают, что такие системы воспроизводят и усиливают искажения данных при обучении, что приводит к ложным или ошибочным корреляциям.

Например, программа, в задачу которой входит идентификация волков и собак на основе изображений собак, найденных в интернете, не распознаёт животных в человеческом смысле этого слова. Вместо этого она вешает ярлык «волк» любому животному на снежном фоне.

Компьютерное зрение, как правило, тренируют низкооплачиваемые работники, имеющие стимул работать быстро и предоставлять результаты, которые соответствуют ожиданиям их работодателей. «Это приводит к тому, что специалисты некритически воспринимают предложенные им категории и упускают из виду тонкости, которые может содержать фотография», – пишет Агата Балайн, кандидат наук в Технологическом университете Делфта, по теме необъективности автоматизированных систем.

Последствия могут быть очень серьёзными:

В декабре 2019-го бразильский художник попытался прорекламировать один из своих постов в Instagram. Запрос был отклонён на том основании, что контент содержал насилие, по мнению алгоритма. На картинке были изображены только мальчик и темнокожий гонщик Формулы-1 Льюис Хэмилтон.
В апреле 2020-го инструктору йоги азиатского происхождения было отказано в рекламе на том основании, что изображение содержало ненормативную лексику, хотя на фото была всего лишь женщина в позе журавля.

В эксперименте AlgorithmWatch также используется компьютерное зрение от Google Vision. И результаты вопиющие. Например, ярлык «красота» устанавливался только на фотографии, изображающие женщин. Его необъективность с большой долей вероятности похожа на необъективность алгоритма Facebook, так как разработкой занимались частично одни и те же люди.

Тонкая грань

В правилах Instagram говорится, что нагота «не допускается» в сервисе, но предпочтение при этом отдаётся постам, где присутствует голая кожа. Тонкая грань между тем, что поощряется, и тем, что запрещено, определяется неаудированными и, вероятно, предвзятыми алгоритмами компьютерного зрения.

Каждый раз, при публикации контента, блогер должен балансировать между тем, чтобы не быть забаненным за чрезмерную наготу, и тем, чтобы достаточно оголиться для поддержания высоких охватов.

Опрос, проведённый в 2019 году среди 128 пользователей Instagram американским журналом Salty, показал, что удаление оскорбительного контента является обычным явлением. Насколько распространены такие случаи, когда люди страдают из-за ошибок системы – невозможно сказать.

Боязнь теневого бана

Сара и другие предприниматели, продвигающие свой бренд в Instagram, боятся говорить с прессой. Большинство профессиональных создателей контента в социальной сети боятся мести со стороны Facebook в виде удаления учётной записи или теневых банов (практика, когда посты перестают показываться подписчикам, без уведомления автора). Это смертный приговор для бизнеса.

Например, молодая предпринимательница с 70,000 подписчиков в Инстаграм согласилась общаться с представителями AlgorithmWatch только при условии полной анонимности. По словам блогерши, Instagram «очень важен» для её бизнеса и она боится теневого бана.

Эли Киллеуз согласилась публично поговорить с журналистами только потому, что у неё имеются другие источники дохода. Писательница добавила, что слишком большая зависимость от Instagram будет означать потерю свободы и здравого ума.

Общее положение о защите данных (GDPR), которое вступило в силу в 2018 году, и положение «Платформы для бизнеса» (P2B), которое будет применяться с 12 июля 2020 года, уже предоставляют множество гарантий для пользователей и специалистов.

В частности, GDPR заявляет, что пользователи имеют «право на объяснение» в отношении автоматизированных решений, а регулирование P2B обязывает службы онлайн-посредничества раскрывать «основные параметры, определяющие [алгоритмическое] ранжирование».

Петра де Саттер, возглавляющая Комитет по внутреннему рынку и защите прав потребителей в Европейском парламенте, считает, что эта новая мера не заставит платформы раскрыть подробности своих алгоритмов.

В электронном письме AlgorithmWatch Петра написала, что запрет Инстаграм сортировать новостные ленты пользователей будет юридически неосуществимым. Однако P2B позволит принимать обоснованные решения на более позднем этапе разбирательств.

На бумаге это всё может и выглядит красиво, но на практике как от GDPR не было особо толку, так и от P2B, скорее всего, не будет. Органы власти, отвечающие за надзор в этих сферах, часто недоукомплектованы.

Ни один орган власти на европейском уровне или в государствах-членах соглашений не имеет полномочий или инструментов, необходимых для аудита любой из гигантских платформ, включая Instagram, в результате чего многие положения GDPR остаются неисполненными.

Возможная дискриминация

Несмотря на результаты расследования, показывающие, что для увеличения охватов в Инстаграм раздеваться приходится всем, влияние на женщин выглядит более сильным. Это может рассматриваться, как дискриминация женщин-предпринимателей.

И хотя законы практически в любой стране запрещают дискриминацию по половому признаку, у пользователя Instagram нет никаких юридических возможностей начать судебное разбирательство. Особенности предпринимательства в социальных сетях не учитываются в современной юриспруденции.

Мириам Куллманн, доцент Венского университета экономики и бизнеса, написала AlgorithmWatch, что европейское антидискриминационное законодательство касается почти исключительно трудовых отношений. Самозанятые лица, такие как Инстаграм-блогеры, законами не защищаются.

Тем не менее, некоторые группы борются за права независимых авторов в социальных сетях. Например, IG Metall, крупнейший в Европе профсоюз, поддерживает коллективную акцию ютуберов, требуя большей справедливости и прозрачности от Google (которому принадлежит YouTube). Но инстаграмеров пока никто не поддерживает.

Инстаграм – одна из самых популярных социальных сетей в мире

По состоянию на апрель 2020 года Instagram является одной из самых популярных социальных сетей в мире.

Рейтинг стран с наибольшим количеством пользователей социальной сети возглавляет США со 120 миллионами. Дальше идут Индия (88 миллионов) и Бразилия (82 миллиона).

Страны с наибольшим количеством пользователей Инстаграм

При этом во многих странах проникновение Instagram среди подростков в возрасте от 18 до 24 лет составляет около 100%. Пандемия Covid-19 увеличила среднее время, проводимое людьми в социальных сетях. Только в одной Италии, после закрытия границ, за неделю количество просмотров Instagram увеличилось вдвое.

Подводя итоги

Как бы то ни было, у вас нет выбора. Алгоритмы Инстаграм непогрешимы в глазах их разработчиков. Не хотите раздеваться и делать пикантные фотографии? Тогда придётся довольствоваться охватами «второго или третьего дивизиона».

Мужчины и женщины-предприниматели должны соблюдать правила, установленные инженерами Facebook, если хотят зарабатывать на жизнь. Нравится им это или нет.

Что скажете по поводу такого положения дел? Сталкивались с теневыми банами или дискриминацией в Instagram? Помогала вам поддержка социальной сети? Замечали кучу лайков под фотками с обнажёнкой? Делитесь в комментариях!

Если хотите пожаловаться на необоснованную блокировку или теневой бан со стороны Инстаграма, можете связаться с Николасом Кайзер-Брилом из AlgorithmWatch по адресу kayserbril@protonmail.com. Это анонимно.