Інфлюенсери кажуть, що Instagram схильний до тіл великого розміру, і вони можуть мати рацію
Впливові особи великого розміру давно скаржились на те, що їх публікації позначаються у соціальних мережах, і є кілька причин, чому це може відбуватися.
У 2018 році інфлюенсер Катана Фатале перебувала на Гаваях під душем на відкритому повітрі, і світло було в самий раз.
Вона поклала телефон на стілець, встановила таймер і зробила це фото.
Вона поділилася цим зі своїми тисячами підписників в Instagram, де вона розміщує і виступає за тіла розміру з 2014 року.
"Це отримало дивовижне зчеплення. Я відчувала себе настільки красивою", - сказала вона BuzzFeed News. "Я пам'ятаю, що я був просто на пляжі, і я пішов ще раз перевірити його, і у мене з'явилося це попередження про те, що його було видалено".
Незважаючи на те, що вона була оголеною, вона дотримувалась рекомендацій спільноти Instagram, які забороняють жіночі соски, статеві акти, статеві органи та великі плани оголених недопалок. Все інше, якщо воно не відображає цих речей, можна публікувати. Компанія дозволяє зображення грудного вигодовування та рубцювання після мастектомії, а також наготу на картинах та скульптурах.
Тож Фатале розгубилася, чому їй зараз кажуть, що подальші порушення можуть призвести до того, що її обліковий запис забирають, особливо коли інші жінки, здавалося б, могли розміщувати подібні зображення з нульовими проблемами.
Fatale - далеко не єдиний інфлюенсер, який має цю проблему. Повідомлялося про численні повідомлення про те, що такі люди, як Фатале, мали свої фотографії та відео, які позначали та вилучали із соціальних мереж.
Не шкодують навіть дуже відомих жінок. Нещодавно Ліццо поскаржилася, що витягнули TikTok, яка зобразила себе в бікіні, тоді як відео худіших жінок, схоже, не отримували однакового лікування.
Хоча немає твердих даних, які б показували, що зображення людей із великим розміром частіше позначаються прапорами, про це було так багато анекдотів, що впливові особи не можуть не бачити закономірності.
"Це просто занадто багато. Де дим, там і вогонь. Існує абсолютно щось, де виділяють повних", - сказала Фатале.
На думку експертів, які спілкувались із BuzzFeed News, цілком можливо, вони мають рацію. Модерація вмісту в програмах соціальних медіа зазвичай являє собою суміш штучного інтелекту та модераторів людини, і обидва методи мають потенційний ухил проти більших тіл.
Матьє Лемай є співзасновником Lemay.ai, консалтингової фірми з штучного інтелекту. Він сказав, що перше, що слід зрозуміти, - це те, що ШІ далеко не ідеальний і насправді якийсь ледачий.
"Технології та дискримінація повертаються назад", - сказав він BuzzFeed News. "Щоразу, коли ви розробляєте новий проект або новий прототип, ви повинні думати про те, як він буде зламаний".
Такі компанії, як Facebook, створюють власний AI для модерування зображень та відео. Вони будують його, подаючи йому мільйони зображень, щоб він міг ідентифікувати закономірності та дізнатися, що є прийнятним, а що ні. Він навчається, наприклад, ідентифікувати порнографію, або сосок, або бікіні. Під час сканування зображень, завантажених користувачами, він вирішує, наскільки ймовірно, що це зображення містить заборонений вміст. Якщо це дуже впевнене, воно може автоматично позначити вміст. Якщо це лише напевно впевнено, він може переслати цей вміст людині для перевірки.
Проблема в тому, що існує так багато сірих зон, і ШІ може робити свої здогади лише на основі того, чому його навчили. Ось тут і виникає перша потенційна проблема. Якби ШІ не отримували багато зображень жінок із великими розмірами, що є можливістю, враховуючи упередженість щодо більших тіл у ЗМІ, це може стати початком проблеми.
Тоді, сказав Лемай, ШІ не міг знати різницю між меншим оголеним тілом та тілом у бікіні плюс розміру.
"Якщо взяти дві моделі, одну плюс розміру, а не плюс розмір, є ймовірність, що більше пікселів буде пов'язано зі шкірою", - сказав він.
Оскільки ШІ не знає контексту того, що він бачить, це може призвести до неправильної категоризації. Однак ці системи ШІ будуються людьми, і люди упереджені.
Шуг МакДаніель - художник із Флориди, який фокусується на оголених фотографіях великих тіл.
Як і Фатале, вони знають правила - соски та геніталії покриті, а приклади оголені лише здалеку. І все ж бували випадки, коли їх публікації видалялися щотижня.
"Це була тенденція, про яку, на мою думку, у цілому співтоваристві вже деякий час говорять, тобто, коли ці боти або щось інше шукають наготу, це відсоток шкіри порівняно з рештою тіла", - сказали вони. Новини BuzzFeed.
"Я думаю, що це велика частина цього, і це частина системної жирової фобії, з якою ми стикаємось, і це абсолютно неприпустимо, але що ми можемо зробити?"
МакДаніель заявив, що вони ніколи успішно не могли скасувати видалення зображення. Facebook, який є власником Instagram, не знає, як працює процес модерування.
«Ми хочемо, щоб наша політика була всеохоплюючою і відображала всі ідентичності, і ми постійно повторюємо свою політику, щоб побачити, як ми можемо покращитися. Ми видаляємо вміст, який порушує нашу політику, і ми навчаємо штучний інтелект активним способом виявляти потенційно порушуючий вміст ", - заявив речник BuzzFeed News.
"Ця технологія не навчена видаляти вміст на основі розміру людини, вона навчена шукати елементи, що порушують - наприклад, видимі статеві органи або текст, що містить висловлювання ненависті".
Подібне повідомлення було у TikTok.
"TikTok - це інклюзивна платформа, побудована на основі творчого самовираження - і наші користувачі дотримуються кодексу поведінки, викладеного в наших Правилах спільноти", - заявив речник.
Ці відповіді не дуже задовольняють МакДаніеля.
"На сьогоднішній день все більше і більше піддається цензурі, і життєво важлива робота, що дає життя, стрімко знищується", - сказали вони.
МакДаніель також дуже добре знає людський елемент цього. Їх робота часто підпорядковується бригадам тролей, що ганьблять тіло, які повідомляють про свої образи. Такі платформи, як Instagram, безумовно, знають про це явище і кажуть, що кількість звітів нічого не викликає автоматично, але не всі впевнені, що це не відіграє певної ролі.
Кет Ло, дослідниця, яка вивчає модерацію вмісту та переслідування в Інтернеті, зазначила, що звіти можуть відігравати певну роль у більшій машині модерації, але так само роблять і люди.
"Це те, що так підступно щодо таких великих технологічних систем. Тут стільки кроків і стільки можливостей, щоб пролізли навіть невеликі випадки упереджень", - сказала вона.
Зважаючи на упередженість у суспільстві, за її словами, цілком можливо, що коли образ більшої людини потрапляє перед модератором, вони частіше позначають його як "непристойний" чи сексуалізований, ніж образ меншої людини.
"Є тисячі і тисячі маленьких причин, а не більш широких, таких як" Я бачу соску ", - сказала вона.
Через усі ці сірі зони та через величезний масштаб цих баз даних про модерацію, насправді вирішення такої потенційної проблеми було б дорогим та трудомістким, а компанії не мають дуже багато мотивації це робити.
Ло сказав, що такі програми, як Instagram або TikTok, перебувають під тиском, щоб зберегти речі PG, як для того, щоб залишатись доступними в магазинах додатків, так і через закони, такі як FOSTA-SESTA або ресурси, необхідні для видалення вмісту, пов'язаного з тероризмом. Просто легше помилитися на стороні обережності.