Данські дослідники з організації Digitalt Ansvar провели експеримент, щоб побачити, як Instagram реагує на контент, повʼязаний із самоушкодженням.
Згідно з результатами, соцмережа не тільки не видаляє такі дописи, а й активно просуває. Про це розповідає The Guardian, пише Суспільне Культура.
Провести дослідження вирішили після того, як Meta (компанія, яка володіє Instagram) заявила, що значно покращила процес видалення шкідливого контенту — тепер цим мав займатися штучний інтелект.
У компанії заявили, що контент, який заохочує до самоушкодження, суперечить їхній політиці. Тільки за перші 6 місяці 2024 року вдалось видалити 12 мільйонів матеріалів, і у 99 % випадків це сталося до того, як на нього поскаржилися.
“На початку цього року ми запустили акаунти для підлітків в Instagram, які ставлять підлітків у найсуворіші умови нашого контролю за чутливим контентом, тому їм ще рідше рекомендують чутливий контент, а в багатьох випадках ми взагалі приховуємо його”.
Під час дослідження створили фейкові профілі підлітків
У межах дослідження Digitalt Ansvar створили у соцмережі фейкові профілі підлітків до 13 років та активно ділилися контентом, пов’язаним із самопошкодженням. Усього опублікували 85 постів, з різним ступенем жорстокості — від закликів до демонстрації крові та гострих лез.
Однак замість того щоб видалити ці публікації, алгоритм Instagram тільки більше поширював їх. Після того, як профіль 13-річної дитини лайкав такий контент, йому пропонували інші подібні пости.
У компанії заявили, що були шоковані результатами. Оскільки сподівалися, що в міру того, як зображення, якими вона ділилася, ставатимуть все більш жорстокими, вони викличуть тривогу на платформі.
“Ми думали, що, роблячи це поступово, ми досягнемо порогу, за яким штучний інтелект або інші інструменти зможуть розпізнати або ідентифікувати ці зображення. Але великий сюрприз — вони цього не зробили”, — додають у Digitalt Ansvar.“Це тісно пов’язано із самогубствами. Тож якщо ніхто не помічає і не робить нічого з цими групами, вони залишаються невідомими батькам, владі, тим, хто може допомогти і підтримати”.
Психологиня Лотте Рубек, яка навесні 2024 року покинула Instagram після звинувачень у тому, що вона “заплющує очі” на шкідливий контент, теж зазначила, що шокована.
За її словами, нездатність Meta видалити зображення самоушкоджень тільки підштовхує вразливих молодих жінок і дівчат до подальшого заподіяння собі шкоди та сприяє зростанню кількості самогубств.
Куди звертатися по допомогу, якщо є суїцидальні думки
В Україні працює цілодобова лінія із запобігання суїцидам та психологічної підтримки Lifeline Ukraine: за номером 7333.
Також у всій країні діє Національна гаряча лінія для дітей та молоді — 0 800 500 225. Вона працює у будні з 9:00 до 21:00. У вихідні з 10:00 до 18:00.
Також у Києві працює цілодобовий телефон довіри: 080 050 12 12 (безплатно з мобільного).
Окрім того, діє гаряча лінія, спеціалісти якої допомагають українцям підтримати психічне здоров’я в умовах постійного стресу й емоційної напруги, спричинених війною: 0 800 100 102. Вона працює щодня з 10:00 до 20:00. Дзвінки з України є безоплатними.
