Rapor, kendine zarar verme ve intihar atıfları içeren hassas içerikleri ortaya koyuyor.

Uluslararası Af Örgütü’nün yeni araştırması, TikTok’un “Sizin İçin” akışının, Fransa’da ruhsal sağlık içerikleriyle etkileşimde bulunan çocukları ve gençleri depresyon, kendine zarar verme ve intihar içeriklerinden oluşan bir döngüye ittiğini tespit etti.

“Kara Deliğe Sürükleniyorlar” başlıklı araştırma, TikTok’un sistem tasarımı eksikliklerini hâlâ giderememesinin, çocukları ve gençleri etkileme riski taşıdığını ortaya koyuyor.

Uluslararası Af Örgütü Çocukların ve Gençlerin Dijital Hakları Araştırmacısı Lisa Dittmer konu hakkındaki açıklamasında, “Teknik araştırmamız, ruhsal sağlıkla ilgili içeriklere ilgi gösteren ergenlerin nasıl hızla toksik kara deliklere sürüklenebildiğini gösteriyor. TikTok’un ‘Sizin İçin’ akışında geçirilen üç ila dört saat içinde, ergen deneme hesapları intiharı romantikleştiren veya intihar yöntemleriyle ilgili bilgiler de dahil hayatlarına son verme niyetlerini açıklayan gençleri gösteren videolara maruz kaldı” dedi. Dittmer, sözlerini şöyle sürdürdü:

“Fransa’da yaşayan gençlerin ve yakınlarını henüz kaybetmiş ebeveynlerin tanıklıkları, TikTok’un kendine zarar verme ve intihar düşüncesini ‘intihar meydan okuması’yla ilgili içerikleri tavsiye etme noktasına kadar nasıl normalleştirdiğini ve artırdığını gösteriyor.”

TikTok’un “Sizin İçin” akışı, görüntülemeye göre içerik tavsiye eden, kişiselleştirilmiş bir kısa video akışıdır.

Uluslararası Af Örgütü araştırmacıları, TikTok’un “Sizin İçin” akışındaki algoritmik içerik artırımını bizzat incelemek üzere, Fransa’da yaşayan 13 yaşında iki kız ve bir erkek çocuk olmak üzere üç ergen hesabı oluşturdu. Beş dakikalık kaydırma içinde ve herhangi bir tercih belirtmeden önce, hesaplar üzüntü ve hayal kırıklığıyla ilgili videolarla karşılaştı.

Bu videoların izlenmesi, üzüntü ve ruhsal sağlıkla ilgili içerik miktarını hızla artırdı. Deneye başlanmasından itibaren 15-20 dakika içinde, üç akış da neredeyse tamamen ruhsal sağlıkla ilgili videolarla doldu; bunların yaklaşık yarısı depresif içerikler barındırıyordu. 45 dakika içinde, iki hesap intihar eğilimli düşünceleri ifade eden videolarla karşılaştı.

Algoritmik Şeffaflık Enstitüsü (ATI) ile birlikte Fransa’dan 13 yaşındaki çocuklara aitmiş gibi kaydedilen otomatik deneme hesapları kullanılarak ek deneyler gerçekleştirildi. Bu deneyler, izleme geçmişlerinde farklı düzeylerde üzücü ya da depresif videolar bulunduğunda, TikTok’un tavsiye sisteminin bu tür içeriklerin akıştaki payını iki kattan fazla artırdığını gösterdi.   

Araştırma, TikTok’un, 2023 yılından bu yana platformların çocuk haklarına yönelik sistemsel riskleri tespit etmesini ve azaltmasını zorunlu kılan, Avrupa Birliği’nin Dijital Hizmetler Yasası ile düzenlendiği Fransa’da yürütüldü.

Fransa milletvekilleri, bugünlerde sosyal medya düzenlemelerindeki eksiklikleri tartışıyor. Araştırma, TikTok’un etkileşime dayalı iş modeline bağlı sistemsel risklerini gidermediği konusunda Uluslararası Af Örgütü’nün daha önce ortaya koyduğu kanıtları desteklemektedir.

Gençler üzerindeki etkileri

TikTok, 2024 yılından bu yana duyurduğu risk azaltma önlemlerine rağmen, hassas kullanıcıları kendine zarar vermeyi, umutsuzluğu ve intihar düşüncesini normalleştiren içeriklere maruz bırakmaya devam ediyor. Depresyon tanısı konulan gençlerin ve etkilenen veya yakınlarını henüz kaybetmiş ebeveynlerin tanıklıkları, TikTok’un iş modelinin, halihazırda zorluk yaşayan gençlerin ruhsal ve fiziksel sağlığına yönelik riskleri ve zararlarının boyutlarını gözler önüne sermektedir.

2021 yılında TikTok’un “Sizin İçin” akışındaki depresif ve kendine zarar vermeyi çağrıştıran içeriklere nasıl yönlendirildiğini anlatan 18 yaşındaki Maëlle, “Bazı videolar hâlâ gözümün önünden gitmiyor” dedi. Sonraki üç yıl boyunca kendine zarar verme düşüncesiyle mücadele eden ve ruhsal sağlığı gitgide kötüleşen, Maëlle, zararlı çevrimiçi içeriklerden yorgun düştü.

“Vücutlarını kesen insanları, her şeye son vermek için hangi ilacın alınacağını söyleyen insanları görmek sizi de etkiliyor ve kendinize zarar vermeye yönlendiriyor” dedi.

Rapor, zararlı içeriklerin çoğalmasına odaklanırken, toplanan tanıklıklar da TikTok’un içerik moderasyonundaki yetersizliklerini gösteriyor. Araştırma katılımcılarının aktardığına göre, gençler ve aileleri defalarca bildirimde bulunduğu halde kendine zarar vermeyi veya intiharı kışkırtan içerikler platformdan kaldırılmadı.

Örneğin, Uluslararası Af Örgütü araştırmacıları, 2025 yazında manuel olarak yönetilen bir deneme hesabının akışında, “dudak kremi meydan okuması” diye anılan videolardan iki videoyla karşılaştı. Bu sosyal medya trendi güya başka birinin sürdüğü dudak kremini tahmin etme yarışması olarak başladı. Daha sonra bu fikir başka bir versiyona evrilerek, insanları her üzgün hissettiklerinde dudak kreminden bir parça sıkmaları ve krem bittiğinde kendilerine zarar vermeleri veya intihar etmeleri yönünde telkin eden bir trende dönüştü.

TikTok’un depresif içerik sarmalına düşen ve 2021 yılında hayatına son veren 15 yaşındaki Marie Le Tiec’in annesi Stéphanie Mistre, “Bu platformlar çocuklarımızı insan olmaktan ziyade birer ürün gibi görüyor. Bir algoritmayla ve filtre balonuyla çocuklarımızı ürün gibi kullanıyor ve duygularını kullanarak onları kendilerine bağımlı hale getiriyorlar. Algoritma ilgi alanlarınızı yakalıyor, bu normal değil. Çocuğun özel hayatına müdahale ediyorlar; halbuki çocukların hakları var” dedi.

TikTok’u güvenli hale getirmek için acil ve bağlayıcı tedbirler alınmalı     

Bu araştırma, TikTok’un bağımlılık yaratan tasarımının gençler üzerinde yol açtığı sistemsel riskleri ortadan kaldırma başarısızlığını gözler önüne serdi. Şirket, BM İş Dünyası ve İnsan Hakları Rehber İlkeleri uyarınca insan haklarına saygı gösterme yükümlülüğünü ve Dijital Hizmetler Yasası (DSA) kapsamındaki yükümlülüklerini yerine getirmiyor.

Uluslararası Af Örgütü Fransa Şubesi Savunuculuk Sorumlusu Katia Roux, “TikTok’un açık DSA ihlallerine ilişkin yeni kanıtlar acilen Avrupa Komisyonu’nun devam eden araştırması kapsamında göz önüne alınmalıdır. TikTok’u uygulamasını nihayet Avrupa Birliği’ndeki ve dünyanın her yerindeki gençler için güvenli hale getirmeye zorlamak adına bağlayıcı ve etkili tedbirler alınmalıdır” değerlendirmesinde bulundu.

TikTok’un etkileşim odaklı modeliyle bağlantılı sistemsel zararları göz ardı etmesi, platformun DSA’ya uyup uymadığı konusunda ciddi kaygı yaratmakta, çocukları ve hassas kullanıcıları korumak için platformları düzenleyen ve sorumlu tutan daha güçlü tedbirlere ihtiyaç duyulduğunun altını çizmektedir.

Uluslararası Af Örgütü önemli bulgularını TikTok ile paylaştı ancak şirketten herhangi bir yanıt almadı.

Arka Plan

Uluslararası Af Örgütü 2023 yılında Karanlığa Sürükleniyorlar: TikTok Nasıl Kendine Zarar Vermeye ve İntihar Düşüncesine Yönlendiriyor ve Savunmasız Hissediyorum: TikTok’un Gözetim Ağında Sıkışıyorlar başlıklı iki tamamlayıcı rapor yayımladı.   

Bu raporda incelenen konularla ilgili daha fazla bilgiye, Uluslararası Af Örgütü’nün Dünyayı Kurtarma Yolunda Dirençli Olmak (İkinci Cilt): Genç Aktivistlerin Mutluluğu İçin Çalışma Kitabı’ndan erişilebilir.