Uluslararası Af Örgütü, Algoritmik Sorumluluk kılavuzunun yayımlanması öncesinde yaptığı açıklamada, günlük hayatlarımızı etkileyen yapay zekâ  ve otomatik karar alma sistemlerinin yaygın kullanımıyla birlikte hak savunucularının, aktivistlerin ve toplulukların bu sistemlerin insan haklarımıza yönelik ciddi sonuçlarını ortaya çıkarmak için gerekli donanıma sahip olmalarının önemli olduğunu belirtti.

Kılavuz, Uluslararası Af Örgütü’nün Danimarka, İsveç, Sırbistan, Fransa, Hindistan, Birleşik Krallık, İşgal Altındaki Filistin Toprağı, Amerika Birleşik Devletleri ve Hollanda’da yürüttüğü araştırmalara, kampanyalara, medya ve savunuculuk çalışmalarına dayanıyor. Günlük hayatlarımızın, özellikle de sosyal güvenlik, polislik, sağlık hizmetleri ve eğitim gibi kamu sektörlerinin gitgide ayrılmaz bir parçası haline gelen algoritmik sistemlerden kaynaklanan zararları soruşturmak, ortaya çıkarmak ve hesap verebilirliği sağlamak için bir “Nasıl yapılır?” rehberliği sunuyor.

Bu teknolojilerin kullanıldığı yargı bölgelerinden bağımsız olarak, bir hizmet türü olarak kullanıma alınmalarının ortak sonucu, birçok hükümet veya şirket yetkilisinin iddia ettiği gibi “etkinlik” veya toplumların “iyileştirilmesi” değil, önyargı, dışlama ve insan hakları suistimalleridir.

Uluslararası Af Örgütü Teknoloji Birimi Program Direktörü Damini Satija konu hakkındaki açıklamasında, “Kılavuz, kamu sektöründe algoritmik ve yapay zekâ  sistemleri kullanımını araştırmak ve buna karşı çıkmak isteyen sivil toplum örgütleri, gazeteciler, etkilenen kişiler ve topluluk örgütleri de dahil herkes için tasarlandı. Çeşitli ortam ve bağlamlara uyarlanabilir ve çok yönlü bir şekilde hazırlandı” dedi. Satija, sözlerini şöyle sürdürdü:

“Zararlı yapay zekâ sistemlerini araştırmak ve hesap verebilirliği sağlamak için kolektif güç oluşturmamız, devletlerin ve şirketlerin kötüye kullanımlarına karşı çıkmak ve yapay zekâya aşırı yatırım yapılan bu dönemde gerekli adımları atmak için kritik öneme sahip. Bu sistemlerin kitlesel gözetimi nasıl kolaylaştırdığı, sosyal koruma hakkımıza zarar verdiği, barışçıl protesto özgürlüğümüzü kısıtladığı ve toplum genelinde dışlamayı, ayrımcılığı ve önyargıları kalıcılaştırdığı düşünüldüğünde, bu adımların  önemi daha da açıkça anlaşılmaktadır.”

Kılavuz, Uluslararası Af Örgütü’nün son üç yıldır bu alandaki araştırmalarından ve önemli ortaklarıyla işbirliğinden öğrendiklerine dayanan, çok yönlü bir yaklaşım sunuyor. Bu yaklaşım, saydam olmayan yapay zekâ sistemlerini ve bunların yol açtığı insan hakları ihlallerini araştırmak için gerekli araçlar ve pratik şemalar sunmakla birlikte, kampanya, stratejik iletişim, savunuculuk veya stratejik davalar aracılığıyla değişim ve hesap verebilirlik talep ederek bu suistimal içeren sistemlere son verilmesi hedefiyle çalışanlar için kapsamlı taktikler de ortaya koymaktadır.

Kılavuzun dayandığı çok sayıda vaka çalışmasından biri, Uluslararası Af Örgütü’nün Danimarka’nın refah sistemi üzerine araştırmasıdır. Araştırma, Danimarka sosyal yardım kurumu Udbetaling Danmark’ın yapay zekâ destekli refah sisteminin kitlesel gözetimi körüklediğini ve sosyal yardımdan haksız yararlanma soruşturmalarında kişileri tespit etmek için yapay zekâ  araçlarını kullanarak engellilere, düşük gelirli kişilere, göçmenlere, mültecilere ve ırksal temelde ötekileştirilen gruplara karşı ayrımcılık riskleri oluşturduğunu ortaya çıkardı. Araştırma, etkilenen toplulukların, gazetecilerin ve yerel sivil toplum örgütlerinin işbirliği olmadan yürütülemezdi. Bu ortaklaşma ruhuyla kılavuz, farklı disiplin grupları arasındaki derin işbirliğine dayanmaktadır.

Özellikle etik ve sorumlu yapay zekâ  alanında ve denetim yöntemlerinde insan hakları hukukunun eksikliği göz önüne alındığında, kılavuz insan hakları hukukunu, algoritmik sorumluluk çalışmasının kritik düzeyde değerli bir bileşeni olarak konumlandırıyor. Uluslararası Af Örgütü’nün yöntemi nihai olarak işbirliğine dayalı çalışmanın altını çizerken, çoklu yöntem yaklaşımının kolektif etkisinden de yararlanıyor. Topluluklar ve onların hesap verebilirliği teşvik etme iradeleri, sürecin merkezinde yer almaya devam ediyor.

“Kamu hizmetlerinin sağlanmasında yapay zekâ kullanımının sözde yararlarıyla ilgili gitgide artan, doğruluğu kontrol edilmemiş iddialar ve denemeler düşünüldüğünde bu sorun bugün her zamankinden daha acildir. Devlet aktörleri, yapay zekâ geliştirme ve altyapılarına yönelik devasa yatırımları destekliyor ve şirketlere, günümüzdeki ve gelecekteki insan hakları etkilerinden bağımsız olarak kendi dar çıkarlarını gütmeleri konusunda serbestlik sağlıyor” diyen Damini Satija, sözlerini şöyle sonlandırdı:

“Bu kılavuz aracılığıyla, bilgiyi demokratikleştirmeyi ve sivil toplum örgütlerine, araştırmacılara, gazetecilere ve etkilenen kişilere bu sistemleri ve bunları üreten endüstrileri açığa çıkarma, hesap verebilirlik talep etme ve bu teknolojilerin kolaylaştırdığı suistimallere son verme olanağı sunmayı amaçlıyoruz.”

Arka Plan

Uluslararası Af Örgütü, Danimarka, Fransa, Hollanda, Hindistan ve Sırbistan’da kamu sektörünün otomatikleşmesi ve dijitalleşmesi, bunların yol açtığı insan hakları riskleri ve algoritmik karar alma sistemlerinin etkilerine ilişkin araştırma ve savunuculuk çalışmaları yürütmektedir.

Uluslararası Af Örgütü’nün devam eden Ban the Scan (Gözetleme Yasaklansın) kampanyası, yüz tanıma teknolojilerinin kullanımının yasaklanması çağrısı yapıyor. Kampanya, İşgal Altındaki Filistin Toprağı, New York ve Haydarabad’da gerçekleştirilen araştırma ve savunuculuk çalışmalarına dayanıyor.