Yapay zekâ destekli gözetimin denetimsiz yaygınlaştırılması, otoriter altyapıyı güçlendiriyor

Yapay zekâ destekli gözetimin denetimsiz yaygınlaştırılması, otoriter altyapıyı güçlendiriyor

Uluslararası Af Örgütü’nün bugün yayımladığı “Gözetim Devleti’ni Hissetmek” raporu, Javier Milei yönetiminin ilk iki yılında Arjantin’de gözetim teknolojilerinin yaygınlaşmasının, devletin gözetim kapasitesini, profil oluşturma uygulamalarını ve misilleme eylemlerini genişlettiğini ve bunun mahremiyet hakkı ile ifade, barışçıl toplanma ve dernek kurma özgürlükleri üzerinde caydırıcı bir etki yarattığını gösteriyor. Rapor, hükümetin yürütme kararnameleri ve kararlar yoluyla istihbarat kapasitesini ve dolayısıyla gözetim mekanizmalarını genişletmek için nasıl kapsamlı kurumsal reformlar uyguladığını belgeliyor. Ayrıca hükümetin 2024-2025 arasında sosyal medya izleme, yüz tanıma ve havadan gözetim araçları dahil olmak üzere en az 1,2 milyon ABD doları değerinde teknoloji satın aldığını da ortaya koyuyor. Bu politikalar ve teknolojiler bir araya geldiğinde kitlesel bir gözetim sistemi oluşturuyor.

Rapor, gazeteciler, aktivistler, emekliler, gençler ve insan hakları savunucuları dahil olmak üzere 21 kişiyle yapılan görüşmelere; satın alınan gözetim teknolojileriyle ilgili çok sayıda ihale belgesinin ve verinin analizine ve bilgi edinme hakkı talepleri yoluyla elde edilen bilgilere dayanıyor.

Arjantin’de yaşananlar bir istisna değil, küresel bir eğilimin parçası

Uluslararası Af Örgütü Yapay Zekâ ve İnsan Hakları Araştırmacısı ve Danışmanı Matt Mahmoudi, bu teknolojilerin muhalefeti hedef almak, protesto hareketlerini caydırmak ve marjinalleştirilmiş grupları taciz etmek amacıyla devlet kontrolü altyapısının ayrılmaz parçası haline geldiğine dikkat çekerek, şunları söyledi:

“Arjantin’de yaşananlar istisnai bir durum değil. Dünya çapında otoriter uygulamalara başvuran devletler; insan hakları savunucuları, gençler, göçmenler, marjinalleştirilmiş ve yerinden edilmiş gruplar ile muhaliflere karşı gözetim teknolojilerinin kullanımını artırıyor. Bu durum çoğu zaman denetim, şeffaflık ve hesap verebilirlik eksikliğiyle el ele gidiyor.

Arjantin, yapay zekâ destekli gözetimin kullanımının denetimsiz kalmamasını ve bu sistemler nedeniyle işlenen insan hakları ihlallerinden sorumlu kişilerin hesap vermesini sağlayarak insan haklarına bağlılığını göstermeli.”

Genişleyen bir gözetim altyapısı

Arjantin hükümeti sosyal medya, web siteleri, dark web, kişisel veriler, teknik altyapı ve diğer kamu veri tabanlarından elde edilen büyük hacimli verilerin toplanması, çapraz kontrolü ve görselleştirilmesi için tasarlanmış açık kaynak istihbarat (OSINT) platformları da dahil olmak üzere çeşitli gözetim teknolojileri satın aldı. Bunlar arasında yeterli yasal dayanak olmaksızın biyometrik verileri kitlesel olarak istismar ettiği bilinen şirketlerden yüz tanıma yazılımı lisanslarının yanı sıra otomatik takip özelliklerine, termal kameralara ve gerçek zamanlı görüntü aktarımı teknolojilerine sahip insansız hava araçları (drone) ve yer kontrol istasyonlarının tedariki de yer alıyor.

Raporda, bu tür gözetim teknolojilerinin gazeteciler, aktivistler ve göçmenler dahil olmak üzere çeşitli gruplar üzerinde yarattığı doğrudan etki belgelendi. Bazı kişilerin sosyal medyada ve kamusal alanlarda otosansür uyguladıkları, kimliklerinin ortaya çıkıp hedef alınma korkusuyla protestolara katılımlarını azalttıkları ve kamusal etkinlikleri planlarken daha temkinli davrandıkları da tespit edildi.

Küresel bir otoriterlik dalgası

Uluslararası Af Örgütü, bu tür teknolojilerin dünya çapında kötüye kullanıldığını belgelemişti. Arjantin yetkililerinin, yapay zekâ destekli gözetim sistemlerini satın alması ve bunların kapsamını genişletmesi, devletlerin bu tür teknolojileri kullanmasının şirketleri geniş çaplı gözetimi ticarileştirmeye teşvik eden küresel bir eğilimi yansıtıyor. Tüm bunlar mahremiyet, eşitlik ve ayrımcılık yapmama, ifade özgürlüğü ve barışçıl toplanma gibi haklara yönelik riskleri artırırken, şeffaflığı ve bilgi özgürlüğünü de kısıtlıyor.

Uluslararası Af Örgütü, Arjantin yetkililerini, kitlesel ve hedefli ayrımcı gözetim amaçlı uzaktan biyometrik tanıma teknolojilerinin geliştirilmesini, üretimini, satışını ve kullanımını yasaklamaya, bu teknolojilerin kamu ve özel sektör aktörleri tarafından hukuka aykırı kullanımını önlemeye çağırıyor. Ayrıca yetkililer, gözetim teknolojilerinin tedariki, geliştirilmesi, üretimi, satışı, ithalatı ve ihracatı için uygun düzenleyici önlemler ve bu teknolojilerin kullanımı için özel kamu politikası çerçeveleri oluşturmalı.