Fransa, yapay zekaya dayalı gözetleme sistemi kurmayı planlıyor

HANDE BERKTAN

Fransa Parlamentosu, 26 Temmuz ile 11 Ağustos tarihleri ​​arasında Paris’te düzenlenecek 2024 Olimpiyatları öncesinde, tartışmalı bir tasarıyı, yasalaştırmaya hazırlanıyor. Paris Olimpiyatları’nda yapay zeka temelli, gözetleme sistemi kurularak, şüpheli durumların daha çabuk tespit edilmesi bekleniyor.

Yapay zeka gözetleme sistemine, insan hakları örgütleri, ırkçılığı tetikleyeceği endişesiyle karşı çıkıyor

Tasarının tartışılan 7. maddesi, şehre kurulacak yapay zeka temelli gözetleme sistemlerinin “normal olmayan davranışları” tespit etmesine izin veriyor. Salı günü Ulusal Meclis’e gelecek düzenleme sivil toplum kuruluşlarının ve hak örgütlerinin tepkisini çekiyor.

İnsan hakları savunucuları bu tip bir teknolojinin kullanımının tehlikeli bir emsal oluşturacağını da savunuyor.

AB, uzaktan biyometrik gözetimi yasaklama yolunda ilerliyor

Avrupa Birliği avukatları, genel yasa uygulama amaçları için uzaktan biyometrik gözetimin kullanılmasını yasaklama yolunda ilerliyor. Ancak bu, Fransa’daki parlamenterlerin 2024 Paris Olimpiyatları sırasında kamusal alanlarda şüpheli davranışlara karşı yapay zekayı kullanmak için oy kullanmasını engellemedi.

Planını eleştirenler, bunun taslak teklifte izin verilen sınırlı yasa uygulama istisnalarından çok daha ileri gittiğini öne sürüyor, şüpheli davranış kadar belirsiz bir şeyi tanımlamak için yapay zeka uygulamalarının güvenli olmadığını belirtiyor.

Avrupa Parlamentosu’nda milletvekili olan Patrick Breyer, yaptığı açıklamada, “Fransız Parlamentosu’nun otomatik davranış gözetimine izin verme kararı ‘anormal davranış’ aramak için kamusal alanlar, Avrupa’da eşi görülmemiş yeni bir kitlesel gözetim gerçeği yaratıyor. Mahkemenin ayrım gözetmeyen bu gözetleme yasasını temel haklarımızı ihlal ettiği gerekçesiyle iptal etmesini bekliyorum. Bu tür şüphe makineleri, sayısız vatandaşı yanlış ihbar edecek, ayrımcı, konformist davranış eğitimi verecek ve araştırmalar ve deneyimlerin kanıtladığı gibi suçluları yakalamada kesinlikle işe yaramaz. Çin’de yapılan bu uygulama, adım adım sosyal çeşitliliği tehdit ediyor.” dedi.

Arnaud Touati “Bu teknoloji, Çin tarafından ırkçı amaçlarla kullanılıyor”

Dijital yasalar üzerine uzman avukat, Arnaud Touati, yeni teknolojiyi “Algoritmik gözetleme, kameralar tarafından elde edilen görüntülerin eş zamanlı olarak bir yazılım tarafından analiz edildiği yeni bir teknoloji. Yazılımda kullanan ve makine öğrenmesi teknolojisine dayanan algoritmalar, yapay zeka temelli gözetlemenin zamanla gelişmesine olanak tanıyor. Yapay zeka temelli gözetleme sistemi şu anda Çin tarafından Uygurlara karşı ırkçı amaçlarla kullanılıyor. Etnik azınlıklar hakkında algoritmaya yeterince veri sağlanmadığı için, yazılımda belirgin oranda ayrımcı ve ırkçı önyargı görülüyor” dedi.

Uluslararası Af Örgütü “AI gözetleme teknolojisine dair yasal altyapı yok”

Ne Fransa’nın ne de Avrupa’nın yeni teknoloji için gerekli yasal zemine sahip olmadığını belirten Uluslararası Af Örgütü’nden Katia Roux, “Bu yasayı geçiren Fransa, Avrupa’da gözetlemenin bayraktarlığını yapacak ve tehlikeli bir emsal ortaya koyacak. Bu yasa, yeni teknolojiyi kendi halklarına karşı kullanabilecek bazı ülkelere endişe verici sinyaller gönderiyor” uyarısında bulunarak kanun teklifine karşı çıktı.