Strasbourg’da düzenlenen AP İç Pazar ve Sivil Özgürlükler Komiteleri toplantısında, Avrupa’da yapay zekaya yönelik ilk kuralları içeren mevzuat hazırlıkları ele alındı.
Komite üyeleri, yapay zeka yasası konusunda üye ülkelerle yapılacak müzakerelerde AP’nin tavrını belirleyecek müzakere talimat taslağını oy çokluğu ile kabul etti.
AP üyeleri, Komisyon’un sunduğu yapay zeka yasa tasarısında bazı değişiklikler yaptı. Taslağa göre yapay zeka sistemlerinin insanlar tarafından denetlenmesi, ayrım gözetmemesi, inandırıcı, şeffaf, izlenebilir ve çevre dostu olması gerekecek.
Yapay zekaya ortak bir reçete getirilecek. Yapay zekaya risk temelli bir yaklaşım uygulanacak. Yapay zekanın oluşturabileceği risk düzeyine göre kurallar değişecek.
Riskli sistemler yasaklanacak
İnsanların güvenliği için kabul edilemez düzeyde risk oluşturan yapay zeka sistemleri yasaklanacak. Bu, bilinçaltında veya kasıtlı olarak manipülatif teknikler uygulayan, insanların güvenlik açıklarını belirleyen ve sosyal puanlama için kullanılan yapay zeka sistemlerini içerecektir.
Halka açık yerlerde gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanılması yasaklanacak. Biyometrik tanımlama sistemleri, yalnızca büyük hataları kovuşturmak için yasal izin alındıktan sonra kullanılacaktır.
Cinsiyet, ırk, etnik köken, vatandaşlık durumu, din, siyasi yönelim gibi hassas unsurları kullanan biyometrik sınıflandırma sistemleri yasaklanacak.
Kolluk kuvvetleri, sınır makamları, işyerleri ve eğitim kurumları duygu tanımlama sistemlerini kullanamayacak.
Yüz tanıma için CCTV kameradan kayıt yapmak mümkün olmayacak
Yüz tanıma veritabanları oluşturmak için sosyal medyadan veya CCTV görüntülerinden bilgi toplanmaz.
Yüksek riskli AI sınıflandırması; İnsanların sağlığına, güvenliğine, temel haklarına veya çevreye verilen zararı içerecek şekilde genişletilecektir.
Siyasi kampanyalarda seçmenleri etkilemek için yapay zeka sistemlerinin kullanılması yüksek risk kategorisine girecektir. Büyük sosyal medya platformlarının kullandığı sistemler de yüksek risk listesine girecek.
ChatGPT, yüksek düzeyde şeffaflığa sahip olacak
ChatGPT gibi sistemlerin ek şeffaflık kurallarına uyması gerekecektir.
Bu sistemlerin, içeriğin yapay zeka tarafından oluşturulduğunu açıkça belirtmesi gerekecektir.
Yasa dışı içerik üretimini engelleyecek sistemler tasarlanacaktır. Eğitim için kullanılan telif hakkıyla korunan bilgilerin özetlerinin bu sistemler tarafından yayınlanması engellenecektir.
Müzakere yetkisi bu aşamadan sonra AP Genel Kurulu’nda oylanacak. Ardından AP ve üye ülkeler yasayı nihai hale getirecek.
AB’nin şu anda ChatGPT veya benzeri yapay zeka sistemlerine ilişkin bir yönetmeliği yok ancak AB Komitesi yapay zekaya ilişkin yeni kurallar çerçevesini içeren ilk yasama teklifini 2 yıl önce hazırlayarak üye devletlere ve Avrupa Parlamentosu’na sundu. (EP).
Bu öneri, yapay zeka sistemlerinin kullanımında bazı sınırlamalar ve şeffaflık kuralları getirdi.
Komisyonun teklifinde yapay zeka sistemleri kabul edilemez risk, yüksek risk, sonlu risk ve en az risk olmak üzere 4 ana kümeye ayrıldı.
