AVRUPA’NIN YAPAY ZEKA YASASI

GÜVENLİ VE İNSAN MERKEZLİ DİJİTAL GELECEK

YÜZ TANIMA SİSTEMLERİ KISITLANACAK

DEEPFAKE İŞARETLENECEK

NEVİN BİLGİN

Avrupa Parlamentosu’nda kabul edilen ve aşama aşama yürürlüğe girecek olan Yapay Zekâ Yasası güvenli ve insan merkezli bir dijital gelecek öneriyor.

Avrupa Birliği'nin Yapay Zekâ Yasası, insan haklarını korumak ve güvenliği sağlamak amacıyla belirli yapay zekâ uygulamalarını yasaklıyor ve düzenliyor. Yüz tanıma, sosyal puanlama, biyometrik tanımlama gibi potansiyel tehlikeleri olan alanlarda kısıtlamalar getiriliyor ve yaşamsal öneme sahip alanlardaki yapay zekâ kullanımı da düzenleniyor. Ayrıca, şeffaflık ve haklar konusunda da önemli düzenlemeler yapılıyor, özellikle "deepfake" içeriklerin belirgin bir şekilde işaretlenmesi gerekiyor. Bu yasal düzenlemelerle, yapay zekâ teknolojisinin etik ve güvenli bir şekilde kullanımı hedefleniyor.

Düzenleme 523 oyla lehte, 46 oyla aleyhte ve 49 çekimser oyla Avrupa Parlamentosu'ndan geçti.

Yasa, temel hakları, demokrasiyi, hukukun üstünlüğünü ve çevresel sürdürülebilirliği yüksek riskli yapay zekâdan korumayı amaçlarken inovasyonu teşvik etmeyi ve Avrupa'yı alanda bir lider olarak konumlandırmayı hedefliyor. Düzenleme, yapay zekânın potansiyel risklerine ve etki seviyesine göre yükümlülükler öngörüyor.

Yasaklı Uygulamalar

Yeni kurallar, vatandaşların haklarını tehdit eden belirli yapay zekâ uygulamalarını yasaklıyor. Bu uygulamalar arasında, hassas özelliklere dayalı biyometrik kategorizasyon sistemleri ve internetten veya CCTV kameralarından yüz görüntülerinin toplanmasıyla yüz tanıma veritabanları oluşturulması yer alıyor. İş yerinde ve okullarda duygu tanıma, sosyal skorlama, yargılama yoluyla sadece kişileri profillendirme veya özelliklerini değerlendirme temelli tahminleme, insan davranışını manipüle eden veya insanların zayıf yanlarını kullanarak fayda sağlayan yapay zekâ da yasaklanacak.

Hukuki Müstesna Durumlar

Hukuki olarak, kolluk kuvvetlerinin biyometrik tanımlama sistemlerini kullanması genelde yasaklanmıştır, ancak kesin ve dar tanımlanmış durumlar dışında. "Gerçek zamanlı" biyometrik tanımlama sistemleri sadece belirli güvenceler sağlandığında kullanılabilir, örneğin kullanımı zaman ve coğrafi kapsam açısından sınırlıdır ve belirli bir mahkeme veya idari yetkilendirme gerektirir. Bu kullanımlar arasında, bir kişinin kaybolmasını araştırmak veya terörist bir saldırıyı engellemek gibi hedeflenmiş aramalar yer alabilir. Bu sistemlerin sonradan kullanılması ("sonradan uzaktan biyometrik tanımlama sistemi") ise yüksek riskli bir kullanım alanı olarak kabul edilir ve kullanımı bir suçla bağlantılı olarak belirli bir mahkeme yetkilendirme şartına bağlıdır.

Yüksek Riskli Sistemler İçin Yükümlülükler

Sağlık, güvenlik, temel haklar, çevre, demokrasi ve hukukun üstünlüğü açısından önemli zarar potansiyeline sahip diğer yüksek riskli yapay zekâ sistemleri için açık yükümlülükler öngörülmüştür. Yüksek riskli yapay zekâ kullanımlarına örnekler arasında kritik altyapı, eğitim ve mesleki eğitim, istihdam, temel özel ve kamu hizmetleri (örneğin sağlık hizmetleri, bankacılık), yargıda ve demokratik süreçlerde belirli sistemler (örneğin seçimleri etkileme) yer alır. Bu sistemler riskleri değerlendirmeli ve azaltmalı, kullanım kayıtlarını tutmalı, şeffaf ve doğru olmalı ve insan denetimini sağlamalıdır. Vatandaşlar, haklarını etkileyen yüksek riskli yapay zekâ sistemleri hakkında şikayetlerde bulunma ve kararlar hakkında açıklama alma hakkına sahip olacaklar.

Şeffaflık Gereklilikleri

Genel amaçlı yapay zekâ (GPAI) sistemleri ve onların dayandığı GPAI modelleri, belirli şeffaflık gerekliliklerini karşılamak zorundadır, bu da AB telif hakkı yasalarına uyumu ve eğitim için kullanılan içeriğin ayrıntılı özetlerinin yayımlanmasını içerir. Sistemik riskler oluşturabilecek daha güçlü GPAI modelleri, model değerlendirmeleri yapma, sistemik riskleri değerlendirme ve azaltma ve olayları rapor etme gibi ek gerekliliklere tabi olacaklardır.

Ayrıca, yapay veya manipüle edilmiş görüntüler, ses veya video içeriği ("deepfake'ler") net bir şekilde etiketlenmelidir.

İnovasyon ve KOBİ'lere Destek Önlemleri

Ulusal düzeyde düzenleyici kum havuzları ve gerçek dünya testleri oluşturulmalı ve KOBİ'ler ve start-up'lara erişilebilir hale getirilmelidir, böylece yenilikçi yapay zekâ geliştirmek ve eğitmek mümkün olur.

Alıntılar

İç Pazar Komitesi Eş-Raporörlüğü Brando Benifei (S&D, İtalya), "Nihayetinde dünyanın ilk bağlayıcı yapay zekâ yasasına sahibiz, riskleri azaltmak, fırsatlar yaratmak, ayrımcılıkla mücadele etmek ve şeffaflık getirmek için. Parlamento sayesinde, Avrupa'da kabul edilemez yapay zekâ uygulamaları yasaklanacak ve işçilerin hakları ile vatandaşların hakları korunacaktır. Yapay Zekâ Ofisi şimdi şirketlere yasalara uyum sağlamaya başlamaları için destek olacak. İnsanlar ve Avrupa değerleri yapay zekânın gelişiminde merkezi bir konumda olacak şekilde sağladık" dedi.

Özgürlükler Komitesi Eş-Raporörlüğü Dragos Tudorache (Yenileme, Romanya) ise şunları söyledi: "AB başardı. Yapay zekâ kavramını toplumlarımızın temelini oluşturan temel değerlerle ilişkilendirdik. Ancak, AI Yasası kendisiyle sınırlı kalmayacak çok iş var. Yapay zekâ, demokrasilerimizin temelindeki sosyal sözleşmeyi, eğitim modellerimizi, iş piyasalarımızı ve savaş yürütme şeklimizi yeniden düşünmemizi gerektirecek. AI Yasası, teknoloji etrafında inşa edilen yeni bir yönetim modeli için bir başlangıç ​​noktasıdır. Şimdi bu yasayı uygulamaya koymaya odaklanmalıyız."

Sonraki Adımlar

Düzenleme hala nihai bir hukuk mütercimince kontrol edilmeye ve nihai olarak yasama dönemi sona ermeden önce (düzeltme prosedürü olarak adlandırılan yöntemle) kesin olarak kabul edilmesi bekleniyor. Yasayı Resmi Gazete'de yayımlanmasını takiben yirmi gün sonra yürürlüğe girecek ve tam olarak 24 ay sonra uygulanmaya başlayacak, yasaklanmış uygulamalar için ise yürürlüğe giriş tarihinden altı ay sonra uygulanacak, uygulama kuralları (giriş tarihinden dokuz ay sonra) genel amaçlı yapay zekâ kuralları dahil (giriş tarihinden 12 ay sonra) ve yüksek riskli sistemler için yükümlülükler (giriş tarihinden 36 ay sonra) olarak belirlenmiştir.

Arka Plan

Yapay Zekâ Yasası, Avrupa'nın rekabetçiliğini artırmaya, güvenli ve güvenilir bir toplum oluşturmaya, yanlış bilgiyi önlemeye ve insanların nihayetinde kontrolde olmasını sağlamaya ilişkin olarak, Avrupa'nın Geleceği Konferansı (COFE) kapsamında doğrudan vatandaşların önerilerine yanıt vermektedir.

 

kaynak

https://www.europarl.europa.eu/news/en/press-room/20240308IPR19015/artificial-intelligence-act-meps-adopt-landmark-law