Yapay zeka çok çeşitli ve hızlı çözüm getirebilen bir teknoloji ailesine dönüşüyor. Tüm endüstriler operasyonları ve kaynak tahsisini optimize etmek ve hizmet sunumunu kişiselleştirmek açısından Yapay Zeka teknolojisini destekliyor, böylece Avrupa ekonomisine de büyük rekabet ortamı sağlıyor. Özellikle kamu sektörü, sağlık, finans gibi alanlarda öncü ve etkili bir eylem gerçekleştiriyor. Bir taraftan Yapay Zeka teknolojisini güçlü kılan unsurlar bireyler ve toplum için de yeni riskleri de beraberinde getiriyor.
Başkan Von Der Leyen’ın siyasi taahhüdü ile birlikte tüm Avrupa ile koordineli ve ortak standartları geliştiren bir yaklaşımla oluşturulacak olan Yapay zeka teknolojisi için yasal tüm altyapının da tamamlanması hızla gerçekleşecek. 19 Şubat 2020 tarihinde yayımlanan Yapay Zeka üzerine Beyaz Kitapta da dengeli bir yapay zekanın kullanımı için mükemmel bir yaklaşımın nasıl olması gerektiğine yer verildi. Bir taraftan teknoloji gelişirken temel haklara da zarar vermeyen ve güven tesis eden bir yapının kurulması hedeflendi. Yapay zeka teknolojisi insan merkezli olur ise ancak insanlar güvenebilir ve kullanıma onay verebilirler.
Bu bağlamda yüksek riskli AI uygulamaları tespit edilerek düzenlemede bu alanların sınırları net olarak çizildi. Yapay Zeka Tüzüğü Taslak metinde aynı zamanda biyometrik yöntemlerle veri işlemeye kısıtlama getirilmesi, algoritmik uygulamalar ile ayrımcılık yasağının delinmesi gibi riskli durumlara da yer veriliyor. Bu durumlarda veri setlerinin tasarımı oldukça önem kazanıyor.
Avrupa Birliği güvenilir bir yapay zeka için dijital egemenliği koruyan, küresel kuralları ve standartları belirleyecek ve Avrupanın rekabet gücünü ve endüstriyel temelini güçlendirecek.
AB Yapay Zeka Tüzük Taslağı’nda öne çıkan maddelere ilişkin değerlendirmelerim aşağıda sırasıyla yer almaktadır.
Tüzük Taslağı’nın 2. Maddesi “Orantılılık”
Tüzük, mevcut yasal çerçevelere dayanmaktadır ve risk temelli bir yaklaşımı benimsediği ve düzenleyici hükümler getirdiğinden orantılılık, temel hakların zarar görmesi ve yapay zeka uygulamalarının yüksek risk oluşturması duruma odaklıdır. Yüksek riskli olmayan yapay zeka sistemleri için şeffaflık ilkesi katı olarak uygulanmamaktadır. Yapay zeka sistemleri için veri kalitesinin yüksek olması, erişilebilirlik, şeffaflık, insan gözetimi, doğruluk ve güvenilirlik konuları tartışılmıştır. Risk tanımlamasının önemi vurgulanarak ve “yüksek riskli”, “düşük riskli”, “biyometrik yöntemler ve uzaktan kimlik doğrulama”, “zarar” kavramları üzerinde durulmuştur.
Tüzük Taslağı’nın 3. Maddesi “Etki Değerlendirmesi”
Farklı düzeylerde dört politika başlığı belirlendi:
- AB içinde yasamanın yapacağı bir düzenleme,
- Sektörel yaklaşımın dahil edilmesi,
- Orantılı bir risk temelli yaklaşımı izleyen AB’de yatay olarak yasal düzenleme yapılması,
- Oluşturacağı riske bakılmaksızın tüm Yapay Zeka sistemleri için genel gereksinimlerin tanımlanması.
Tüzük Taslağı’nın 3.5. Maddesi “Temel Haklar”
YZ’nın kendine has özellikleri (opaklık, karmaşıklık, verilere bağımlılık) temel hakların zarar görmesine neden olabilir. Bu teklif temel hakların korunması noktasında da yüksek bir düzey sağlamak istemektedir. Özellikle insan onurunun korunması, özel hayata saygı ve kişisel verilerin korunması, ayrımcılık yasağı, eşitlik, adil yargılama, toplantı ve gösteri yapma özgürlüğü, masumiyet karinesi gibi temel hakların korunması önemlidir.
Ayrıca teklif bir dizi özel grubun haklarını etkileyecektir. Örneğin çalışanların adil çalışma koşulları, tüketici hakları, çocuk hakları, engelli hakları, çevre hakkı, sağlık hakkı ve güvenlik hakkı. Kritik alanlarda yapay zeka destekli karar riskini en aza indirerek (yargı, kolluk, eğitim, istihdam gibi) hakları etkilenenlere ise etkili bir tazminat yolu öngörmek amaçlanmalıdır.
Tüzük Taslağı’nın 5.2.2. Maddesi “Yasaklı Yapay Zeka Uygulamaları”
- Manipülatif uygulamalar, özellikle bilinçaltı teknikler kullanarak bilinci manipüle eden uygulamalar. (çocuklar ve engelliler açısından daha savunmasız gruplara yönelik gerçekleştirilen manipülatif uygulamalar.)
- Profilleme yapan uygulamalar.
- Özellikle kamu sektöründe ya da istihdam sektöründe puanlama yapan uygulamalar.
- Halka açık alanlarda uzaktan kimlik doğrulama ve biyometrik yöntemler.
Tüzük Taslağı’nın 5.2.3. Maddesi “Riskli Yapay Zeka Uygulamaları”
Sağlık ve güvenlik konularında kullanılan YZ tabanlı sistemler özel bir takım kurallar barındırmalıdır. Yüksek riskli kabul edilen AI uygulamalarına AB alanında belli kurallara tabi olarak izin verilir.
Yüksek riskli AI sistemlerinin iki ana kategorisi tanımlanmıştır:
- Güvenlik nedeni ile kullanılacak AI uygulamalarının üçüncü taraf ön uygunluk denetimlerinin gerçekleştirilmesi,
- Temel haklara zarar verme tehlikesi olan AI sistemlerinin değerlendirmeye tabi tutulması.
Yüksek riskli Yapay Zeka sistemlerinin sağlayıcılarına net bir dizi yasal yükümlülük koyulmaktadır. (Aynı zamanda da ithalatçılar, distribütörler, yetkili temsilciler.) Her türlü yüksek AI sistemi için izlenecek olan birtakım değerlendirme prosedürlerini içerir. Çerçeve mevzuat geliştirilecek ve bu çerçeve mevzuata tabi olan alanlar tıbbi cihazlar, oyuncaklar, makineler. Ürünlerin ex-ante(öncesi), ex-post(sonrası) uyumları denetlenecektir. Yüksek riskli Yapay Zeka sistemleri için yeni bir uyum ve yaptırım sistemi kurulacaktır. “Bağımsız” yüksek riskli yapay zeka sistemleri için etkili ve uygun şekilde belgelendirilmiş bir ön uyum gerektirir. Kamu şeffaflığını arttırmak için Komisyon tarafından yönetilecek veri tabanı ve yetkili makamlar tarafından denetimi güçlendirecek bir yönetim mekanizmasının kurulması gerekir.
Tüzük Taslağı’nın 5.2.4. Maddesi “Belirli YZ Sistemleri İçin Şeffaflık Yükümlülükleri”
Manipülasyon durumlarını hesaba katan bir sistemin şeffaf olarak yazılması gerekir. Özellikle insanlarla etkileşime giren, duyguları tespit eden, zihin faaliyetlerini denetleyen, deep fake uygulamaları gibi sistemlerde mutlaka insanların bilgilendirilmesi gerekir. Bir AI sistemi manipüle etmek için kullanılıyor ve gerçeğinden ayırt edilemiyorsa içeriğin otomatik yollarla üretildiğini açıklama yükümlülüğü vardır. Bu noktada kişilerin bilinçli seçimler yapması ya da uygulamayı kullanmaktan vazgeçmesi gibi seçenekleri olmalıdır.
Tüzük Taslağı’nın 5.2.5. Maddesi “İnovasyonu Destekleyen Önlemler”
İnovasyon dostu yasal bir çerçeve oluşturmak için katkıda bulunur ve düzenleyici ve denetleyici alanlar oluşturur.
Tüzük Taslağı’nın 5.2.6. Maddesi “Yönetişim Ve Uygulama”
Birlik genelinde Yapay Zeka Kurulu kurulacaktır. Yapay Zeka Kurulu’na birlik içinde Avrupa Veri Koruma Denetçisi başkanlık edecektir.
Kurul’un görevleri:
- Tüzük’ün sorunsuz, etkin ve uyumlu bir şekilde uygulanmasını sağlamak,
- Ulusal denetim makamları ve Komisyon arasında etkili işbirliği sağlar ve Komisyon’a tavsiye verir.
- Üye devletlerde Tüzük uygulamalarını denetler.
- En iyi uygulamalar hakkında tavsiyelerde bulunur.
- Yüksek riskli Yapay Zeka sistemlerinin izlenmesi amacıyla bir veri tabanı oluşturulur ve veri tabanını Kurul işletir.
AB Yapay Zeka Tüzük taslağı hakkında detaylı bilgi almak için tıklayınız.
Av. Sabire Sanem Yılmaz