Avrupa Birliği Yapay Zeka Yönetmeliği Taslağına İlişkin İnceleme

Av. Nilüfer Özmen

Avrupa Birliği Komisyonu tarafından 21.04.2021 tarihinde, yapay zeka ile ilgili ilk yasal düzenleme olarak da tanımlanan Yapay Zeka Yönetmeliği taslağı yayınlanmıştır. Yapay Zeka Yönetmeliği taslağı (“Yönetmelik”) ile hemen hemen her sektöre belirli yükümlülükler getirecek düzenlemelere yer verilmiştir.

İşbu bilgi notunda, Avrupa Birliği Yapay Zeka Yönetmeliği taslağına ilişkin genel çerçevede bilgi verilecektir.

Yönetmelik’in Amacı
Yönetmelik, Birlik içinde yüksek riskli yapay zeka sistemlerinin piyasaya sürülmesi, hizmete sokulması ve kullanılması ile ilgili kuralları ortaya koymaktadır. Ayrıca görüntü, ses veya video içeriğini oluşturmak veya işlemek için kullanılan; gerçek kişilerle ve yapay zeka sistemleriyle etkileşime girmesi amaçlanan yapay zeka sistemleri için gerekli kuralları belirlemektedir.

Bununla beraber Yönetmelik; Birlik hukuku ve değerleriyle uyumlu, sağlık, güvenlik ve kişilerin temel hak ve özgürlüklerinin yüksek düzeyde korunmasına katkıda bulunan yapay zeka alımına yönelik koşulları oluşturarak, iç pazarın işleyişini iyileştirmeyi amaçlamaktadır.

Yapay Zeka Yönetmeliği Taslağına Genel Bakış
Yönetmelik’te ilk olarak “Yapay Zeka Sistemleri” kavramına açıklık getirilmiş olup Yönetmelik ile bu yapay zeka sistemlerinin sağlayıcılarına, imalatçılarına, ithalatçılarına, distribütörlerine ve kullanıcılarına birtakım yükümlülükler getirilmiş, Avrupa Birliği’nde yapay zeka sistemlerinin geliştirilmesini ve alımını teşvik etmeyi hedefleyen düzenlemelere yer verilmiştir. Yapay Zeka Yönetmeliği ile ayrıca, Yönetmelik’in kabulü ve yayınlanmasını müteakip iki yıllık bir uygulama dönemi öngörülmektedir.

Yönetmelik taslağında “yapay zeka sistemi”; bir veya daha fazla yaklaşım ve teknikle geliştirilen ve belirli bir insan tanımlı hedef kümesi için, gerçek veya sanal ortamları etkileyen içerikler, tahminler, öneriler veya kararlar gibi çıktılar üretebilen yazılımları ifade etmektedir

Yönetmelik teklifi; yapay zeka sistemi birlik pazarına yerleştirildiği veya kullanımı AB’de bulunan insanları etkilediği sürece, hem AB içindeki hem de dışındaki kamu ve özel tüm sektörler için geçerli olacaktır. Bu Yönetmelik hem yapay zeka sağlayıcılarını hem de yüksek riskli yapay zeka sistemlerinin kullanıcılarını ilgilendirmektedir.

Yapay Zeka Risk Kategorileri
Yönetmelik taslağı kapsamında, Avrupa Birliği Komisyonu tarafından yapay zeka sistemlerine ilişkin düzenlemeler yapılırken dört risk seviyesi ile risk temelli bir yaklaşım önerilmektedir;

1- Kabul edilemez risk: Temel hakları ihlal etmeleri sebebi ile AB değerlerine aykırı nitelikleri ve çok sınırlı sayıda olan, özellikle zararlı yapay zeka kullanımları yasaklanacaktır. Bunlara örnek olarak; hükümetler tarafından yapılan sosyal puanlama, çocukların savunmasızlığından yararlanma, bilinçaltı tekniklerin kullanımı ve kolluk kuvvetleri için kullanılan halka açık alanlarda gerçek zamanlı uzaktan biyometrik tanımlama sistemleri verilebilmektedir.

Önemle belirtmek gerekir ki; gerçek zamanlı uzaktan biyometrik tanımlama sistemlerinin kullanım yasağı, açık bir şekilde kamusal alanlarda yüz tanıma teknolojisinin de kullanımını kapsayacaktır. Bu tür yapay zeka sistemlerinin yasaklanmasının mantığı, eşitlik ve insan hakları gibi temel değerleri korumaktadır.

2- Yüksek risk: Yönetmelik taslağında tanımlanan sınırlı sayıda yapay zeka sistemi, insanların güvenliği veya temel hakları üzerinde olumsuz bir etki yaratmaktadır ve bu sistemler yüksek riskli olarak kabul edilmektedir.

Esasen taslak Yönetmelik, yüksek riskli yapay zeka sistemlerine mutlak bir yasak getirmemektedir. Bunun yerine, yüksek risk olarak sınıflandırılan yapay zeka sistemleri için birtakım zorunlu gereksinimler önerilmektedir. Bu gereksinimlere; veri yönetimi, kayıt tutma, şeffaflık ve kullanıcılara bilgi sağlama, insan gözetimi, siber güvenlik ve uygunluk değerlendirme prosedürleri örnek olarak verilebilmektedir.

3- Sınırlı risk: Belirli şeffaflık yükümlülükleri olan yapay zeka sistemlerini ve açık bir manipülasyon riskinin olduğu durumları kapsamaktadır. Örneğin; sohbet robotları gibi yapay zeka sistemlerini kullanırken, kullanıcıların bir makineyle etkileşimde bulunduklarının farkında olmaları gerekmektedir. Böylece devam etmek veya geri adım atabilmek için bilinçli bir karar alabilme şansları olabilecektir.

4- Minimum risk: Diğer tüm yapay zeka sistemleri, ek yasal yükümlülükler olmaksızın mevcut mevzuata tabi olarak geliştirilebilmekte ve kullanılabilmektedir. Şu anda AB’de kullanılan yapay zeka sistemlerinin büyük çoğunluğunun bu kategoriye girdiğini söylemek mümkündür.

Taslak Yönetmelik; yapay zeka destekli video oyunları veya spam filtreleri gibi uygulamaların ücretsiz kullanımına izin vermektedir. Yapay zeka sistemlerinin büyük çoğunluğu da esasen bu kategoriye girmektedir. Taslak Yönetmelik bu alana müdahale etmemektedir, çünkü bu yapay zeka sistemleri vatandaşların hakları veya güvenliği için yalnızca minimum riski temsil etmektedir yahut hiç risk oluşturmamaktadır.

Taslak Yönetmelik Kapsamında Gerçek Zamanlı Uzaktan Biyometrik Tanımlama
Yönetmelik taslağı ile getirilen yeni düzenlemeler uyarınca; kişilerin uzaktan biyometrik tanımlanması için kullanılması amaçlanan tüm yapay zeka sistemleri, yüksek riskli olarak kabul edilecek ve tasarım gereği dokümantasyon ve insan gözetim gereklilikleri dahil olmak üzere uygunluk değerlendirmesine tabi olacaktır. Yüksek kaliteli veri setleri ve testler, bu tür sistemlerin doğru olduğundan ve etkilenen nüfus üzerinde hiçbir ayrımcı etkinin bulunmadığından emin olmaya yardımcı olacaktır.

Gerçek zamanlı uzaktan biyometrik tanımlamanın halka açık alanlarda kullanılması; temel haklar, özellikle insan onuru, özel hayata ve aile hayatına saygı, kişisel verilerin korunması ve ayrımcılık yapılmaması için belirli riskler ortaya çıkarmaktadır. Bu nedenle, kesin olarak tanımlanmış, sınırlandırılmış ve düzenlenmiş birkaç dar istisna dışında bu tür yapay zeka sistemlerinin kullanılması prensipte yasaklanmıştır. Ancak kayıp çocuklar da dahil olmak üzere belirli potansiyel suç mağdurlarını aramak, yakın bir terör saldırısı tehdidini önlemek veya ciddi suçların faillerini tespit edebilmek amacıyla kolluk kuvvetleri için bu yapay zeka sistemlerinin kullanımı mümkündür.

Avrupa Birliği Yaklaşımının Uluslararası Boyutu
Yapay zeka; jeopolitik, ticari çıkarlar ve güvenlik kaygılarının kesiştiği noktada stratejik öneme sahip bir alan haline gelmektedir. Dünyanın dört bir yanındaki ülkeler yapay zekayı faydası ve potansiyeli nedeniyle teknik ilerleme arzularını işaret etmenin bir yolu olarak kullanmayı seçmektedirler.

Yapay zeka düzenlemesi ise yeni ortaya çıkan bir düzenlemedir ve Avrupa Birliği, kurallara dayalı çok taraflı sistem ve desteklediği değerler doğrultusunda uluslararası ortaklarla yakın işbirliği içinde küresel yapay zeka standartlarının belirlenmesini teşvik etmek için birtakım önlemler almaktadır. Avrupa Birliği, AB ortaklarıyla (örneğin Japonya, ABD veya Hindistan) çok taraflı (örneğin OECD ve G20) ve bölgesel kuruluşlarla (örneğin Avrupa Konseyi) ortaklıkları, koalisyonları ve ittifakları derinleştirmeyi amaçlamaktadır.