Yapay zekaya AB kriterleri
12 Haziran 2023
Avrupa Birliği (AB) bir ilke imza atarak, hızla yaygınlaşan yapay zeka teknolojilerine kurallar getirmeye hazırlanıyor.
"AB Yapay Zeka Yasası" ismini taşıyan ve küresel çapta ilk kez bu alanda en kapsamlı hukuki düzenlemeler öngören yasa tasarısı, bu hafta Avrupa Parlamentosu'nun gündeminde yer alıyor.
Metin üreticisi, sohbet robotu ChatGPT'yi piyasaya süren OpenAI şirketinin CEO'su Sam Altman, Almanya ziyareti sırasında bu düzenlemelere işaret ederek "aşırı regülasyon" uyarısı yaptı.
Hatta yeni düzenlemelerin kendilerine uymaması durumunda Avrupa'daki faaliyetlerine son verme tehdidinde bulunan Altman, daha sonra "elbette ayrılmak gibi bir planımız yok" diyerek söylemini yumuşattı, geri adım attı.
Sam Altman çok aranan, yapay zeka dünyasında ağırlığı olan bir isim. Hatta Berlin'de, Alman Şansölyesi Olaf Scholz tarafından bile kabul edildi.
OpenAI CEO'su Altman, ilkesel olarak yapay zeka için kurallar öngörülmesini olumlu bulduklarını söylemekle birlikte, "Ama bizim netliğe ihtiyacımız var" dedi.
Avrupa standartlarına uyum beklentisi
Avrupa Parlamentosu'nun Sosyal Demokrat milletvekili René Repasi, OpenAI ya da ana şirketi Microsoft tarafından yürütülen üst düzey bu lobi faaliyetleri ve uyarılara oldukça sakin yaklaşıyor.
Avrupa pazarının, yapay zeka sağlayıcıları için "görmezden gelinemeyecek kadar cazip" olduğuna vurgu yapan Repasi, "Yapay zekasını burada satmak isteyen herkes standartlarımıza uymak zorunda" görüşünü aktardı.
ABD Kongresi'nin de bu konuyla ilgili düzenlemelere gitmeye hazırlandığını, Amerikalı kongre üyeleriyle de iletişimde olduklarını anlatan Repasi, "Nihayetinde anlamlı standartlar oluşturmak istiyoruz, hedefimiz karşılıklı olarak rekabete girmek değil” diye konuştu.
Avrupalı parlamenter, Amerikan teknoloji şirketlerinin çok fazla sermayeye, muazzam miktarda veriye ve sonuna kadar savunmak istedikleri üstünlüğe sahip olduklarına dikkat çekerken, "Bu kadar çok teknoloji devinin ABD'de yerleşik olması, daha büyük inovasyonun nerede olduğuyla ilgili bir konu değil. Bu daha çok tekelcilerin faaliyet gösterdiği, bozuk pazar koşullarıyla ilgili bur durum" sözlerini kaydetti.
René Repasi, ayrıca AB'nin kabul etmeye hazırlandığı yeni kuralların, Avrupa'daki nitelikli start-up'ların yapay zekayı daha da geliştirmesine engel olmayacağının da altını çizdi.
Yapay zeka öncülerinden uyarılar
Google'ın eski çalışanı ve yapay zekanın öncülerinden Geoffrey Hinton, son zamanlarda verdiği röportajlarda, geliştirilmesinde önemli rol oynadığı bu teknolojilerin oluşturabileceği tehlikeler konusunda uyarılarda bulundu.
Yakın bir gelecekte üretken yapay zekanın, bu teknolojileri üreten insanlardan daha gelişmiş bir zekaya sahip olabileceğine işaret eden Hinton, ayrıca bu teknolojilerin işgücü piyasasında yol açması muhtemel değişimin de öngörülemez olduğunu kaydetti.
Bu sistemlerin yaratıcıları ile Microsoft ve Google yöneticileri, yapay zeka uygulamalarının artık nasıl işlediğini tam olarak bilmediklerini de itiraf ettiler.
Twitter'ın sahibi Elon Musk'ın da aralarında bulunduğu araştırmacılar ve girişimciler yazdıkları açık bir mektupta, yapay zekanın gelişimine sınırlar koymak için yıl sonuna kadar beklenmesi çağrısında bulundular.
AB ise, iki yıldır hazırlıkları süren yasa ile olası risk ve tehlikeleri önlemek istiyor.
AB düzenlemesi ne öngörüyor?
Prensipte düzenlemeler yapay zeka uygulamalarının riskler bakımından sınıflandırılmasını öngörüyor.
İnsanların sosyal davranışlarını kabul edilemez şekilde analiz eden ve bu analizler sonucunda gelecekteki davranışlarıyla ilgili öngörülerde bulunan sistemler "yüksek riskli” olarak sınıflandırılacak ve yasaklanacak. Risk oluşturan sistemler kurallara, sınırlamalara tabi olacak. Daha basit uygulamalar, ki muhtemelen ChatGPT de bu kapsamda olacak, çok da ciddi sınırlamalara tabi olmayacak.
Bununla birlikte yapay zeka ile verilen tüm hizmetler etiketlenecek. Bu hizmeti alan kişiler, muhatabının, hizmeti verenin, yapay zeka olduğunu bilecek.
Parlamenter René Reparsi, tüketici kredileri için yapılan başvuru süreçlerini örnek olarak gösterdi. Başvuruların günümüzde artık büyük ölçüde yapay zeka tarafından kontrol edildiğine dikkat çeken Reparsi, "Sonuç olumsuzsa, bunun bir insan tarafından kontrol edilmesi talep edilebilmeli. Zaten öncesinde de bir yapay zeka ile görüştüğünüzü bilmeniz gerekiyor" dedi.
AB yasası ne zaman yürürlüğe girer?
AB yasasının yürürlüğe girmesi zaman alacak, hatta 2025 yılının başını bulabilir. Yürürlüğe girebilmesi için Avrupa Parlamentosu'nun onayının ardından, 27 üye ülkenin onayı gerekecek.
Avrupa Parlamentosu'nun Hristiyan Demokrat milletvekillerinden Axel Voss, bu yasa iki yıl önce ilk gündeme geldiğinde henüz ChatGPT gibi uygulamaların olmadığını, yasa yürürlüğe girdiğinde ise bu alanda çok daha büyük ilerleme kaydedilmiş olacağına işaret etti. Voss, yasa yürürlüğe girdiğinde yaşanan hızlı değişim nedeniyle bazı maddelerin o günün koşullarına uymayabileceğini de sözlerine ekledi.
Yıllardır yapay zeka konusunda çalışmalar yürüten ve AB'nin yasasını kaleme alanlar arasında yer alan Voss, çok katı yasaklardan kaçınılması gerektiği görüşünde.
Voss, "Aslında rekabet ve bu alanda zaten geriden geldiğimiz için yapay zeka konusunda daha güçlü ve iyimser bir ruh haline ihtiyacımız var. Ancak Avrupa Parlamentosu'ndaki çoğunluk açısından ortaya çıkan şey, insanların kendilerini korku ve endişelerin yönlendirmesine izin vermeleri ve her şeyi dışlamaya çalışmalarıdır" dedi.
AB üyesi ülkelerin veri koruma sorumluları yapay zeka uygulamalarının bağımsız olarak denetlenmesi ve veri koruma yasasında daha fazla düzenleme yapılması çağrısında bulundu.
Sosyal Demokrat milletvekili René Reparsi ise yasanın esnek olması, hangi uygulamaların yüksek riskli olduğuna ilişkin tespitlerin yasa metninde değil, eklerinde yer alması gerektiğini savundu. Reparsi, bu sayede daha hızlı değişiklik yapılabileceğini, değişime daha kolayca adapte olunabileceğini kaydetti.
TÜV güven tesis edebilir mi?
Yeni yasa, Avrupa'da riskli yapay zeka uygulamaları satmak isteyenlere karşılanması gereken zorlu yükümlülükler getirecek. Ayrıca bu şirketler ürünleri için risk yönetimi oluşturmak zorunda olacak.
Verileri kullanılan kişilere, bu verilerinin hangi amaçlarla kullanıldığını bildirme zorunluluğu getirilecek.
İtalyan veri koruma otoritesi, veri korumadaki eksiklikler nedeniyle Nisan ayında ChatGPT'yi kısa bir süre yasaklamış, üretici OpenAI şirketi bazı değişiklikleri hayata geçirdikten sonra bu yasağı kaldırmıştı.
Almanya'da da ilgili kurumlar, Alman Federal Bilgi Güvenliği Ofisi ve Fraunhofer Enstitüsü, yapay zeka uygulamaları için özel bir sertifikayı yürürlüğe koymayı değerlendiriyor.
Tıpkı bir otomobilin TÜV'e gitmesi gerektiği gibi, yapay zekanın da, denetçiler tarafından teknik olarak sertifikalandırılması düşünülüyor. Böylelikle, şöförsüz araçlara ya da tıp alanında, örneğin ameliyatlar yapacak robotlara da güven tesis edilebilecek.