Avrupa Yapay Zeka Yasası, 2 Şubat 2025'te yürürlüğe girerek AB genelinde bazı yapay zeka uygulamalarını yasa dışı hale getiren önemli değişiklikler getirdi. Hollandalı işletmeler artık hangi yapay zeka sistemlerini kullanabilecekleri konusunda katı kurallara uymak zorundalar.
Yasaklı yapay zeka araçlarını kaldırmayan şirketler ağır para cezalarıyla ve zarar gören herkesten gelebilecek yasal işlemlerle karşı karşıya kalabilir.
Şubat 2025 itibarıyla, Hollanda'da insanları manipüle eden, sosyal puanlama kullanan, biyometrik verilere dayanarak bireyleri sınıflandıran veya kamusal alanlarda gerçek zamanlı yüz tanıma kullanan yapay zeka sistemleri yasaklandı. Bu yasaklar ayrıca iş yerlerinde ve okullarda duygu tanıma teknolojisini ve tanıma veritabanları oluşturmak için internetten hedef dışı yüz görüntüsü toplamayı da kapsıyor.
Kurallar derhal yürürlüğe giriyor ve işletmelere bu sistemleri aşamalı olarak kaldırmak için herhangi bir geçiş süresi tanımıyor. Hangi yapay zeka uygulamalarının yasaklandığını ve kuruluşunuzun hangi adımları atması gerektiğini anlamak, cezalardan kaçınmak için çok önemlidir.
Bu kılavuz, belirli yasakları açıklamakta, Hollandalı bir işletme olarak uyumluluk yükümlülüklerinizi özetlemekte ve yeni yasa kapsamında faaliyetlerinizi yasalara uygun şekilde sürdürmek için gereken eğitim şartlarını kapsamaktadır.
Yasakların kapsamı
AB Yapay Zeka Yasası olarak bilinen 2024/1689 sayılı (AB) Yönetmeliği , 2 Şubat 2025'te yürürlüğe giren belirli yapay zeka uygulamalarına ilişkin özel yasaklar getirmiştir. Bu kurallar , Hollanda'da veya daha geniş Avrupa Birliği'nde yapay zeka sistemleri geliştiriyor, uyguluyor veya kullanıyorsanız, Hollanda'daki işletmeniz için geçerlidir .
Yasaklanmış yapay zeka uygulamalarının kapsamı
Yapay Zeka Yasası, temel haklara ve Avrupa değerlerine kabul edilemez riskler oluşturan belirli yapay zeka uygulamalarını yasaklamaktadır. (AB) 2024/1689 Yönetmeliğinin 5. Maddesi, bu yasaklı uygulamaları teknolojinin kendisinden ziyade potansiyel zararlarına göre belirlemektedir.
Yasaklı kategorilerin başlıcaları şunlardır:
- Manipülatif yapay zeka sistemleri belirli grupların zaaflarından yararlanan
- Sosyal puanlama sistemleriister kamu otoritesi tarafından ister özel bir işletme tarafından işletilsin
- Gerçek zamanlı uzaktan biyometrik kimlik doğrulama (Sınırlı istisnalar dışında) kolluk kuvvetlerinin kullanımına açık kamuya açık alanlarda
- Biyometrik sınıflandırma sistemleri hassas nitelikleri çıkarsayan
- Hedefsiz veri kazıma internetten veya güvenlik kamerası görüntülerinden elde edilen yüz görüntüleri
İster Hollanda'da yapay zeka sağlayıcısı, uygulayıcısı veya dağıtıcısı olarak faaliyet gösteriyor olun, işletmeniz bu yasaklar kapsamına girer. Hollanda Veri Koruma Kurumu, uyumluluğu sağlamak için diğer Avrupa Birliği uygulama organlarıyla birlikte çalışmaktadır.
Yasaklara uyulmaması durumunda, 35 milyon euroya kadar veya yıllık küresel cironun yüzde 7'si, hangisi daha yüksekse, o kadar para cezası uygulanır.
Yürürlük tarihleri ve geçiş dönemleri
Madde 5 kapsamındaki yasaklar 2 Şubat 2025 tarihinde yürürlüğe girdi. Bu, ilgili yapay zeka sistemlerini kullanıyorsanız veya geliştiriyorsanız işletmenizin bu kurallara derhal uyması gerektiği anlamına gelir.
Uygulama çerçevesi kademeli bir zaman çizelgesini takip etmektedir. Tam cezalar, yönetim yapıları ve gizlilik hükümleri 2 Ağustos 2025 tarihinden itibaren yürürlüğe girecektir.
Bu, kuruluşunuza kuralların geçerli olduğu ancak tam uygulama mekanizmalarının henüz oluşturulma aşamasında olduğu altı aylık bir süre tanır. Avrupa Komisyonu, bu yasakların pratikte nasıl işlediğini açıklığa kavuşturmak için 4 Şubat 2025 tarihinde resmi yönergeler yayınladı.
Uygulama, her üye devletin ataması gereken ulusal piyasa gözetim otoriteleri aracılığıyla organize edilmektedir. Hollanda, bu otoriteleri resmen atayan uygulama yasasını henüz tamamlamamıştır; hazırlık aşamasında Hollanda Veri Koruma Kurumu ve Hollanda Dijital Altyapı Kurumu koordinasyon organları olarak görev yapmaktadır ve sektör düzenleyicileri kendi alanlarında yapay zekayı denetlemektedir. Yasak, bundan bağımsız olarak geçerlidir: uygulama yapısının henüz tamamlanmakta olması, yasaklanmış bir uygulamayı yasal hale getirmez ve 5. maddeyi ihlal eden bir sistem çoğu durumda GDPR'ı da ihlal eder; bu da Hollanda Veri Koruma Kurumu tarafından bugün uygulanabilir.
Temel tanımlar: Yapay zeka sistemleri ve uygulamaları
Yönetmeliğin 3. maddesi, yapay zekâ sistemini , farklı özerklik seviyelerinde çalışmak üzere tasarlanmış, devreye alındıktan sonra uyum sağlayabilen ve aldığı girdilerden yola çıkarak tahminler, içerik, öneriler veya fiziksel veya sanal ortamları etkileyebilecek kararlar gibi çıktılar üretmeyi çıkarsayan makine tabanlı bir sistem olarak tanımlar. Bu tanımda işi yapan unsur çıkarımdır: Bir kişinin tamamen yazdığı kuralları yalnızca uygulayan bir sistem yapay zekâ sistemi değildir; oysa verilerden kendi karar kuralını çıkaran bir model yapay zekâ sistemidir.
Yasaklanmış yapay zeka uygulaması, Avrupa Birliği'nin kabul edilemez olarak değerlendirdiği yapay zekanın belirli kullanım veya uygulama biçimlerini ifade eder. Yasak, altta yatan teknolojiye değil, uygulamanın kendisine uygulanır.
Bu, aynı yapay zeka sistemini izin verilen amaçlar için kullanırken belirli uygulamalardan yasaklanabileceğiniz anlamına gelir. İşletmeniz, yapay zeka sistemi (teknoloji) ile uygulama biçimi (nasıl kullandığınız) arasında ayrım yapmalıdır.
Yüz tanıma için kullanılan bir yapay zeka sistemi, bina giriş kontrolü için yasal olabilir ancak kamusal alanlarda gerçek zamanlı gözetim için yasaklanabilir. Yasallık, (AB) 2024/1689 Yönetmeliği uyarınca bağlam ve uygulama alanına bağlıdır.
Yasaklanmış yapay zeka uygulamalarının ayrıntılı listesi
AB Yapay Zeka Yasası, temel haklara ve güvenliğe kabul edilemez riskler oluşturan belirli yapay zeka uygulamalarını yasaklamaktadır. Bu yasaklı uygulamalar üç ana kategoriye ayrılır: insan davranışını manipüle eden sistemler, savunmasız grupları istismar eden sistemler ve sosyal puanlama yoluyla kitlesel gözetimi sağlayan mekanizmalar.
Manipülatif ve aldatıcı sistemler
Yapay Zeka Yasası, insan davranışını maddi olarak bozarak zarar veren şekillerde etki eden bilinçaltı tekniklerini kullanan her türlü yapay zeka sistemini yasaklamaktadır. Bunlar, bilinçli farkındalığınızın ötesinde çalışarak kararlarınızı veya eylemlerinizi etkileyen yöntemlerdir.
Yasaklanan manipülatif uygulamalar şunlardır:
- Algılanamayacağınız bilinçaltı bileşenler kullanan yapay zeka sistemleri
- Çocuklarda yaşa bağlı zaaflardan yararlanmak üzere tasarlanmış sistemler
- Davranışları manipüle ederek fiziksel veya psikolojik zarara yol açan teknolojiler.
Yapay zekayı, insanları ciddi zararlara yol açacak şekilde kasıtlı olarak aldatmak için kullanamazsınız . Bu, işletmenizin, bu aldatmanın zarara yol açabileceği durumlarda, yapay zeka doğaları hakkında kullanıcıları yanıltan sohbet robotları veya sanal asistanlar kullanamayacağı anlamına gelir.
Yasak, kullanıcıları zararlı seçimlere yönlendirmek için karanlık desenler veya psikolojik manipülasyon kullanan yapay zeka sistemlerini de kapsıyor. Kanun, bireyleri rasyonel karar verme sürecini atlayan yapay zeka uygulamalarından koruyor.
Yapay zekâ sisteminiz şeffaf bilgiler yerine gizli manipülasyon yoluyla davranışı etkiliyorsa, bu Kanunu ihlal eder.
Savunmasız bireylerin sömürülmesi
Yaş, engellilik veya sosyal ya da ekonomik koşullarla ilgili zaaflardan yararlanan yapay zeka sistemleri kesinlikle yasaktır. Yapay zekayı, anlama veya manipülasyona direnme kapasitesinden yoksun insanlardan faydalanmak için kullanamazsınız.
Bu yasak, çocukların deneyimsizliğini veya yaşlı bireylerin bilişsel gerilemesini hedef alan yapay zekayı kapsamaktadır. İşletmeniz, davranışları manipüle etmek için fiziksel veya zihinsel engelleri istismar eden sistemler kullanamaz.
Ekonomik çaresizlikten veya sosyal izolasyondan faydalanan yapay zekâ da bu yasağın kapsamına girer.
Koruma altına alınan hassas gruplar şunlardır:
- Çocuklar ve küçükler
- Bilişsel bozukluğu olan yaşlı kişiler
- Fiziksel veya zihinsel engelli kişiler
- Ekonomik zorluklarla karşı karşıya olan bireyler
Bu yasak, yapay zekâ sisteminizin istismar yoluyla önemli zarara yol açması veya yol açma olasılığının bulunması durumunda geçerlidir. Yapay zekâ uygulamalarınızın savunmasız nüfus gruplarını haksız yere hedef alıp alamayacağını değerlendirmelisiniz.
Sosyal puanlama ve davranışsal profil oluşturma
Yapay Zeka Yasası, insanların sosyal davranışlarına veya kişisel özelliklerine göre değerlendirme yapan veya sınıflandıran yapay zeka sistemlerini yasaklamaktadır . Adil olmayan muameleye veya zarara yol açan sosyal puanlama mekanizmalarını kullanamazsınız.
Sosyal puanlama, bireylerin davranışlarına, ilişkilerine veya öngörülen davranışlarına göre değerlendirilmesini içerir. Bu, hizmetlere, fırsatlara veya haklara erişimi belirleyen profiller oluşturur.
Yasaklanan sosyal puanlama etkinlikleri şunlardır:
- Vatandaşları sosyal veya mesleki davranışlarına göre değerlendirmek
- Kişisel verilerden güvenilirlik puanları oluşturma
- Profil oluşturmaya dayalı olarak suç davranışını tahmin etme
- Davranışsal değerlendirmelere dayanarak hizmetleri reddetmek
Bir kişinin sağlık hizmeti, eğitim, istihdam veya finansal hizmetlerden yararlanıp yararlanamayacağını belirleyen puanlama sistemleri uygulayamazsınız. Bu yasak, bu sistemleri kamu kurumu veya özel işletme olarak işletmenizden bağımsız olarak geçerlidir.
Kamusal alanlarda gerçek zamanlı uzaktan biyometrik kimlik tespiti de, kolluk kuvvetleri için sınırlı istisnalar dışında, sıkı yasaklar kapsamına giriyor.
Biyometrik, yüz tanıma ve duygu yapay zekasına yönelik yasaklar
AB Yapay Zeka Yasası, temel haklara risk oluşturan çeşitli biyometrik ve yüz tanıma sistemlerini yasaklamaktadır . Bu yasaklar, Hollandalı işletmelerin kamusal alanlarda biyometrik verileri , yüz tanıma veritabanlarını, duygu tanıma araçlarını ve gerçek zamanlı kimlik doğrulama sistemlerini nasıl kullanabileceğini etkilemektedir .
Biyometrik sınıflandırma
Kişilerin biyometrik verilerine dayanarak ırklarını, siyasi görüşlerini, sendika üyeliklerini, dini inançlarını veya cinsel yönelimlerini tahmin etmek için yapay zeka sistemlerini kullanamazsınız. Bu yasak, bu sistemleri piyasaya sürdüğünüzde, hizmete soktuğunuzda veya bu özel amaç için kullandığınızda geçerlidir.
Bu yasak, biyometrik analiz yoluyla bireyler hakkında hassas çıkarımlar yapan sistemleri hedef almaktadır . İşletmeniz, uyumsuzluk durumunda yıllık küresel cirosunun %7'sine kadar para cezasıyla karşı karşıya kalabilir.
Bu kuralın bir istisnası var. Kolluk kuvvetleri bağlamında, görüntüler gibi yasal olarak elde edilmiş biyometrik veri kümelerini biyometrik verilere dayanarak etiketleyebilir veya filtreleyebilirsiniz.
Kolluk kuvvetleri dışında, bu sınıflandırma uygulamaları tamamen yasaklanmıştır.
Yüz tanıma teknolojilerine ilişkin kısıtlamalar
İnternetten veya güvenlik kamerası kayıtlarından hedeflenmemiş yüz görüntüleri toplayarak yüz tanıma veritabanları oluşturamaz veya genişletemezsiniz. Bu yasak 2 Şubat 2025 tarihinde yürürlüğe girmiştir.
Bu yasağın uygulanabilmesi için dört koşulun yerine getirilmesi gerekir:
- Bu uygulama, bir yapay zeka sisteminin yerleştirilmesi, bakımı veya kullanımıyla ilgilidir.
- Amaç, yüz tanıma veritabanları oluşturmak veya genişletmektir.
- Bu yöntem, yüz görüntülerinin hedeflenmemiş şekilde kazınmasını kullanır.
- Veri kaynakları internet veya güvenlik kamerası kayıtlarıdır.
Buradaki kilit kelime "hedefsiz"dir. Yüz görüntülerini geniş ve ayrım gözetmeksizin toplayamazsınız.
Bu, belirli hedefleme kriterleri olmadan süpermarketlerde veya halka açık alanlarda yüz tanıma veritabanları oluşturmak için otomatik olarak yüz taraması yapan kameralar kullanamayacağınız anlamına gelir.
İş ve eğitimde duygu tanıma
İş yerlerinde ve eğitim kurumlarında insanların duygularını yapay zekâ sistemleri kullanarak çıkarım yapamazsınız. Bu yasak, duygu tespiti araçlarını kullanmayı düşünen insan kaynakları departmanlarını, okulları ve eğitim kurumlarını doğrudan etkiliyor.
Bu yasak, bu özel ortamlarda duygusal durumları okumak veya yorumlamak üzere tasarlanmış herhangi bir yapay zeka sistemini kapsar. Yüz analizi, ses kalıbı tanıma veya diğer biyometrik göstergeler kullanmanız fark etmez.
Çok az bir istisna var. Eğer tıbbi veya güvenlik amaçlarına hizmet ediyorsa, duygu tanıma yapay zekasını kullanabilirsiniz.
Örneğin, güvenlik nedenleriyle sürücü uyanıklığının izlenmesi veya sağlık hizmeti ortamlarında hasta sıkıntısının tespit edilmesi bu istisna kapsamına girebilir.
Uzaktan biyometrik kimlik doğrulamaya ilişkin sınırlamalar
Kesin olarak tanımlanmış durumlar dışında, halka açık alanlarda kolluk kuvvetleri amacıyla gerçek zamanlı uzaktan biyometrik kimlik doğrulama sistemleri kullanılamaz. Bu istisnalar arasında kaçırma veya insan ticareti mağdurlarının aranması, hayati tehlike arz eden durumların veya terör saldırılarının önlenmesi ve en az dört yıl hapis cezası gerektiren ciddi suçların şüphelilerinin yerinin tespit edilmesi yer almaktadır.
Her kullanım, bir yargı merciinden veya bağımsız bir idari kurumdan önceden izin alınmasını gerektirir . Acil durumlarda, izin almadan kullanıma başlayabilirsiniz, ancak onay talebinizi 24 saat içinde iletmeniz gerekir.
Yetkililer yetkilendirmeyi reddederse, sistemi kullanmayı derhal bırakmalı ve tüm verileri silmelisiniz. Hollanda, bu istisnalar için ulusal yasaları çerçevesinde kendi ayrıntılı kurallarını belirleyebilir.
İşletmeniz, her kullanım için ilgili piyasa gözetim otoritesini ve ulusal veri koruma otoritesini bilgilendirmek zorundadır. Üye Devletler, gerçek zamanlı uzaktan biyometrik kimlik doğrulama kullanımına ilişkin yıllık raporları Avrupa Komisyonu'na sunmaktadır.
Hollanda işletmeleri için uyumluluk yükümlülükleri
Hollandalı işletmeler , yasaklı sistemleri belirleyerek, operasyonlardan kaldırarak ve uygun dokümantasyonu tutarak yapay zeka uyumluluğunu sağlamak için somut adımlar atmalıdır . Hollanda Veri Koruma Kurumu ve Hollanda Dijital Altyapı Kurumu, bu gereklilikleri ihlal edenlere önemli cezalar uygulayarak denetleyecektir.
Operasyonlar içindeki yasaklı yapay zekayı belirleme
Yeni kuralları ihlal edebilecek yapay zeka sistemlerini tespit etmek için kuruluşunuz genelinde kapsamlı risk değerlendirmeleri yapmanız gerekiyor. Bu, manipülasyon teknikleri kullanan, güvenlik açıklarından yararlanan, sosyal puanlama uygulayan veya kamusal alanlarda gerçek zamanlı biyometrik kimlik tespiti yapan her türlü teknolojiyi incelemek anlamına gelir.
Öncelikle şu anda kullanımda olan tüm yapay zeka sistemlerinin bir envanterini oluşturun. Her sistemin ne yaptığını, verileri nasıl işlediğini ve kimleri etkilediğini belgeleyin.
Müşterilerle, çalışanlarla veya kamuoyuyla etkileşim kuran sistemlere özellikle dikkat edin. Risk değerlendirmeleriniz, herhangi bir sistemin temel haklara zarar verip vermeyeceğini değerlendirmelidir.
Bu, yapay zekâ sistemlerinin insanlar hakkında davranışlarına, kişisel özelliklerine veya sosyal bağlantılarına dayanarak karar verip vermediğinin kontrol edilmesini içerir. Şeffaflık olmadan bireyleri izleyen veya profilleyen sistemler derhal incelenmelidir.
Her bir yapay zeka sisteminin nasıl çalıştığını anlamak için teknik ekiplerinizle birlikte çalışın. Yalnızca satıcı açıklamalarına güvenemezsiniz.
Hollanda Veri Koruma Kurumu, sistemi kendiniz kurmuş olmanız veya üçüncü bir taraftan satın almış olmanız fark etmeksizin, uyumluluktan sizin sorumlu olduğunuzu açıkça belirtmiştir.
Yasaklanmış yapay zeka sistemlerinin aşamalı olarak kaldırılması veya ortadan kaldırılması
Yasaklanmış yapay zeka uygulamalarını derhal kullanmayı bırakmalısınız. Yasa, yasaklı sistemler için herhangi bir geçiş süresi tanımamaktadır.
Risk değerlendirmeniz yasaklanmış bir uygulamayı tespit ederse, bunu derhal devre dışı bırakmanız gerekir. Hem teknik hem de operasyonel etkileri ele alan bir kaldırma planı oluşturun.
Bazı sistemler daha büyük platformlara entegre edilmiş veya birden fazla sürece bağlı olabilir. Yasaklı unsurların kaldırılmasının temel iş işlevlerini aksatmadığından emin olmanız gerekecektir.
Bir sistemi kapatmadan önce, daha önce gerçekleştirdiği görevleri nasıl ele alacağınızı belirleyin. Bu, manuel süreçlere geri dönmeyi, farklı bir teknoloji uygulamayı veya iş akışlarını tamamen yeniden tasarlamayı gerektirebilir.
Kaldırma işleminin her adımını belgeleyin. Yasaklı uygulamayı ne zaman keşfettiğinizi, hangi önlemleri aldığınızı ve sistemin tamamen ne zaman devre dışı bırakıldığını kaydedin.
Denetleyici kurumlar, ihlali tespit ettikten sonra derhal harekete geçtiğinize dair açık kanıtlar bekleyecektir.
Kayıtlar ve dokümantasyon
Yasaklama kurallarına uyumluluğu kanıtlayan teknik dokümantasyonu muhafaza etmelisiniz. Bu, risk değerlendirmelerinizin kayıtlarını, yapay zeka sistemleriyle ilgili kararlarınızı ve uyumluluğu sağlamak için yaptığınız değişiklikleri içerir.
Belgeleriniz şu konuları kapsamalıdır:
- Sistem envanterleri her bir yapay zeka uygulamasının açıklamalarıyla birlikte
- Risk değerlendirme raporları Olası ihlallere ilişkin analizinizi gösteriyorsunuz.
- Kaldırma kayıtları Yasaklı sistemleri ne zaman ve nasıl devre dışı bıraktığınızı ayrıntılı olarak açıklayın.
- Temel haklar etki değerlendirmeleri sınırda kalan tüm durumlar için
Yapay Zeka Yasası, yasaklanmış uygulamalara uyum için bu materyale sabit bir saklama süresi öngörmemektedir; yüksek riskli bir sistemin teknik dokümantasyonu için on yıl ve otomatik olarak oluşturulan kayıtlar için minimum süre gibi öngördüğü kayıt tutma süreleri, yüksek riskli bölümünde yer almaktadır. Değerlendirmelerinizi, talep edilebildiği sürece saklayın; bu pratikte, sistemden kaynaklanabilecek herhangi bir iddianın zamanaşımı süresi boyunca geçerlidir ve talep üzerine ibraz edilebilir durumda olmalıdır. Bir yetkili makama yanlış, eksik veya yanıltıcı bilgi vermek, Yönetmeliğin 99. maddesi uyarınca ayrı olarak cezalandırılır.
Genel açıklamalar veya pazarlama materyalleri bu gereksinimi karşılamaz. Teknik özellikler, veri akışları ve karar alma süreçlerini dahil edin.
Yapay zeka sistemlerinde değişiklik yaptığınızda veya yeni sistemler devreye aldığınızda dokümantasyonunuzu güncelleyin. Gelecekteki sistemlerin yasaklanmış uygulamaları içermemesini sağlamak için sürekli süreçlere ihtiyacınız var.
Yapay zeka okuryazarlığı gereksinimleri ve personel eğitimi
2 Şubat 2025 tarihinden itibaren, yapay zeka sistemleri sağlayan veya kullanan Hollandalı işletmelerin, çalışanlarının yeterli yapay zeka bilgisine sahip olmasını sağlamaları gerekmektedir. Bu yükümlülük, yüksek riskli veya düşük riskli yapay zeka sistemleri kullanmanızdan bağımsız olarak geçerlidir.
Belgelendirilmiş eğitim programları, çalışanlarınızın rolleri ve teknik geçmişlerine uygun olarak uyarlanmalıdır.
Yapay zekâ okuryazarlığı yükümlülüğü açıklandı
AB Yapay Zeka Yasası'nın 4. maddesi, tüm yapay zeka sağlayıcıları ve uygulayıcılarına, personelleri arasında yeterli yapay zeka bilgisine sahip olmalarını sağlama konusunda yasal bir zorunluluk getirmektedir . Yapay zeka sistemleriyle ilgilenen personel ve yüklenicilerin çalıştıkları teknolojiyi anlamalarını garanti altına almak için önlemler almalısınız.
Yapay zekâ okuryazarlığı yükümlülüğü, sizin adınıza yapay zekâ sistemlerini işleten, kullanan veya bu sistemler hakkında karar veren herkesi kapsar. Buna, yapay zekâ sistemlerini kuran veya bakımını yapan teknik personel ile günlük işlerinde yapay zekâ araçlarını kullanan teknik olmayan çalışanlar da dahildir.
Yapay zekâ okuryazarlığı eğitimini, her bireyin rolüne, teknik bilgisine, deneyimine, eğitimine ve yapay zekâ sistemlerini kullandığı özel bağlama göre uyarlamanız gerekir. Yapay zekâ modelleri uygulayan bir yazılım geliştiricisinin ihtiyaç duyduğu eğitim, yapay zekâ destekli sohbet robotları kullanan bir müşteri hizmetleri temsilcisinin ihtiyaç duyduğu eğitimden farklıdır.
Bu yükümlülük, yeterli okuryazarlık seviyelerini sağlamak için "elinizden gelenin en iyisini" yapmanızı gerektirir. Sadece göstermelik eğitimler verip uyumluluğu iddia edemezsiniz.
Etkin eğitim programları geliştirmek
Yapay zekâ okuryazarlığı programınız, genel bilgiler sağlamak yerine, kuruluşunuzun kullandığı belirli yapay zekâ sistemlerini ele almalıdır. Çalışanların, çalıştıkları yapay zekâ araçlarının nasıl işlediğini, sınırlamalarını ve potansiyel risklerini anlamaları gerekir.
Eğitim içeriği şu konuları kapsamalıdır:
- Sistemlerinizle ilgili temel yapay zeka kavramları
- Yapay zeka araçlarını doğru şekilde nasıl kullanabilirsiniz?
- Yapay zekâ çıktılarındaki potansiyel önyargılar ve hatalar
- İnsan gözetiminin gerekli olduğu durumlarda
- Kuruluşunuzun yapay zeka politikaları ve prosedürleri
Her çalışanın başlangıç bilgi düzeyini göz önünde bulundurmalısınız. Teknik personel model geliştirme ve test etme konusunda ileri düzey eğitime ihtiyaç duyabilirken, genel kullanıcılar yapay zeka çıktılarının yorumlanması ve sonuçların yanlış göründüğü durumların fark edilmesi konusunda pratik rehberliğe ihtiyaç duyarlar.
Eğitim çeşitli şekillerde verilebilir; bunlar arasında atölye çalışmaları, çevrimiçi kurslar, iş başında koçluk veya harici programlar yer alabilir. Formatın önemi, personelin gerekli bilgi ve becerileri gerçekten edinmesinden daha azdır.
Yapay zeka okuryazarlığı faaliyetlerinin belgelendirilmesi
AB Yapay Zeka Yasası'na uyumluluğu göstermek için yapay zeka okuryazarlığı eğitim faaliyetlerinizin kayıtlarını tutmanız gerekmektedir. Bu belgeler, yasal yükümlülüklerinizi yerine getirdiğinizin kanıtı niteliğindedir.
Kayıtlarınızda şunlar bulunmalıdır:
- Eğitim programı içeriği ve materyalleri
- Eğitimi tamamlayan çalışanların listesi
- Eğitim oturumlarının tarihleri ve süresi
- Değerlendirme sonuçları (varsa)
- Farklı roller için uygun okuryazarlık seviyelerini nasıl belirlediniz?
Kuruluşunuz genelinde yapay zeka okuryazarlığı ihtiyaçlarını belirleme sürecinizi belgeleyin. Bu, hangi personelin eğitime ihtiyaç duyduğunu ve yapay zeka sistemleriyle etkileşimlerine bağlı olarak hangi özel bilgilere ihtiyaç duyduklarını nasıl değerlendirdiğinizi içermelidir.
Yapay zekâ sistemleriniz değiştikçe veya kuruluşunuza yeni personel katıldıkça eğitimlerinizi nasıl güncellediğinizin kayıtlarını tutun. Yapay zekâ okuryazarlığı tek seferlik bir gereklilik değil, yapay zekâ teknolojisini kullanımınızdaki gelişmelere uyum sağlaması gereken sürekli bir yükümlülüktür.
Denetim, uygulama ve cezalar
AB Yapay Zeka Yasası, uyumsuzluk durumunda önemli mali cezalar içeren çok katmanlı bir yaptırım yapısı oluşturmaktadır. Hollandalı işletmeler, hem ulusal hem de Avrupa yetkililerinin gözetimi altındadır ve yasaklanmış yapay zeka uygulamaları için para cezaları, dünya çapındaki yıllık cironun %7'sine kadar ulaşabilmektedir.
Hollanda ve AB denetim makamları
Hollanda'da denetim mimarisi henüz oluşturulma aşamasındadır. Hollanda Veri Koruma Kurumu koordinasyon rolü üstlenmekte ve Hollanda Dijital Altyapı Kurumu ile birlikte piyasa gözetimi çerçevesini hazırlamıştır; ancak yetkili mercileri belirleyen ve onlara Yönetmelik kapsamındaki yetkilerini veren yasa henüz tamamlanmamıştır. Bu tamamlanana kadar, mevcut düzenleyiciler kendi yetki alanları dahilinde uygulama yapmaktadır ve yapay zeka sisteminin kişisel verileri işlediği her yerde Hollanda Veri Koruma Kurumu yetkili merci olmaya devam etmektedir.
Avrupa düzeyinde, Avrupa Komisyonu, Yapay Zeka Yasası'nın tüm üye devletlerdeki uygulanmasını denetler. Komisyon bünyesinde kurulan Avrupa Yapay Zeka Ofisi, uygulama faaliyetlerini koordine eder ve teknik uzmanlık sağlar.
Üye devletlerin temsilcilerinden oluşan Avrupa Yapay Zeka Kurulu, Yönetmeliğin tutarlı bir şekilde uygulanmasını destekler ve Komisyona tavsiyelerde bulunur; ayrıca yapay zeka sistemlerinin kişisel verileri işlediği durumlarda veri koruma otoriteleriyle birlikte çalışır.
Birden fazla AB ülkesinde yapay zeka sistemleri işletiyorsanız, sistemlerinizin konuşlandırıldığı veya etkili olduğu her yargı bölgesindeki denetleyici kurumlar tarafından incelemeye tabi tutulabilirsiniz.
Yaptırımlar ve hukuki sorumluluk
Madde 5'te yasaklanan uygulamaların ihlali, 35 milyon Euro'ya kadar veya toplam yıllık küresel cironuzun %7'si (hangisi daha yüksekse) tutarında para cezası gerektirir. Yasaklama 2 Şubat 2025'ten beri yürürlüktedir, ancak Yönetmeliğin ceza hükümleri 2 Ağustos 2025'ten itibaren geçerlidir, bu nedenle bu tarihten sonraki davranışlar için para cezası uygulanabilir. Diğer yükümlülüklerin ihlali daha düşük tavanlara sahiptir: yüksek risk gerekliliklerine uyulmaması durumunda 15 milyon Euro veya %3, yetkili makama yanlış veya yanıltıcı bilgi verilmesi durumunda ise 7,5 milyon Euro veya %1.
Avrupa Birliği Adalet Divanı (AB) Yapay Zeka Yasası hükümlerini yorumlama konusunda nihai yetkiye sahiptir. Ulusal mahkemeler, yasaklanmış bir uygulamanın ne olduğu konusunda ihtilaflar ortaya çıktığında AB Adalet Divanı'na sorular yöneltebilir.
İdari para cezalarının ötesinde, yasaklanmış bir sistemden zarar gören bir kişi, hukuki dava açabilir. Bunun için uyumlu bir Avrupa rejimi bulunmamaktadır: Önerilen Yapay Zeka Sorumluluk Direktifi geri çekilmiştir, bu nedenle Hollanda'da dava, genellikle Medeni Kanun'un 6:162. maddesi uyarınca yasa dışı bir fiil olarak Hollanda yasalarına göre açılır ve 5. maddenin ihlali, yasal bir görevin ihlal edildiğine dair kanıt olarak kabul edilir. Üye devletler ayrıca ulusal yasalarında ek cezalar da belirleyebilirler.
Avrupa ve ulusal kuruluşlardan gelen rehberlik
Avrupa Komisyonu, 4 Şubat 2025 tarihinde yasaklanmış yapay zeka uygulamalarına ilişkin kılavuzlar yayınladı. Bu belgeler, yetkililerin Madde 5'in yasaklarını nasıl yorumlayacağını açıklamakta ve uyumluluk için pratik örnekler sunmaktadır.
Bu yönergeler bağlayıcı olmamakla birlikte, uygulama önceliklerine ilişkin değerli bilgiler sunmaktadır. Yetkili hukuki yorumları yalnızca Avrupa Adalet Divanı (CJEU) sağlayabilir.
Hollanda denetim makamları, yerel işletme bağlamlarına uygun ek ulusal kılavuzlar yayınlayabilir. Uygulama yaklaşımları geliştikçe hem Avrupa hem de Hollanda kurumlarından gelen güncellemeleri takip etmelisiniz.
Sınır ötesi anlayışı desteklemek amacıyla kılavuzlar tüm AB dillerinde mevcuttur.
Sık Sorulan Sorular
Avrupa Yapay Zeka Yasası, Şubat 2025'ten itibaren Hollanda işletmelerini etkileyecek özel şartlar ve kısıtlamalar getiriyor. Bu düzenlemeler, belirli yapay zeka uygulamalarını yasaklıyor, uyumluluk önlemleri gerektiriyor ve ihlaller için cezalar öngörüyor.
Şubat ayından itibaren Hollanda şirketlerinde yapay zeka kullanımına ilişkin yeni düzenlemeler nelerdir?
Avrupa Yapay Zeka Yasası 1 Ağustos 2024 tarihinde yürürlüğe girmiş olup, ilk yasaklar 2 Şubat 2025 tarihinde uygulanmaya başlanmıştır. Bu düzenlemeler, Avrupa Birliği içinde yapay zeka sistemleri geliştiren, uygulayan veya kullanan tüm Hollandalı işletmeler için geçerlidir.
Bu yasa, insanların normalde vermeyecekleri kararları etkilemek için bilinçaltı tekniklerini kullanan manipülatif yapay zeka sistemlerini yasaklıyor. Yaş, engellilik veya sosyoekonomik duruma dayalı zaaflardan yararlanan yapay zeka sistemleri de yasaklanmıştır.
Kişileri sosyal davranışlarına veya kişisel özelliklerine göre değerlendiren sosyal puanlama sistemleri tamamen yasaklanıyor. Düzenlemeler ayrıca, suç faaliyetine ilişkin gerçeklerden ziyade yalnızca profil oluşturma veya kişilik özelliği analizi yoluyla suçları tahmin eden yapay zeka tabanlı risk değerlendirmelerini de yasaklıyor.
Yüz görüntülerinden veya parmak izlerinden ırk, siyasi görüş, sendika üyeliği, dini inanç veya cinsel yönelim çıkarımı yapan biyometrik sınıflandırma sistemlerine izin verilmez. Kamusal alanlarda gerçek zamanlı uzaktan biyometrik kimlik tespiti, belirli yasal yetkilendirme ile kesin olarak tanımlanmış durumlar dışında yasaktır.
Şubat 2025'te yürürlüğe girecek Hollanda yapay zeka yönergeleri, tüketicilerin veri gizliliği ve korunmasını nasıl etkiliyor?
Yapay Zeka Yasası, GDPR dahil olmak üzere mevcut veri koruma düzenlemeleriyle birlikte çalışmaktadır. Hollanda Veri Koruma Kurumu, özellikle otomatik karar verme konusunda, yapay zeka sistemlerinin veri koruma kurallarına nasıl uyması gerektiği konusunda rehberlik sağlamaktadır.
İnternetten veya kamera kayıtlarından yüz görüntülerini hedefsiz bir şekilde toplayarak yüz tanıma veritabanları oluşturmak veya genişletmek yasaktır. Bu kısıtlama, bireylerin gizlilik haklarını korur ve biyometrik verilerin yetkisiz olarak toplanmasını önler.
Yapay zekâ sistemleri, yaşam döngüleri boyunca temel haklara saygı göstermelidir. Kamu otoriteleri ve kamu hizmeti sunan kuruluşlar, yüksek riskli yapay zekâ sistemlerini kullanırken temel haklar etki değerlendirmesi yapmalıdır.
Son yasal düzenlemeler nedeniyle Hollandalı işletmelerin artık hangi yapay zeka tabanlı faaliyetlerde bulunmasına izin verilmiyor?
İşletmeniz, iş yeri veya eğitim ortamlarında duygu tanıma sistemlerini kullanamaz. Bu sistemler, iddia edilen faydaları veya kullanım alanları ne olursa olsun yasaktır.
İnsanları bilinçaltı tekniklerle manipüle eden veya zaaflarından yararlanan yapay zeka sistemlerini kullanamazsınız. Bu, bireylerin davranışlarını etkilemek için engellilik durumlarına, sosyal statülerine veya yaşlarına göre hedef alan sistemleri de içerir.
Kişileri hassas özelliklerine göre sınıflandıran biyometrik kategorizasyon sistemleri yasaktır. Yapay zeka kullanarak bir kişinin ırkını, siyasi görüşlerini, dini inançlarını veya cinsel yönelimini biyometrik verilerinden çıkaramazsınız.
Sosyal puanlama sistemleri tamamen yasaklanmıştır. Kişileri sosyal davranışlarına veya kişisel özelliklerine göre değerlendiren veya sınıflandıran yapay zekâ uygulamaları kullanamazsınız.
Halka açık alanlarda gerçek zamanlı uzaktan biyometrik kimlik doğrulama, ticari kullanım için yasaktır . Kolluk kuvvetleri bu tür sistemleri yalnızca uygun yasal yetkiyle ve sınırlı koşullar altında kullanabilir.
Hollandalı şirketler, yapay zeka sistemlerini Şubat ayında belirlenen uyumluluk standartlarına uygun hale getirmek için hangi adımları atmalıdır?
Kuruluşunuzun halihazırda kullandığı veya devreye aldığı tüm yapay zeka sistemlerini belirlemelisiniz. Bu envanter, her sistemi Yapay Zeka Yasası'nda tanımlanan risk sınıflandırmalarına göre kategorize etmelidir.
Yapay zekâ sistemlerinizi yasaklı uygulamalar listesine göre gözden geçirin. Yasaklanmış sistemlerden herhangi birini kullanıyorsanız, düzenleyici cezalardan kaçınmak için bunları derhal devre dışı bırakmalısınız.
Yapay zekâ sistemlerinizin amaçlarını, veri kaynaklarını ve karar alma süreçlerini belgeleyin. Bu belgeleme, uyumluluğu göstermeye ve gerekli etki değerlendirmelerini desteklemeye yardımcı olur.
Yüksek riskli sistemler, Avrupa veri tabanına kayıt ve kamu kurumları ile kamu hizmeti sağlayıcıları için temel haklar etki değerlendirmesi de dahil olmak üzere kendi yükümlülüklerini taşır. Bu rejim ertelendi: Ek III'te listelenen sistemler (örneğin işe alım, kredi puanlama ve istihdam yönetimi araçları) için 2 Aralık 2027'de, düzenlemeye tabi ürünlerin güvenlik bileşenleri olan yüksek riskli sistemler için ise 2 Ağustos 2028'de başlayacak.
Personelinizi yeni gereksinimler konusunda eğitin ve sürekli uyumluluk izleme için dahili süreçler oluşturun. Uyumluluk programınız, yapay zeka sistemlerinin düzenleyici sınırlar içinde kalmasını sağlamak için düzenli incelemeleri içermelidir.
Yeni düzenlemelerin ardından Hollandalı firmaların bilmesi gereken sektöre özgü yapay zeka yasakları var mı?
Eğitim sektörü kuruluşları belirli kısıtlamalarla karşı karşıyadır. Amaçlanan eğitimsel fayda ne olursa olsun, duygu tanıma sistemlerini öğrencileri izlemek veya duygusal durumlarını değerlendirmek için kullanamazsınız.
İşyeri ortamlarında da benzer sınırlamalar mevcuttur. İşverenler, çalışanların iş faaliyetleri sırasında duygusal durumlarını veya tepkilerini izlemek için duygu tanıma yapay zekasını kullanamazlar.
Kolluk kuvvetlerinin biyometrik kimlik doğrulama sistemleri için sınırlı istisnaları bulunmaktadır. Bu istisnalar, sıkı yasal yetkilendirme gerektirir ve yalnızca kaçırılan mağdurların aranması, yakın tehditlerin önlenmesi veya ciddi suçlardan şüphelilerin izlenmesi gibi belirli durumlarda geçerlidir.
Kamu hizmeti sunan kamu otoriteleri, genel yasakların ötesinde ek gereksinimlerle karşı karşıyadır. Tüm yüksek riskli yapay zeka sistemleri için temel haklar etki değerlendirmesi yapmalı ve bu sistemleri Avrupa veri tabanına kaydetmelisiniz.
Şubat 2025'te yürürlüğe giren Hollanda yapay zeka kısıtlamalarına uyulmaması durumunda uygulanacak cezalar nelerdir?
Düzenleyici kurumlar, Yapay Zeka Yasası'na uyulmaması durumunda önemli miktarda para cezası uygulayabilir. Ceza yapısı, ihlalin ciddiyetine bağlı olarak kademeli bir yaklaşım izler.
Yasaklanmış yapay zeka sistemlerinin kullanımı en ciddi ihlal kategorisini oluşturmaktadır. Şubat 2025 son tarihinden sonra yasaklanmış sistemleri kullanmaya devam etmeniz durumunda kuruluşunuz önemli mali cezalarla karşı karşıya kalabilir.
Kesin ceza miktarları, kuruluşunuzun küçük ve orta ölçekli bir işletme mi yoksa daha büyük bir şirket mi olduğuna bağlıdır. Düzenleyici makamlar, ihlalin niteliği, süresi ve neden olduğu zarar gibi faktörleri dikkate alır.
Maddi cezaların ötesinde, uyumsuzluk kuruluşunuzun itibarını da zedeleyebilir. Yasaklanmış yapay zeka sistemlerinden zarar gören kişiler, hukuk davaları yoluyla ek tazminat talep edebilirler.
Hollanda Veri Koruma Kurumu ve diğer düzenleyici kurumlar yaptırım yetkisine sahiptir. Şikayetleri inceleyebilir, denetimler yapabilir ve yasaklanmış uygulamaların derhal durdurulmasını talep edebilirler.
Law & More İşletmelere Yapay Zeka Yasası'nın pratik uygulamaları konusunda danışmanlık hizmeti veriyoruz: halihazırda kullanımda olan sistemlerin 5. madde kapsamındaki yasaklara karşı taranması, bir kullanım durumunun izin verilen ve yasaklanan uygulamalar arasındaki sınıra yakın olup olmadığının değerlendirilmesi, 4. maddenin gerektirdiği yapay zeka okuryazarlığı önlemlerinin oluşturulması ve Aralık 2027'de yürürlüğe girecek yüksek riskli yükümlülüklere hazırlık yapılması. Bir yapay zeka sistemi aynı zamanda kişisel verileri de işliyorsa, GDPR'ın (Genel Veri Koruma Yönetmeliği) durumunu da aynı anda değerlendiriyoruz, çünkü bugün yaptırımın uygulanabileceği alan burasıdır.
