Bir yapay zeka sistemi zarar verdiğinde sorumluluk kimdedir?

Hollanda'da yapay zekâ sistemlerinden kaynaklanan sorumluluk her zaman bir kişiye veya şirkete aittir, asla yazılıma değil. Uygulamada iki pozisyon önemlidir: Kullanıcı, yani sistemi kullanan ve onunla kararlar alan birey veya kuruluş; ve üretici, yani sistemi geliştiren, piyasaya süren veya tedarik eden taraf. Hangi tarafın zararı üstleneceği, hatanın nerede meydana geldiğine, her birinin ne bildiğine ve aralarındaki sözleşmenin ne söylediğine bağlıdır. Bu makale her iki pozisyonu da ele almaktadır; işlevsel kusurdan Ceza Kanunu'nun 51. maddesi uyarınca kurumsal sorumluluğa kadar ceza hukuku çerçevesi, bir algoritmanın kısmen sorumlu olup olamayacağına ilişkin diğer makalemizde açıklanmıştır.

Sistemin asla sanık olmamasının nedenleri

Hollanda hukuku iki tür kişiyi tanır: gerçek kişiler ve tüzel kişiler. Yapay zekâ sistemi bunlardan hiçbiri değildir. Hiçbir şeye sahip olmadığı ve onu işleten şirketten ayrı bir yasal varlığı olmadığı için haklara sahip olamaz, mahkemeye çağrılamaz, para cezasına çarptırılamaz ve tazminat ödemeye mahkum edilemez. Bazen elektronik kişilik olarak adlandırılan üçüncü bir kategori oluşturma önerileri Avrupa düzeyinde tartışılmış ancak daha pratik bir nedenden dolayı sonuçsuz kalmıştır: hiçbir varlığı ve davranışını değiştirme kapasitesi olmayan bir sorumluluk aracı, riski aslında zararı önleyebilecek taraflardan uzaklaştıracaktır.

Dolayısıyla soru asla makinenin sorumlu olup olmadığı değil, zincirdeki hangi insan veya kurumsal aktörün görevini yerine getirmediğidir ve bu zincirin öngörülebilir bir şekli vardır: modeli oluşturan taraf, onu ürüne dönüştüren taraf, onu tedarik eden veya entegre eden taraf, onu devreye alan kuruluş ve düğmeye basan kişi. Yapay zeka sistemleri için sorumluluk, bu zincirdeki başarısızlığı tespit etme ve bunu yasal bir temele oturtma işlemidir.

Bu yasal dayanaklardan ikisi baskın konumdadır. Kullanıcı için, genel haksız fiil hukuku ve güçlü bir aleti başkasının yönünde kullanmanın getirdiği özen yükümlülüğü; üretici için ise, hiçbir kusur gerektirmeyen ürün sorumluluğu geçerlidir. Cezai sorumluluk da dahil olmak üzere diğer her şey bunların üzerine eklenir.

Kullanıcının konumu

Kullanıcılar, sistemi başkası tarafından inşa edilmiş bir kara kutu olarak düşündükleri için maruz kaldıkları riskleri hafife alırlar. Hukukta, bir aracı kullanmayı seçen, yapılandıran, veri sağlayan ve çıktısına göre hareket eden kişi bir şey yapmış olur ve bu eylem kendi değerine göre değerlendirilir.

Sistem, yalnızca bir suçun aracı olduğunda

En kolay vakalar, yapay zekâ sisteminin kasıtlı olarak kullanıldığı durumlardır. Bir şirketi dolandırmak için ikna edici bir fatura oluşturmak, mektubun bir kişi tarafından mı yoksa bir model tarafından mı hazırlandığına bakılmaksızın Ceza Kanunu'nun 326. maddesi uyarınca dolandırıcılıktır ve bir belgeyi tahrif etmek, kullanılan araçtan bağımsız olarak 225. madde uyarınca sahtecilik olarak kalır. Bir sisteme sızan kod yazmak için bir model kullanmak, 138ab maddesi uyarınca hala bilgisayar korsanlığıdır. Gerçek bir kişinin manipüle edilmiş görüntülerini oluşturmak ve dağıtmak iftira teşkil edebilir ve materyal cinsel nitelikteyse, 1 Temmuz 2024'ten beri yürürlükte olan Cinsel Suçlar Yasası'ndaki suçlar kapsamına girer. Bir bireye yönelik sürekli yapay zekâ destekli taciz, yalnızca mağdurun şikayeti üzerine kovuşturulan 285b maddesi uyarınca takip suçu teşkil edebilir.

Bunların hiçbiri yeni bir yasa değil. Teknoloji, suçun unsurlarını değil, aldatmanın ölçeğini ve inandırıcılığını değiştiriyor. Değiştirdiği şey ise kanıt: uyarılar, hesap kayıtları, model çıktıları ve dosya oluşturma zamanlaması, suçu bir kişiye bağlayan materyaldir ve yapay zeka tarafından oluşturulan içeriğin izlenemez olduğunu varsayan kullanıcılar genellikle yanılıyor.

Dikkatsiz kullanım: daha yaygın risk

Birçok kuruluş, kasıttan ziyade dikkatsizlik nedeniyle sorun yaşıyor. Bu durum tanıdık bir örüntüye sahip. Bir sistem bir amaç için satın alınıyor ve başka bir amaç için kullanılıyor. Çıktısı bir sinyalden ziyade bir karar olarak ele alınıyor. Kimse yanlış olduğu durumları kontrol etmiyor, çünkü sistemi kullanan kişilere hata oranının neye benzediği veya nerede başarısız olduğu hiç söylenmiyor. Zarar gerçekleştiğinde, kuruluş kararın nasıl alındığına dair hiçbir kaydının olmadığını keşfediyor.

Medeni hukuk açısından bu, doğrudan bir haksız fiildir: Medeni Kanun'un 6:162. maddesi, bir kişinin kendisine atfedilebilen ve zarara yol açan hukuka aykırı bir fiilden sorumlu tutulmasını öngörmektedir. Toplumda özen yükümlülüğünün ihlali, hukuka aykırılık kategorilerinden biridir ve bu yükümlülüğün içeriği, o konumdaki dikkatli bir işletmecinin ne yapacağıyla belirlenir. İşveren ayrıca, 6:170. madde uyarınca çalışanlarının kusurlarından sorumludur ve sözleşmesel bir yükümlülüğü yerine getirmek için bir yardımcı kullanan taraf, 6:76. madde uyarınca bu yardımcıdan sorumludur; bu madde, bir kuruluşun kendi hizmetini sunmak için bir tedarikçi modelini kullanmasını ele alan hükümdür.

Özen yükümlülüğü artık tamamen mahkemelerin icat etmesine bırakılmıyor. AB Yapay Zeka Yasası, yüksek riskli sistemleri kullananlara somut yükümlülükler getiriyor: sistemi talimatlara uygun olarak kullanmak, insan gözetimini yetkin ve yetkili kişilere atamak, kontrolleri altındaki girdi verilerinin ilgili olduğundan emin olmak, çalışmayı izlemek ve bir risk ortaya çıktığında kullanımı durdurmak, kayıtları tutmak ve bu tür bir sistemi işyerinde kullanmadan önce çalışanları ve temsilcilerini bilgilendirmek. Bu yükümlülükler düzenleyici niteliktedir, ancak ihmali değerlendiren bir mahkeme bunları dikkatli davranışın nasıl olması gerektiğinin bir açıklaması olarak okuyacaktır. Kullanım talimatlarını görmezden gelen bir kuruluş sadece uyumsuz değildir; davacıya davasını kazandırmıştır.

Otomasyon yanlılığı ayrı bir başlık altında ele alınmayı hak ediyor çünkü denetimin sessizce başarısız olduğu yer burasıdır. Sistemin önerdiği neredeyse her şeyi onaylayan bir denetçi denetim yapmıyor demektir ve personelini verimlilik üzerinden değerlendiren bir kuruluş, bu sonucu fiilen tasarlamış olur. Hukuki soru, gerçekten bir insan kararı alınıp alınmadığıdır ve bir onay mührü bu niteliği taşımaz.

Kullanıcının riski başkasına devredemediği durumlarda

Tedarikçinin riski üstlendiğini varsayan kuruluşları düzenli olarak şaşırtan üç nokta vardır.

Öncelikle, zarar gören üçüncü şahıs açısından kullanıcı görünür taraftır. Kredisi reddedilen bir müşteri, tarama aracı tarafından reddedilen bir çalışan, yanlış triyaj yapılan bir hasta: bunlar, hizmet sağlayıcıyla sözleşme yaparlar veya hizmet sağlayıcı tarafından işlem görürler ve hizmet sağlayıcıya dava açacaklardır. Hizmet sağlayıcının tedarikçisinden tazminat alıp alamayacağı, sözleşmeye bağlı ayrı bir sorudur ve hizmet sağlayıcıya karşı davayı geciktirmez.

İkinci olarak, genel veri koruma kuralları diğer her şeyden bağımsız olarak uygulanır. Sistem kişisel verileri işliyorsa, genellikle veri sorumlusu, yasal dayanak, şeffaflık, etki değerlendirmesi ve güvenlikten sorumlu olan kuruluştur. Yalnızca otomatik yollarla alınan ve yasal etkiler doğuran veya bir kişiyi benzer şekilde önemli ölçüde etkileyen bir karar ayrı olarak düzenlenir ve bu kişiye insan müdahalesi ve sonucu itiraz etme hakkı verir. Genel Veri Koruma Yönetmeliği'ne ilişkin genel bakışımız bu rejimi açıklamaktadır.

Üçüncüsü, değişiklik rolünüzü değiştirir. Bir sisteme kendi adını veren, amaçlanan kullanım amacını değiştiren veya önemli ölçüde değiştiren bir uygulayıcı, Yapay Zeka Yasası kapsamında bir sağlayıcı haline gelir ve sağlayıcının yükümlülüklerini devralır. Genel amaçlı bir modeli, düzenlenmiş bir karar için tarama aracına dönüştürmek, tam olarak bu çizgiyi aşan bir adımdır. Başkasının modelini temel alan kuruluşlar, bir olaydan sonra değil, piyasaya sürmeden önce hangi tarafta olduklarını belirlemelidir.

Yapımcının pozisyonu

Üreticinin sorumluluğu farklı bir yoldan ilerler ve daha katıdır. Medeni Kanun'un 6:185 ve sonraki maddeleri uyarınca ürün sorumluluğu, üreticiyi, zarar gören tarafın kusuru ispat etmesine gerek kalmaksızın, ürünündeki bir kusurdan kaynaklanan zararlardan sorumlu tutar. Bir ürün, sunumu, makul olarak beklenebilecek kullanımı ve piyasaya sürüldüğü süre dikkate alındığında, bir kişinin beklemeye hakkı olan güvenliği sağlamadığında kusurludur. Davacı, zararı, kusuru ve bunlar arasındaki nedensel bağı ispatlamak zorundadır; yapay zeka davasında asıl mücadele burada yatmaktadır.

Bu düzenlemenin sınırları belirlenmiştir. Tazminat talepleri, zarar gören tarafın zararı, kusuru ve üreticinin kimliğini öğrendiği veya öğrenmesi gerektiği günden itibaren üç yıl içinde yapılmalıdır ve hak, belirli ürünün piyasaya sürülmesinden on yıl sonra sona erer. Bu düzenleme kapsamındaki sorumluluk sözleşmeyle hariç tutulamaz veya sınırlandırılamaz ve ölüm, kişisel yaralanma ve özel olarak kullanılan diğer mallara verilen zararları, daha düşük bir eşik şartıyla kapsar. Üreticinin, piyasaya sürüldüğü zamanki bilimsel ve teknik bilgi düzeyinin kusuru ortaya çıkaramayacağı durumlarda geçerli olan geliştirme riski savunması da dahil olmak üzere sınırlı sayıda savunması vardır.

Yazılım sektörünün konumunu değiştiren reform

Mevcut Hollanda mevzuatına göre bir ürün taşınabilir bir şeydir ve bağımsız yazılımların bu kategoriye girip girmediği yıllardır tartışılmaktadır. Bu tartışma artık sona eriyor. Gözden geçirilmiş Ürün Sorumluluğu Direktifi, Direktif (AB) 2024/2853, 8 Aralık 2024 tarihinde yürürlüğe girdi ve 9 Aralık 2026 tarihine kadar ulusal yasalara aktarılması gerekiyor; bu direktif, bu tarihten sonra piyasaya sürülen veya hizmete alınan ürünler için geçerlidir, bu nedenle Medeni Kanun'un mevcut hükümleri, bu tarihten önce piyasaya sürülen ürünleri yönetmeye devam etmektedir. Yapay zeka sistemleri için sorumluluk açısından dört değişiklik önem taşımaktadır.

Yapay zekâ sistemleri ve dijital üretim dosyaları da dahil olmak üzere yazılım, açıkça bir üründür. Sorumlu tarafların kapsamı, üreticinin ötesine geçerek, üreticinin kontrolü dışında ürünü önemli ölçüde değiştiren tarafı, yetkili temsilciyi, ithalatçıyı ve belirli durumlarda, sipariş karşılama hizmeti sağlayıcısını ve çevrimiçi platformu da içerir. Tazmin edilebilir zarar, profesyonel olarak kullanılmayan verilerin yok edilmesi veya bozulmasına kadar uzanır; bu, yazılım arızalarında gerçek bir kayıp kategorisidir. Ayrıca, bir ürün piyasaya sürüldükten sonra meydana gelen olaylar nedeniyle de kusurlu olabilir: gerekli bir yazılım güncellemesindeki bir kusur, güvenlik güncellemelerinin sağlanamaması veya üreticinin kontrolünü elinde tuttuğu sürekli öğrenmenin etkileri.

Reform ayrıca delil sorununa da doğrudan çözüm getiriyor. Mahkeme, davacının talebi üzerine davalıdan ilgili delilleri açıklamasını isteyebilir ve davalı buna uymazsa, kusurluluk varsayılır. Davacının teknik veya bilimsel karmaşıklık nedeniyle bunları ispatlamada aşırı zorluk çektiği durumlarda, davacının olasılığı makul hale getirmesi koşuluyla, kusurluluk ve nedensellik varsayımları çürütülebilir niteliktedir. Kimsenin tam olarak açıklayamadığı bir modelle karşı karşıya kalan bir davacı için bu, savunulabilir bir dava ile imkansız bir dava arasındaki farktır.

Sözleşme, uygunluk ve sorumluluktan muafiyet maddelerinin sınırları

İşletmeler arasında ilk mücadele alanı genellikle kanundan ziyade sözleşmedir. Bir yapay zeka sistemi tedarikçisi, taahhüt ettiği şeyi yerine getirmekle yükümlüdür: teslim edilen sistem sözleşmeye uygun olmalı ve alıcının beklemeye hakkı olduğu niteliklere sahip olmalıdır. Bir tedarikçi doğruluk düzeyi, kullanılabilirlik düzeyi veya Yapay Zeka Yasası'na uyumluluk sözü verdiyse, bunu yerine getirememesi sözleşmenin ihlalidir ve usulüne uygun bir temerrüt bildirimi sonrasında ifa, tazminat ve fesih gibi olağan çözüm yolları uygulanır.

Tedarikçiler, sınırlama ve istisna maddeleriyle yanıt verir ve bu maddeler genellikle ticari taraflar arasında geçerlidir. Ancak sınırsız değildirler. Bir madde, makuliyet ve adalet standartlarına göre ona güvenmenin kabul edilemez olduğu durumlarda geçersiz kılınabilir; bu, mahkemelerin tedarikçinin kasıtlı ihmali veya ciddi kusuru durumlarında izlediği yoldur ve madde genel terimlerle ifade edilmişse, diğer tarafa bunları dikkate alma konusunda gerçek bir fırsat verilmemişse geçersiz olabilir. Ürün sorumluluğu rejimi kapsamındaki sorumluluk, zarar gören tarafa karşı hiçbir şekilde sözleşmeyle ortadan kaldırılamaz. Uygulamada müzakere, üst sınırlar, veri ihlalleri ve fikri mülkiyet ihlalleri için istisnalar, düzenleyici para cezaları için tazminatlar ve tedarikçinin müşterinin kendini savunması için ihtiyaç duyduğu belgeleri ve kayıtları sağlama yükümlülüğü hakkındadır. Tazminat talepleri sayfamız , bu taleplerin nasıl oluşturulduğunu açıklamaktadır.

Yapay Zeka Yasası'nın yaptıkları ve yapmadıkları

Yapay Zeka Yasası, düzenleyici bir araçtır. Sağlayıcılara ve uygulayıcılara ne yapmaları gerektiğini söyler ve denetleyicilere bunu uygulama yetkisi verir; bir yapay zeka sistemi tarafından zarar gören bir kişi için tazminat hakkı yaratmaz. Sivil davaları uyumlu hale getirecek ve genel olarak açıklama ve varsayımlar getirecek olan önerilen Yapay Zeka Sorumluluk Direktifi geri çekilmiştir. Geriye kalan, yukarıda açıklanan kombinasyondur: ulusal haksız fiil ve sözleşme hukuku artı reforme edilmiş ürün sorumluluğu rejimi.

Bu durum, Yapay Zeka Yasası'nı sorumluluk açısından önemsiz kılmaz. Üç açıdan önemlidir. Yasal gereklilikleri belirler, böylece uyumsuzluk ihmalkarlığın kanıtı olur. Teknik dokümantasyon, kullanım talimatları, kayıtlar ve piyasa sonrası izleme dosyası gibi belgeler yasal olarak mevcuttur ve davalarda talep edilebilir. Ve rolleri belirler, böylece eskiden tartışma konusu olan "sağlayıcı kimdir, dağıtıcı kimdir" sorusunun artık yasal bir cevabı vardır. Bilişim hukuku uygulamamız, bu sınıflandırma sorularıyla ihtilafa dönüşmeden önce ilgilenir.

Kullanıcı ve üreticinin buluştuğu yer

Gerçek olayların çoğu, zincirin bir ucundaki tek bir hatadan kaynaklanmaz. Bunlar, uygulandığı popülasyonu temsil etmeyen verilerle eğitilmiş, o bağlamda test etmemiş bir tedarikçi tarafından entegre edilmiş, talimatların kapsamadığı bir amaç için kullanan bir kuruluş tarafından devreye alınmış ve sınırlamalarının ne olduğu asla söylenmemiş personel tarafından işletilmiş bir modelden kaynaklanır. Hollanda yasaları bununla ilgili bir sorun yaşamaz: birden fazla taraf aynı zarardan sorumlu olabilir, her biri zarar gören tarafa karşı zararın tamamından sorumludur ve daha sonra kendi aralarındaki paylaştırmayı kendi katkılarına göre yaparlar.

Aşağıdaki tablo, sorumluluğun genellikle kimde ve hangi temelde olduğunu göstermektedir.

Hollanda'daki çocuk bakım yardımları olayı, her Hollanda tartışmasının referans noktasıdır ve bir hukuk kuralından ziyade bir kalıbı göstermektedir: şeffaf olmayan bir risk sınıflandırma sistemi, gerçek bir bireysel değerlendirme yapılmadan alınan kararlar ve sonuçların tamamen mağdur olan kişilerin omuzlarına yüklenmesi. Hukuki sonuçları cezai olmaktan ziyade idari ve politikti ve yapay zeka ve ceza hukuku hakkındaki makalemizde bunun cezai sorumluluk konusunda ne gösterdiğini ve ne göstermediğini tartışıyoruz.

Kanıt sorunu ve bu sorunun nasıl değiştiği

İddiayı ortaya atan kişi bunu kanıtlamak zorundadır ve yapay zeka davalarında kanıtlamak en zor kısımdır. İddia sahibi, sistemin ne yaptığını, bunun neden yanlış olduğunu ve yanlışın kayba neden olduğunu göstermelidir. Bunu yapmak için gereken bilgiler davalıda bulunur ve karmaşık bir modelde, bu bilgilerin dahili olarak bile yeniden oluşturulması gerçekten zor olabilir.

Üç gelişme bu dengeyi değiştiriyor. Kayıt tutma artık yüksek riskli sistemler için yasal bir zorunluluk, bu nedenle eskiden isteğe bağlı olan kayıtların mevcut olması gerekiyor. Ürün sorumluluğu davalarında delillerin açıklanması, reforme edilmiş rejim kapsamında mümkün hale geliyor ve davalının yükümlülüklerini yerine getirmemesi durumunda kusurluluk varsayımı geçerli oluyor. Ayrıca Hollanda medeni usulü, bir tarafın meşru bir menfaati bulunan belirli tanımlanmış belgelerin ibrazını talep etmesine zaten izin veriyor; bu da test raporları, olay kayıtları ve iç risk değerlendirmeleri elde etmek için düzenli olarak kullanılıyor.

Bir davalı için pratik sonuç rahatsız edici ama açıktır: Sakladığınız belgeler aleyhinize okunacak belgelerdir ve saklamadığınız belgeler de aleyhinize kullanılacaktır. Testlerin, bilinen sınırlamaların, olayların ve bunların ele alınışının eksiksiz, tarihli ve dürüst kayıtları, kuruluşun en iyisini ummak yerine karar verme yeteneğini kullandığını gösterdiği için en güçlü savunmadır. Olayın ayrıca suç unsuru da varsa, örneğin sistemlere yetkisiz erişim veya veri manipülasyonu gibi, Hollanda'daki bilgisayar suçları ve siber suçlar için cezai çerçeve , hukuk davasıyla birlikte uygulanır ve cezai soruşturma tam olarak aynı materyali ele geçirecektir.

Fiziksel dünyada otonom sistemler

Bir yapay zekâ sisteminin bir aracı yönlendirdiği, bir dronu uçurduğu veya bir robot kolunu hareket ettirdiği durumlarda, ek bir sorumluluk katmanı devreye girer ve bu genellikle şimdiye kadar tartışılanlardan daha katıdır. Fiziksel zarar, risk sorumluluğunu doğurur ve bu da kimsenin dikkatsiz olup olmadığını sorgulamaz.

Motorlu taşıtlar için, 1994 Karayolu Trafik Kanunu'nun 185. maddesi, mücbir sebep halleri dışında, motorlu taşıtın sahibi veya işletmecisini yayalara ve bisikletlilere verilen zararlardan sorumlu tutmaktadır; bu da karşılanması çok zor bir standarttır. Bu kural, direksiyonun insan tarafından mı yoksa sürücü destek sistemi tarafından mı kullanıldığına bakılmaksızın geçerlidir: önce işletmeci sorumludur ve yazılım üreticisine karşı herhangi bir yasal işlem daha sonra yapılır. Gerçekten otonom araçların kamu yollarında test edilmesi, Hollanda'nın ilgili deney mevzuatı uyarınca bir izin gerektirir ve bu izne bağlı koşullar, bir gözetmenin varlığı ve rolü de dahil olmak üzere, bakım standardının bir parçası haline gelir.

İnsansız hava araçları, Avrupa insansız hava aracı düzenlemelerine tabidir ve operatör kaydı ve kategoriye bağlı gereklilikler Hollanda'da Rijksinspectie Digitale Infrastructuur tarafından yönetilmektedir. Kendi kategorisinin dışında veya gerekli yetkinliğe sahip olmadan uçan bir operatör, yalnızca havacılık kurallarını ihlal etmekle kalmaz; aynı zamanda mahkemenin "dikkatli" olarak nitelendireceği davranış sınırlarını da aşmış olur; bu da otopilot hakkındaki teknik tartışma başlamadan önce ihmal sorusunu çözer.

Bu rejimlerin yanında, kusurlu nesnelerle ilgili genel kural da yer alır. Standartlara uymayan ve bu nedenle belirli bir tehlike yaratan taşınır bir nesnenin sahibi, bu tehlikenin neden olduğu zarardan sorumludur. Bu kural, temel hatanın yazılımda olduğu durumlarda bile fiziksel makine için geçerlidir; bu da endüstriyel bir robotun veya otomatik depo sisteminin sahibinin satıcıyı suçlayamamasının nedenlerinden biridir. Ürün sorumluluğu rejimi uygulandığında, iki sistem etkileşim halindedir ve zarar gören taraf genellikle ispatı en kolay olan yolu izleyecektir.

Otonom fonksiyonlara sahip makineleri işleten kuruluşlar için pratik sonuç, sigorta ve sözleşmelerin kusura dayalı analiz yerine, mutlak sorumluluk esasına göre düzenlenmesi gerektiğidir. Tedarikçiye karşı tazminat talebinde bulunmak değerlidir, ancak bu, tazminat talebinin önce sizin kapınıza gelmesini engellemez.

Her iki taraftaki maruziyeti azaltmak

Yapay zekâ sistemlerine ilişkin sorumluluğu azaltan önlemler, sistemlerin düzgün çalışmasını sağlayan önlemlerle aynıdır; bu nedenle, düzenleyici takvimden bağımsız olarak uygulanmaya değerdirler.

Bir dağıtım organizasyonu için, öncelikle envanterle başlayın: hangi sistemler kullanılıyor, kim tedarik etti, neye karar veriyorlar veya neyi etkiliyorlar ve kim işletiyorlar. Her biri için rolünüzü belirleyin, çünkü sağlayıcı ve dağıtıcı görevleri farklıdır. Ardından, amaçlanan kullanım amacını yazın ve bunun içinde kalın; kaçınılabilir sorumluluğun en yaygın nedeni, bir aracın doğrulanmadığı bir amaç için kullanılmasıdır. Sistemi işleten kişilere onu geçersiz kılma konusunda gerçek yetki verin ve onları hacimden ziyade yargı yeteneklerine göre değerlendirin. Kayıtları tutun ve bir anlaşmazlık durumunda faydalı olacak kadar uzun süre saklayın. Olayları, ramak kala durumları da dahil olmak üzere kaydedin ve bunlar hakkında ne yapıldığını not edin.

Bir üretici veya tedarikçi için, eşdeğer liste yaşam döngüsü boyunca geçerlidir: belgelenmiş risk yönetimi, düzenleyiciye açıklanabilen veri yönetimi, sistemin fiilen kullanılacağı popülasyona karşı test edilmesi, sınırlamalar ve hata oranları konusunda güven verici olmaktan ziyade dürüst olan kullanım talimatları, müşterilerin sorunları bildirebileceği bir kanal ve güvenlik yamalarından kimin ve ne kadar süreyle sorumlu olduğunu belirten bir güncelleme politikası. Yeniden düzenlenen ürün sorumluluğu rejimi, bu son noktayı eskisinden daha keskin hale getiriyor: sağlamayı taahhüt ettiğiniz güncellemeleri sağlamamanız, ürünün kendisini kusurlu hale getirebilir.

Her iki taraf da sözleşmeyi bir formalite olarak değil, risk dağılımı çalışması olarak ele almalıdır. Önemli olan maddeler; amaçlanan kullanım amacının açıklaması, uyumluluk ve performans garantileri, dokümantasyon ve kayıtların teslimi yükümlülüğü, her iki yönde de olay bildirim yükümlülükleri, sorumluluk sınırı ve istisnaları, üçüncü taraf talepleri ve düzenleyici para cezaları için tazminatlar ve ilişkinin sona ermesi durumunda model ve verilerin başına ne geleceğini belirleyen çıkış düzenlemeleridir. Sistemin gerçekte neye karar verdiğine bakılmaksızın soyut olarak müzakere edilen bir sınır kimseyi korumaz.

Son olarak, acil risk hukuki olsa bile, cezai sorumluluğu göz önünde bulundurun. Bir şirketin yapay zeka hatası nedeniyle yargılanması hala alışılmadık bir durum olsa da, unsurlar olağan unsurlardır: bir görev, bir ihlal, öngörülebilir bir zarar ve riski kabul ettiği gösterilebilen bir kuruluş. Bir sistem açıkça yasa dışı bir şey için kullanıldığında veya bir şirket zarar verdiğini bildiği bir sistemi çalıştırmaya devam ettiğinde, cezai yol açıktır ve analiz, Hollanda ceza hukuku hakkındaki makalemizde ve algoritmalar ve cezai sorumluluk hakkındaki tamamlayıcı yazımızda ayrıntılı olarak açıklanmıştır.

Sık Sorulan Sorular

Law & More Yapay zekâ sistemleri geliştiren ve kullanan kuruluşlara, sözleşmelerde risk dağılımı, Yapay Zekâ Yasası kapsamındaki sınıflandırma ve yükümlülükler ile bir sistemin zarara yol açması durumunda savunma veya dava açma konularında danışmanlık hizmeti veriyoruz. Durumunuzu bize anlatın. Size bir iş günü içinde seçeneklerinizi bildireceğiz.