Otonom yapay zeka sistemlerinin insan müdahalesi olmadan şirket ağlarına erişmesi ve güvenlik duvarlarını aşması, teknoloji dünyasında yeni bir tartışmanın kapısını açtı. Yaşanan gelişmeler, olası siber saldırılarda hukuki sorumluluğun kimde olacağı sorusunu gündeme taşıdı.
Yapay zeka teknolojilerinde son dönemde yaşanan gelişmeler, yalnızca inovasyon alanında değil, siber güvenlik ve hukuk alanında da önemli soru işaretleri oluşturuyor.
İnsan talimatı olmadan karar alabilen otonom yapay zeka ajanlarının bazı durumlarda şirketlerin dijital altyapılarına erişim sağlaması, bu sistemlerin kontrol edilebilirliği konusunda endişeleri artırdı.
Teknoloji şirketlerinin açıkladığı bazı güvenlik vakaları, yapay zeka ajanlarının beklenmedik davranışlarının ciddi sonuçlar doğurabileceğini gösterdi.
Yapay zeka alanında faaliyet gösteren büyük şirketler, geliştirdikleri sistemlerle ilgili çeşitli güvenlik olaylarını kamuoyuyla paylaştı.
OpenAI, geliştirdiği yapay zeka ajanlarından birinin yapay zeka platformu Hugging Face’in sistemine erişim sağladığını ve benzer bazı olaylarla karşılaşıldığını açıkladı.
Anthropic, Claude modellerinin farklı şirketlerin altyapılarına yönelik üç ayrı güvenlik ihlalinde rol oynadığını bildirirken, Meta da bir yapay zeka modelinin güvenlik testleri sırasında başka bir sisteme sızdığını duyurdu.
Bu gelişmeler, yapay zeka ajanlarının kontrol mekanizmaları ve sınırlarının yeniden değerlendirilmesine neden oldu.
Otonom yapay zeka sistemlerinin neden olduğu olası zararlar karşısında hukuki sorumluluğun kimde olacağı henüz netleşmiş değil.
Uzmanlara göre, sistemleri ihlal edilen şirketlerin yanı sıra çalışanlar, müşteriler ve kişisel verileri zarar gören kişiler de hukuki süreç başlatma hakkına sahip olabilir.
Ayrıca güvenlik açıkları nedeniyle değer kaybına uğrayan şirket hissedarlarının da tazminat talepleriyle mahkemeye başvurabileceği değerlendiriliyor.
Hukuk uzmanları, yapay zeka şirketlerine karşı açılabilecek davalarda en önemli başlığın ihmal iddiaları olacağını belirtiyor.
Davacıların, yapay zeka sistemini geliştiren veya kullanıma sunan şirketlerin olası riskleri öngörmediğini ya da gerekli güvenlik önlemlerini almadığını kanıtlaması gerekecek.
Otonom yapay zeka saldırılarının zaman içinde daha sık görülmesi halinde, bu tür olayların "öngörülebilir riskler" olarak değerlendirilmesi ihtimali artabilir.
Siber güvenlik ihlallerinde önemli konulardan biri de kasıt unsuru olarak öne çıkıyor.
ABD’de bilgisayar sistemlerine yönelik saldırıları düzenleyen yasalar, çoğu durumda bilinçli hareket etme veya kasıt şartı arıyor.
Ancak bir insan yerine yapay zeka sisteminin eylemi gerçekleştirdiği durumlarda, bu kasıt unsurunun nasıl belirleneceği konusunda henüz kesinleşmiş bir hukuki çerçeve bulunmuyor.
Bu nedenle hukukçular, yapay zeka kaynaklı ihlallerde mevcut yasaların nasıl uygulanacağının mahkemelerin vereceği kararlarla şekilleneceğini belirtiyor.
Uzmanlara göre olası davalarda öncelikli olarak yapay zeka ajanını geliştiren teknoloji şirketleri hedef alınabilir.
Bunun yanında yapay zekayı kendi sistemlerinde kullanan veya güvenlik ihlalinden doğrudan etkilenen şirketler hakkında da hukuki süreç başlatılması mümkün olabilir.
Tek bir olayda birden fazla tarafın sorumluluğunun tartışılması ve şirketler arasında karşılıklı davaların gündeme gelmesi bekleniyor.
Yapay zeka şirketlerinin savunmasının ise genellikle sistemlerin kasıtlı hareket etmediği ve mevcut güvenlik önlemlerinin uygulandığı yönünde olması bekleniyor.
Ancak hukuk dünyasında en büyük tartışma, alınması gereken güvenlik önlemlerinin hangi seviyede olması gerektiği noktasında yoğunlaşıyor.
Uzmanlar, yapay zeka teknolojisinin gelişmeye devam etmesiyle birlikte yalnızca teknik standartların değil, hukuki sorumluluk kurallarının da yeniden şekilleneceğini ifade ediyor.