400 Bilim İnsanından Yapay Zekâ İçin Denetim Çağrısı

34 ülkeden yaklaşık 400 bilim insanı, siber saldırı riski taşıyan gelişmiş yapay zekâ sistemleri için uluslararası denetim ve güvenlik standartları istedi.

Uluslararası denetim mekanizması önerisi
Yapay zekâ teknolojilerinin hızla gelişmesi, güvenlik ve denetim konusundaki tartışmaları yeniden gündeme taşıdı. Geoffrey Hinton ve Yoshua Bengio’nun da aralarında bulunduğu yaklaşık 400 bilim insanı, gelişmiş yapay zekâ sistemlerinin oluşturabileceği risklere karşı uluslararası bir denetim kuruluşu kurulması çağrısında bulundu.
34 ülkeden araştırmacıların imzaladığı açık mektupta, özellikle siber saldırı kapasitesine sahip modellerin kontrol altında tutulması gerektiği vurgulandı. Önerilen kuruluşun, yapay zekâ sektöründe ortak güvenlik standartları belirlemesi ve önemli güvenlik olaylarının kaydedileceği bir sistem oluşturması istendi. Bu kayıtların ilerleyen süreçte kamuoyuyla paylaşılması da öneriler arasında yer aldı.
Bağımsız test ve güvenlik standartları öne çıktı
Bilim insanları, en gelişmiş yapay zekâ modellerinin ilk aşamada dış ağlardan ayrılmış ortamlarda çalıştırılmasını ve bağımsız denetimlerden geçirilmesini savundu. Şirketlerin kendi inisiyatifleriyle açıkladıkları güvenlik taahhütlerinin tek başına yeterli olmayabileceğine dikkat çekildi.
Araştırmacılar, güvenlik önlemlerini aşarak harici sistemlere erişebilen yapay zekâ modellerinin ciddi riskler oluşturabileceğini belirtti. Bu nedenle hükümetler kapsamlı düzenlemeler üzerinde çalışırken teknoloji şirketlerinin de yüksek güvenlik standartlarını gecikmeden uygulamaya başlaması gerektiği ifade edildi.
Hükümetlerin düzenleme çalışmaları sürüyor
Çağrı, büyük teknoloji şirketlerinin gönüllü güvenlik önlemlerini kabul ettiği bir anlaşmanın ardından geldi. Ancak söz konusu anlaşmada taahhütlerin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizmasının bulunmaması, denetim ihtiyacına ilişkin tartışmaları artırdı.
Avrupa Birliği yetkilileri, mevcut yapay zekâ düzenlemelerinin kontrolsüz sistemlerden kaynaklanabilecek riskleri ele alabilecek kapasitede olduğunu savunurken ABD yönetimi de güvenlik testlerine yönelik uluslararası iş birliğini geliştiren adımlar attı.
Bilim dünyasında görüş ayrılıkları var
Yapay zekâ alanının önde gelen isimlerinden Geoffrey Hinton ve Yoshua Bengio çağrıya destek verirken Yann LeCun mektubu imzalamadı. LeCun, gündeme gelen bazı güvenlik sorunlarının insanlığın geleceğine yönelik tehditlerden ziyade mühendislik hatalarıyla ilişkili olduğunu savunuyor.
Tartışmalar, gelişmiş yapay zekâ teknolojilerinin yenilikçi potansiyeli ile güvenlik riskleri arasında nasıl bir denge kurulacağı sorusunu öne çıkarıyor.

İlgili HaberAntalya’da 4 Bin 700 Yıllık Gemi Batığı Bulundu İddiası Gündem Oldu