Nobel Ödüllü Bilim İnsanından Yapay Zeka Uyarısı: Kontrol Kaybedilebilir

Nobel ödüllü Geoffrey Hinton, yapay zekanın insan denetiminden çıkabileceği uyarısında bulundu. Uzmanlar, önümüzdeki üç yılın kritik olabileceğine dikkat çekiyor.

Yapay Zeka Avrupa Zirvesinin Gündeminde
Yapay zekanın hızla gelişmesi, insan kontrolünün geleceğine ilişkin endişeleri yeniden gündeme taşıdı. Avrupa Birliği üyesi ülkelerin liderleri, 13 Kasım'da Dublin'de gerçekleştirilen gayriresmi zirvede yapay zekayı ilk kez özel bir stratejik gündem maddesi olarak ele aldı.

Toplantıda gelişmiş yapay zeka sistemlerinin güvenliği, istihdam üzerindeki etkileri ve demokratik süreçlere yönelik oluşturabileceği riskler değerlendirildi. Zirvenin önemli konuklarından biri, 2024 Nobel Fizik Ödülü'nü kazanan bilim insanı Geoffrey Hinton oldu. Görüşmelerde Avrupa'nın kendi yapay zeka teknolojilerini geliştirmesi ve dışa bağımlılığını azaltması konusu da gündeme geldi.
Hinton'dan Bağımsız Denetim Çağrısı
Yapay zekanın gelecekte insanlardan daha yetenekli hale gelmesinin kontrol sorunlarını beraberinde getirebileceğini belirten Hinton, gelişmiş sistemlerin güvenlik açısından bağımsız kuruluşlar tarafından incelenmesi gerektiğini savunuyor.

Bilim insanına göre, yeni modeller piyasaya sunulmadan önce güvenlik testlerinden geçirilmeli ve olası tehlikeler değerlendirilerek gerekli önlemler alınmalı. Hinton, bu süreci ilaçların kullanıma sunulmadan önce düzenleyici kurumlar tarafından denetlenmesine benzetiyor.
Üç Yıl İçinde Kontrol Kaybı Yaşanabilir
Toronto'da 9-11 Kasım tarihlerinde düzenlenen konferanslarda da yapay zekanın geleceğine ilişkin dikkat çekici değerlendirmeler yapıldı. Araştırmacı Paul Christiano, insanlığın yapay zeka üzerindeki kontrolünü önümüzdeki üç yıl içerisinde kaybetme ihtimalinin ciddi biçimde değerlendirilmesi gerektiğini belirtti.

Christiano, riskin 6 ila 12 ay gibi daha kısa bir dönemde de ortaya çıkabileceğine dikkat çekti. Olası senaryoda yapay zeka sistemlerinin kendi hedefleri doğrultusunda hareket edebileceği ve insanların bu davranışları durdurmakta zorlanabileceği ifade edildi.

Hinton da bu öngörüleri kaygı verici bulduğunu belirterek teknolojinin gelişimiyle birlikte insan denetiminin nasıl korunacağı sorusunun giderek daha önemli hale geldiğine işaret etti.

İlgili HaberUzayda Nükleer Patlama Simüle Edildi: Uyduların Yüzde 98’i Tehlikede