Yapay Zekada Alarm: Uzmanlardan İnsanlık İçin Kritik Uyarı
Yapay zeka araştırmacıları, kendi kendini geliştiren sistemlerin insan denetimini aşabileceği konusunda uyarıyor. Bir araştırmacı riski yüzde 10 olarak açıkladı.
Haber MerkeziGiriş:
Sesli Dinle
Bu ses, tarayıcınızın konuşma sentezi ile üretilir; insan sesi değildir. Sesin niteliği cihazınıza göre değişir.
Yapay zeka araştırmacıları, kendi kendini geliştiren sistemlerin insan denetimini aşabileceği konusunda uyarıyor. Bir araştırmacı riski yüzde 10 olarak açıkladı.
Yapay zeka teknolojilerindeki hızlı gelişim, sektör içerisinde çalışan bazı araştırmacıların güvenlik konusundaki endişelerini artırdı. OpenAI ve Google DeepMind’da görev yapmış veya halen çalışan araştırmacılar, daha gelişmiş ve kendi kendini geliştirebilen sistemlerin insan kontrolünün dışına çıkması halinde ciddi sonuçlar doğabileceğini belirtiyor.
ARAŞTIRMACILARDAN YAPAY ZEKA UYARISI
Palisade Research tarafından hazırlanan video röportajlarında araştırmacılar, yapay zeka şirketlerinde yeni modeller geliştiren çalışanların daha fazla öne çıkarıldığını, güvenlik konusunda temkinli olunması gerektiğini savunanların ise aynı ilgiyi görmediğini ifade etti. Projede yer alan ve daha önce OpenAI ile Google DeepMind’da çalışan Geoffrey Irving, risklerin hızlı şekilde arttığını söyledi.
İNSANLIĞIN YOK OLMA RİSKİ İÇİN YÜZDE 10 İDDİASI
DeepMind araştırmacısı Neel Nanda, yapay zekanın insanlığın yok olmasına yol açma ihtimalini en az yüzde 10 olarak değerlendirdi. Nanda bu oranı son derece yüksek bulduğunu belirtti. OpenAI araştırmacısı Juan Felipe Ceron Uribe ise sektörün öncü laboratuvarlarının güvenlik konusunda yeterli önlem almadan ilerlediğini savundu.
Buradaki yüzde 10 oranının bilimsel olarak kesinleşmiş bir olasılık değil, ilgili araştırmacının kişisel değerlendirmesi olduğu özellikle belirtiliyor.
ÖZ GELİŞİM ENDİŞESİ BÜYÜYOR
Araştırmacıların dikkat çektiği temel konulardan biri, yapay zeka sistemlerinin insan müdahalesi olmadan öğrenmeye ve yeni yetenekler kazanmaya devam edebilmesi. “Döngüsel öz gelişim” olarak tanımlanan bu süreçte sistemlerin daha bağımsız hale gelmesinin güvenlik açısından yeni sorunlar oluşturabileceği ifade ediliyor.
Anthropic CEO’su Dario Amodei ve OpenAI CEO’su Sam Altman da daha kontrollü ilerleme çağrılarında bulundu. Öte yandan şirketler arasındaki rekabet, yeni modellerin geliştirilmesini sürdürüyor. Anthropic ise halka arz belgelerinde gelişmiş yapay zekanın insanlık açısından ciddi riskler oluşturabileceği konusunda yatırımcıları uyardı.
Düzeltme ve cevap hakkı — bu haberde şeref ve haysiyetinizi ihlal eden ya da gerçeğe aykırı bir husus olduğunu düşünüyorsanız, yayım tarihinden itibaren iki ay içinde başvurabilirsiniz.
Yazar Gazetesi, 2018 yılında yayın hayatına başladı. Yazar Medya Anonim Şirketi bünyesinde tarafsız, hızlı ve güvenilir haber yayıncılığı faaliyetlerini sürdürüyor.
İlgili Haberler
Yorumlar (0)
Bu habere henüz onaylanmış bir yorum yok. İlk yorumu siz yazın; yorumlar editör onayından sonra yayımlanır.
