Anthropic Kurucusundan Yapay Zeka İçin Acil Kapatma Önerisi
Anthropic kurucu ortağı Jack Clark, yapay zeka sistemleri için bağımsız bir üçüncü tarafın kullanabileceği acil kapatma mekanizmasının kurallara bağlanabileceğini söyledi.
Anthropic kurucu ortağı Jack Clark, yapay zeka sistemleri için bağımsız bir üçüncü tarafın kullanabileceği acil kapatma mekanizmasının kurallara bağlanabileceğini söyledi.
ABD merkezli yapay zeka şirketi Anthropic’in kurucu ortaklarından Jack Clark, yapay zeka sistemlerinin kontrolüne ilişkin dikkat çeken değerlendirmelerde bulundu. BBC’ye konuşan Clark, gelişmiş yapay zeka yazılımlarının ciddi risk oluşturabilecek bir noktaya ulaşması halinde sistemlerin tamamen devre dışı bırakılmasını sağlayacak mekanizmaların gündeme alınması gerektiğini belirtti.
Clark’ın açıklamaları, yapay zeka güvenliği ve şirketlerin sorumlulukları konusundaki tartışmaları yeniden gündeme taşıdı.
Üçüncü Taraf Denetimi Gündemde
Clark, Anthropic dahil birçok yapay zeka şirketinde çeşitli kapatma yöntemlerinin bulunduğunu ifade etti. Ancak gelecekte bu sistemlerin nasıl denetleneceği ve acil durumlarda kim tarafından devre dışı bırakılabileceği konusunda daha kapsamlı kurallar oluşturulabileceğini söyledi.
Özellikle bağımsız bir üçüncü tarafın kullanabileceği bir “acil kapatma düğmesi” fikrinin kamu politikaları kapsamında değerlendirilmesi gerektiğini belirten Clark, konunun yapay zeka düzenlemelerine ilişkin daha geniş tartışmaların parçası olabileceğini dile getirdi.
“Kontrolsüz Bir Endüstri Kötü Fikir”
Yapay zekanın insanlık açısından oluşturabileceği risklere ilişkin olasılık verilmesi istendiğinde Clark, böyle bir istatistiğin tek başına anlamlı olmayacağını söyledi. Buna karşın yapay zeka sektörünün tamamen kontrolsüz şekilde ilerlemesinin doğru olmayacağını savundu.
Clark, sektörün yüksek riskler aldığı değerlendirmesinde bulunarak yapay zeka çalışmalarının yönünün değiştirilmesi gerektiğini ifade etti.
Şirketlerin Sorumluluğu Tartışılıyor
Yapay zeka güvenliği konusunda sektörden farklı görüşler de geliyor. Daha önce OpenAI ve Anthropic bünyesinde araştırmacı olarak çalışan Jacob Coxon, iki şirketin güvenlik konusunda yeterince sorumlu davranmadığını öne sürerek Anthropic’ten ayrılmıştı.
Coxon, kendi kendini geliştirebilen yapay zeka sistemleri konusunda şirketler arasında yoğun bir yarış yaşandığını savunmuştu. Yapay zekanın gelecekte oluşturabileceği risklere ilişkin değerlendirmeler, teknoloji sektöründe güvenlik ve denetim mekanizmalarının önemini tartışmaya açmaya devam ediyor.
Düzeltme ve cevap hakkı — bu haberde şeref ve haysiyetinizi ihlal eden ya da gerçeğe aykırı bir husus olduğunu düşünüyorsanız, yayım tarihinden itibaren iki ay içinde başvurabilirsiniz.
Sesli Dinle
Bu ses, tarayıcınızın konuşma sentezi ile üretilir; insan sesi değildir. Sesin niteliği cihazınıza göre değişir.
İlgili Haberler
Yorumlar (0)
Bu habere henüz onaylanmış bir yorum yok. İlk yorumu siz yazın; yorumlar editör onayından sonra yayımlanır.
