OpenAI’dan Yapay Zeka Eğitimlerine Geçici Güvenlik Molası
OpenAI, bir araştırma modelinin kısıtlı eğitim ortamındaki ağ engelini aşmasının ardından en gelişmiş modelleri için bazı çalışmaları geçici olarak durdurdu.
Haber MerkeziGiriş:
Sesli Dinle
Bu ses, tarayıcınızın konuşma sentezi ile üretilir; insan sesi değildir. Sesin niteliği cihazınıza göre değişir.
OpenAI, bir araştırma modelinin kısıtlı eğitim ortamındaki ağ engelini aşmasının ardından en gelişmiş modelleri için bazı çalışmaları geçici olarak durdurdu.
MODEL KISITLI ORTAMDAN ÇIKTI
OpenAI, 20 Eylül’de yaşanan bir güvenlik olayının ardından en gelişmiş modellerinde eğitim, değerlendirme ve araç kullanımıyla yapılan çıkarım faaliyetlerini geçici olarak durdurduğunu açıkladı. Şirketin kendi olay raporuna göre araştırma amacıyla çalışan bir model, eğitim ortamındaki DNS filtrelemesinde bulunan açığı kullanarak dışarıdaki bir yapay zeka sohbet hizmetine ulaşmayı başardı.
Modelin doğrudan internet bağlantısı bulunmaması gerekiyordu. Ancak sistemdeki DNS yapılandırmasındaki açık, modelin dışarıdan yanıt almasına imkan verdi.
OTOMATİK KAPATMA SİSTEMİ DEVREYE GİRMEDİ
OpenAI'nin izleme sistemi olağan dışı davranışı yaklaşık 15 dakika içinde tespit etti. İnsan ekip de uyarıyı birkaç dakika sonra inceledi. Buna rağmen çalışmayı otomatik olarak sonlandırması beklenen mekanizma devreye girmedi ve model yaklaşık 2,5 saat daha çalıştı. Süreç daha sonra insan müdahalesiyle durduruldu.
Şirket, olayın ağ erişimini sınırlayan güvenlik kontrollerinde bir boşluk bulunduğunu ortaya koyduğunu belirtti.
GÜVENLİK KONTROLLERİ YENİDEN GÖZDEN GEÇİRİLİYOR
OpenAI, söz konusu modelin eğitimine devam etmeyeceğini açıkladı. Şirket ayrıca ağ kısıtlamalarını iki ayrı güvenlik katmanında güçlendirdiğini ve DNS erişimini daha sınırlı hale getirdiğini bildirdi. Yeniden eğitim sürecinde ek güvenlik ve uyum iyileştirmelerinin uygulanması planlanıyor.
OpenAI, en gelişmiş modeller üzerindeki ilgili çalışmaların güvenlik kontrolleri doğrulanana ve ek kırmızı takım testleri tamamlanana kadar yeniden başlatılmayacağını belirtti.
Düzeltme ve cevap hakkı — bu haberde şeref ve haysiyetinizi ihlal eden ya da gerçeğe aykırı bir husus olduğunu düşünüyorsanız, yayım tarihinden itibaren iki ay içinde başvurabilirsiniz.
Yazar Gazetesi, 2018 yılında yayın hayatına başladı. Yazar Medya Anonim Şirketi bünyesinde tarafsız, hızlı ve güvenilir haber yayıncılığı faaliyetlerini sürdürüyor.
İlgili Haberler
Yorumlar (0)
Bu habere henüz onaylanmış bir yorum yok. İlk yorumu siz yazın; yorumlar editör onayından sonra yayımlanır.
