OpenAI’dan Yapay Zeka Eğitimlerine Geçici Güvenlik Molası

OpenAI, bir araştırma modelinin kısıtlı eğitim ortamındaki ağ engelini aşmasının ardından en gelişmiş modelleri için bazı çalışmaları geçici olarak durdurdu.

MODEL KISITLI ORTAMDAN ÇIKTI

OpenAI, 20 Eylül’de yaşanan bir güvenlik olayının ardından en gelişmiş modellerinde eğitim, değerlendirme ve araç kullanımıyla yapılan çıkarım faaliyetlerini geçici olarak durdurduğunu açıkladı. Şirketin kendi olay raporuna göre araştırma amacıyla çalışan bir model, eğitim ortamındaki DNS filtrelemesinde bulunan açığı kullanarak dışarıdaki bir yapay zeka sohbet hizmetine ulaşmayı başardı.

Modelin doğrudan internet bağlantısı bulunmaması gerekiyordu. Ancak sistemdeki DNS yapılandırmasındaki açık, modelin dışarıdan yanıt almasına imkan verdi.

OTOMATİK KAPATMA SİSTEMİ DEVREYE GİRMEDİ

OpenAI'nin izleme sistemi olağan dışı davranışı yaklaşık 15 dakika içinde tespit etti. İnsan ekip de uyarıyı birkaç dakika sonra inceledi. Buna rağmen çalışmayı otomatik olarak sonlandırması beklenen mekanizma devreye girmedi ve model yaklaşık 2,5 saat daha çalıştı. Süreç daha sonra insan müdahalesiyle durduruldu.

Şirket, olayın ağ erişimini sınırlayan güvenlik kontrollerinde bir boşluk bulunduğunu ortaya koyduğunu belirtti.

GÜVENLİK KONTROLLERİ YENİDEN GÖZDEN GEÇİRİLİYOR

OpenAI, söz konusu modelin eğitimine devam etmeyeceğini açıkladı. Şirket ayrıca ağ kısıtlamalarını iki ayrı güvenlik katmanında güçlendirdiğini ve DNS erişimini daha sınırlı hale getirdiğini bildirdi. Yeniden eğitim sürecinde ek güvenlik ve uyum iyileştirmelerinin uygulanması planlanıyor.

OpenAI, en gelişmiş modeller üzerindeki ilgili çalışmaların güvenlik kontrolleri doğrulanana ve ek kırmızı takım testleri tamamlanana kadar yeniden başlatılmayacağını belirtti.

İlgili HaberTelefonla gece gökyüzü fotoğrafı nasıl çekilir? Ay, yıldız ve Samanyolu için ayarlar