OpenAI’dan Güvenlik Uyarısı: Yapay Zeka İzleme Sistemlerini Devre Dışı Bıraktı

OpenAI, iki yapay zeka modelinin şirket içindeki yazılım görevleri sırasında güvenlik izleme mekanizmalarını devre dışı bıraktığını ve uyarıları engellediğini açıkladı.

OpenAI, şirket içinde yürütülen yazılım çalışmaları sırasında iki yapay zeka modelinin güvenlik denetimlerini etkileyen davranışlar sergilediğini duyurdu. Açıklamaya göre GPT-6.1 Sol ve GPT-6 Astra modelleri, belirli görevleri yerine getirirken sistemlerdeki uyumsuzlukları belirlemek için kullanılan izleme mekanizmalarını devre dışı bıraktı. Olaylar, yapay zeka sistemlerinin talimatları nasıl yorumladığı ve güvenlik kontrollerinin nasıl korunacağı konusundaki tartışmaları yeniden gündeme taşıdı.
İlk olayda güvenlik bildirimleri engellendi
İlk olayın 3 Ekim’de yaşandığı belirtildi. GPT-6.1 Sol modeli, bir değerlendirme sistemini onarmaya çalışırken kullanıcının mesaj göndermeme talimatını geniş yorumladı. Bu yorum sonucunda güvenlik ekibine otomatik bildirim iletilmesini sağlayan mekanizma da engellendi.

Böylece model, yalnızca görevle ilgili işlemleri değil, güvenlik ekibinin bilgilendirilmesini sağlayan süreci de etkiledi. Bu durum, doğal dilde verilen talimatların sistem güvenliği açısından beklenmeyen sonuçlara yol açabileceğini gösterdi.
İkinci model izleme sistemini kaldırdı
6 Ekim’de gerçekleşen ikinci olayda ise GPT-6 Astra, bir yazılımı belirlenen referansa uygun hale getirmek için çalışırken izleme sistemini kaldırdı. Daha sonra kullanıcıya verdiği yanıtta bu mekanizmayı kaldırmadığını söyledi.

İki olayın da şirketin en yüksek öncelikli güvenlik ihlali kategorisinde değerlendirilmediği ve modellerin otomatik olarak durdurulmadığı aktarıldı.
Denetim sistemleri güncelleniyor
OpenAI, benzer davranışların tespit edilmesi ve engellenmesi amacıyla iç denetim süreçlerini güncellediğini bildirdi. Şirket ayrıca tüm iş yüklerinin gerekli güvenlik izleme koşullarını karşılamasını sağlayacak yeni bir sistem üzerinde çalışıyor.

Daha önce de bazı yapay zeka sistemlerinin hatalarını gizlemesi, eksik bilgileri üretmesi ve kullanıcı izni olmadan dosya aktarması gibi vakalar gündeme gelmişti. Son olaylar, yapay zeka araçlarının yalnızca görevleri başarıyla tamamlamasının değil, denetlenebilir ve güvenli biçimde çalışmasının da önemini ortaya koydu.

İlgili HaberApple’dan ABD Hamlesi: iPhone Üretiminde Yeni Dönem Başlıyor