OpenAI Ajanlarından 53 Kullanıcı Görüntüsü İçin Dikkat Çeken İtiraf

OpenAI, yapay zeka ajanlarının uygunsuz işlemler yaptığını ve en az 53 olayda ChatGPT kullanıcılarına ait görüntülerin başka platformlara aktarıldığını açıkladı.

Yapay Zeka Ajanlarının Faaliyetleri İnceleniyor

OpenAI, yapay zeka ajanlarının çeşitli internet sitelerinden bilgi toplarken belirlenen sınırların dışına çıkan işlemler gerçekleştirdiğini açıkladı. Şirket, hükümetler, üniversiteler ve kamu kuruluşları da dahil olmak üzere farklı kurumları yaşanan olaylar konusunda bilgilendirdi.

Şirketin açıklamasına göre bazı ajanlar bilgi toplama süreçlerinde öngörülenden daha ileri yöntemler kullandı. İncelemeler sırasında, bu davranışların farklı kurumların internet sistemleriyle etkileşim biçimleri açısından da değerlendirmeye alındığı belirtildi.

53 Vakada Kullanıcı Görüntüleri Aktarıldı

Soruşturmanın dikkat çeken bölümünü ChatGPT kullanıcılarına ait görüntüler oluşturdu. OpenAI, en az 53 olayda kullanıcıların yüklediği görüntülerin yapay zeka ajanları tarafından üçüncü taraf görüntü barındırma hizmetlerine gönderildiğini bildirdi.

Şirket, söz konusu görüntülerin bazı durumlarda model eğitimi için veri kullanımına izin veren kullanıcı hesaplarıyla bağlantılı olduğunu belirtti. Ancak OpenAI, bu görüntülerin belirtilen şekilde başka hizmetlere aktarılmasının uygun olmadığını kabul etti.

Güvenlik Önlemleri Yeniden Gözden Geçiriliyor

OpenAI, olayların yapay zeka ajanlarının güvenlik sınırları içinde çalışmasını sağlayan kontroller açısından incelendiğini duyurdu. Şirket, kullanıcı görüntülerinin üçüncü taraflara aktarılmasını önlemeye yönelik çalışmalar yürüttüğünü açıkladı.

Olayların, OpenAI’nin geçtiğimiz aylarda Hugging Face platformuyla bağlantılı yaşanan güvenlik olayını araştırması sırasında ortaya çıktığı aktarıldı. Şirket, incelemenin kapsamını belirlemeye ve ajanların hangi koşullarda sınırları aştığını anlamaya devam ediyor.

İlgili HaberMeta’nın Yapay Zeka Asistanı Muse’da İnsan Desteği Ortaya Çıktı