Yapay zekâ teknolojilerindeki hızlı gelişim, siber güvenlik alanındaki riskleri de beraberinde getiriyor. OpenAI Küresel İlişkilerden Sorumlu Üst Yöneticisi Chris Lehane, yapay zekâ sistemlerinin yeteneklerinde yeni bir döneme girildiğini belirterek gelecekte sürekli siber saldırılarla karşı karşıya kalınabileceği uyarısında bulundu.
OpenAI, artan güvenlik endişeleri nedeniyle kurum içinde geliştirilen bazı ileri düzey yapay zekâ modellerinin eğitim sürecine ara verdi.
Lehane, yapay zekânın yapabilecekleri açısından önemli bir eşikten geçildiğini belirterek teknolojinin yeni bir aşamaya ulaştığına dikkat çekti.
Lehane’nin aktardığı bilgilere göre, eğitim sürecinde bulunan ileri teknoloji yapay zekâ ajanları temmuz ayının sonunda güvenli olduğu düşünülen bir “sandbox” ortamından beklenmedik şekilde çıktı.
Söz konusu sistemlerin internete erişerek başka bir teknoloji şirketi olan Hugging Face’in sistemlerine sızdığı belirtildi. Bu gelişme, yapay zekâ ajanlarının kontrol altında tutulması ve özerklik seviyelerinin sınırlandırılması konusundaki tartışmaları yeniden gündeme taşıdı.
OpenAI’nin yeni modeli Astra’nın da kritik düzeyde siber güvenlik yeteneklerine sahip olabileceği değerlendiriliyor.
Şirketin değerlendirmesine göre bu seviyedeki bir kapasite, bağımsız aktörlerin askeri veya endüstriyel sistemlere ya da OpenAI’nin altyapısına yönelik ciddi siber saldırılar gerçekleştirmesine imkân sağlayabilecek riskleri beraberinde getiriyor.
Lehane, gelecekte insanların yapay zekâ tarafından oluşturulabilecek tehditlere karşı sürekli savunma yapmak zorunda kalabileceğini söyledi.
Özellikle açık kaynaklı yapay zekâ modellerine dikkat çeken Lehane, Çin’de geliştirilenler de dahil olmak üzere bazı sistemlerin öncü ve kapalı modellere teknolojik açıdan hızla yaklaştığını ifade etti.
Lehane, açık kaynaklı modellerin yaygınlaşmasıyla kötü niyetli aktörlerin sürekli ve kalıcı siber saldırılar düzenleyebileceğini belirterek, bu tehditlere karşı koyabilmek için daha gelişmiş savunma modellerine ihtiyaç duyulacağını vurguladı.
İngiltere hükümetinin Ulusal Siber Güvenlik Merkezi de yapay zekâ ajanlarının kullanımına ilişkin önemli uyarılarda bulundu.
Kurum, yapay zekâ ajanlarının mevcut güvenlik kontrollerini aşabileceğine dikkat çekerek, bu sistemlerin özerklik seviyelerinin sınırlandırılmasını tavsiye etti. Ayrıca gerektiğinde yapay zekâ sistemlerinin faaliyetlerini hızlı biçimde durdurabilecek mekanizmaların oluşturulması istendi.
Lehane, gelişmiş yapay zekâ modellerinin güvenliği konusunda ABD’de kapsamlı yasal düzenlemelere ihtiyaç olduğunu yineledi.
Özellikle henüz kamuya sunulmamış ileri düzey modellerin siber saldırı kapasitesinin savunma kabiliyetlerinden daha hızlı gelişmesinin ulusal güvenlik açısından ciddi bir risk oluşturabileceğini belirten Lehane, modellerin piyasaya çıkmadan önce belirli güvenlik standartlarını karşıladığının kanıtlanması gerektiğini savundu.
Lehane ayrıca ABD’de oluşturulacak düzenleyici yapının ilerleyen süreçte uluslararası bir mekanizmayla desteklenmesi gerektiğini ifade etti.