OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zekanın hızlı ve kontrolsüz gelişiminin gelecekte ciddi sonuçlar doğurabileceği konusunda uyarıda bulundu. Pachocki, insanlığın bu dönüşümün etkilerine henüz yeterince hazırlıklı olmadığını belirterek yapay zeka güvenliği konusunda daha sıkı önlemler alınması gerektiğini söyledi.
“Kimse Bu Hızlı Yükselişe Hazırlıklı Değil”
Jakub Pachocki, yayımladığı blog yazısında makine zekasındaki hızlı ilerlemenin sonuçları konusunda endişeli olduğunu ifade etti.
Pachocki, giderek daha gelişmiş ve yüksek zekaya sahip makinelerin bulunduğu bir döneme geçiş yapıldığını belirterek bu sürecin insanlık açısından olumlu sonuçlanmasını sağlamanın önemine dikkat çekti.
OpenAI yöneticisi, yapay zekanın gelişimi karşısında “aşırı dikkatli olunması” gerektiğini savundu.
Yapay Zeka Ajanlarıyla İlgili Endişeler Artıyor
Pachocki'nin açıklamaları, OpenAI'ın yeni ve daha gelişmiş yapay zeka teknolojileri üzerindeki çalışmalarını hızlandırdığı bir dönemde geldi.
OpenAI ve Anthropic gibi şirketler, yapay zeka ajanlarının giderek daha fazla otonom hareket edebildiğine ilişkin çeşitli değerlendirmelerde bulundu. Bu sistemlerin insanlardan aldığı talimatlar doğrultusunda bazı görevleri kendi başlarına gerçekleştirebilmesi, özellikle siber güvenlik alanında yeni risk tartışmalarını beraberinde getiriyor.
Yapay zeka ajanlarının siber saldırılar gerçekleştirme ihtimali ve bazı sistemlerin insan kontrolünün dışına çıkabilmesi, teknoloji dünyasında güvenlik tartışmalarının merkezinde yer alıyor.
OpenAI Daha Fazla Güvenlik Önlemi Arıyor
Pachocki, OpenAI'ın yapay zeka sistemleri için savunma mekanizmaları geliştirmeye ve güvenliği artıracak teknik çözümler üzerinde çalışmaya devam edeceğini belirtti.
Baş bilim insanının üzerinde durduğu konulardan biri de yapay zeka sistemlerinin insan amaçları ve güvenlik kurallarıyla uyumlu şekilde hareket etmesini sağlamak.
Pachocki ayrıca, yapay zeka araştırmalarını hızlandırabilecek “otomatik yapay zeka araştırmacısı” geliştirilmesinin şirketin gelecekteki öncelikleri arasında olduğunu açıkladı. Ancak bu süreçte insan araştırmacıların da sistemin içerisinde kalmasının hedeflendiğini belirtti.
Uzmanlardan OpenAI’a Eleştiri
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff, şirketin yaklaşımının yeterli güvence sağlamadığı görüşünü dile getirdi.
Neff, insanların güvenliğini sağlayacak daha güçlü düzenlemeler ve denetim mekanizmaları yerine yeni yapay zeka ajanları geliştirilmesinin sorunları çözmek için yeterli olmayacağını savundu.
Encode AI Genel Hukuk Müşaviri Nathan Calvin ise yapay zekanın gelişmiş modellerinin beraberinde getirdiği risklere ilişkin Pachocki'nin endişelerini paylaştığını belirtti. Ancak Calvin, OpenAI'ın güvenlik konularında yeterince şeffaf davranmadığını öne sürdü.
Üçüncü Taraf Denetimi Önerisi
Pachocki, yapay zeka güvenliğinin yalnızca şirketlerin kendi uygulamalarına bırakılmaması gerektiğini belirterek üçüncü taraf denetçiler ve devlet kurumlarının devreye girmesi çağrısında bulundu.
Baş bilim insanı, yapay zeka laboratuvarlarının daha gelişmiş modelleri kullanıma sunmadan veya çalışmalarını büyütmeden önce karşılaması gereken yasal ya da uluslararası asgari güvenlik standartları oluşturulmasını önerdi.
Pachocki ayrıca ortak güvenlik standartları oluşturulana kadar yapay zeka geliştirme süreçlerinin belirli ölçüde yavaşlatılmasını desteklediğini ifade etti.
Avrupa Birliği’nde Yapay Zeka Düzenlemesi
Yapay zeka teknolojilerinin hızlı gelişimi, dünya genelindeki düzenleyici kurumların da çalışmalarını hızlandırmasına neden oluyor.
Avrupa Birliği'nin Yapay Zeka Yasası kapsamında yüksek risk taşıyan gelişmiş yapay zeka sistemleri için çeşitli güvenlik ve şeffaflık yükümlülükleri getiriliyor. Ancak düzenlemelerin Avrupa Birliği sınırlarıyla sınırlı olması, dünyanın başka bölgelerinde geliştirilen sistemlerin oluşturabileceği riskler konusunda küresel ölçekte tartışmaların devam etmesine neden oluyor.
“Gelişmiş Yapay Zeka İçin Ortak Standart Gerekli”
OpenAI'ın baş bilim insanının açıklamaları, yapay zekanın yalnızca teknolojik ilerleme açısından değil, güvenlik ve insan denetimi bakımından da yeni bir döneme girdiğine işaret ediyor.
Uzmanlar ise gelişmiş yapay zeka sistemlerinin oluşturabileceği siber güvenlik, iş kayıpları, yanlış bilgi, hatalı kararlar ve dolandırıcılık gibi risklere karşı şirketlerin daha şeffaf olması ve bağımsız denetim mekanizmalarının güçlendirilmesi gerektiğini savunuyor.
