OpenAI Baş Bilim İnsanı Jakub Pachocki, yapay zekanın hızlı ve kontrolsüz gelişiminin gelecekte ciddi sonuçlar doğurabileceği konusunda uyarıda bulundu. Pachocki, insanlığın bu dönüşümün etkilerine henüz yeterince hazırlıklı olmadığını belirterek yapay zeka güvenliği konusunda daha sıkı önlemler alınması gerektiğini söyledi.
Jakub Pachocki, yayımladığı blog yazısında makine zekasındaki hızlı ilerlemenin sonuçları konusunda endişeli olduğunu ifade etti.
Pachocki, giderek daha gelişmiş ve yüksek zekaya sahip makinelerin bulunduğu bir döneme geçiş yapıldığını belirterek bu sürecin insanlık açısından olumlu sonuçlanmasını sağlamanın önemine dikkat çekti.
OpenAI yöneticisi, yapay zekanın gelişimi karşısında “aşırı dikkatli olunması” gerektiğini savundu.
Pachocki'nin açıklamaları, OpenAI'ın yeni ve daha gelişmiş yapay zeka teknolojileri üzerindeki çalışmalarını hızlandırdığı bir dönemde geldi.
OpenAI ve Anthropic gibi şirketler, yapay zeka ajanlarının giderek daha fazla otonom hareket edebildiğine ilişkin çeşitli değerlendirmelerde bulundu. Bu sistemlerin insanlardan aldığı talimatlar doğrultusunda bazı görevleri kendi başlarına gerçekleştirebilmesi, özellikle siber güvenlik alanında yeni risk tartışmalarını beraberinde getiriyor.
Yapay zeka ajanlarının siber saldırılar gerçekleştirme ihtimali ve bazı sistemlerin insan kontrolünün dışına çıkabilmesi, teknoloji dünyasında güvenlik tartışmalarının merkezinde yer alıyor.
Pachocki, OpenAI'ın yapay zeka sistemleri için savunma mekanizmaları geliştirmeye ve güvenliği artıracak teknik çözümler üzerinde çalışmaya devam edeceğini belirtti.
Baş bilim insanının üzerinde durduğu konulardan biri de yapay zeka sistemlerinin insan amaçları ve güvenlik kurallarıyla uyumlu şekilde hareket etmesini sağlamak.
Pachocki ayrıca, yapay zeka araştırmalarını hızlandırabilecek “otomatik yapay zeka araştırmacısı” geliştirilmesinin şirketin gelecekteki öncelikleri arasında olduğunu açıkladı. Ancak bu süreçte insan araştırmacıların da sistemin içerisinde kalmasının hedeflendiğini belirtti.
Cambridge Üniversitesi Minderoo Teknoloji ve Demokrasi Merkezi Başkanı Profesör Gina Neff, şirketin yaklaşımının yeterli güvence sağlamadığı görüşünü dile getirdi.
Neff, insanların güvenliğini sağlayacak daha güçlü düzenlemeler ve denetim mekanizmaları yerine yeni yapay zeka ajanları geliştirilmesinin sorunları çözmek için yeterli olmayacağını savundu.
Encode AI Genel Hukuk Müşaviri Nathan Calvin ise yapay zekanın gelişmiş modellerinin beraberinde getirdiği risklere ilişkin Pachocki'nin endişelerini paylaştığını belirtti. Ancak Calvin, OpenAI'ın güvenlik konularında yeterince şeffaf davranmadığını öne sürdü.
Pachocki, yapay zeka güvenliğinin yalnızca şirketlerin kendi uygulamalarına bırakılmaması gerektiğini belirterek üçüncü taraf denetçiler ve devlet kurumlarının devreye girmesi çağrısında bulundu.
Baş bilim insanı, yapay zeka laboratuvarlarının daha gelişmiş modelleri kullanıma sunmadan veya çalışmalarını büyütmeden önce karşılaması gereken yasal ya da uluslararası asgari güvenlik standartları oluşturulmasını önerdi.
Pachocki ayrıca ortak güvenlik standartları oluşturulana kadar yapay zeka geliştirme süreçlerinin belirli ölçüde yavaşlatılmasını desteklediğini ifade etti.
Yapay zeka teknolojilerinin hızlı gelişimi, dünya genelindeki düzenleyici kurumların da çalışmalarını hızlandırmasına neden oluyor.
Avrupa Birliği'nin Yapay Zeka Yasası kapsamında yüksek risk taşıyan gelişmiş yapay zeka sistemleri için çeşitli güvenlik ve şeffaflık yükümlülükleri getiriliyor. Ancak düzenlemelerin Avrupa Birliği sınırlarıyla sınırlı olması, dünyanın başka bölgelerinde geliştirilen sistemlerin oluşturabileceği riskler konusunda küresel ölçekte tartışmaların devam etmesine neden oluyor.
OpenAI'ın baş bilim insanının açıklamaları, yapay zekanın yalnızca teknolojik ilerleme açısından değil, güvenlik ve insan denetimi bakımından da yeni bir döneme girdiğine işaret ediyor.
Uzmanlar ise gelişmiş yapay zeka sistemlerinin oluşturabileceği siber güvenlik, iş kayıpları, yanlış bilgi, hatalı kararlar ve dolandırıcılık gibi risklere karşı şirketlerin daha şeffaf olması ve bağımsız denetim mekanizmalarının güçlendirilmesi gerektiğini savunuyor.