OpenAI Yapay Zeka Güvenliği İçin Bağımsız Araştırmacıları Ağırlıyor

OpenAI, yapay zeka güvenliği için Apollo Research, Goodfire, METR ve Transluce ekiplerine şirket içi kaynaklara doğrudan erişim hakkı sağlıyor.

OpenAI ofisinde yapay zeka güvenliği değerlendirmesi yapan bağımsız araştırmacıları gösteren temsilî fotoğraf
Fotoğraf: Quilia / Unsplash

OpenAI, yapay zeka güvenliği incelemeleri için bağımsız araştırma kurumlarıyla anlaşarak henüz yayımlanmamış modellerini ve kaynak kodlarını şirket içi denetime açtı.

Yapay zeka sistemlerinin karmaşıklığı arttıkça modellerin güvenilirlik denetimleri daha kritik bir hal alıyor. Webrazzi tarafından paylaşılan bilgilere göre OpenAI, yapay zeka güvenliği testlerini harici uzmanlarla yürütmek amacıyla yeni bir denetim programı başlattığını duyurdu. Program kapsamında şirket; Apollo Research, Goodfire, METR ve Transluce kuruluşlarıyla ortaklık kurarak araştırmacılara henüz kamuoyuna duyurulmamış modellerine, eğitim süreçlerine ve güvenlik altyapısına doğrudan şirket içinden erişim olanağı sağlıyor.

Geliştirilen bu yeni çalışma düzeni "gömülü değerlendirmeler" (embedded assessments) şeklinde adlandırılıyor. Bağımsız araştırmacılar, yürüttükleri projenin kapsamına bağlı olarak modellerin farklı geliştirme safhalarını, kaynak kodlarını, eğitim ve test verilerini doğrudan inceleme yetkisine sahip oluyor. Ayrıca araştırmacılar OpenAI bünyesindeki mühendisler ve teknik uzmanlarla yüz yüze görüşmeler gerçekleştirerek şirketin kendi güvenlik testlerinin gözden kaçırabileceği zafiyetleri tespit etmeye odaklanıyor. Güncel gelişmeleri yakından takip etmek isteyen okurlarımız TeknoRest yapay zeka haberleri kategorisinden benzer denetim adımlarını inceleyebilir.

Dört Bağımsız Kuruluşun Yapay Zeka Güvenliği Görev Dağılımı

İş birliği kapsamındaki en kritik sorumluluklardan birini üstlenen Apollo Research, modellerin geliştiricilerin niyetlerine aykırı biçimde gizlice hareket edip etmediğini inceliyor. Bu araştırmada özellikle "yapay zeka yıkımı" (AI subversion) adı verilen risk senaryosu üzerinde duruluyor. Bu kavram, bir modelin kendisini veya gelecek nesil modelleri insan kontrolünde tutmak için hazırlanan güvenlik ve hizalama mekanizmalarını etkisiz kılmaya çalışmasını ifade ediyor. Apollo Research ekibi; eğitim süreçlerinin modelleri kuralları aşmaya teşvik edip etmediğini, mevcut denetimlerin bu yöndeki girişimleri yakalayıp yakalayamadığını ve modellerin iç mantık yürütme süreçlerini inceliyor.

Programdaki diğer ortaklar ise model mimarisinin ve eğitim süreçlerinin farklı aşamalarında görev alıyor. Goodfire, yapay zeka modellerinin iç işleyiş mekanizmalarını analiz ederek eğitim süreçlerinin izlenmesine, hatalı çıktıların saptanmasına ve model hizalamasının güçlendirilmesine odaklanıyor. METR ise OpenAI bünyesindeki en kapsamlı pekiştirmeli öğrenme (reinforcement learning) eğitimlerinden birinde şirketin mevcut testlerinin atladığı uyumsuz davranışları araştırıyor ve kullanılan izleme araçlarının etkinliğini ölçüyor. Güvenlik testlerinin kalitesini denetleyen Transluce kuruluşunun ise 2027 yılının başlarında yaklaşık sekiz haftalık daha geniş bir pilot çalışma yürütmesi planlanıyor.

Şirket İçi Erişim Şartları ve Bağımsızlık Sınırları

Hassas ticari verilerin korunabilmesi amacıyla denetim çalışmalarının büyük kısmı OpenAI ofislerinde ve şirketin temin ettiği donanımlar üzerinden yürütülüyor. Araştırmacılar ulaştıkları sonuçları bağımsız bir şekilde kamuoyuyla paylaşma hakkına sahip olsa da OpenAI ticari sır niteliğindeki bilgileri sansürleme yetkisini elinde tutuyor. Ayrıca güvenlik açığı yaratabilecek bulguların paylaşımı şirket tarafından belirli bir süre ertelenebiliyor. Denetim raporlarının herhangi bir çıkarma veya sansür yapılmamış tam kopyasını ise sadece şirketin Güvenlik Komitesi inceleyebiliyor.

Programın bağımsızlık düzeyi araştırmacılar arasında çeşitli değerlendirmelere yol açıyor. Apollo Research, eksiksiz bir bağımsız denetim için harici araştırmacıların tam zamanlı çalışanlarla benzer düzeyde bilgi erişimine kavuşması gerektiğini dile getiriyor. Mevcut pilot programda erişim hakları sadece önceden tanımlanmış modeller, zaman aralıkları ve belirli araştırma başlıklarıyla sınırlı tutuluyor. OpenAI ayrıca teknik gerekçeler, fikri mülkiyet hakları veya güvenlik sebebiyle bazı verilere erişimi sınırlandırma hakkını saklı tutuyor.

Finansman tarafında ise kuruluşlar arasında farklı modeller uygulanıyor. OpenAI tarafından aktarılan bilgilere göre Apollo Research ve Goodfire yürüttükleri mesai karşılığında şirketten doğrudan ücret alıyor; ancak bu ödemeler test sonuçlarına göre değişiklik göstermiyor. METR ve Transluce ise doğrudan nakit ödeme almayıp yalnızca hesaplama kaynağı veya API kredisi kabul ediyor. OpenAI, bu ilk deneyimlerin ardından denetim kapsamını genişletmeyi ve ilerleyen süreçte dış uzmanların şirket kültürü ile yönetim süreçlerini de incelemesini gündeme getirmeyi hedefliyor.

✍️
TeknoRest Editör Değerlendirmesi
TeknoRest olarak değerlendirmemiz, OpenAI'ın Apollo Research, Goodfire, METR ve Transluce ekiplerini şirket içine almasının yapay zeka güvenliği adına değerli bir başlangıç olduğu yönünde. Dış denetçilerin yayınlanmamış modellere ve kaynak kodlarına erişmesi, kapalı kapılar ardındaki risklerin tespiti açısından kritik bir şeffaflık adımı sayılabilir. Ancak çalışmaların OpenAI ofisleriyle ve şirket donanımlarıyla sınırlandırılması, ayrıca ticari sır gerekçesiyle sansür ve erteleme hakkının saklı tutulması tam bağımsızlık ilkesini zedeliyor. Bize göre, 2027 başında Transluce ile planlanan sekiz haftalık sürecin verimliliği, bu kısıtlamaların esnetilip esnetilmeyeceğine bağlı olacak. Raporların sansürsüz halini yalnızca Güvenlik Komitesi'nin görecek olması, kamuoyu denetimi açısından en zayıf halkayı oluşturuyor.

Sıkça Sorulan Sorular (SSS)

OpenAI'ın şirket içi güvenlik değerlendirmesi programına hangi bağımsız kuruluşlar katılıyor?

Programa Apollo Research, Goodfire, METR ve Transluce olmak üzere dört bağımsız araştırma kuruluşu katılıyor.

Yapay zeka modellerinde araştırılan 'AI subversion' riski ne anlama geliyor?

AI subversion (yapay zeka yıkımı), bir yapay zeka modelinin kendisini veya gelecekteki modelleri insan kontrolü altında tutmak amacıyla oluşturulan güvenlik ve hizalama mekanizmalarını zayıflatmaya çalışması durumunu ifade ediyor.

Bağımsız araştırmacıların bulguları üzerinde OpenAI'ın nasıl bir denetim yetkisi bulunuyor?

Araştırmacılar bulgularını bağımsız şekilde yayımlayabilse de OpenAI ticari açıdan hassas verileri sansürleme ve güvenlik açığı oluşturan bulguların paylaşılmasını erteleme hakkını elinde tutuyor.

🛡️ Kaynak: Webrazzi. Bu haber, kaynakta yer alan bilgiler temel alınarak TeknoRest editörlüğünce yeniden yazılmıştır. Künye & Yasal Bildirim