Ücretsiz Çin Yapay Zeka Modelleri Hackleme Konusunda Korkutucu Bir İyiliğe Gidiyor

Yapay zeka modellerinden simüle edilmiş ağlara girmelerinin istendiği bir deney, DeepSeek ve GLM'nin hackleme becerilerinin, halka açık olmayan OpenAI'nin en gelişmiş siber modelinin çok da gerisinde olmadığını gösterdi.

Siber güvenlik alanında çok beklenen bir dönüm noktasının habercisi olan yeni araştırmaya göre, açık ağırlıklı yapay zeka modelleri artık neredeyse en iyi kapalı olanlar kadar bilgisayar ağlarına sızma kapasitesine sahip.

Haberin Detayları ve Öne Çıkan Bilgiler

Yapay zeka yeteneklerini ölçen bir şirket olan Vals, farklı yapay zeka modellerinin sahte kurumsal ağlarda karmaşık, çok adımlı ağ talimatlarını ne kadar iyi gerçekleştirebileceğini test etmek için yola çıktı.

Vals'tan araştırmacı Nikil Ravi, "Laboratuvarlarda kilitli olan ve yalnızca güvenilir erişim programları aracılığıyla erişilebilen en iyi sınır modelleri, artık herkesin indirebileceği açık modellerle eşleşmeye başlıyor" diyor.

Şirketin bulguları, kapalı modellerin artık siber becerilerde kesin bir üstünlüğe sahip olmadığını, yani sınır laboratuvarlarının modellerine erişimi sınırlama ve dolayısıyla bu tür yeteneklerin yaygınlaşmasını yavaşlatma yönündeki son çabalarının potansiyel olarak tartışmalı olabileceği anlamına geliyor.

Başta Anthropic olmak üzere ABD sınır laboratuvarlarının, kapılı erişimin gelişmiş hackleme yetenekleri yaygın olarak kullanıma sunulmadan önce yalnızca zaman kazandıracağı fikri üzerine Nisan ayında Claude Mythos Preview'dan başlayarak yeni modellerin sınırlı sayıda piyasaya sürülmesini öngördüğü göz önüne alındığında bulgular da dikkate değer.

Anthropic'in sınırdaki kırmızı takım lideri Logan Graham, Nisan ayında WIRED'e, yeni modellerin tüm özelliklerine güvenilir erişim sağlayan şirketin Project Glasswing'inin, bu araçları "bir avantaj sağlamak için savunmacıların eline" vermeye odaklandığını söyledi.

O zamanlar WIRED'e şöyle demişti: "Bu yeteneklerin 6, 12, 24 ay içinde geniş çapta kullanıma sunulacağı bir dünyaya şimdi hazırlanmamız gerekiyor. Güvenlik konusunda pek çok şey farklı olacaktır."

Yedi ay sonra bu geçişin planlandığı gibi gerçekleştiği görülüyor.

Vals, yapay zeka modellerini iki simüle edilmiş senaryoda test ederek onlara gerçekleştirmeleri gereken çeşitli özel görevler verdi. İlk senaryo, halka açık bir web sitesi aracılığıyla erişilebilen sahte bir kurumsal ağı içeriyordu. İkincisi iki farklı şirket ağını içeriyordu; ikinciye erişim sağlamak için ilkinden ödün verilmesi gereken bir model.

Araştırmacılar, OpenAI'nin yalnızca güvenilir ortakların kullanımına sunulan en gelişmiş siber modeli Daybreak'in, ortalama iki testte kendisine verilen görevlerin yüzde 81'ini tamamlayarak en yetenekli model olduğunu buldu. Çin'in açık ağırlık modeli DeepSeek de çok geride kalmadı ve hedeflerin ortalama yüzde 73'ünü tamamladı. Vals araştırmacıları bazı görevlerde iki modelin eşit puan aldığını belirtiyor.

Araştırma ayrıca bu tür görevler için açık ağırlıklı bir model kullanmanın ne kadar ucuz olduğunu da gösterdi. Vals, GPT-6-Sol'un bir saldırı gerçekleştirmesinin 17 ila 46 dolar, DeepSeek'in ise 2 ila 3 dolar arasında bir maliyeti olduğunu söylüyor. Açık modeller genellikle daha ucuzdur çünkü kişinin kendi donanımı üzerinde çalıştırılabilirler. Vals CEO'su Rayan Krishnan, bunun aynı zamanda savunma yapanlara özel modeller yerine açık modelleri kullanma yönünde güçlü bir teşvik sağladığını söylüyor.

OpenAI, yorum talebine hemen yanıt vermedi.