Moonshot AI, Kimi K3.1 Pro Modelinin Siber Saldırı Yeteneğini Sınırlandırdı

Moonshot AI, yapay zekâ destekli siber saldırılara ilişkin endişeler artarken yeni modeli Kimi K3.1 Pro’nun saldırı amaçlı siber güvenlik yeteneklerini azaltan önlemler aldığını açıkladı. Çin merkezli şirket, eğitim verilerinden siber saldırılarla ilgili içerikleri çıkardığını ve pekiştirmeli öğrenme aşamasında da benzer kısıtlamalar uyguladığını belirtirken modelin genel kodlama becerilerini koruduğunu bildirdi. Üç trilyon parametre sınıfındaki açık ağırlıklı modelin ağırlık dosyalarının 4 Kasım’a kadar yayımlanması planlanırken şirket, risk azaltma önlemlerinin siber güvenlik testindeki performansı düşürdüğünü açıkladı.

Kimi K3.1 Pro Modelinde Siber Saldırı Yetenekleri Azaltıldı

Moonshot AI, Kimi K3.1 Pro modelini geliştirirken siber saldırılarda kullanılabilecek yetenekleri sınırlandırmaya odaklandı. Şirket, modelin eğitim veri kümesinden siber güvenlikle ilişkili bazı verileri çıkardığını, pekiştirmeli öğrenme ortamlarında da benzer düzenlemeler yaptığını belirtti. Geliştirici ekip, genel yazılım geliştirme ve kod yazma becerilerini korumayı hedeflediğini açıkladı.

Moonshot AI, modelin siber saldırı kapasitesini sınırlama kararını açık ağırlıkların yaygın biçimde dağıtılmasıyla ilişkilendirdi. Şirket, saldırı kabiliyetinin en ileri seviyesine ulaşmasını sağlayacak ağırlık dosyalarını yayımlamaktan kaçınmayı amaçladığını bildirdi. Bu yaklaşım, geliştiricilerin modeli kendi sistemlerinde çalıştırmasına izin verirken kötüye kullanım riskini azaltmaya yönelik bir önlem olarak sunuluyor.

Moonshot AI’nin paylaştığı şirket içi test sonuçlarına göre risk azaltma önlemleri uygulanan Kimi K3.1 Pro, siber güvenlik kıyaslamasında yüzde 81 başarı elde etti. Aynı modelin ilgili önlemler uygulanmamış sürümü ise yüzde 90,5 puana ulaştı. Test, kontrollü bir ortamda yazılım güvenlik açıklarını bulma ve bunlardan yararlanma görevlerini içerdi.

Şirket, sonuçların siber güvenlik odaklı eğitim verilerinin filtrelenmesinin modelin saldırı amaçlı performansını azalttığını gösterdiğini savunuyor. Moonshot AI ayrıca yeni modelin, alınan önlemlere rağmen önceki sürümünden daha iyi performans gösterdiğini belirtiyor. Ancak şirket içi ölçümlerin bağımsız araştırmacılar tarafından doğrulanmadığı özellikle göz önünde bulundurulmalı.

Yapay zekâ modellerinin güvenlik testlerinde elde ettiği yüksek puanlar, yazılım açıklarının belirlenmesi ve analiz edilmesi gibi görevlerde kullanılabilecek kapasitelerini ortaya koyabiliyor. Bununla birlikte kontrollü test sonuçları, modelin gerçek dünyadaki saldırılarda aynı başarıyı göstereceğini tek başına kanıtlamıyor.

Açık ağırlıklı yapay zekâ modelleri, geliştiricilerin model dosyalarını indirerek kendi donanımlarında çalıştırmasına ve belirli ölçüde değiştirmesine olanak tanıyor. Bu yapı, kurumların yazılım güvenliğini incelemek ve eski sistemlerdeki açıkları tespit etmek için gelişmiş modellerden yararlanmasını sağlayabiliyor. Moonshot AI de açık ağırlıkların savunma amaçlı kullanımları destekleyebileceğini belirtiyor.

Ancak açık ağırlıkların geniş ölçekte dağıtılması, geliştiricinin model üzerindeki denetimini azaltıyor. Dosyalar indirildikten sonra şirketin erişimi kısıtlaması, kullanım biçimlerini izlemesi veya yeni güvenlik önlemlerini tüm kopyalara uygulaması barındırılan kapalı modellere kıyasla daha zor hale geliyor. Bu nedenle modelin yayımlanmadan önce hangi yeteneklerle sınırlandırıldığı, güvenlik değerlendirmelerinde önemli bir unsur olarak öne çıkıyor.

Moonshot AI, Kimi K3.1 Pro’nun ağırlık dosyalarını 4 Kasım’a kadar yayımlamayı planlıyor. Dosyaların dağıtılmasıyla bağımsız geliştiriciler model üzerinde kendi testlerini yapabilecek; ancak yayımlanan sürümün güvenlik önlemlerinin farklı kullanım senaryolarında ne ölçüde etkili olacağı henüz kesinleşmiş değil.

Çin, yapay zekâ destekli zararlı yazılım üretimi ve değiştirilmesi teknolojilerinin ihracatını yasaklamayı, yapay zekâ destekli güvenlik açığı tespit araçlarının ihracatını ise sınırlandırmayı öngören taslak önlemler önerdi. Kamuoyu görüşüne açık olan düzenlemelerde, söz konusu teknolojilerin kritik altyapılara, savunma sanayisine ve temel devlet sistemlerine karşı kullanılabileceği riski vurgulanıyor.

Yapay zekâ sistemlerinin kod yazabilmesi, yazılım araçlarını kullanabilmesi ve uzun görev zincirlerini tamamlayabilmesi, siber saldırıların bazı aşamalarını otomatikleştirebiliyor. Bu kapasite, güvenlik araştırmacılarının açıkları daha hızlı bulmasına da yardımcı olabiliyor. Dolayısıyla aynı teknolojiler savunma ekiplerine avantaj sağlarken kötü niyetli aktörlerin saldırı hazırlık süresini ve maliyetini azaltma riski taşıyor.

Moonshot AI’nin aldığı önlemler, açık ağırlıklı model geliştiren şirketlerin güvenlik ile erişilebilirlik arasında nasıl bir denge kurmaya çalıştığını gösteriyor. Kimi K3.1 Pro’nun yayımlanmasının ardından bağımsız testlerden gelecek sonuçlar, eğitim verilerindeki filtrelerin saldırı kapasitesini ne ölçüde sınırladığını değerlendirmek açısından önem taşıyacak.