Fireworks AI, Bulut Sağlayıcısındaki Saldırı Sonrası Yeni Veri İhlalini Açıkladı

Yapay zekâ altyapı şirketi Fireworks AI, üçüncü taraf bulut sağlayıcısına yönelik saldırının ardından geliştirme sistemlerine yetkisiz erişim sağlandığını ve yeni bir veri ihlali yaşandığını duyurdu. 23 Ekim’de gerçekleşen olayda saldırganlar, bazı müşterilere ait faturalandırma bilgilerine, kaynak tanımlama verilerine ve tamamlanmamış yapay zekâ modeli ağırlıkları ile veri kümelerine erişti. Şirket, olayın ardından erişim anahtarlarını yenilediğini, etkilenen sistemleri izole ettiğini ve soruşturma için Palo Alto Networks bünyesindeki Unit 42 ekibiyle çalışmaya başladığını açıkladı.

Fireworks AI Geliştirme Sistemleri Saldırganların Hedefi Oldu

Fireworks AI, geliştiricilerin Mistral, Meta Llama ve Google Gemma gibi açık kaynaklı yapay zekâ modellerini çalıştırmasını sağlayan yüksek performanslı bir çıkarım platformu sunuyor. Şirketin altyapısı, kullanıcıların donanım darboğazları ve karmaşık sistem yönetimiyle uğraşmadan yapay zekâ modellerini dağıtmasına yardımcı oluyor.

Şirket, yeni olaydan önce ekim ayının başında başka bir güvenlik ihlali yaşandığını açıklamıştı. İlk saldırıda sınırlı sayıdaki hesaba ait ortam değişkenlerinde saklanan API anahtarları ve erişim belirteçleri ele geçirilmişti. Fireworks, kolluk kuvvetlerini ve etkilenen müşterilerini bilgilendirdiğini, ardından ele geçirilen şirket içi kimlik bilgilerini ve API anahtarlarını iptal ettiğini duyurmuştu.

İlk olayla bağlantılı saldırganların, ele geçirdikleri erişim bilgilerini yasa dışı geçiş ağları üzerinden büyük dil modellerini kullanmak amacıyla elde etmeye çalıştığı belirtilmişti. Fireworks, bu yöntemi LLMJacking olarak tanımlamış ve saldırgan grubun finansal kazanç sağlamayı hedeflediğini açıklamıştı.

Fireworks, ilk saldırının ardından güvenlik önlemlerini yenilerken 23 Ekim’de yeni bir olay tespit etti. Şirketin pazartesi günü yayınladığı güvenlik duyurusuna göre saldırganlar, Fireworks Ar-Ge makinelerini barındıran üçüncü taraf bulut sağlayıcısındaki güvenlik ihlalinden yararlanarak 24 Ekim’de şirketin geliştirme sistemlerine ulaştı. Yetkisiz bir iş yükünün çalıştırılması, müşteri verilerinin de olaydan etkilenmesine yol açtı.

Saldırganların eriştiği bilgiler arasında Fireworks kaynaklarına ait tanımlayıcılar, görünen adlar, açıklamalar ve oluşturulma zamanları bulunuyor. Faturalandırma tarafında ise müşterilerin fatura ve teslimat adresleri, ödeme geçmişleri, fatura kayıtları, hesap bakiyeleri ve kredi kullanım bilgileri etkilendi.

Bazı müşterilere ait tamamlanmamış model ağırlıkları ile veri kümelerine de erişildi. Ancak şirket, müşterilerin ödeme kartı numaralarının ele geçirilmediğini belirtti. Fireworks, kart numaralarını kendi sistemlerinde saklamadığını ve bu nedenle söz konusu bilgilerin saldırganların erişimine açık olmadığını açıkladı.

Şirket, saldırı faaliyetini aynı gün tespit ettiğini ve olay müdahale prosedürlerini devreye soktuğunu bildirdi. Fireworks, 25 Ekim itibarıyla müşterilerin kullandığı platformda saldırganların başarılı yetkisiz erişimine ilişkin yeni bir bulguya rastlamadığını açıkladı.

Olayın ardından şirket, ele geçirilmiş olabilecek kimlik bilgilerini ve hizmet hesaplarını iptal ederek yenileriyle değiştirdi. Yetkisiz ağ bağlantılarını sınırlandıran Fireworks, etkilenen sistemleri izole etti. Şirket ayrıca veri depolama ve analiz altyapısındaki erişim kontrollerini sıkılaştırarak herkese açık veya izinsiz veri erişimini engellemeye yönelik önlemler aldı.

Fireworks, saldırının kapsamını ve etkilerini daha ayrıntılı incelemek, gelecekte benzer olayların yaşanmasını önlemek amacıyla Palo Alto Networks’ün Unit 42 olay müdahale ekibiyle çalışıyor.

Fireworks olayının yaşandığı dönemde Google Threat Intelligence Group (GTIG) ve Mandiant araştırmacıları, büyük dil modeli hesaplarının ele geçirilmesine yönelik saldırıların kuruluşlara yüksek maliyetler çıkardığını bildirmişti. Araştırmacılara göre saldırganlar, çalınan API anahtarları üzerinden yetkisiz model çağrıları gerçekleştirerek kurbanların bulut faturalarını ciddi ölçüde artırabiliyor.

Bazı olaylarda sahte yapay zekâ API kullanımlarının bulut maliyetlerini 1 milyon dolara kadar çıkardığı aktarıldı. LLMJacking olarak bilinen yöntem, saldırganların ele geçirdikleri hesaplar üzerinden yapay zekâ hizmetlerini kullanmasına veya bu erişimi yasa dışı ağlara satmasına dayanıyor.

Fireworks’te yaşanan iki ayrı güvenlik olayı, API anahtarlarının korunmasının yanı sıra geliştirme ortamlarının ve üçüncü taraf bulut sağlayıcılarının güvenliğinin de önemini ortaya koyuyor. Yapay zekâ altyapısı sunan şirketler, müşteri verilerini korumak için yalnızca kendi platformlarını değil, hizmet aldıkları tedarikçilerin güvenlik kontrollerini de sürekli denetlemek zorunda kalıyor.