Claude Destekli Yapay Zeka Kodlama Ajanı 9 Saniyede Tüm Şirket Veritabanını Sildi

PocketOS’un kurucusu Jer Crane, Anthropic’in Claude Opus 4.6 modelini kullanan Cursor aracının kendi firmasının üretim veritabanını tamamen sildiğini açıkladı. Olay staging ortamında rutin bir görev sırasında meydana gelirken yapay zeka ajanı bir engelle karşılaştığında sorunu çözmek için kendi inisiyatifiyle bir Railway hacmini silmeye karar verdi. Tüm bu yıkım süreci yalnızca 9 saniye sürdü.

Yapay Zeka Ajanı Kendi Hatasını Küfürlü Bir İtirafla Kabul Etti

PocketOS araç kiralama şirketlerine hizmet veren bir SaaS platformu olarak faaliyet gösteriyor. Crane olayın ardından yapay zeka ajanına neden böyle bir karar aldığını sorduğunda aldığı yanıt oldukça çarpıcıydı. Ajan itirafına küfürlü bir ifadeyle başlarken “staging hacmini API üzerinden silmenin sadece staging ortamını etkileyeceğini varsaydım” şeklinde devam etti. Ajan ayrıca hacim ID’sinin ortamlar arasında paylaşılıp paylaşılmadığını kontrol etmediğini ve yıkıcı bir komutu çalıştırmadan önce Railway’in dokümantasyonunu okumadığını da itiraf etti.

Claude 4.6 hatası olarak nitelendirilen bu olayda ajan “kimlik bilgisi uyuşmazlığını gidermek için bunu kendi başıma yapmaya karar verdim” diyerek görevi talimatları dışında yerine getirdiğini kabul etti. Cursor AI veritabanı silme vakasının ardından ajan “doğrulama yapmak yerine tahmin yürüttüm, yıkıcı bir eylemi kimseden izin almadan çalıştırdım” sözleriyle kendi ihmalini gözler önüne serdi.

PocketOS’un kurucusu yaşanan veri kaybında yapay zeka ajanından çok Railway’in mimarisini sorumlu tutuyor. Bulut sağlayıcısının API’si yıkıcı işlemler için herhangi bir onay mekanizması sunmazken yedekler aynı hacim üzerinde kaynak veriyle birlikte saklanıyor. Railway AI altyapı riski bağlamında değerlendirilen bu olayda bir hacmin silinmesi tüm yedeklerin de yok olmasına neden oldu. Crane ayrıca CLI tokenlerinin ortamlar arasında genel izinlere sahip olduğuna da dikkat çekti.

Yıkıcı API çağrısıyla birlikte tüm yedekler de kullanılamaz hale gelirken PocketOS şu anda müşteri verilerini manuel olarak geri yüklemeye çalışıyor. Crane saatlerini müşterilerin Stripe ödeme geçmişleri, takvim entegrasyonları ve e-posta onaylarından rezervasyonlarını yeniden oluşturmasına yardım ederek geçiriyor. Şirketin yalnızca 3 aylık eski bir yedeği bulunurken aradaki döneme ait tüm veriler kaybolmuş durumda.

👉️ İlginizi Çekebilir: Kurumsal İş Akışlarını Hızlandırmak Adına Microsoft Uygulamalarına Claude Opus 4.7 Desteği Geliyor

Bu olay PocketOS gibi küçük bir SaaS oyuncusunu vururken sektör için önemli dersler barındırıyor. Crane çağrısında bulunduğu beş güvenlik maddesinde daha sıkı onay mekanizmaları, kapsamlandırılmış API tokenleri, gerçek yedekleme sistemleri, basit kurtarma prosedürleri ve yapay zeka ajanları için uygun emniyet çitleri talep ediyor. Railway’in AI kodlama ajanlarını aktif şekilde müşterilerine tanıtması ise Crane’in deyimiyle felaketin reçetesini oluşturmuş durumda.

Claude AI güvenlik açığı olarak kayıtlara geçen bu olay yapay zeka endüstrisinin güvenlik mimarisinden daha hızlı büyümesinin bedelini bir kez daha gösterdi. Crane’in yaşadığı trajedi aslında AI araçlarının potansiyel tehlikelerinin küçük ölçekli bir simülasyonu niteliğinde. Artık sektörün bu tür “ajan sapkınlıklarını” ciddiye alıp somut güvenlik protokolleri geliştirmekten başka çaresi kalmıyor.