OpenAI, Frontier Modeller İçin Sıfır Veri Saklama Güvencesini Genişletiyor
OpenAI, kurumsal müşterilerin en gelişmiş yapay zekâ modellerini kullanırken Zero Data Retention (ZDR) korumasından vazgeçmek zorunda kalmaması için yeni bir gizlilik yaklaşımı duyurdu. Uygun API müşterileri, ZDR etkinleştirildiğinde isteklerin işlenmesinin ardından istemlerinin veya model yanıtlarının OpenAI tarafından saklanmadığı bir kullanım modeli sürdürebilecek. Şirket, daha karmaşık kötüye kullanım tespiti için Private Safety Processing adlı sistemi eylül ayında kullanıma sunmaya hazırlanıyor.
OpenAI, Frontier Modellerde ZDR Politikasını Nasıl Uygulayacak?
OpenAI API üzerinden ZDR kullanan uygun kuruluşlarda müşteri istemleri ile model çıktıları, istek tamamlandıktan sonra OpenAI tarafından saklanmayacak. OpenAI çalışanları da ZDR kapsamındaki içerikleri inceleme amacıyla göremeyecek. Kurumsal müşterilerin verileri ayrıca şirketin modellerini eğitmek için kullanılmayacak ve OpenAI yalnızca müşterinin açık şekilde katılım göstermesi durumunda eğitim amacıyla veri kullanabilecek.
Kurumsal yapay zekâ kullanımında veri saklama politikası, özellikle finans, sağlık, kamu ile yüksek güvenlik gerektiren sektörlerde model seçimini doğrudan etkileyen kriterlerden biri hâline geldi. ZDR modeli, kuruluşların hassas istemleri dış bir hizmet sağlayıcısının kalıcı veri havuzunda tutmadan gelişmiş modellerden yararlanmasına yönelik bir kontrol mekanizması sunuyor.
OpenAI’nin yeni güvenlik sistemi, tek tek API isteklerini ayrı değerlendirmek yerine birbiriyle bağlantılı etkileşimlerde ortaya çıkan davranış kalıplarını analiz etmeyi hedefliyor. Private Safety Processing, müşteri istemleri ile yanıtlarının OpenAI çalışanlarına açılmasına gerek kalmadan kötüye kullanım belirtilerini değerlendirecek şekilde tasarlanıyor.
Güvenlik sistemi şüpheli bir etkinlik tespit ettiğinde OpenAI’ye müşteri içeriğinin tamamı yerine yalnızca etkinliğin niteliğini belirten sınırlı bir sinyal iletilecek. Müşteriler kendi altyapılarındaki kayıtları kullanarak uyarının kaynağını inceleyebilecek ve bir değerlendirmeye itiraz etmek veya soruşturmaya destek vermek istediklerinde ilgili bilgileri gönüllü olarak OpenAI ile paylaşabilecek.
ZDR kullanan kuruluşların içerikleri mevcut modelde müşteri tarafından kontrol edilen altyapıda tutulmaya devam edecek. OpenAI ayrıca verilerin kendi altyapısında depolanmasına izin verecek alternatif bir mimari üzerinde çalışıyor ve söz konusu modelde şifreleme anahtarlarının müşterinin kontrolünde olması planlanıyor.
Müşteri kontrollü anahtar yaklaşımı, kuruluşların veri depolama altyapısı ile şifreleme erişimini birbirinden ayırmasına olanak sağlayabilir. Kurumsal BT ekipleri açısından model, özellikle veri egemenliği, erişim kontrolü ve denetim gereksinimlerinin yüksek olduğu ortamlarda yapay zekâ servislerinin kullanımını kolaylaştırabilecek bir seçenek olarak öne çıkıyor.
Anthropic’in frontier Claude modellerine yönelik mevcut yaklaşımı, OpenAI’nin yeni taahhüdünden farklı bir tablo ortaya çıkarıyor. Anthropic’in Claude Fable 5 ile Claude Mythos 5 modellerini 30 günlük veri saklama gerektiren Covered Models kategorisine alması, söz konusu modellerin ZDR yapılandırması altında kullanılamayacağı anlamına geliyor.
OpenAI ise en yetenekli modellerinde ZDR korumasını sürdürerek model kapasitesi ile veri gizliliği arasında seçim yapılmasını önlemeyi hedefliyor. İki şirket arasındaki politika farkı, özellikle hassas kurumsal verileri üretken yapay zekâ sistemlerine taşıyan kuruluşların model değerlendirmesinde güvenlik, gizlilik ve veri yönetişimi kriterlerini daha yakından karşılaştırmasına neden olabilir.
OpenAI, Private Safety Processing sistemini erken müşterilerle test etmeye başladı ve daha geniş dağıtımı eylül ayında başlatmayı planlıyor. Şirketin yeni yaklaşımı, ZDR kapsamında içerik saklamadan uzun süreli etkileşimlerden kaynaklanabilecek kötüye kullanım risklerini belirleme sorununa odaklanıyor.
Çocukların cinsel istismarına ilişkin materyal şüphesi taşıyan görseller ise ZDR kapsamında tutulmayan özel bir kategori oluşturuyor. OpenAI, potansiyel çocuk cinsel istismarı materyallerinin manuel inceleme ile yasal bildirim yükümlülükleri nedeniyle saklanabileceğini belirtiyor.
Kurumsal yapay zekâ pazarında ZDR’nin kapsamının frontier modellerle birlikte genişlemesi, şirketlerin yalnızca model performansını değil veri yaşam döngüsünü de satın alma kararlarının merkezine taşıyacak. OpenAI’nin yeni sistemi, güvenlik denetimlerini müşteri içeriğine doğrudan erişim sağlamadan yürütme iddiasını ölçeklendirebilirse kurumsal yapay zekâ dağıtımlarında gizlilik ile kötüye kullanım önleme arasındaki denge açısından yeni bir standart oluşturabilir.
