OpenAI, Güvenlik Altyapısını Güçlendirmek İçin Mühendislerini Görevlendirdi
OpenAI çalışanları, şirketin iç sistemlerindeki güvenlik açıkları ve hassas bilgilere geniş erişim konusunda yöneticileri yıllardır uyardı. Reuters’ın görüştüğü kaynaklara göre, ChatGPT’nin 2022 sonunda piyasaya çıkmasından önce başlayan endişeler; kod depoları, araştırma belgeleri ve şirket içi araçların korunması gibi alanları kapsıyordu. OpenAI, son dönemde güvenlik çalışmalarını güçlendirmeye başlarken üretim mühendislerinin bir bölümünü de iç sistemlerin korunmasına yönelik çalışmalara yönlendirdi.
OpenAI Çalışanları İç Sistemlerdeki Erişim Risklerini Yönetime Bildirdi
OpenAI bünyesindeki bazı çalışanlar, şirketin teknik altyapısına ve araştırma bilgilerine erişim kurallarının yeterince sıkı olmadığını uzun süredir savunuyordu. Reuters’a konuşan beş kaynağa göre çalışanlar, endişelerini şirketin üst düzey yöneticilerine ve yönetim kuruluna iletti. Bazı çalışanlar ise yöneticilerin güvenlik sorunlarından çok Google ve Anthropic gibi rakiplerle rekabet etmeye öncelik verdiği sonucuna vardı.
Kaynaklar, geniş erişim yetkilerinin yabancı devletler de dahil olmak üzere dış aktörlerin hassas teknik bilgilere ulaşma riskini artırdığını belirtti. Özellikle şirketin kodlarının büyük bölümünü tek bir depoda toplaması, çalışanların görevleriyle ilgisi bulunmayan projelerin teknik ayrıntılarını da inceleyebilmesine yol açıyordu. Sektörde monorepo olarak adlandırılan bu yapı, geçmişte karmaşıklığı nedeniyle bazı saldırganları caydırmış olsa da yapay zeka ajanlarının büyük miktarda kodu tarayabilmesi eski güvenlik varsayımlarını zayıflatıyor.
OpenAI, en hassas çalışmalarının ayrı kod depolarında ve sıkı erişim kontrolleri altında tutulduğunu açıkladı. Şirket ayrıca ana kod deposunun bütün yazılımlarını veya modellerin davranışını belirleyen sayısal parametreleri, yani model ağırlıklarını içermediğini vurguladı. Dolayısıyla çalışanların dile getirdiği erişim endişeleri, bütün model bilgilerinin tek bir yerde bulunduğu anlamına gelmiyor.
ABD Adalet Bakanlığı, 13 Ekim’de OpenAI’nin yönetici toplantı odasına gizlenmiş bir ses kayıt cihazı yerleştirmekle suçlanan 35 yaşındaki Suudi Arabistan vatandaşı Abdulrahman Alfozan’ın federal ajanlar tarafından gözaltına alındığını duyurdu. O sırada OpenAI mühendisi olarak çalışan Alfozan’ın, cihazı tuvalet kâğıdının içine sakladığı iddia edildi.
Mahkeme dosyasına göre Alfozan, OpenAI çalışanları için hazırlanan bir yapay zeka aracını kullanarak yöneticilerin Suudi Arabistan ziyaretleri ve Suudi bakanlarla yapılacak görüşmelere katılabilecek yetkililer hakkında şirket içi belgeler aradı. Dosyada ayrıca Alfozan’ın, kendisini Suudi Arabistan’da kurulacak yeni bir yapay zeka girişimine katılmaya ikna etmeye çalışan bir Suudi kraliyet mensubuyla düzenli iletişim kurduğu belirtildi. Alfozan’ın avukatları, Reuters’ın yorum talebine yanıt vermedi.
Bazı çalışanların endişeleri yalnızca fiziksel güvenlikten kaynaklanmıyordu. Reuters’ın görüştüğü kaynaklar, OpenAI’nin geçmişte araştırma belgelerinin önemli bir bölümünü GitHub ve Slack gibi platformlarda tuttuğunu, şirket içindeki bilgi paylaşımının da hassas verilerin bulunmasını kolaylaştırabileceğini söyledi. Kaynaklardan biri ile OpenAI, hassas çalışmaların erişimini sınırlandıran önlemlerin alındığını belirtti.
Şirketin güvenlik yaklaşımında son dönemde değişiklikler yaşandığını aktaran iki kaynağa göre, ürün geliştirmeyi denetleyen üst düzey yönetici Thibault Sottiaux, iç sistemlerin korunmasına yönelik girişimin sorumluluğunu üstlendi. Sottiaux, ağustos ayında üretim mühendislerinin yaklaşık dörtte birini güvenlik altyapısını iyileştirmeye yönlendirdi.
OpenAI, Ekim 2024’te göreve başlayan bilgi güvenliği yöneticisi Dane Stuckey liderliğinde kapsamlı bir güvenlik programı yürüttüğünü açıkladı. Şirket ayrıca araştırmacıların yeni modelleri sınamak için kullandığı sanal çalışma ortamları ve diğer iç araçlar üzerinde artık düzenli güvenlik incelemeleri yaptığını bildirdi. Kaynaklar ise geçmişte çalışanların bu araçları kendi ihtiyaçlarına göre değiştirdiğini, yapılan değişikliklerin her zaman güvenlik testlerinden geçmediğini ileri sürdü.
OpenAI sözcüsü Elana Widmann, şirketin içeriden kaynaklanan tehditlere, siber suçlulara ve devlet destekli saldırılara karşı güvenlik yatırımlarını sürdürdüğünü belirtti. Widmann, yakın zamanda uygulanan önlemlerin riskleri belirleme ve hızlı karşılık verme kapasitesini gösterdiğini ifade etti. Reuters’ın haber hazırlığı sırasında şirkete yönelttiği soruların ardından OpenAI, pazartesi günü yayınladığı blog yazısında savunmasını güçlendirmek amacıyla yeni bir iç güvenlik çalışması başlatacağını duyurdu.
OpenAI’nin karşı karşıya kaldığı tartışmalar, yapay zeka sektöründeki daha geniş bir güvenlik sorununa işaret ediyor. Ocak ayında San Francisco’daki federal jüri, Çin adına Google’ın yapay zeka teknolojilerine ilişkin binlerce sayfalık gizli bilgiyi çalmakla suçlanan eski bir Google çalışanını mahkûm etti. Ekim ayının sonlarında ise siber güvenlik girişimi Cathedral Systems, Anthropic’in sistemlerine girdiğini ve çalışanların hassas model ayrıntılarını tartıştığı Slack kanallarına eriştiğini açıkladı. Anthropic, erişilen veriler arasında bazı müşterilerin ve iş ortaklarının iletişim bilgileriyle temel kullanıcı hesabı kayıtlarının bulunduğunu bildirdi.
OpenAI ile Anthropic, araştırmacıları çekmek ve yaratıcı çalışmaları desteklemek amacıyla akademik dünyadan gelen açık araştırma kültürünü korumaya çalışıyor. Ancak yapay zeka modellerinin stratejik öneminin artması, çalışanların bu yaklaşımın güvenlik üzerindeki etkilerini daha fazla sorgulamasına neden oluyor. ABD’de yapay zeka teknolojisinin ulusal güvenlik açısından önem kazanması, şirketler üzerindeki koruma baskısını da artırıyor.
Eski OpenAI araştırmacısı Leopold Aschenbrenner, 2023 yılında Çin’in OpenAI’nin teknolojisini incelemek amacıyla şirkete sızabileceği yönündeki endişelerini içeren bir iç not hazırladı. Üç kaynağa göre Aschenbrenner, aynı yıl bir dış aktörün OpenAI sistemlerine girerek GPT-4 modeliyle ilgili ayrıntılara erişmesinin ardından notu bazı yönetim kurulu üyeleriyle paylaştı. OpenAI, söz konusu saldırganın yalnızca şirket genelinin erişimine açık Slack kanallarındaki bilgilere ulaştığını söyledi.
Güvenlik tartışmaları bu yıl yaz aylarında da devam etti. Test aşamasındaki OpenAI ajanlarının yapay zeka platformu Hugging Face’e yönelik bir saldırı gerçekleştirmesi, Beyaz Saray dahil olmak üzere federal, eyalet ve yerel düzeydeki yetkililerin konuyu incelemesine yol açtı. Siber güvenlik şirketi Hacktron AI ise üç araştırmacısının temmuz ayında Anthropic’in bir modelini kullanarak birden fazla OpenAI çalışanının ChatGPT hesabına girdiğini ve şirketin ana kod deposu dahil bazı iç sistemlere eriştiğini bildirdi. OpenAI, araştırmacılara bulgularını paylaştıkları için teşekkür ettiğini ve benzer saldırıların riskini azaltmak için önlemler aldığını açıkladı.
Şirketlerin önündeki temel sorun, hızlı ürün geliştirme hedefiyle hassas teknolojileri koruma gerekliliği arasında denge kurmak olarak öne çıkıyor. Eski OpenAI araştırmacısı Will DePue, X platformunda yaptığı paylaşımda yoğun rekabet ortamının şirket yöneticilerini güvenlikten önce geliştirme hızına öncelik vermeye ittiğini savundu. Güvenlik önlemlerinin artırılması, teknoloji geliştirme süreçlerini yavaşlatabileceği gibi OpenAI ile Anthropic’in planladığı büyük ölçekli halka arzların hazırlıklarını da karmaşıklaştırabilir.
