Sam Altman, Yapay Zekâ Güvenliği İçin BM Güvenlik Konseyi’ne Brifing Verecek
OpenAI CEO’su Sam Altman, New York’ta düzenlenecek Birleşmiş Milletler Güvenlik Konseyi toplantısında yapay zekâ güvenliği konusunda üye ülkelere brifing verecek. Toplantı, 23 Eylül Çarşamba günü Birleşmiş Milletler Genel Kurulu’nun dünya liderlerini bir araya getirdiği hafta kapsamında gerçekleştirilecek. OpenAI, Altman’ın konuşmasında uluslararası koordinasyon, ortak güvenlik standartları ile yapay zekâ teknolojilerinin toplumların yararına kullanılmasına yönelik çalışmalara odaklanacağını açıkladı.
BM Güvenlik Konseyi Yapay Zekânın Uluslararası Güvenlik Risklerini Ele Alacak
Fransa’nın dönem başkanlığında düzenlenecek toplantı, yapay zekânın uluslararası barış ile güvenlik üzerindeki etkilerini doğrudan Birleşmiş Milletler Güvenlik Konseyi gündemine taşıyacak. Fransa Dışişleri Bakanı Jean-Noël Barrot’un başkanlık edeceği oturumda özellikle kötüye kullanım, kontrol kaybı riski, ileri yapay zekâ modellerinin güvenlik alanındaki kullanımı ile ortaya çıkabilecek yeni tehditler değerlendirilecek. Fransa tarafından konsey üyelerine iletilen toplantı notunda, yapay zekânın kötü niyetli amaçlarla kullanılmasına ilişkin risklerin azaltılması için güvenli ve sorumlu geliştirme yaklaşımının güçlendirilmesi gerektiği belirtildi.
OpenAI’nin verdiği bilgiye göre Altman, uluslararası iş birliğinin yapay zekâ alanındaki güvenlik standartlarının oluşturulmasında kritik rol oynadığını anlatacak. Yapay zekâ güvenlik standartları, farklı ülkelerde geliştirilen sistemlerin risk değerlendirmesi, kullanım sınırları, güvenlik testleri ile denetim süreçlerinin ortak ilkeler çevresinde ele alınmasını kapsıyor. Uluslararası koordinasyon konusu, yapay zekâ modellerinin sınır ötesi kullanımı nedeniyle tek bir ülkenin düzenlemeleriyle sınırlı kalmayan bir güvenlik başlığı olarak öne çıkıyor.
OpenAI CEO’sunun geçmiş açıklamaları, toplantıda ele alınacak kontrol risklerinin şirketin uzun süredir gündeminde olduğunu gösteriyor. Altman, 2015 yılında yayımladığı “Machine Intelligence, part 1” başlıklı yazısında insan seviyesini aşan makine zekâsının insanlığın varlığı açısından ciddi bir tehdit oluşturabileceği değerlendirmesinde bulunmuştu. OpenAI’nin sonraki yıllarda güvenlik araştırmaları, model davranışlarının sınırlandırılması, değerlendirme süreçleri ile yapay zekâ sistemlerinin kötüye kullanım riskleri üzerine çalışmalar yürütmesi de söz konusu yaklaşımın daha geniş bir çerçeveye taşındığını gösteriyor.
Yapay zekâ kontrol riski, gelişmiş modellerin hedeflenen davranıştan sapması veya insanlar tarafından öngörülemeyen sonuçlar üretmesi ihtimalini ifade ediyor. İleri seviye modellerin kod yazma, karar destek, içerik üretimi, araştırma ile siber güvenlik gibi alanlarda daha fazla görev üstlenmesi, uluslararası kuruluşların güvenlik değerlendirmelerine olan ilgisini artırıyor. BM Güvenlik Konseyi’nin gündemindeki tartışma da teknolojik gelişme ile uluslararası güvenlik arasındaki bağlantının kurumsal düzeyde ele alınmasına dayanıyor.
Diplomatik kaynaklar, Anthropic tarafından da üst düzey bir temsilcinin toplantıda yer almasının beklendiğini aktardı. Anthropic tarafı toplantıya katılım konusunda henüz resmi bir açıklama yapmadı. Şirketin yapay zekâ güvenliği alanındaki çalışmaları nedeniyle olası katılım, farklı yapay zekâ geliştiricilerinin uluslararası güvenlik tartışmalarına aynı platformda katkı sunması açısından önem taşıyabilir.
Birleşmiş Milletler Güvenlik Konseyi, yapay zekâ kaynaklı riskleri ilk kez 2023 yılında özel bir oturumla gündemine almıştı. Çin söz konusu toplantıda teknolojinin kontrol dışına çıkabilecek bir yapıya dönüşmemesi gerektiğini savunurken ABD yönetimi yapay zekânın sansür veya baskı amacıyla kullanılmasına ilişkin riskleri gündeme getirmişti. Yeni toplantı, önceki tartışmaların ardından daha gelişmiş yapay zekâ modellerinin uluslararası güvenlik üzerindeki etkilerini yeniden ele alacak.
Fransa’nın hazırladığı toplantı çerçevesi, yapay zekânın yalnızca teknolojik yenilik başlığı altında değil uluslararası barış ile güvenlik perspektifinden değerlendirilmesini amaçlıyor. Fransa, özellikle kötü niyetli aktörlerin gelişmiş modellerden yararlanarak uluslararası güvenliği etkileyebilecek faaliyetler yürütme ihtimaline karşı ortak güvenlik yaklaşımının güçlendirilmesini gündeme taşıyor. Yapay zekâ risk yönetimi, model güvenliği, kötüye kullanım önleme mekanizmaları ile uluslararası standartlar toplantının teknik başlıklarını oluşturacak.
BM Güvenlik Konseyi’nin yapısı, söz konusu tartışmayı diğer uluslararası yapay zekâ girişimlerinden farklı bir konuma taşıyor. Konseyin temel görevi uluslararası barış ile güvenliğin korunması olduğu için yapay zekânın askeri kullanım, siber tehditler, bilgi operasyonları veya kritik altyapılara yönelik riskler üzerindeki etkileri güvenlik gündemiyle doğrudan ilişkilendirilebiliyor. Sam Altman’ın katılımı ise teknoloji şirketlerinin geliştirdiği ileri modeller hakkında doğrudan üretici perspektifinin diplomatik tartışmaya taşınmasını sağlayacak.
New York’taki görüşmeler, yapay zekâ alanında şirketlerin teknik güvenlik çalışmaları ile devletlerin uluslararası güvenlik politikaları arasındaki temasın genişlemesine zemin hazırlayabilir. Ortak yapay zekâ güvenliği yaklaşımının kapsamı, ülkelerin teknoloji geliştirme politikaları, ulusal güvenlik öncelikleri ile düzenleyici çerçeveleri arasında kurulacak dengeye bağlı olacak. Türkiye’deki kamu kurumları ile büyük işletmeler açısından uluslararası standartların şekillenmesi, ilerleyen dönemde kurumsal yapay zekâ kullanımı, veri güvenliği ve yüksek riskli sistemlerin denetimi gibi başlıklarda yeni uyum gereksinimleri doğurabilir.
BM toplantısında ortaya çıkacak görüşler, tek başına küresel bir yapay zekâ düzenlemesi oluşturmayacak olsa da sonraki diplomatik görüşmeler için referans oluşturabilir. Devlet temsilcileri ile teknoloji şirketlerinin aynı güvenlik gündeminde buluşması, gelişmiş modellerin sınır ötesi etkileri konusunda ortak terminolojinin şekillenmesine katkı sağlayabilir. Uluslararası yapay zekâ yönetişimi tartışmasının ilerleyen aşamalarında güvenlik testleri, model denetimi, kötüye kullanım önleme standartları ile ülkeler arası bilgi paylaşımı daha somut politika başlıklarına dönüşebilir.
