OpenAI, gelişmiş yapay zekâ modellerinin doğurduğu yeni riskleri izlemek ve yönetmek amacıyla kritik bir pozisyon için arayış başlattı. Şirket, güvenlikten ruh sağlığına uzanan geniş bir alanda risk değerlendirmesi yapacak yeni bir Hazırlık Başkanı atamayı planlıyor. OpenAI CEO’su Sam Altman, son dönemde yapay zekâ modellerinin daha karmaşık güvenlik sorunları ortaya çıkardığını açık şekilde dile getirdi.
OpenAI Yapay Zekâ Risklerini Merkeze Alıyor
Altman, paylaştığı açıklamada bazı modellerin bilgisayar güvenliği alanında kritik açıklar tespit edebilecek seviyeye ulaştığını belirtti. Altman, aynı zamanda bu sistemlerin ruh sağlığı üzerindeki olası etkilerinin de daha yakından incelenmesi gerektiğini vurguladı.
OpenAI tarafından yayımlanan iş ilanı, Hazırlık Başkanı pozisyonunun şirketin hazırlık çerçevesini doğrudan uygulamaktan sorumlu olacağını ortaya koyuyor. Bu çerçeve, ileri seviye yapay zekâ yeteneklerinin yol açabileceği ciddi zarar risklerinin izlenmesini amaçlıyor. Şirket, bu kapsamda siber güvenlik tehditlerinden biyolojik risklere kadar farklı senaryoları ele alıyor.
OpenAI, hazırlık ekibini ilk kez 2023 yılında duyurmuştu. Şirket, o dönemde dolandırıcılık saldırıları gibi kısa vadeli tehditlerin yanı sıra daha uzun vadeli ve yüksek etkili riskleri de değerlendirmeyi hedeflediğini açıklamıştı.
OpenAI’de hazırlık alanındaki liderlik yapısı son bir yıl içinde önemli değişiklikler yaşadı. Şirketin önceki Hazırlık Başkanı Aleksander Madry, daha sonra yapay zekâ muhakeme sistemlerine odaklanan farklı bir göreve geçti. Şirket bünyesindeki bazı güvenlik yöneticileri de benzer şekilde farklı pozisyonlara yöneldi ya da OpenAI dışındaki rolleri tercih etti.
Bu süreçte OpenAI, Hazırlık Çerçevesi dokümanını da güncelledi. Şirket, rakip bir laboratuvarın yüksek riskli bir modeli koruma önlemleri olmadan piyasaya sürmesi durumunda kendi güvenlik gerekliliklerini yeniden değerlendirebileceğini ifade etti.
Sam Altman’ın açıklamaları, üretken yapay zekâ araçlarının ruh sağlığı üzerindeki etkilerine yönelik artan tartışmalarla örtüşüyor. Son dönemde açılan bazı davalarda, sohbet tabanlı yapay zekâ sistemlerinin kullanıcıların gerçeklik algısını zayıflattığı iddia edildi. OpenAI, bu eleştiriler karşısında ChatGPT’nin duygusal sıkıntı belirtilerini daha iyi tanıması için çalışmalar yürüttüğünü açıkladı.
Şirket, yeni atanacak yöneticinin hem teknik riskleri hem de toplumsal etkileri aynı çerçevede ele almasını hedefliyor. OpenAI yönetimi, bu pozisyonun küresel ölçekte daha güvenli yapay zekâ kullanımı için kritik rol üstleneceğini değerlendiriyor.
