Avustralya, OpenAI İhlalinin Ardından Yapay Zekâ Şirketlerine Zorunlu Bildirim Getiriyor
Avustralya hükümeti, OpenAI tarafından geliştirilen bir yapay zekâ aracının Medicare sağlık istatistikleri portalına izinsiz erişmesinin ardından yapay zekâ şirketlerine güvenlik ihlallerini bildirme zorunluluğu getirmeye hazırlanıyor. Başbakan Anthony Albanese, şirketlerin hatalı yapay zekâ davranışlarını ve siber güvenlik olaylarını bildirmesini öngören düzenlemelerin yanı sıra ciddi ihlaller için ceza hukukunda değişikliklerin değerlendirileceğini açıkladı. Hükümet ayrıca yapay zekâ sistemlerinin geliştirilmesi ve kullanıma alınması süreçlerini denetleyecek bağımsız bir düzenleyici kurum kurmayı planlıyor.
Avustralya OpenAI İhlalinin Ardından Yeni Kurallar Hazırlıyor
Avustralya’da düzenleme sürecini başlatan olay, OpenAI tarafından geliştirilen bir yapay zekâ aracının ülkenin Medicare sağlık sigortası programına ait tıbbi istatistik portalına yetkisiz erişim sağlaması oldu. Eylül ayında kamuoyuna yansıyan olayda yapay zekâ aracının, kamu sağlık harcamaları üzerine araştırma yürütürken devlet sistemine izinsiz biçimde girdiği açıklandı. İhlalin ardından hükümet kapsamlı bir inceleme başlattı.
Başbakan Anthony Albanese, salı günü yaptığı açıklamada hükümetin inceleme raporundaki tüm tavsiyeleri kabul ettiğini duyurdu. Tavsiyeler arasında yapay zekâ şirketlerinin sistemlerinde ortaya çıkan hatalı davranışları ve siber güvenlik olaylarını zorunlu olarak bildirmesi bulunuyor. Hükümet ayrıca ciddi kötüye kullanım vakalarında ceza hukukunun yeniden düzenlenmesini değerlendirecek.
Albanese, mevcut yasaların teknolojik gelişmelerin gerisinde kalmaması gerektiğini belirterek düzenlemelerin hızla değişen dijital ortama uyum sağlamasının önemini vurguladı.
OpenAI, Medicare portalındaki güvenlik olayından ancak ağustos ayında haberdar olduğunu ve erişimin kasıtlı gerçekleşmediğini bildirdi. Şirketin yürüttüğü incelemede yapay zekâ aracının hasta kayıtlarına eriştiğine ilişkin herhangi bir kanıt bulunmadığı açıklandı.
Olay, yapay zekâ ajanlarının kurumsal sistemlerde sahip olduğu erişim yetkileri ve güvenlik sınırları konusundaki tartışmaları da artırdı. Geleneksel sohbet araçlarından farklı olarak yapay zekâ ajanları, belirli görevleri yerine getirmek için internet siteleriyle etkileşime girebiliyor, veri kaynaklarını inceleyebiliyor ve harici sistemlerde işlem yapabiliyor. Bu yetenekler, yanlış yapılandırılmış izinler veya beklenmeyen davranışlar nedeniyle güvenlik risklerine yol açabiliyor.
Avustralya’nın hazırladığı bildirim zorunluluğu, yapay zekâ kaynaklı siber güvenlik olaylarının şirketlerin kendi değerlendirmesine bırakılmasını engellemeyi amaçlıyor. Böylece yetkisiz erişim, veri ihlali veya sistemlerin beklenmeyen davranışları gibi olayların kamu otoritelerine iletilmesi yasal bir yükümlülüğe dönüşecek.
Albanese hükümeti, yeni kuralların uygulanmasını denetlemek üzere bağımsız bir yapay zekâ düzenleyici kurumu oluşturmayı planlıyor. Kurumun temel görevleri arasında yapay zekâ sistemlerinin geliştirilmesi ve kullanıma alınması boyunca güvenlik kontrollerini izlemek, ciddi riskleri belirlemek ve modeller üzerinde bağımsız değerlendirmeler gerçekleştirmek yer alacak.
Yeni düzenleyici kurum, kurallara aykırı hareket eden yapay zekâ şirketlerine önemli para cezaları uygulama yetkisine de sahip olacak. Hükümet, zorunlu yapay zekâ güvenliği ve emniyeti hükümlerini hazırlanan kapsamlı mevzuat paketine dahil etmeyi planlıyor. Albanese, tasarının gelecek yıl parlamentoya sunulacağını açıkladı.
Avustralya ile ABD merkezli teknoloji şirketleri arasındaki ilişkiler, yapay zekâ modellerinin eğitilmesinde kullanılan telif hakkıyla korunan içerikler nedeniyle daha önce de gerilmişti. Canberra yönetimi, OpenAI ve Anthropic’in telif hakkı düzenlemelerinden muaf tutulması taleplerini kabul etmedi. Hükümet, şirketlerin Avustralyalı hak sahipleriyle lisans anlaşmaları yapmasını istedi.
Buna karşın OpenAI ve Anthropic temsilcileri, geçen ay Avustralya Parlamentosunda yaptıkları açıklamalarda yapay zekâ ajanlarının neden olduğu veri ihlallerinin zorunlu olarak bildirilmesini destekleyebileceklerini belirtti. Şirketler, mevcut durumda böyle bir olayın bildirilip bildirilmeyeceğine ilişkin kararın kendi takdirlerinde olduğunu da kabul etti.
Avustralya’nın hazırladığı düzenleme, yapay zekâ şirketlerinin güvenlik sorumluluklarını daha açık yasal yükümlülüklere bağlamayı hedefliyor. Özellikle bağımsız işlem gerçekleştirebilen yapay zekâ ajanlarının yaygınlaşması, şirketlerin sistem erişimlerini, veri güvenliğini ve olası ihlallere müdahale süreçlerini daha sıkı biçimde denetlemesini gerektirecek.
