Microsoft Bilim İnsanları Yapay Zekâ Tabanlı Protein Tasarımında Tehlikeli Bir Açığı Ortaya Çıkardı
Microsoft araştırmacılarının yaptığı bir çalışma, biyogüvenlik sistemlerinde ciddi zafiyetler bulunduğunu ortaya koydu. Bilim insanları, yapay zekâ destekli araçların binlerce toksik proteini tespit edilmeden tasarlayabildiğini fark etti. Bu durum, biyoteknoloji alanında hızla gelişen yapay zekâ uygulamalarının etik ve güvenlik yönlerini yeniden gündeme taşıdı.
Araştırmacılar Gizli Güvenlik Açığını Ortaya Çıkardı
Microsoft’ta görev yapan iki bilim insanı, 2023 yılının ekim ayında yapay zekâ sistemlerinin biyogüvenlik tarama yazılımlarını atlatabildiğini keşfetti. Bilimsel dergi Science’ta yayımlanan araştırmaya göre ekip, 72 farklı toksinin on binlerce yapay zekâ türevi versiyonunu üretti. Bu proteinlerin neredeyse tamamı, mevcut güvenlik sistemlerinden geçerek tespit edilmeden sınıflandırıldı.
Araştırmanın öncülerinden Microsoft Bilim Direktörü Eric Horvitz, bu olayı “biyogüvenliğin sıfırıncı günü” olarak nitelendirdi. Horvitz, yazılım dünyasında yaygın olarak kullanılan “güvenlik açığı yaması” yaklaşımına benzer bir sistemin biyoteknoloji alanında da uygulanması gerektiğini belirtti.
Yapay zekâ destekli protein mühendisliği, sağlık ve çevre bilimlerinde devrim niteliğinde ilerlemelere yol açtı. Ancak aynı teknolojiler, kötü niyetli kişilerin tehlikeli biyolojik maddeler tasarlamasına da zemin hazırlayabilir. Araştırmacılar, çalışmada ölümcül bir zehir olan risin proteinini dijital ortamda yeniden kodlayarak denemeler yaptı. Kodlar değiştirilmesine rağmen proteinlerin toksik özellikleri korunmuştu.
Güvenlik yazılımlarının yalnızca bilinen protein dizilerini tanıyacak şekilde çalışması, bu yeni versiyonların tespit edilmemesine yol açtı. Böylece dijital olarak oluşturulan on binlerce tehlikeli protein hiçbir uyarı vermeden sistemden geçti.
Mevcut Sistemler Yetersiz Kaldı
DNA sentezi yapan şirketler, genellikle sipariş edilen dizileri biyogüvenlik yazılımlarıyla kontrol ediyor. Ancak Microsoft ekibinin çalışması, bu sistemlerin yapay zekâ tarafından üretilen “yeniden yazılmış” proteinleri fark edemediğini gösterdi. İncelenen iki büyük şirketin kullandığı güvenlik taramalarında, oluşturulan proteinlerin tamamına yakınının gözden kaçtığı belirlendi.
Araştırmanın ardından ekip, yazılımlardaki hatayı gidermek için yeni bir yama geliştirdi. Ancak uzmanlara göre, güvenlik açıklarının gelecekte tekrar ortaya çıkmaması için daha kapsamlı önlemler alınması gerekiyor.
Stanford Üniversitesi Tıp Fakültesi’nden mikrobiyolog David Relman, teknolojinin ilerleme hızının biyogüvenlik standartlarının çok önüne geçtiğini vurguladı. Relman’a göre, her geçen gün yeni araştırmalar yapılırken risk yönetimi aynı oranda gelişmiyor. Johns Hopkins Halk Sağlığı Fakültesi’nden Tom Inglesby ise araştırmayı “uyarı niteliğinde bir dönüm noktası” olarak nitelendirdi.
Uzmanlar, bu durumun tek bir güvenlik yaklaşımıyla çözülemeyeceğini belirtiyor. Farklı seviyelerde kontrol sistemleri geliştirilmesi, laboratuvar standartlarının güncellenmesi ve yapay zekâ geliştiricilerinin etik yükümlülüklerinin artırılması gerektiği ifade ediliyor.
Yeni Düzenlemeler ve Global Denetim Tartışmaları Başladı
ABD’de federal düzeyde yürürlükte olan düzenlemeler, devlet destekli araştırmaların yalnızca biyogüvenlik tarama yazılımı kullanan DNA sentez şirketleriyle çalışmasını şart koşuyor. Ancak bu sistem büyük ölçüde gönüllü uyuma dayandığı için hâlâ birçok boşluk bulunuyor.
Bazı uzmanlar, yapay zekâ yazılımlarının laboratuvar aşamasına geçmeden önce güvenlik filtreleriyle donatılması gerektiğini savunuyor. Uluslararası Biyogüvenlik ve Biyogüvenlik Girişimi uzmanlarından Tessa Alexanian, geçen yıl 180’den fazla yapay zekâ geliştiricisinin yeni biyogüvenlik stratejilerini destekleme sözü verdiğini hatırlattı.
Protein tasarımında Nobel ödüllü bilim insanı David Baker ise en etkili çözümün DNA sentezlerinin kayıt altına alınması olduğunu belirtti. Baker’a göre, oluşturulan her genetik dizinin merkezi bir veri tabanına işlenmesi, olası tehlikeli çalışmaların kaynağını izlemeyi kolaylaştırabilir.
Yapay zekâ, biyoteknolojiye büyük bir ivme kazandırdı. Ancak bu güç kontrol altına alınmadığında, küresel güvenlik açısından ciddi tehditler doğurabilir. Bilim dünyası, yapay zekâ destekli protein tasarımının faydaları kadar risklerine de odaklanıyor.
Uzmanlara göre, gelecekte dijital biyogüvenlik sistemlerinin sürekli güncellenmesi ve uluslararası düzeyde denetlenmesi hayati önem taşıyacak. Teknolojik ilerlemenin hızına yetişebilen güvenlik önlemleri, insanlığın bilimsel ilerlemeyi güven içinde sürdürmesini sağlayacak.
