Teknoloji dünyasında yıllardır tartışılan yapay zekâ güvenliği, yeni bir kitapla birlikte yeniden gündemin merkezine oturdu. Berkeley’de faaliyet gösteren Machine Intelligence Research Institute araştırmacıları Eliezer Yudkowsky ile Nate Soares, yayımladıkları kitapta süper zekâ seviyesine ulaşacak yapay zekânın insanlığı yok etme ihtimalinden söz etti.
Yapay Zekâya Karşı Karamsar Senaryolar Ön Plana Çıkıyor
Yudkowsky ve Soares, “If Anyone Builds It, Everyone Dies” adlı kitapta gelişmiş yapay zekânın insanoğlunu yok edecek güçte olacağını iddia etti. İki araştırmacıya göre herhangi bir şirket ya da ülke, günümüzde kullanılan yöntemlere benzer şekilde süper zekâ geliştirirse insan nesli tükenebilir. Yazarlar, olası riskin yüzde 95 ile yüzde 99,5 arasında olduğunu ileri sürdü.
Uzmanlar, fabrikaların ve enerji santrallerinin ileride robotlar tarafından yönetilmesiyle insanlara gerek kalmayabileceğini öne sürüyor. Böyle bir senaryoda makinelerin insanları gereksiz görerek yok etme kararı alabileceği belirtiliyor. Araştırmacılar, süper zekânın niyetini gizleyebileceğini, tehlikeyi fark etmenin ise insanlar için imkânsız olabileceğini ifade ediyor.
Kitapta en dikkat çeken noktalardan biri, süper zekâya dönüşme ihtimali taşıyan veri merkezlerinin erken safhada imha edilmesi gerektiği yönündeki öneri oldu. Uzmanlara göre bir kere ortaya çıktıktan sonra böyle bir yapının durdurulması ihtimali kalmayabilir. Bu yaklaşım teknoloji çevrelerinde büyük tartışma başlatırken insanlık için yeni güvenlik stratejilerinin zorunlu hale geleceği vurgulanıyor.
