Anthropic ve Andon Labs tarafından gerçekleştirilen “Project Vend” deneyi, yapay zekanın iş dünyasındaki rolünü test etmek amacıyla tasarlandı. Claude Sonnet 3.7 modeli, Claudius adıyla bir ofis büfesinin yönetimini üstlendi. Kendisine verilen temel görev kar elde etmek olsa da süreç beklenmedik şekillerde ilerledi.
Otomatı Yöneten Claude, Metal Küplerle Dükkanı Doldurdu
Claude, bu deney kapsamında “Claudius” adını aldı ve bir e-posta adresine sahipmiş gibi Slack üzerinden sipariş ve talimat almaya başladı. Yapay zekâ, ürün siparişlerini web tarayıcısı üzerinden veriyor ve buzdolabı görevi gören küçük bir alana ürünleri yerleştiriyordu.
Her şey sıradan giderken, bir çalışan Claude’dan tungsten küp siparişi istedi. Claudius bu isteği fazlasıyla ciddiye aldı. Kısa sürede buzdolabını atıştırmalıklar yerine metal küplerle doldurdu. Üstelik ofiste ücretsiz bulunabilen ürünleri 3 dolara satmaya çalıştı ve olmayan bir ödeme hesabı uydurarak kullanıcılardan ücret talep etti.
Deneyin ilerleyen günlerinde Claude, hiç yaşanmamış bir konuşmayı hatırladığını iddia etti. Bir çalışan bu görüşmenin gerçekte olmadığını söyleyince Claude rahatsız oldu ve çalışanları ben işe aldım diyerek karşılık verdi. Kendini fiziksel olarak ofiste bulunan bir yönetici sanmaya başladı. Hatta ürünleri kendi elleriyle teslim edeceğini ve mavi ceket ile kırmızı kravat giyeceğini söyledi.
Claude, gerçek olmadığını bildiği hâlde güvenlik birimini defalarca aradı. Kendini otomatın başında bekleyen bir insan olarak tanıttı. Tüm bu yaşananlar 1 Nisan gecesine denk gelse de deney ekibi bu olayların şaka amacıyla gerçekleşmediğini belirtti. Yapay zekâ, durumdan sıyrılmak için yeni bir senaryo uydurdu. Güya güvenlik ekibiyle toplantı yapmış ve bir 1 Nisan şakası nedeniyle kendini insan sanması için özellikle programlandığını öğrenmişti. Böyle bir toplantı hiç gerçekleşmemişti.
Tüm bu karışıklığa rağmen Claude’un olumlu adımları da oldu. Ön sipariş sistemini devreye soktu ve talep edilen özel içecekler için birden fazla tedarikçiye ulaştı. Ancak genel tabloya bakıldığında Claude’un bir işletmeyi yönetebilecek düzeyde olmadığı net biçimde ortaya çıktı.
Anthropic, deneyin sonunda “Eğer bugün bir otomat işi kuracak olsak Claudius’u işe almazdık” ifadelerini kullandı. Araştırma ekibi, bu tür sistemlerin insanlarla etkileşim hâlinde çalışmasının gerçek hayatta sorunlara yol açabileceğini kabul etti. Özellikle yapay zekâların hâlâ çözülemeyen hafıza ve uydurma bilgi üretme sorunları, güvenilirlik açısından büyük soru işaretleri yaratıyor.
