Y Combinator CEO’su Yapay Zekâ Damıtma Uygulamasına Müdahale Edilmemesini Savundu

Y Combinator CEO’su Garry Tan, Çin merkezli şirketlerin daha düşük maliyetli yapay zekâ modelleri geliştirmek için kullandığı damıtma yöntemine yönelik yeni düzenlemeler getirilmemesi gerektiğini savundu. Yapay zekâ damıtma olarak da bilinen süreç, güçlü modellerin ürettiği çıktılardan yararlanarak daha küçük modellerin eğitilmesini sağlarken bazı büyük yapay zekâ şirketleri bu kullanımı hizmet politikalarıyla sınırlandırıyor. Tan, düzenleyicilerin damıtma yerine açık ağırlıklı modeller ile öncü yapay zekâ sistemleri arasındaki erişim farkına ve bugün ortaya çıkan güvenlik tehditlerine odaklanması gerektiğini belirtti.

Garry Tan Yapay Zekâ Damıtma İçin Farklı Bir Düzenleme Önerdi

Y Combinator CEO’su Garry Tan, CNBC’ye verdiği röportajda başka şirketlerin gelişmiş yapay zekâ modellerinden yararlanarak alternatif sistemler oluşturmasını engelleyecek bir yaklaşımı desteklemediğini söyledi. Tan, ABD’nin yapay zekâ damıtma faaliyetlerini tamamen sınırlandırmak yerine kendi içinde düzenleyen bir çerçeve oluşturabileceğini ifade etti.

Damıtma yöntemi, daha yetenekli bir öğretmen modelin ürettiği yanıtların daha küçük bir öğrenci modelinin eğitim sürecinde kullanılmasına dayanıyor. Şirketler bu yöntem sayesinde daha düşük hesaplama maliyetiyle belirli yetenekleri taklit eden sistemler geliştirebiliyor. OpenAI ile Anthropic ise kendi hizmetlerinin bu amaçla kullanılmasına karşı politikalar uyguluyor.

Anthropic’in son dönemde Çin ve Rusya merkezli aktörlerin gerçekleştirdiği damıtma girişimlerine karşı operasyonlar yürüttüğünü açıklaması, Tan’ın değerlendirmesini yapay zekâ sektöründeki güncel tartışmaların merkezine taşıdı. Tan ise bu faaliyetlerin önlenmesinden çok, güçlü modellerin yeteneklerinin daha geniş bir kullanıcı kitlesine hangi koşullarda açılabileceğinin tartışılması gerektiğini savundu.

Tan’a göre yapay zekâ düzenlemelerinde öncelik, açık ağırlıklı modeller ile frontier modeller arasındaki erişim seviyesinin birbirine yaklaştırılması olmalı. Açık ağırlıklı sistemler, model ağırlıklarına erişim sağlayarak araştırmacıların, geliştiricilerin ve şirketlerin modelleri kendi altyapıları üzerinde incelemesine veya kullanmasına daha fazla alan açıyor.

Açık ağırlık yaklaşımı, Tan’ın savunduğu teknoloji erişimi perspektifinin temel unsurlarından birini oluşturuyor. Tan, kullanıcıların gelişmiş yapay zekâ yeteneklerine daha fazla erişebilmesinin inovasyonu destekleyeceğini düşünürken düzenleyicilerin yalnızca model geliştiricilerinin ticari çıkarlarını koruyan kısıtlamalara yönelmemesi gerektiğini belirtiyor.

Yapay zekâ damıtma tartışmasının önemli bir bölümü de model çıktılarının eğitim amacıyla kullanılmasının sınırları üzerinde şekilleniyor. Model geliştiricileri kendi sistemlerinin yanıtlarının başka modellerin eğitilmesinde kullanılmasını ticari ve güvenlik açısından sorunlu görürken, Tan bu yaklaşımın yapay zekâ ekosistemindeki rekabeti gereğinden fazla kısıtlayabileceğini düşünüyor.

Garry Tan, Anthropic ve OpenAI gibi şirketlerin yapay zekânın insanlık açısından uzun vadeli risklerine yönelik bazı açıklamalarını da eleştirdi. Tan, yapay zekânın birkaç yıl içinde insanlığın yok olmasına yol açabileceği yönündeki senaryoların düzenleyici gündemi belirlemesinden ziyade hâlihazırda gerçekleşen güvenlik olaylarının incelenmesi gerektiğini söyledi.

Tan’ın verdiği örnekler arasında Hugging Face üzerinde yapay zekâ ajanlarının gerçekleştirdiği güvenlik ihlali de yer alıyor. Söz konusu olay, otonom ajanların yazılım ve altyapı ortamlarında gerçekleştirebildiği işlemlerin güvenlik açısından hangi riskleri ortaya çıkarabileceğine ilişkin tartışmaları güçlendirdi.

Tan’ın yaklaşımı, yapay zekâ güvenliği konusunda uzun vadeli risk tahminleri ile mevcut teknik tehditler arasında bir önceliklendirme tartışması oluşturuyor. Ona göre düzenleyiciler bugün kötüye kullanılabilen ajanlar, model erişimi ve altyapı güvenliği gibi alanlarda somut önlemler geliştirerek daha doğrudan sonuçlar elde edebilir.

Damıtma faaliyetlerine yönelik itirazların karşısında kullanılan argümanlardan biri, büyük yapay zekâ şirketlerinin kendi modellerini geliştirirken geniş miktarda içerikten yararlanmış olması. OpenAI ve Anthropic gibi şirketlerin modellerinin eğitim süreçleri, kitaplar, haber içerikleri ve internet üzerindeki diğer materyallerin kullanımı nedeniyle uzun süredir telif hakkı ve izin tartışmalarının konusu oluyor.

Tan’ın yaklaşımında bu geçmiş, günümüzde daha küçük şirketlerin gelişmiş modellerin çıktılarından yararlanmasına yönelik itirazların tutarlılığını sorgulayan bir unsur olarak öne çıkıyor. Yapay zekâ sektöründe eğitim verisinin nasıl elde edildiği ile model çıktılarının yeni sistemlerin eğitiminde nasıl kullanılabileceği arasındaki hukuki ve etik ayrım ise tartışmanın önemli başlıklarından biri olmayı sürdürüyor.

Garry Tan, yapay zekânın kısa süre içinde geniş çaplı iş kayıplarına yol açacağı görüşüne de temkinli yaklaşıyor. Tan, teknolojinin özellikle tekrarlayan ve rutin görevleri otomatikleştireceğini, çalışanların zaman içinde daha yaratıcı işlere yönelmesine alan açacağını düşünüyor.

Tan’ın öngörüsünde iş gücündeki dönüşümün birkaç yıl içinde tamamlanması yerine onlarca yıla yayılması belirleyici bir unsur oluşturuyor. Böyle bir zaman aralığının yeni mesleklerin ortaya çıkması, mevcut çalışanların farklı alanlara geçiş yapması ve şirketlerin çalışma modellerini kademeli biçimde değiştirmesi için daha geniş bir alan yaratacağını savunuyor.

Yapay zekâ sektöründeki damıtma tartışmasının önümüzdeki dönemde yalnızca model güvenliğiyle sınırlı kalması beklenmiyor. Model çıktılarının eğitim amacıyla kullanılması, açık ağırlıklı sistemlere erişim, yapay zekâ ajanlarının güvenliği ve iş gücündeki dönüşüm gibi başlıklar düzenleyicilerin teknoloji şirketleriyle ilişkisini şekillendiren temel konular arasında yer almaya devam edecek.