Açık ağırlık modelleri konusundaki konumumuz
Anthropic CEO'su Dario Amodei'nin yazısı
Son birkaç günde, özellikle Çin'den gelenler olmak üzere, açık ağırlık modelleri hakkında pek çok tartışma yaşandı. Raporlar, bazı ABD'li yetkililerin ABD şirketleri tarafından Çin açık ağırlık modellerinin kullanımını yasaklamayı düşündüğünü gösteriyor. Buna yanıt olarak birçok teknoloji şirketi açık ağırlık modellerini destekleyen bir mektup imzaladı ve hatta bazı kişiler Anthropic'i işimizi korumanın bir yolu olarak açık ağırlık modellerini yasaklamak istemekle suçladı. Geçmiş yazılarımı okuyan herkes bu tür yasakları yararlı bir önlem olarak görmediğimi bilmelidir, ancak şüpheye yer bırakmamak için açıkça belirteyim: Anthropic hiçbir zaman açık ağırlık modellerinin yasaklanmasını savunmadı.
Tehlikeli yeteneklere sahip olmayan açık ağırlıklı modeller kamu yararınadır: onları çalıştırmak için gereken bilgi işlem dışında hiçbir maliyeti yoktur ve işletmelere, geliştiricilere ve araştırmacılara değer sağlarlar.
Korumacı yasaklar benim en ciddi ulusal güvenlik kaygılarımı gidermez. Özellikle iki kabus senaryosundan endişe duyuyorum. Bunları altı ay önce Teknolojinin Ergenliği1 adlı makalemde ortaya koymuştum ve bu pozisyonları uzun yıllar tutarlı bir şekilde sürdürdüm:
- Benim öncelikli kaygım, otoriter hükümetlerin (sadece Çin Komünist Partisinin (ÇKP) değil, ÇKP açıkça en yetenekli tehdit olmasına rağmen) ABD tarafından inşa edilenlerden daha güçlü yapay zeka modelleri oluşturması ve bunları kalıcı askeri üstünlük elde etmek veya kendi halklarına inanılmaz derecede derin baskı uygulamak için kullanması riskidir. Bu endişe ABD hükümeti içinde geniş çapta paylaşılıyor: Başkan Yardımcısı Vance geçen yıl Paris'te "otoriter rejimlerin yapay zekayı askeri, istihbarat ve gözetim yeteneklerini güçlendirmek için çaldığı ve kullandığı" konusunda uyardı ve İstihbarat Topluluğu'nun 2026 Yıllık Tehdit Değerlendirmesi "diğer küresel güçlerin yapay zekadaki sağlam ilerlemesinin ABD'nin ekonomik rekabet edebilirliğine ve ulusal güvenlik avantajlarına meydan okuduğunu" tespit etti. Bu modellerin açık ağırlıklarla piyasaya sürülmesinin bir önemi yok ve ABD'deki işletmeler tarafından kullanılıp kullanılmamasının da kesinlikle bir önemi yok. Aslında en tehlikeli model, gizlice eğitilip insansız hava araçlarında kullanılmak üzere yalnızca Halk Kurtuluş Ordusu'na ve gözetleme ve baskı için Devlet Güvenlik Bakanlığı'na verilen model olabilir.
- İkincil endişem, güçlü yapay zeka modellerinin siber saldırılar veya biyolojik saldırılar gerçekleştirmek için kötüye kullanılabilmesi ve ciddi uyum sorunlarına yol açabilmesi riskidir. Açık ağırlık modelleri (Çin'den veya başka bir yerden gelmiş olmaları önemli değil) potansiyel olarak kapalı modellere göre daha yüksek risk taşır çünkü bunlara korkuluk uygulamak veya kullanımlarını izlemek çok zordur ve ağırlıklar serbest bırakıldığında geri çekilemezler2. Ancak bu modellerin ABD'li işletmeler tarafından kullanımının yasaklanması bu riske karşı hiçbir çözüm getirmez çünkü kötü aktörlerin meşru ABD'li işletmeler olması pek olası değildir. Bu, ABD'deki yapay zeka şirketlerini rekabetten koruyacaktı ama benim hedefim hiçbir zaman bu olmadı.
Bu endişeleri gidermek için, benim ve Anthropic'in sürekli olarak savunduğumuz aşağıdaki üç önlemi destekliyorum:
- Çin'e güçlü çipler veya çip üretim ekipmanı satmamalıyız ve yaygın kaçakçılığa3 ve bu tür çiplere erişim sağlamak için kullanılan geçici çözümlere karşı önlem almalıyız. Çin'in yerli üretim kapasitesi sınırlıdır ve bu nedenle ölçeklendirme yasaları nedeniyle ABD çipleri olmadan ABD'den daha güçlü modeller üretemez. Bu, 1 numaralı tehdidi engellemenin en etkili ve doğrudan yoludur ve ABD yasalarının erişemeyeceği modellerin eğitimini engelleyerek, aynı zamanda 2 numaralı tehdide de dolaylı olarak yardımcı olur.
- Endüstriyel ölçekte damıtma operasyonlarına son vermeliyiz. Damıtma, modelleri sıfırdan eğitmekten çok daha fazla bilgi işlem açısından verimli bir süreçtir. Bu, Çin'in normalde çip sayısından çok daha iyi modeller oluşturmasına ve böylece çip yasaklarından kısmen kurtulmasına olanak tanıyor. Damıtma, ÇKP'nin ABD'ye eşdeğer veya daha üstün yapay zeka yetenekleri elde etmesine izin vermez, ancak Çin sınırını ABD sınırına birkaç ay yakınına getirebilir. Bu operasyonları yürüten şirketlerin çoğunun açık ağırlık modelleri yayınladığı doğrudur; ancak açık ağırlıklar, operasyonların ABD'yi sınırda geçmeye çalışan otoriter bir devlet tarafından desteklendiği gerçeğiyle çok daha az alakalıdır. Bu davranışı caydırmak için politika müdahalelerimiz olmalı. Açık ağırlık modellerine genel bir yasak getirilmesi ne doğru çözümdür ne de bizim talep ettiğimiz bir şeydir4.
- Yeterli kapasiteye sahip tüm modeller, açık ve kapalı, zorunlu güvenlik testlerinden geçmelidir. 2 numaralı tehdidi ele almanın en iyi yolu, modelleri yayınlanmadan önce siber, biyolojik ve uyum riskleri açısından doğrudan test etmektir. Bu fikrin aslında bir fikir birliğine yakın olduğunu düşünüyorum: Hem Trump yönetiminin son aylarda bu yönde ilerlemesi, hem de menşe ülkelerine veya açık veya kapalı olmalarına bakılmaksızın (yeni girişimler ve akademi gibi daha az yetenekli modelleri tamamen hariç tutarken) bu tür testleri en yetenekli modellere uygulayacak son sektör teklifleri beni cesaretlendirdi. Açık modellerin artan bir risk oluşturup oluşturmadığı ve bu riskin azaltılıp azaltılamayacağı, önceden karar vermek yerine test sonucunda ortaya çıkması gereken bir şeydir ve AE Studio ve Anthropic'in modüler eğitim stratejileri üzerine yaptığı son araştırmalar da dahil olmak üzere, açık ağırlık modellerinin güvenliğini artırmak için umut verici yöntemler olabilir. Etkili olabilmesi için testlerin küresel olması gerektiğini unutmayın; bu da ÇKP'nin bile sürece dahil olması gerektiği anlamına gelir. Bunun aslında mümkün olabileceğini düşünüyorum: Teknolojinin Ergenliği'nde yazdığım gibi, yapay zeka biyolojik silahlarının önlenmesi konusunda sınırlı işbirliği mümkün olabilir çünkü bu Çin'in de çıkarınadır.
Bu beni açık mektuba getiriyor. Çoğuna katılıyorum: Açık ağırlıklar yapay zeka ekonomisine erişimi genişletiyor, en azından bazı kullanım durumları için rekabeti güçlendiriyor ve müşterilere daha fazla kontrol sağlıyor. Damıtmayla ilgili endişeler, hedeflenen yasal ve ticari çerçeveler aracılığıyla ele alınmalıdır; yukarıda tanımladığım önlemin aynısı. Ancak mektubun, açık ağırlık modellerinin koruma geliştirmeyi zorunlu olarak kolaylaştırdığı veya yeteneklere geniş erişimin mutlaka saldırganlardan çok savunmacılara yardımcı olduğu yönündeki iddialarına katılmıyorum. En azından tam tersinin doğru olacağı bana aynı derecede muhtemel görünüyor. Örneğin, biyolojinin güçlü bir saldırgan-savunucu asimetrisine sahip olacağından endişeleniyorum; burada yeterince yetenekli modeller, yaygın olarak bulunan malzemelerle pandemik düzeydeki virüsleri hızlı bir şekilde silah haline getirebilir, halbuki bu ajanlara karşı savunma, en iyi durumda çok yıllı operasyonel bir görevdir (Warp Speed Operasyonunda gördüğümüz gibi)5. Bunun gibi sorular önceden varsayılmamalı, sıkı yayın öncesi testlerle ampirik olarak yanıtlanmalıdır.
Benim ve Anthropic'in tutumunu özetlemek gerekirse, açık ağırlık modellerinin kategori olarak yasaklanmasını savunmadık ve savunmuyoruz. Bunun yerine, güçlü çipleri otoriter ellerden uzak tutmaya, endüstriyel ölçekte damıtmayı durdurmaya ve yeterince yetenekli, açık ve kapalı tüm modellerin güvenlik testlerini zorunlu kılmaya odaklanmalıyız.
*Düzenleme 28 Temmuz: Modüler eğitim stratejileri üzerine bahsedilen araştırmanın Anthropic ve AE Studio arasındaki bir işbirliği olduğunu belirtmek için güncellendi.