Fable 5 'in biyoloji korumalarının iyileştirilmesi
Claude Fable 5'in biyoloji korumalarında, yanlış pozitifleri önemli ölçüde azaltacak şekilde güncellemeler yapıyoruz. Fable 5 kullanıcıları artık çok daha az "geri dönüş" yaşayacak; biyolojiyle ilgili bir sorgu yaptıktan sonra sistem daha az yetenekli bir modele geçecek. Testlerimizde bu güncelleme, ürün yüzeylerimizde biyolojiyle ilgili geri dönüşleri yaklaşık %85 oranında azalttı.1
Fable 5 böylece daha geniş bir yelpazedeki biyoloji görevlerine yardımcı olabilecektir.
Uygulamada kullanıcılar, laboratuvar sonuçlarını yorumlama, semptomları anlama ve eğitim bağlamında biyoloji hakkında bilgi edinme gibi günlük sağlık ve eğitim sorunlarına ilişkin çok daha az geri dönüş görecektir. Sağlık profesyonelleri Fable 5'ten klinik görevlerde daha fazla destek alabilecek.
Yapay zekanın dünyayı olumlu yönde etkilemesi için en büyük fırsatın biyoloji ve tıp alanında olduğuna inanıyoruz ve biyologlara sınır erişimi sağlamanın sorumlu bir yolunu oluşturmak için önemli yatırımlar yapıyoruz. Günümüzde Fable, viroloji, toksikoloji ve moleküler tasarım da dahil olmak üzere ikili kullanım olarak değerlendirdiğimiz talepler için hala Opus 5'e geri dönüyor, dolayısıyla profesyonel biyoloji araştırmaları ve ilaç geliştirme için henüz kullanılabilir değil. Sınır biyolojisi yeteneklerine yönelik güvenilir erişim yolları aracılığıyla bu açığı kapatmaya kararlıyız.
Neden güçlü biyoloji koruma önlemleri oluşturduk?
Amacımız, Fable 5'in sınır ötesi yeteneklerini mümkün olan en kısa sürede, mümkün olduğunca çok sayıda kullanıcımızın kullanımına sunmaktır. Ancak bunu yapabilmek için bu kadar yetenekli modellerin getirdiği artan riskleri yönetmemiz gerekiyor. Böyle bir risk biyoloji alanındadır: Fable 5 artık bazı son derece karmaşık biyolojik görevlerde uzmanlardan daha iyi performans gösterebilir ve diğerlerinde operasyonel destek sağlayabilir. Bu, yeni bir tıbbi tedavi geliştiren bir araştırmacıya gerçek bir yardım sağlayabileceği anlamına gelir (bu, hem sınıflandırıcı iyileştirmeleri hem de güvenilir erişim programları aracılığıyla modele erişimi genişletme konusunda bu kadar istekli olmamızın nedenidir). Ancak yanlış ellerde, aynı yetenekler kötü niyetli bir aktör tarafından, örneğin biyolojik bir silah geliştirilmesinde kullanılabilir. Yetenek değerlendirmelerimiz, Fable 5'in böyle bir aktöre önemli bir gelişme sağlayabileceğini, yani onlara başka hiçbir yerde bulamayacakları yetenekleri sağlayabileceğini gösteriyor.
Yapay zekanın biyolojideki yararlı ve zararlı kullanımlarını birbirinden ayırmak genellikle zordur. Örneğin, bazı durumlarda bir hastalığın tedavisini araştırmak, bilim adamlarının ilk etapta o hastalığa neden olan tehlikeli bileşikleri üretmesini gerektirir. Bu durum, bilim adamlarının önlemeyi amaçladıkları patojenin aynısını üretmesini gerektiren canlı aşılar için en belirgin olanıdır. Bazı ilaçlar için de durum böyledir. Hipertansiyonu tedavi eden kaptopril ilacını geliştirmek için bilim insanları yılan zehrinin insanlarda kan basıncını düşüren toksik bileşenlerini izole etti. Yapay zekanın sınırında yeni biyolojik yetenekler geliştikçe, bunların oluşturduğu yeni risklerin potansiyel bilimsel faydalarının önünde gerçekleşmemesini sağlamak için dikkatli olmamız gerekiyor.
Modellerimizi zarar vermek için kullanmak isteyen ileri görüşlü aktörler, tehlikeli görevleri sıradan araştırma uğraşları gibi göstererek, niyetlerini karartmak için bu belirsizlikten nasıl yararlanacaklarını biliyorlar. ABD İstihbarat Topluluğu'nun 2026 Yıllık Tehdit Değerlendirmesi, bu tür aktörlerin var olduğunu ve sentetik biyoloji ve genomik düzenleme de dahil olmak üzere biyoteknolojideki ilerlemelerin "yeni biyolojik tehditlere yol açabileceğini" açıkça ortaya koyuyor. Raporda, birçok devlet aktörünün muhtemelen aktif biyolojik ve kimyasal silah programlarını (sınırdaki yapay zeka modellerinin ham yeteneklerine erişimle hızlandırılabilecek programlar) sürdürdüğü belirtiliyor.
Bu "çift kullanımlı" yetenekler (faydalı veya zararlı amaçlarla kullanılabilecek ve aralarındaki çizgiyi çizmenin her zaman kolay olmadığı) hakkındaki endişelerimiz nedeniyle, Fable 5'i neredeyse tüm biyoloji sorguları engellenmiş olarak kasıtlı olarak başlattık. Bu, modeli diğer alanlardaki kullanıcıların kullanımına sunmamızı sağladı. Bunun meşru biyoloji kullanıcıları için sinir bozucu olacağını biliyorduk: yakın vadede çok sayıda hatalı pozitif sonuçla sonuçlanacak, biyolojiyle ilgili sorular soran kullanıcıların istekleri bloke edilecek ve daha az yetenekli bir modele gönderilecekti. Yine de bu ödün vermeyi seçtik çünkü Fable'ın biyoloji gibi çift kullanımlı bir alanda kötüye kullanılmasının maliyeti potansiyel olarak felaket olabilir.
Biyolojik korumalarımız nasıl çalışır?
Biyolojide kötüye kullanıma karşı korumamızın temel yollarından biri, güvenlik sınıflandırıcıları aracılığıyladır: Fable 5'ten korunan bir biyoloji görevi gerçekleştirmesi istendiğinde veya zararlı bir çıktı ürettiğinde bunu algılayan daha küçük, otomatik yapay zeka sistemleri (siber güvenlik alanındaki benzer sınıflandırıcılarımız hakkında daha önce yazmıştık).
Fable 5 durumunda, bir sınıflandırıcı tetiklendiğinde model, kullanıcının isteğini Fable 5 ile aynı seviyede biyolojik kapasiteye sahip olmayan ve kötü niyetli bir kullanıcıya o kadar fazla yardım sağlayamayan yetenekli bir model olan Opus 5'e yeniden yönlendirir. Bu, kullanıcıların istekleri engellendiğinde göreceği geri dönüştür.
Kesin ve sağlam sınıflandırıcılar geliştirmek basit bir iş değildir. Bir sınıflandırıcının hızlı ve tutarlı bir şekilde çalışabilmesi için, potansiyel olarak zararlı olduğunu düşündüğümüz konular ve sorgular için "kapsam içinde" ve "kapsam dışında" olarak değerlendirdiklerimiz arasındaki farkı öğrenmesi gerekir. Hem yanlış pozitiflerden (sınıflandırıcıların kapsam dışı içeriğe ateş ettiği durumlarda) hem de yanlış negatiflerden (kapsam içi içeriğin gözden kaçırıldığı durumlarda) kaçınarak sınıflandırıcıları ayarlamak zaman ve yineleme gerektirir. Ayrıca, sınıflandırıcılarımızın bunları aşma girişimlerine (jailbreak olarak bilinir) karşı dayanıklı olmasını da istiyoruz; bu da daha fazla araştırma ve test gerektirir.
Çok geniş bir biyoloji sınıflandırıcıyla başlamak, kullanıcılarımıza Fable 5'e erişim izni verebilmemiz ve onu geliştirmeyi amaçlayan araştırmamıza devam edebilmemiz anlamına geliyordu. Alternatif olarak (koruma önlemlerinde daha fazla ilerleme kaydedilene kadar modeli ertelemek) modelin genel erişimini ve kullanıcılarımıza sağlayacağı potansiyel faydaları haftalar veya aylarca geciktirebilirdi.
Geçtiğimiz birkaç hafta boyunca, zararsız kullanımları ayrıntılı bir şekilde ortaya çıkarmaya özen göstererek, sınıflandırıcının yapısını (modelin korunan ve izin verilen içerik arasında ayrım yapmasına yardımcı olacak bir kurallar koleksiyonundan oluşan) dikkatlice yeniden yazdık. Çeşitli uzmanlardan (Anthropic'in hem iç hem de dış) değişikliklerle ilgili geri bildirimlerini aldık. Daha sonra bu yapıya dayalı olarak sınıflandırıcı için güncellenmiş eğitim verileri geliştirdik, onu yeniden eğittik ve yeni sınıflandırıcının genel olarak zararlı ve çift kullanımlı araştırma biyolojisi içeriğini tetikleyeceğini ancak artık daha geniş bir yelpazede iyi huylu ve faydalı kullanımlara olanak sağlayacağını doğruladık.
Aşağıdaki şemada gösterildiği gibi, bu güncellemeler, Fable 5'in piyasaya sürülmesiyle karşılaştırıldığında, sınıflandırıcının biyolojiyle ilgili daha az sayıda iyi niyetli isteği tetikleyeceği anlamına geliyordu.
Sonuçlar
Koruma önlemlerimizi iyileştirmek için hâlâ yapılacak çok şey var. Kaçınılmaz olarak yanlış pozitifler (talebin çok düşük riskli olduğu ancak sınıflandırıcının hala ateşlendiği sınıflandırıcının güvenlik marjı dahilinde kalan istekler) kalacaktır. Yukarıda belirttiğimiz gibi Fable, potansiyel çift kullanım riski nedeniyle çift kullanımlı profesyonel biyoloji ve ilaç geliştirme sorgularını engellemeye devam edecektir. Araştırmacıların en yetenekli modellerimizi güvenilir erişim yolları aracılığıyla kullanmaları için güvenli, ölçeklenebilir bir yol geliştirmeye kendimizi tamamen adadık.
Korumalarımızı daha da geliştirebilmemiz için geri bildirimlerinizi bizimle paylaşmaya devam edeceğinizi umuyoruz.