Gömülü değerlendirme konusunda Accenture ile ortaklık
Son dönemdeki Anthropic'e değerlendirici yerleştirme taahhüdümüzün bir parçası olarak sınır yapay zekanın bağımsız değerlendirilmesi konusunda Accenture ile ortaklık yapıyoruz. Hem biz hem de Accenture önümüzdeki beş yıl içinde bu alanda kapasite oluşturmak için en az 1 milyar dolar yatırım yapmayı bekliyoruz.
Sınır yapay zekasının bağımsız değerlendirilmesi konusunda Accenture ile ortaklık yapıyoruz. Bu, CEO'muzun "Sınırlara Hız Vermeliyiz" makalesinde değerlendiricileri Anthropic'e yerleştirme taahhüdüne doğru atılmış önemli bir adımdır.
Ortaklık, Accenture'un uzman yapay zeka birimi olan Fakülte tarafından yönetilecek ve modellerin değerlendirilmesi ve yeniden gruplandırılmasını, uyum değerlendirmelerinin yürütülmesini ve model korumalarının test edilmesini içerecek. Accenture, işletmelerin ve hükümetlerin yapay zekayı birçok sektörde kullanmasına yardımcı oluyor. İşletmelerin yapay zekayı pratikte nasıl kullandıklarına dair anlayışları güvenlik yaklaşımlarını şekillendiriyor ve modellerimizin değerlendirilmesine bu perspektifi getirecekler.
Anthropic ve Accenture, önümüzdeki beş yıl içinde bu alanda kapasite oluşturmak için en az 1 milyar dolar yatırım yapmayı planlıyor.
Gömülü değerlendirme yenidir ve nasıl çalışacağına ilişkin ayrıntıların çoğu hala üzerinde çalışılmaktadır. Günümüzün dış değerlendiricilerinin aksine, yerleşik değerlendiriciler yapay zeka şirketlerinde bir çalışanın erişimine benzer erişimle çalışacak. Bu erişim, modellerin eğitimde şekillenmesini izlemelerine, bu modellerin nasıl oluşturulduğunu ve dağıtıldığını belirleyen kararları takip etmelerine ve doğrudan çalışanlarla konuşmalarına olanak tanıyor. Bu bakış açısından, gömülü değerlendiriciler bir şirketin nasıl çalıştığını değerlendirebilir, güvenlik taahhütlerini yerine getirdiğini doğrulayabilir ve kör noktaları belirleyebilir. Ayrıca olayları rapor edebilir ve kamuoyuna faydalar ve riskler konusunda daha bilinçli bir açıklama sunabilirler.
Açık olmak gerekirse, bağımsız yerleşik değerlendiriciler hesap verebilirliğimizi azaltmaz, ancak bunu daha doğrulanabilir hale getirmeye yardımcı olur. Modellerimizin güvenliği bizim sorumluluğumuzdadır.
Henüz, gömülü değerlendiricilerin hangi bilgilere erişmesi gerektiği veya bulduklarını nasıl raporlamaları gerektiği konusunda herhangi bir standart yoktur. Bağımsız değerlendirmenin finansmanına ilişkin yerleşik bir sistem de mevcut değildir. Uzun vadede, Haziran ayındaki Gelişmiş Yapay Zeka Çerçevemizde çağrıda bulunduğumuz gibi finansmanın havuzdan veya hükümet kaynaklarından gelmesi gerektiğini düşünüyoruz. Bugün ikisi de mevcut olmadığından, farklı finansman düzenlemeleri kapsamında farklı değerlendiricilerle çalışmayı planlıyoruz.
Bu çalışmanın önemi ve aciliyeti göz önüne alındığında Anthropic, Accenture'un çalışmasını doğrudan finanse edecek. Ayrıca METR ve diğer kâr amacı gütmeyen değerlendiricilerle, kendi fonlarını kullanarak yerleşik değerlendirmenin pilot unsurlarını oluşturmak için diyalog halindeyiz. Sonuçta, ileri düzey yapay zekanın, ortak standartlarla çalışan bir değerlendirici ekosistemine ihtiyacı olduğuna inanıyoruz.
Sınır laboratuvarlarının aynı anda birden fazla kuruluşla çalışmasını bekliyoruz. Ortaklığımız münhasır değildir; Anthropic önümüzdeki haftalarda açıklanacak diğer değerlendiricilerle çalışacak ve Accenture da benzer kapasitedeki diğer yapay zeka geliştiricileriyle çalışacak.
Sınır modellerini eğitmeye ve yayınlamaya devam edeceğiz ve bizim gibi bağımsız değerlendiricilerin de bizimle birlikte çalışmasını istiyoruz. İnsanların ve diğer yapay zeka geliştiricilerinin sürecimizi görebilmesi için bu ilk çabaları şimdi paylaşıyoruz. Alan olgunlaştıkça yaklaşımımızın da gelişmesini bekliyoruz ve çalışmalarımız başladıkça ve ek değerlendiriciler getirdikçe daha fazlasını paylaşacağız.