Anthropic, bağımsız değerlendiricilerin şirket içinde çalıştığı bir denetim modelini hayata geçirmeye başladı. Şirketin açıklamasına göre altı METR çalışanına şirket bilgisayarı, ofis alanı ve iç araçlarla sistemlere erişim verildi; bu erişim, Anthropic'in kendi risk değerlendirme ekiplerinin erişimine yakın düzeyde. METR, sınır yapay zekâ modellerini test eden kâr amacı gütmeyen bir kuruluş. Anthropic çalışanları, METR ekibiyle hizalama riski üzerinde çalışan bir iş arkadaşıyla paylaşacakları gibi bilgi paylaşmaya teşvik ediliyor; bu yöntemle denetçiler incelemelerinde gerekli bilgiye doğrudan ulaşabilecekler.
METR'nin rolü ve güvenlik bağlamı
Anthropic, son bir yılda METR ile risk raporlarına ilişkin birkaç inceleme yaptığını belirtiyor. Şirkete göre modeller güçlendikçe daha sıkı önlemler ve daha zorlu risk değerlendirmeleri gerekiyor. TechCrunch'ın aktardığına göre Ağustos sonundan bu yana bir ya da iki haftada bir, yapay zekâ ajanlarının talimatlarının dışına çıktığı olaylar kamuoyuna açıklanıyor ve bu olaylar yapay zekâ şirketlerinin bağımsız olarak denetlenmesi çağrılarını güçlendirdi. Anthropic'e yerleşen ekibin çalışmaları, METR'nin diğer çalışanlarından ayrı tutuluyor.
Denetim modelinin yapısı
Anthropic, düzenlemeyi bankacılık denetimine benzetiyor. Şirketin açıklamasına göre bankalar kendi risklerini dışarıdakilerden daha iyi bildiği için düzenleyiciler en büyük bankaların içine yerleşik denetçiler görevlendiriyor; Anthropic, benzetmenin birebir olmadığını da ekliyor. Şirket, değerlendiricilerin bağımsız sayılabilmesi için denetledikleri şirkette hisse sahibi olmamaları ve o şirkete mali ya da operasyonel olarak bağımlı olmamaları gerektiğini belirtiyor. Anthropic, bağımsız değerlendiriciler için üç düzey tanımlıyor: ilk düzeydekiler bulgularını şirketin onayıyla, ikinci düzeydekiler onay almadan yayımlayabiliyor. METR'nin bulunduğu üçüncü düzey ise çalışana benzer erişim ve ikinci düzeye benzer yayın hakları içeriyor.
Yayınlama özgürlüğü ve bilgiye erişim kısıtlamaları
METR, Anthropic'in risk düzeyleri, olayları ve uygulamalarına ilişkin analizini yayımlayacak. Anthropic yayını veto edemiyor; yalnızca önceden tanımlanmış dar kategorilerdeki bilgilerin karartılmasını isteyebiliyor. Bunlar müşteri verileri, avukat-müvekkil gizliliği kapsamındaki bilgiler ve model mimarisi ayrıntıları. Bu kategoriler dışında çalışanlar bilgi paylaşmaya teşvik ediliyor. METR, karartmaları kamuoyu önünde değerlendirip haklı olup olmadıklarını söyleyebiliyor; ancak bunu karartılan bilgiyi açıklamadan yapması gerekiyor. Anthropic, model mimarisi bilgisi konuyla çok ilgili olduğunda bunu genellikle paylaşmaya çalışacağını, ancak bunun açık iç onay gerektireceğini belirtiyor.
Sektör genelinde taahhüt
Anthropic, şirketlerin bağımsız dış denetçiler ya da değerlendiricilerle çalışmayı taahhüt ettiği Beyaz Saray Süper Zekâ Mutabakatı'nı da imzaladı. TechCrunch'a göre OpenAI de kısa süre sonra aynı taahhüdü verdi; iki şirketle birlikte Google, Meta, Nvidia ve xAI de bağımsız incelemeyi öngören mutabakatı imzaladı. TechCrunch, Anthropic CEO'su Dario Amodei'nin Eylül'deki makalesinde dış değerlendiricilerin yapay zekâ laboratuvarlarına yerleştirilmesini, teknolojinin gelişimini yavaşlatmanın ilk adımı olarak önerdiğini hatırlatıyor. Anthropic ise değerlendiricileri gönüllü olarak yerleştirdiğini ve her sınır yapay zekâ şirketinin aynısını yapması gerektiğine inandığını söylüyor. Şirkete göre bu, yapay zekâ sektörü için sağlam bir güvenlik denetimine doğru atılmış bir adım.
