Yapay zekâ araştırma şirketi Anthropic, yeni modellerini eğitmek ve geliştirmek için kendi yapay zekâ sistemlerinden yararlanarak ilerleme hızını geçen yıla kıyasla yaklaşık iki katına çıkardı. Güvenlik ve tehdit değerlendirme kuruluşu METR (Model Evaluation and Threat Research) tarafından yürütülen 11 haftalık bağımsız inceleme, şirketin son bir yılda geçmişteki iki yıllık ilerlemeye denk bir sıçrama kaydettiğini ortaya koydu.
Kendi kendini geliştiren modeller ve üretkenlik artışı
METR'ın yayımladığı 100 sayfalık raporda, Anthropic içerisindeki geliştirme hızındaki artışın yalnızca bilgi işlem gücünün artırılmasından kaynaklanmadığı belirtildi. Araştırmacılara göre bu hızlanmanın yaklaşık yüzde 80'lik bölümü, yapay zekânın araştırmacılara sağladığı doğrudan destekten ileri geliyor. Şirket içi anketlerde çalışanlar, en gelişmiş dâhili yapay zekâ modelini kullandıklarında işlerini yapay zekâ desteği olmadan yapmaya kıyasla 12 kat daha üretken olduklarını bildirdi. Bu oran, birkaç ay önce kullanılan Mythos 5 modelinde bildirilen verimlilik artışının yaklaşık iki katına denk geliyor.
Araştırma sürecinde Anthropic'in son altı ayda eğitimini tamamladığı ancak henüz kamuoyuna sunmadığı üç yeni model tespit edildi. Şirket içinde Model 2, Model 3 ve Model 4 geçici kod adlarıyla anılan bu sistemler sırasıyla Temmuz, Ağustos-Eylül ve Eylül-Ekim dönemlerinde tamamlandı. Modeller arasında en yeteneklisi olarak nitelendirilen Model 4, 15 ayrı yetenek kıyaslama testinin tamamında yüzde 50 eşiğini aşan ilk model oldu.
Rapordaki sansürler ve güvenlik tartışmaları
Anthropic'in raporun kamuya açık sürümünde geniş kapsamlı karartmalar yapması yapay zekâ güvenliği çevrelerinde tepki topladı. METR, şirketin ticari gizlilik gerekçesiyle en bilgilendirici kanıtların büyük bir kısmını rapordan çıkarttığını duyurdu. Anthropic kurucu ortağı Sam McCandlish, X üzerinden yaptığı açıklamada, hızlanmayı sağlayan teknik detayların paylaşılmasının rakiplere yol haritası sunacağı gerekçesiyle bu kararı aldıklarını ve bunun doğru bir tercih olduğunu savundu.
Buna karşılık Apollo Research CEO'su Marius Hobbhahn ve eski OpenAI araştırmacısı Daniel Kokotajlo, Anthropic'in bir yandan halka arz hazırlığı yapıp yavaşlama çağrısında bulunurken diğer yandan süreci hızlandırmasını eleştirdi. New York Eyalet Meclisi Üyesi Alex Bores ise yinelemeli öz gelişim (RSI - yapay zekânın insan müdahalesi olmadan kendi ardıllarını geliştirmesi) süreçlerinin yasal olarak sınırlandırılması çağrısında bulundu.
Merak edilenler
Anthropic geliştirme sürecinde hangi modelleri kullandı? Şirket araştırmacıları kamuya açıklanmayan Model 2, Model 3 ve Model 4 kod adlı dâhili modellerden ve önceki sürüm Mythos 5'ten yararlandı.
METR incelemesi ne kadar sürdü? Bağımsız güvenlik kuruluşu METR, şirket bünyesinde 12 Ağustos ile 29 Ekim tarihleri arasında 11 haftalık bir değerlendirme yürüttü.