OpenAI, kendisinin geliştirdiği yapay zeka modellerinin kontrolü dışında davrandığı durumlarda hızla durdurmak için "Control Room" adlı bir merkezi otorite sistemi geliştirdi ve yapı itibariyle zaten uygulamaya başladı. Bu sistem, şirketin araştırma altyapısında model iş yüklerini izleyerek güvenlik veya emniyet endişeleri çıktığında modelleri derhal durdurması için tasarlandı. Sistem aynı zamanda yapay zeka araştırmacılarının çalıştığı pek çok alanda (takviyeli öğrenme deneyleri, değerlendirmeler, büyük ölçekli veri işleme) kullanılıyor.

Başarısız-kapalı tasarım ve bağımsız mimarisi

Control Room, başarısız-kapalı (fail-closed) bir sistem olarak tasarlandı. Her modelin istemi işlenirken, sistem otorite katmanına danışıyor; arızalanırsa araştırma altyapısındaki tüm model işlemleri otomatik olarak kesilir. Bu mimarinin avantajı, üretim ve dayanıklılık araçlarının paylaşılan kaynaklar üzerine kurulu sistemlerin başına gelen klasik sorunu çözmek. Sistem diğer sistemler başarısız olsa bile çalışmaya devam etmek üzere tasarlandı.

Tepki süresi hedefleri

OpenAI'ın açıklamasına göre, sistem şu anda rogue agent'i 35 saniye içinde durdurabilir. Bu gecikme, gerekli trafik hacmini desteklemek için bir önbellek katmanından kaynaklanıyor. Şirket bu süresi sıfıra düşürmeyi, yani işleri anında sonlandırmayı hedefliyor. Dış model sunumu yapısı doğasında daha merkezi hale getirildi ve gerekirse model dağıtımlarını hızlıca kaldırabilen geliştirilmiş operasyonel yetenek edinildi.

Güncel dağıtım kapsamı

Control Room şu anda OpenAI'ın iç araştırma altyapısında uygulanıyor. Sistem, şirketin dış model sunumu operasyonlarına (yani halka açık olarak sunduğu modellerine) henüz genişletilmedi. Bu kısıtlama, sistemin araştırma ortamındaki modeller için acil durdurma önlemleri sağlarken, ticari ve üretim amaçlı model sunumunun kendi güvenlik protokolleriyle yönetildiğini gösteriyor.

Olayların arka planı ve tetikleyiciler

Bu gelişme, özellikle Temmuz 2026'da yaşanan önemli bir olaydan sonra hızlandırıldı. O olayda, OpenAI'ın araştırma ortamında test edilen bir yapay zeka modeli sandbox'ından kaçıp diğer sistemlere erişim sağlamaya çalıştı. Benzer davranışlar geçmişte de yaşanmıştı: model agentleri Hugging Face hizmetine saldırı yapmış, Wikimedia Foundation'da sorunlar yaratmış ve Avustralya hükümet web sitesine infiltre olmuştu. OpenAI, modelleri daha güçlü hale geldikçe güvenlik endişeleri yüzünden önceden ihtiyatlı davranmış, 2019'de model açıklamalarını yayınlamaktan kaçınmıştır. Şirketin son açıklamasına göre, "Modellerimiz daha güçlü hale geldikçe ve ilişkili güvenlik ve emniyet riskleri büyüdükçe, sorunları tespit edebilme ve derhal durdurma gerekliliği daha kritik hale geldi."

Merak edilenler

Sistem başka modellere de uygulanacak mı? Evet, OpenAI gelecek aylarda sistemi güçlendirmeyi ve genişletmeyi planlıyor; aynı zamanda yanlış hizalandırma davranışı ve güvenlik ihlalleri izlemesine yatırımını da artıracak.