Amerikan askeri danışmanlık şirketi Booz Allen Hamilton, yapay zekanın kritik altyapıya ne kadar hızlı saldırabileceğini test etti. Sonuçlar endüşe verici: otonom AI ajanları elektrik şebekesi, su tesisi ve fabrika kontrol sistemlerine sekiz farklı senaryoda başarılı saldırılar gerçekleştirebildi. Yapılan testlerde yapay zeka modelleri hiçbir kaynak kod, mühendislik dökümanı ya da özel rehberlik almadı; sadece kendi öğrenme yetenekleriyle sistemleri analiz etti.
Test Ortamı ve Metodoloji
Booz Allen'ın operasyonel teknoloji (OT) laboratuvarında genel bir üretim tesisini model alan ortam kuruldu. Ağ; kurumsal, endüstriyel DMZ, tesis operasyonları ve üretim bölgelerine ayrılmıştı. Ortamda programlanabilir mantık denetleyicileri (PLC'ler), insan-makine arayüzleri (HMI'lar), SCADA sistemleri, frekans sürücüleri (VFD), işbirlikçi robot kollar ve sensörler bulunuyordu. Güvenlik duvarları ve switch'ler ağ yollarını tanımlıyordu. Önemlisi, yapay zeka ajanlarından kritik cihazlara yaramayacak herhangi bir eylemden ve güvenlik açıklarını sömürmeden önce insan onayı istendi.
Sekiz Test Senaryosu: Yapay Zeka Neler Yapabildi?
Testlerde AI ajanları şu görevlerin tamamını başardı: Ortamı haritalamak ve kritik varlıkları belirlemek, güvenlik açıklarını taramak, bulunabilir erişim yollarını oluşturmak, birden fazla zayıflığı birleştirerek üretim sistemlerine geçmek, kontrolcüleri manipüle etmek ve cıkışları zorlamak, AC motorların frekansını ve hızını değiştirmek, SCADA sistemlerini ele geçirerek operatör ekranlarını kontrolü altına almak ve son olarak robot kolları keşfedip harekete geçirmek.
En çarpıcı bulgu, elektrik denetleme cihazında kimlik doğrulamasız 14 OT cihazına canlı bağlantılar olduğunun keşfedilmesidir. Tek bir SCADA sistemini ele geçirmek demek, zincirdeki 14 diğer cihaza da erişim anlamına geliyordu. Yapay zeka ajanları, ilk girişimi başarısız gördükten sonra stratejisini değiştirdi: aktif oturumları kontrol ederek düzenlenebilir kod buldu, payload'ı yeniden oluşturdu ve başarıyla tüm arayüzü ele geçirdi.
Robot Kol Testinin Detayları
Kullanılan hafif işbirlikçi robot kolu güvenlik kafesi olmadan çalışabiliyordu. Yapay zeka ajanları robot kollarının çalışma mantığını, satıcıların varsayılan kimlik bilgilerini dakikalar içinde öğrendi. Bir ajan robotu tanımlayıp API'sini keşfetti, yönetici erişimi kazandı, koruma bölgelerini ve hareket sınırlarını haritaladı ve sonra kolu dakikalar içinde hareket ettirdi. Ajanlar alternativ yolları da sınadı: hareket komutlarını doğrulamayan sistemlerden yararlanmak ve web arayüzü üzerinden kontrolöre doğrudan kod çalıştırmak gibi.
Dış kenardan başlayan bir AI ajan, tüm fabrika ağından geçerek endüstriyel kontrol bölgesine 16 dakika içinde sızabildi. Saldırılar tamamiyle "makine hızında" gerçekleşti; savunmacıların müdahale etmeleri için sadece dakikaları vardı.
Gerçek Dünya Tehditleri Artıyor
Raporun bulguları teorik değil. Booz Allen'ın araştırması yayınlanmadan önce birkaç aylık dönemde gerçek saldırılar kaydedildi: İranlı saldırganlar, yapay zeka yazılan ve otomatikleştirilen betikleri kullanarak ABD'deki su, enerji ve üretim tesislerinin internete açık PLC'lerini hedef aldı. Benzer şekilde, Çin kökenli operatörlerin yapay zeka ajanlarıyla Güney Kore finans kurumlarını ve Tayvan hükümet sitelerini saldırı altına aldığı bildirildi. Hugging Face gibi platformlarda yetkisiz erişim olayları da şüpheli yapay zeka modellerine işaret ediyor.
Savunma Boşluğu Hızla Daralmış Oluyor
OpenAI, Anthropic ve Google, kritik altyapı işletmecilerine gelişmiş AI modellerine erişim sağlayan programlar başlattı. OpenAI, 1 milyar dolarlık AI kredisi taahhütü vererek kamu sektörünü destekleme kararı aldı. Buna rağmen, Booz Allen'ın raporunda ciddi bir uyarı var: OT güvenlik olgunluğu sektörlere göre büyük farklılık gösteriyor ve birçok kuruluş silolu, dağınık ortamlarda kontrol uygulamakta zorlanıyor. Booz Allen'ın Kyle Miller'ın sözleriyle "Bazı OT kuruluşları hazırlı durumda, ama çoğu değil."
Rapor, yapay zeka tehditine karşı daha geniş ölçekte test, geliştirme ve OT ağlarında siber savunma uygulamalarının yaygınlaştırılmasını istiyor. Sorun şu: OT cihazlarının büyük çoğunluğu yeterince eski tasarımlarla yapılmış ve pek çoğunda kimlik doğrulama ya da şifreleme yok. Bunlar, daha az yetenekli saldırganların bile fiziksel kesinti yaratabileceği anlamına geliyor.