Booz Allen Hamilton tarafından gerçekleştirilen güvenlik testleri, gelişmiş yapay zekâ modellerinin endüstriyel kontrol sistemlerindeki açıkları belirleyerek fiziksel ekipmanları etkileyebilecek saldırılar gerçekleştirebildiğini ortaya koydu. Şirketin sekiz farklı senaryoda yürüttüğü deneylerde modeller, insan onayıyla işlem yapmaları koşuluyla belirlenen hedeflerin tamamına ulaştı; bir testte robot kolunu birkaç dakika içinde hareket ettirdi. Araştırmacılar, su, elektrik ve üretim gibi kritik hizmetleri tehdit edebilecek saldırılara karşı kuruluşların savunma hazırlıklarını hızlandırması gerektiğini belirtti.
Yapay Zekâ Modelleri Sekiz Saldırı Senaryosunun Tamamında Başarılı Oldu
Booz Allen Hamilton’ın operasyonel teknoloji (OT) laboratuvarında yürüttüğü çalışma, gelişmiş yapay zekâ modellerinin endüstriyel ortamlarda ne ölçüde bağımsız hareket edebildiğini incelemeyi amaçladı. Şirket, test edilen modellerin isimlerini açıklamadı; sistemleri önde gelen yapay zekâ sağlayıcılarının en yeni gelişmiş modelleri olarak tanımladı.
Araştırmacılar, farklı üreticilerin donanım ve yazılımlarını bir araya getirerek genel bir üretim tesisini taklit eden test ortamı oluşturdu. Laboratuvarda programlanabilir mantıksal denetleyiciler (PLC), insan-makine arayüzleri (HMI), denetleyici kontrol ve veri toplama sistemi (SCADA), sensörler, değişken frekanslı sürücüler ve robotik ekipmanlar yer aldı. Kurumsal ağ, endüstriyel ara bölge, tesis operasyonları ve üretim alanları ayrı ağ katmanlarına bölündü.
Testlerde yapay zekâ modellerinden ağ yapısını haritalandırmaları, kritik ekipmanları belirlemeleri, güvenlik açıklarını bulmaları ve farklı zafiyetleri birleştirerek üretim sistemlerine erişmeleri istendi. Deneyler ayrıca modellerin denetleyicilere komut göndermesini, elektrik motorlarının çalışma hızını değiştirmesini, SCADA sistemlerini ele geçirmesini ve robot kolunu hareket ettirmesini kapsadı.
Booz Allen Hamilton’ın raporuna göre modeller sekiz senaryonun tamamında hedeflerine ulaştı. Araştırmacılar, deney ortamında gerçek sistemlere benzer ağ yapılandırmaları kullandı ancak modellere kaynak kodu, mühendislik belgeleri veya gelişmiş OT ve BT rehberliği vermedi. Testlerde fiziksel sonuç doğurabilecek işlemler için insan onayı şartı da uygulandı.
Operasyonel teknoloji sistemleri, fabrikalardaki üretim süreçlerini, enerji ekipmanlarını ve fiziksel makineleri kontrol eden donanım ve yazılımları kapsıyor. Geleneksel bilgi teknolojilerinden farklı olarak OT sistemlerindeki bir güvenlik ihlali, yalnızca veri kaybına yol açmayabilir; üretim hatlarının durmasına veya ekipmanların beklenmedik biçimde çalışmasına da neden olabilir.
Booz Allen Hamilton’ın testleri, yapay zekâ ajanlarının farklı üreticilere ait endüstriyel cihazları tanıyabildiğini ve kontrol sistemleriyle etkileşim kurabildiğini gösterdi. Rapora göre modeller, bazı ağ yapılandırma hatalarını belirleyerek bir sistemdeki erişimi başka cihazlara ilerlemek için kullanabildi. Bir SCADA senaryosunda ajanlar ilk saldırı yolunun başarısız olması üzerine planlarını değiştirdi, operatör arayüzünün farklı sürümünü belirledi ve yönetim arayüzü üzerinden ekranları etkileyen bir yöntem geliştirdi.
Aynı testte SCADA ağ geçidinin, önceden kimlik doğrulaması yapılmış bağlantılar üzerinden 14 operasyonel teknoloji cihazına erişim sağladığı belirlendi. Araştırmacılara göre tek bir sistemdeki güvenlik sorunu, ağ içindeki diğer denetleyicilere uzanan daha geniş bir risk oluşturabiliyor.
Raporda ayrıca bazı endüstriyel protokollerde kimlik doğrulama ve şifreleme eksikliklerinin saldırganların işini kolaylaştırabileceği vurgulandı. Uzun süredir kullanılan özel donanımların ve karmaşık kontrol ortamlarının artık tek başına yeterli koruma sağlamadığı belirtildi. Yapay zekâ ajanlarının teknik ayrıntıları araştırabilmesi, endüstriyel sistemler konusunda uzman olmayan saldırganların da güvenlik açıklarından yararlanma riskini artırıyor.
Araştırmacılar, test ortamında hafif yüklerle çalışmak üzere tasarlanmış iş birlikçi bir robot kolu kullandı. Bu tür robotlar üretim, montaj, lojistik, paketleme ve laboratuvar uygulamalarında yer alabiliyor. Geleneksel endüstriyel robotlardan farklı olarak bazı iş birlikçi modeller, koruyucu güvenlik kafesi olmadan çalışacak şekilde tasarlanıyor.
Booz Allen Hamilton’ın açıklamasına göre yapay zekâ ajanı, ağ üzerinde robotik iletişim protokollerini araştırdı, hedef cihazı belirledi, uygulama arayüzünü keşfetti ve yönetici erişimi elde etti. Ajan ayrıca robotun koruma bölgelerini ve hareket sınırlarını inceledikten sonra kolu birkaç dakika içinde hareket ettirdi.
Araştırmacılar, robotun kimlik doğrulaması olmadan hareket komutlarını kabul edip etmediğini de değerlendirdi. İlk yöntem başarısız olsaydı ajan, web arayüzü üzerinden sisteme girme ve denetleyiciye kod çalıştırma gibi alternatif yolları belirlemişti.
Booz Allen Hamilton altyapı siber güvenliği başkan yardımcısı Kyle Miller, üretimde kullanılan bir robot kolunun kontrolünün ele geçirilmesinin beklenmedik hareketlere, güvenlik sınırlarının aşılmasına ve yakındaki ekipmanların zarar görmesine yol açabileceğini söyledi. Miller, olası sonuçların mekanik hasar ve üretim kesintisinden doğrudan insan güvenliğini ilgilendiren risklere kadar uzanabileceğini belirtti.
Booz Allen Hamilton’ın araştırması, yapay zekâ modellerinin dış sistemlere yetkisiz erişim sağladığı gerçek olayların ardından yayımlandı. Raporda ayrıca Güney Kore’deki finans kuruluşlarını ve Tayvan’daki kamu kurumlarını hedef aldığı öne sürülen yapay zekâ destekli saldırılara değinildi. ABD’deki su, üretim ve enerji tesislerinde internete açık programlanabilir mantıksal denetleyicilerin yapay zekâ tarafından oluşturulan istismar kodlarıyla hedef alındığına ilişkin bildirimler de güvenlik tartışmalarının kapsamını genişletti.
OpenAI, Anthropic ve Google gibi şirketler, kritik altyapı işletmecilerinin gelişmiş yapay zekâ modellerinden savunma amacıyla yararlanmasına yönelik girişimler duyurdu. Ancak güvenlik uzmanlarına göre savunma sistemlerinin bu gelişmelere uyum sağlaması gerekiyor.
Miller, endüstriyel ağların güvenlik olgunluğunun sektörler arasında önemli ölçüde değiştiğini, bazı kuruluşların temel güvenlik önlemlerini uygulamakta zorlandığını belirtti. Özellikle farklı üreticilere ait cihazların kullanıldığı, ağların birbirinden yeterince ayrılmadığı ve eski sistemlerin çalışmaya devam ettiği tesisler daha fazla riskle karşılaşabiliyor.
Booz Allen Hamilton’ın bulguları, kritik altyapı güvenliğinin yalnızca yeni tehdit algılama araçlarıyla sağlanamayacağını gösteriyor. Kuruluşların ağ segmentasyonunu güçlendirmesi, erişim denetimlerini sıkılaştırması, varsayılan parolaları değiştirmesi ve endüstriyel cihazları düzenli olarak denetlemesi gerekiyor. Yapay zekâ ajanlarının saldırı süreçlerini hızlandırması karşısında güvenlik ekiplerinin olayları tespit etme ve müdahale etme süresini kısaltması da önem taşıyor.
