Hindistan Bilgisayar Acil Müdahale Ekibi (CERT-In), test edilen bazı yapay zekâ modellerinin ülkedeki şirketlerin canlı sistemlerinde kendilerine tanımlanan görev ve yetki sınırlarını aşarak gizli verilere eriştiğini açıkladı.
Kurumun aktardığına göre bazı yapay zekâ sağlayıcıları, ajanlarının şirket sistemlerine izinsiz biçimde ulaştığını ve ticari kayıtlar dahil gizli verileri okuduğunu gönüllü olarak bildirdi. CERT-In, olaylardan etkilenen şirketlerin ve yapay zekâ sağlayıcılarının isimlerini açıklamadı.
Kurum etkilenen şirketlerin hiçbirinin zinsiz erişimleri kendi güvenlik sistemleriyle tespit edemediğini söyledi. İhlaller, yapay zekâ şirketlerinin kendi kontrolleri sırasında fark edilerek bildirildi.
Yapay zekâ ajanları görev sınırlarını aştı
CERT-In’in açıklaması, yapay zekâ modellerinin gerçek sistemlere erişim sağlanan testlerde yalnızca kendilerine verilen görevin sonucunu üretmekle kalmayıp, beklenmeyen işlemler de yapabildiğini ortaya koydu.
Kurumun değerlendirmesine göre bu tür testlerde yalnızca nihai çıktının değil, ajanların sistem içinde hangi adımları attığının da sürekli takip edilmesi gerekiyor.
Hindistan’daki vakalar, başka ülkelerde bildirilen benzer yapay zekâ güvenliği olaylarının ardından geldi.
OpenAI, temmuz ayında bazı modellerinin test sırasında kendilerine verilen sınırların dışına çıkarak bir girişimin sistemlerine eriştiğini açıklamıştı. Şirket ayrıca kontrol dışına çıkan bir yapay zekâ ajanının Avustralya hükümetine ait bir internet sitesine izinsiz erişmesi nedeniyle özür dilemişti.
Anthropic de bu yıl yapay zekâ modellerinin harici sistemlere izinsiz eriştiği en az dört vaka bildirdi.
Saldırganlar ücretsiz yapay zekâ araçlarını da kullanıyor
CERT-In, yapay zekâ şirketlerinin bildirdiği vakaların dışında kendi soruşturmalarında da yapay zekâ destekli saldırılar tespit ettiğini açıkladı.
Kurumun bulgularına göre bazı saldırganlar, ücretsiz erişilebilen yapay zekâ araçlarını Hindistan’daki sistemleri taramak ve mali kazanç amacıyla izinsiz erişim sağlamak için kullandı.
Aynı araçların birden fazla ülkedeki altyapılarda da yaygın biçimde kullanıldığı belirtildi.
Saldırılar artık çok daha hızlı ilerliyor
CERT-In, yapay zekâ destekli siber saldırıların hızının da arttığına dikkat çekti. Kurumun açıklamasına göre daha önce ilk erişimden nihai zarara kadar günler sürebilen saldırı süreçleri artık birkaç saate kadar inebiliyor.
İlk saldırının ardından sistemlerini tamamen temizleyemeyen bazı kuruluşların ise birkaç gün içinde daha kapsamlı yeni saldırılarla karşı karşıya kaldığı belirtildi. Bu nedenle güvenlik ekiplerinin saldırıları tespit etme ve müdahale etme süresinin daha kritik hale geldiği vurgulandı.
Canlı sistemlerde yapay zekâ testi için daha sıkı önlem çağrısı
CERT-In’in açıklaması, yapay zekâ ajanlarının gerçek şirket sistemlerine eriştiği testlerde ek güvenlik önlemlerine ihtiyaç olduğunu ortaya koydu.
Test ortamlarının canlı sistemlerden ayrılması, ajanların erişim izinlerinin görev kapsamıyla sınırlandırılması ve hassas verilerin ek koruma altında tutulması önerilen önlemler arasında yer aldı.
Kurum ayrıca şirketlerin yalnızca yapay zekâ sağlayıcılarının yaptığı bildirimlere güvenmemesi gerektiğini belirtti.
Sürekli güvenlik takibi, izinsiz erişim uyarıları ve olay sonrasında sistemlerin kapsamlı biçimde kontrol edilmesi, yeni ihlallerin erken fark edilmesi açısından öne çıkan önlemler arasında sıralandı.
( AA )
