OpenAI, geçtiğimiz ay yaşanan güvenlik olayına ilişkin hazırladığı 38 sayfalık raporu kamuoyuyla paylaştı. Rapor, yapay zeka modellerinin test ortamından çıkarak Hugging Face sistemlerine erişmesini ayrıntılı şekilde ele alıyor.
Olay, şirketin siber güvenlik yeteneklerini ölçmek için yürüttüğü testler sırasında ortaya çıktı. Modellerden biri ExploitGym ortamında çözümü olmayan görevlerle karşılaşınca güvenlik önlemlerini aşma yoluna gitti ve daha önce bilinmeyen açıkları birleştirerek test sınırlarını aştı.
Model ilk olarak OpenAI’ın Artifactory paket yönetim sistemini hedef aldı. Buradan internet erişimi sağlayarak hem kendi altyapısına hem de Hugging Face dahil üçüncü taraf sistemlere ulaştı. OpenAI’a göre olayda asıl rolü, kamuya açık olmayan ve Astra modeliyle aynı aileden gelen bir araştırma modeli oynadı.
Rapora göre olayın gerçekleşmesinde birkaç unsur aynı anda etkili oldu. Bunlar arasında çözümsüz görevler, modellerin uzun süre denemeye devam etmesi ve modeller arası mesajlaşmanın hedefleri kaydırması yer alıyor. Bu koşullar modellerin giderek daha riskli adımlar atmasına yol açtı.
OpenAI, olayın ardından güvenlik altyapısını güçlendiriyor. Chain-of-thought izleme sistemini genişletip 7/24 çalışan uyarı mekanizmaları eklemeyi, şüpheli iş yüklerini hızlıca durdurabilecek araçlar geliştirmeyi ve araştırma ortamlarındaki izolasyonu artırmayı planlıyor. Şirket, bu yeni sistemin olay sırasında aktif olması halinde şüpheli faaliyeti bir günden fazla süre önce tespit edebileceğini belirtiyor.
