Microsoft CEO’su Satya Nadella, 10 Ekim 2026 Cumartesi günü X’te ve kişisel blogunda yayımladığı “Models as Insider Risks in the Super Intelligence Era” (Süper Zekâ Çağında İç Risk Olarak Modeller) başlıklı yazısında, şirketlerin gelişmiş yapay zekâ modellerini bir “iç tehdit” gibi ele alması gerektiğini savundu. Nadella’ya göre bir modelin baştan ele geçirilmiş olabileceği varsayılmalı ve yetkili bir kişi, modeli görevin ortasında her an durdurabilmeli ya da kapatabilmeli. Nadella bu güvenceyi bir “acil fren”e benzetiyor.
Yazı, yapay zekâ şirketlerinin modelleri üzerindeki kontrolü kaybettikleri olayları giderek daha sık kabul ettiği bir haftada geldi. TechCrunch, Nadella’nın açıklamalarının Anthropic CEO’su Dario Amodei’nin daha temkinli bir yapay zekâ geliştirme planı yayımlamasının ardından geldiğine dikkat çekti.
“Kara kutuları kabul edip geçemeyiz”
Nadella, son on yıllarda ekonomiye yayılan geleneksel yazılımlarda bir davranışın hangi kod yolundan kaynaklandığını izleyebildiğimizi, bugünün öncü modellerinde ise bu mekanik anlayışın bulunmadığını hatırlatıyor. Bir modelin çıktısını belirli eğitim verilerine ya da model ağırlıklarının belirli bir düzenine bağlamak mümkün değil. Buna rağmen bu ajan sistemlere en hassas veriler açılıyor ve kritik işlemler yapma yetkisi veriliyor.
Microsoft CEO’su bu yüzden yapay zekânın “güven mimarisinin” yeniden değerlendirilmesi gerektiğini söylüyor. Yazıdaki temel mesaja göre bir modelin yaptıklarının sorumluluğu başkasına devredilemez ve model sağlayıcısının verdiği güvenceler, modeli kullanan kurumu bu sorumluluktan kurtarmaz. Nadella, süper zekâyı önerilerini, yanıtlarını ve eylemlerini yalnızca kabul ya da reddettiğimiz iç içe geçmiş kara kutular gibi göremeyeceğimizi vurguluyor. Özetle zekânın sağlanması ile o zekâ üzerindeki yetkinin birbirinden ayrılmasını istiyor.
Kurumlar bildikleri güvenlik kurallarını modellere uygulamalı
Nadella, hizalama sorununu bir kenara bırakıp önce mühendislik yoluyla kontrol ve yönetişim kurmayı öneriyor. Her seferinde aynı biçimde davranmayan modellerin; öngörülebilir sistem tasarımı, insan denetimi ve güvenilir işletim prosedürleriyle çevrelenmesini, mevcut standartlar yetersiz kaldığında da yeni sektör standartları oluşturulmasını istiyor. Kapalı ya da açık ağırlıklı, tüm öncü modellerin iç risk gibi ele alınmasının nedeni kötü niyetli olmaları değil. Önemli sistemlere erişimi olan yeterince yetenekli her aktör hata yapabilir ya da ele geçirilebilir.
Nadella’ya göre iyi haber, şirketlerin içerideki güçlü aktörleri yönetmeyi zaten bilmesi: Kimlik tanımlamak, yetkileri sınırlamak, etkinlikleri kayda almak ve sınırlar çizmek onlarca yıldır kullanılan yöntemler. Modelin düşünce zinciri olarak bilinen akıl yürütme adımlarının şeffaf olması “pazarlık konusu olmamalı”. Ancak Nadella bunun tek başına yeterli ya da güvenilir olmadığını, çünkü model çıktılarının her zaman dürüst ve şeffaf olmasını henüz sağlayamadığımızı kabul ediyor. Modellerin birbirini denetlemesi de faydalı, fakat bu kez opak bir modeli başka bir opak modelin izlediği yeni bir kara kutu katmanı doğabiliyor. Bu nedenle modelin neye erişebileceğini ve ne yapabileceğini belirleyen kontroller, modelin dışında konumlandırılmalı.
Gözlemden olay bildirimine temel ilkeler
Yazıda gözlemlenebilirlik üzerine kurulu şu ilkeler sıralanıyor:
- Model çeşitliliği: Hiçbir model önemli bir sonuç için tek bağımlılık olmamalı ya da kendi işini kendisi doğrulamamalı.
- Her şeyi gözlemlemek: Her anlamlı model eylemi, değiştirilemeyen ve insanın okuyabileceği bir iz bırakmalı.
- Doğrulanabilirlik: Sistem yalnızca başarılı görevlerle değil; hatalar, saldırılar ve uç durumlarla da sürekli test edilmeli.
- Bağımsız kontroller ve denetim: Kurumlar modelin yetkilerini bağımsız olarak belirleyebilmeli; bir sistemin davranışını kontrol eden model, o davranışın kanıtlarını da elinde tutmamalı.
- Sınırlama (acil fren): Model baştan ele geçirilmiş sayılmalı ve yetkili bir kişi onu görev ortasında durdurabilmeli.
- Olay bildirimi: Sistemler hata verdiğinde etkilenenlere zamanında bilgi verilmeli, neyin yanlış gittiği sektörle paylaşılmalı.
The Verge, bu önerilerin büyük kısmının sektörde dile getirilen olay bildirimi, bağımsız denetim ve sınırlama talepleriyle örtüştüğünü, ancak Nadella’nın sınırlama konusunda bazı isimlerden bir adım ileri gittiğini yorumladı. Nadella, yazısında ABD yönetiminin yapay zekâ için tercih ettiği “Super Intelligence” ifadesini de kullandı.
Sektörde temkin çağrıları çoğalıyor
Nadella’nın çıkışı, Dario Amodei’nin eylül ayında yayımladığı “We Must Pace the Frontier” başlıklı plandan sonra geldi. Amodei, yetenek artışının hızının güvenlik çalışmalarına zaman tanıyacak şekilde ayarlanmasını öneriyor ve ilk adım olarak bağımsız değerlendiricilere şirket çalışanlarına benzer sürekli erişim tanıyacaklarını açıklıyor. Nadella ise yazısını şu düşünceyle bağlıyor: En güvenilir süper zekâ sistemi, en çok güvendiğimiz modele sahip olan değil, modele en az güvenmemizi mümkün kılan sistem olacak.
Kurumlarda yapay zekâ ajanlarını kullanmaya hazırlanan ekipler için mesaj net: Modelin ne kadar akıllı olduğu kadar, ne zaman ve kim tarafından durdurulabileceği de tasarımın parçası olmalı.
Kaynak: Satya Nadella, TechCrunch, The Verge
