İsveç’te bakanlıkların ve hükümet birimlerinin ortak idari yapısı olan Hükümet Ofisleri (Regeringskansliet), yapay zekâ sohbet botları ChatGPT ve Claude’a erişimi engelleme kararı aldı. İsveç Radyosu’nun haber programı Ekot’un 23 Ekim’de duyurduğu habere göre engel pazartesi gününden itibaren geçerli olacak ve personel bu araçlara artık iş bilgisayarlarından ulaşamayacak.
Gerekçe: Sözleşmesiz yapay zekâ kullanımı
Kararın amacı, çalışanların yalnızca kurumun onayladığı yapay zekâ hizmetlerini kullanmasını sağlamak. Bu hizmetlerin başında Microsoft’un yapay zekâ aracı Copilot geliyor. Ekot’un ulaştığı iç bilgilere göre kurum, yaptığı bir incelemenin ardından Copilot’taki güvenlik ayarlarını da sıkılaştırdı. Basın birimi, güvenlik konusu olduğu gerekçesiyle bu sıkılaştırmanın ayrıntılarını paylaşmadı.
Hükümet Ofisleri’nin dijitalleşme direktörü Mikael Wettercrantz, Ekot’a röportaj vermeyi reddetti. Ancak kurumun iç ağında yaptığı açıklamada, sözleşmesi olmayan yapay zekâ hizmetlerinin kullanılmasının kurumun bilgi güvenliği açısından “sonuçlar doğurabileceğini” belirtti. Kurum daha önce Çin merkezli DeepSeek’in kullanımını da sınırlamıştı.
Kararın tamamen bir “yasak” olmadığını da not etmek gerekiyor. Basın birimine göre personelin bir kısmı, Hükümet Ofisleri’nin kendi geliştirdiği özel bir yapay zekâ asistanı platformu üzerinden ChatGPT ve Claude’a erişmeye devam edecek. Yani hedef, araçları büsbütün dışlamaktan çok, veri akışını kurumun denetleyebildiği bir kanala taşımak.
Tek örnek değil
Ekot’un incelemesine göre benzer engeller İsveç Vergi İdaresi (Skatteverket) ile zorunlu bakım altındaki gençler ve bağımlılar için kurumlar işleten Statens institutionsstyrelse’de (SiS) zaten uygulanıyor. İcra işlerinden sorumlu Kronofogden’de ise konu değerlendirme aşamasında.
Düzenlenmemiş yapay zekâ kullanımının riskleri başka kurumlarda da gündeme gelmiş durumda. İsveç Ulaştırma İdaresi’nin (Trafikverket) iç denetimi bu yılın başlarında yaklaşık on farklı yapay zekâ hizmetinin yaygın ve riskli biçimde kullanıldığını tespit etmişti. Denetim raporunda, açık yapay zekâ hizmetlerinin sorunlu kullanımına dair hem bu araçlara girilen bilgilerin hassasiyeti hem de yapay zekâ yanıtlarının nasıl ele alındığıyla ilgili örnekler bulunduğu belirtilmişti.
“Gölge yapay zekâ” neden risk?
Kurumlarda çalışanların, kurumun haberi ya da onayı olmadan kişisel hesaplarla yapay zekâ araçları kullanmasına “gölge yapay zekâ” deniyor. Bu kullanımda bir yazışma taslağı, bir toplantı notu ya da bir vatandaşa ait bilgi, kurumun sözleşmesi olmayan bir hizmete gönderilebiliyor. Verinin nerede saklandığı, ne kadar süre tutulduğu ve modeli eğitmek için kullanılıp kullanılmadığı çoğu zaman belirsiz kalıyor. Kurumsal sözleşmeler ise veri saklama, erişim ve denetim konularında daha net güvenceler sunabiliyor.
Yapay zekâ okuryazarlığı açısından: Yasaklamak mı, yönetmek mi?
İsveç örneği, kamu kurumlarının yapay zekâyla ilişkisinde önemli bir eğilime işaret ediyor: Araçları tamamen reddetmek yerine, hangi aracın hangi koşullarda kullanılacağını belirlemek. Ancak bir aracın “onaylı” olması, ona girilen her bilginin güvende olduğu anlamına gelmiyor. Çalışanların hangi bilginin yapay zekâ aracına girilebileceğini, çıktının nasıl doğrulanacağını ve sorumluluğun kimde olduğunu bilmesi gerekiyor. Türkiye’de de kamu kurumları, okullar ve şirketler için benzer sorular geçerli: Kurumunuzda yapay zekâ kullanımına dair yazılı bir kural var mı? Çalışanlarınız bir yapay zekâ aracına neyi yazmamaları gerektiğini biliyor mu? Engeller tek başına yeterli olmuyor. Asıl koruma, bilinçli kullanıcıdan geçiyor.
Kaynak: Sveriges Radio, SVT, Computer Sweden
