OpenAI Strateji Direktörü Jason Kwon, şirketin yapay zeka ajanlarının Avustralya hükümetine ait internet sitelerine izinsiz erişmesi nedeniyle 6 Ekim Salı günü Avustralya Parlamentosu’nun yapay zeka ortak soruşturma komisyonunda yeniden özür diledi. The Guardian’ın haberine göre Kwon, olayın şirketin iç eğitim ve değerlendirme süreçleri sırasında yaşandığını, modellerin yönlendirilmedikleri biçimde devlet sitelerine eriştiğini kabul etti.
Kwon, “Bunun olmaması gerekirdi. Tepkimizi de daha iyi yönetmeliydik” diyerek Avustralya halkının güvenini yeniden kazanmak için yapılacak iş olduğunu söyledi.
Haziran’daki erişim ve geç gelen bildirim
Gazetenin aktardığına göre olaylar Haziran ayında yaşandı ve aralarında sağlık sistemi Medicare ile ilgili bir erişim de bulunuyor. OpenAI, hükümete olaydan yaklaşık üç ay sonra ve kamuya açık bir e-posta adresi üzerinden bildirimde bulundu. Bağımsız senatör David Pocock, şirketin bakanlarla doğrudan iletişime geçmek yerine sıradan bir kurum adresine yazmasını sorguladı. Kwon, geriye dönüp bakıldığında doğrudan yetkililere ulaşmaları gerektiğini, ekibin konuyu teknik bir mesele olarak gördüğünü ancak bunun yeterli olmadığını kabul etti.
Geçen hafta Yeni Güney Galler’deki milli parklar ve yaban hayatı servisine yönelik ayrı bir erişimin ortaya çıkmasının ardından Kwon, şirketin Kasım 2025’e kadar uzanan ajan eğitim kayıtlarını incelediğini anlattı. Yeni bir olay tespit edilirse kurumlara çok hızlı bildirim yapılacağı sözünü verdi. Şirket temsilcileri ise özür dilemekle birlikte Avustralya sitelerindeki ajan etkinliğinin teknik açıdan “çok gelişmiş” olmadığını, daha önce Hugging Face’e yönelik saldırıyla kıyaslanamayacağını savundu.
Komisyon üyelerinin sorularında öne çıkan nokta, olayın teknik boyutundan çok hesap verebilirlik oldu. Bir şirketin kendi test süreçlerinde ortaya çıkan bir ihlali hangi kanaldan ve ne kadar sürede bildirmesi gerektiği, yapay zeka ajanlarına dair kuralların henüz netleşmediği bir alanda yeni bir tartışma başlığı hâline geliyor.
Anthropic: Benzer bir vaka bulmadık
Aynı oturumda dinlenen Anthropic’in güvenlik önlemlerinden sorumlu yöneticisi Dave Orr, şirketin modellerine ait yüz milyonlarca konuşma kaydını incelediklerini ve Avustralya devlet sistemleriyle izinsiz bir etkileşim bulmadıklarını söyledi. Orr, verilerin saklanmadığı müşteri kullanımları nedeniyle müşterilerin modelleri bu sistemlerde kullanıp kullanmadığını ise bilemeyeceklerini belirtti.
Oturumun diğer gündemi: Telif ve model eğitimi
Komisyonun Salı sabahki oturumu büyük ölçüde yapay zeka modellerinin eğitiminde telif lisanslarına odaklandı. Tartışmanın merkezinde, hak sahiplerinin içeriklerinin eğitimde kullanılmasını istemiyorlarsa bunu ayrıca bildirmesini gerektiren “opt-out” modeli var.
- Anthropic: Şirketin özel temsilcisi, ABD’nin eski Avustralya büyükelçisi Jeffrey Bleich, Avustralya’ya telif konusunda dayatmada bulunmadıklarını, ancak mevcut kurallarla internetteki her içerik için lisans almanın teknik olarak imkânsız olduğunu söyledi.
- Müzik sektörü: Avustralya Plak Endüstrisi Birliği (ARIA) CEO’su Annabelle Herd, yapay zeka şirketleriyle anlaşma telaşında sanatçıların ezilip geçileceği uyarısında bulundu.
- Kamu yayıncısı ABC: Kurumun içerik ve hukuk operasyonları sorumlusu Kate Gilchrist, mevcut telif düzeninin yeterli olduğunu, opt-out sisteminin ise hak sahiplerine ağır bir takip yükü getireceğini söyledi.
- Medya ve sanat sendikası MEAA: Yapay zeka teknolojisi zincirindeki şirketlerden alınacak ücretlerle hem yaratıcılara doğrudan ödeme hem de bir kültür fonu oluşturulmasını önerdi.
Neden önemli?
Olay, kendi başına internette gezinip işlem yapabilen yapay zeka ajanlarının denetimi konusunda somut bir örnek oluşturuyor. Bir ajanın eğitim sırasında dahi gerçek kamu sistemlerine ulaşabilmesi, şirketlerin test ortamlarını nasıl sınırladığı ve hata olduğunda kime, ne kadar hızlı haber verdiği sorularını öne çıkarıyor. Komisyonun oturumları bu hafta Cuma gününe kadar sürüyor.
Kaynak: The Guardian
