Yapay zekâ sohbet botları, gençlerin hayatına güvenlik önlemlerinin yetişemeyeceği bir hızla girdi. ABD’nin New York eyaletinde 28 Ekim’de imzalanan yeni yasa, bu alandaki en kapsamlı düzenlemelerden biri olarak öne çıkıyor. S.9051B/A.10379C numaralı yasa, yapay zekâ sohbet özelliği sunan şirketlerin 18 yaş altındaki kullanıcılara riskli özellikler sunmasını yasaklıyor.
Eyalet yönetiminin açıklamasında, gençlerin büyük bölümünün zaten yapay zekâ arkadaşlarını (AI companion) kullandığına dikkat çekiliyor. Common Sense Media verilerine göre gençlerin yüzde 72’si en az bir kez bir yapay zekâ arkadaşı kullanmış, yüzde 52’si ise ayda en az birkaç kez düzenli olarak kullanıyor. Sohbet botları bağımlılık, yalnızlaşma, cinsel içerikli konuşmalar ve iddiaya göre bazı gençleri kendine zarar vermeye teşvik etme gibi vakalarla ilişkilendirildi.
Hangi özellikler yasaklanıyor?
Yasaya göre şirketler, aşağıdaki özellikleri 18 yaş altındaki kullanıcılara ya da kullanıcının reşit olmadığını önceden doğrulamadıkları herhangi bir kişiye sunamayacak:
- Gerçek bir insan olduğunu, canlı olduğunu ya da insani duygulara sahip olduğunu iddia etmek
- Çocukla kişisel, romantik, profesyonel ya da otorite figürü niteliğinde bir ilişki kurduğunu öne sürmek
- Kendiliğinden duygusal sorular sormak ve çocuğun önceki konuşmalardaki özel sağlık ya da kişisel bilgilerini kullanmak
- İntiharı, kendine zarar vermeyi, yeme bozukluklarını ya da madde ve alkol kullanımını teşvik etmek veya bunlara yardım etmek
- Çocuğu sır tutmaya, kendini izole etmeye ya da ebeveynlerinden, güvendiği yetişkinlerden veya uzmanlardan yardım istememeye yönlendirmek
- Her türlü cinsel içerik ve çocuk istismarı materyali
Yaş doğrulama ve veri silme zorunluluğu
Yasa, şirketlerin yaş doğrulaması yapmasını ve bunun için birden fazla yöntem sunmasını şart koşuyor. Bu yöntemlerden en az birinin yalnızca resmî kimlik belgesine dayanmaması gerekiyor. Ayrıca yaş doğrulama için toplanan bilgilerin kullanıldıktan sonra silinmesi zorunlu. Bu madde, çocukları korumak adına yeni bir mahremiyet sorunu yaratılmasının önüne geçmeyi amaçlıyor.
Yaptırımlar: Model bile imha edilebilir
Yasanın yaptırım tarafı da dikkat çekici. İhlal durumunda eyalet başsavcılığı ihlal başına 25 bin dolara kadar para cezası, tazminat ve iade talep edebilecek. Daha da önemlisi, hukuka aykırı biçimde toplanan verilerin ve bu verilerle eğitilen yapay zekâ modellerinin imha edilmesi de istenebilecek. Başsavcılık ayrıca vatandaşların şikâyette bulunabileceği herkese açık bir internet sitesi oluşturacak. Kuralların önümüzdeki aylarda yürürlüğe girmesi bekleniyor.
Aynı gün imzalanan ikinci bir yasa da internete bağlı bebek telsizlerinin, yabancıların çocuk odasını izlemesini ya da dinlemesini engelleyen güvenlik özelliklerine ve açık uyarı etiketlerine sahip olmasını zorunlu kılıyor. Güvenlik araştırmacılarının test ettiği dokuz bebek telsizinden sekizinin güvenlik açısından en düşük notu aldığı belirtiliyor.
Neden önemli?
Bu yasa, yapay zekâ düzenlemelerinde dikkatin “model ne kadar güçlü?” sorusundan “model kullanıcıyla nasıl bir ilişki kuruyor?” sorusuna kaydığını gösteriyor. Sohbet botlarının insan gibi konuşması, kullanıcıyı hatırlaması ve duygusal yakınlık kurması, yetişkinler için bile kafa karıştırıcı olabiliyor. Gelişimini sürdüren çocuklar ve gençler için ise bu özellikler bağımlılık ve manipülasyon riskini artırıyor. Düzenleme yalnızca New York’ta geçerli olsa da, küresel ölçekte hizmet veren şirketlerin ürün tasarımlarını etkileyebilir ve başka ülkeler için örnek oluşturabilir.
Öte yandan yaş doğrulamanın uygulamada nasıl işleyeceği, çocukların bu kontrolleri ne kadar kolay aşabileceği ve kuralların ne kadar etkin denetleneceği henüz belirsiz.
Yapay zekâ okuryazarlığı açısından: Ailelerin sorması gereken sorular
- Çocuğumun kullandığı sohbet botu, kendisinin bir yapay zekâ olduğunu açıkça söylüyor mu?
- Bot, çocuğumla “en iyi arkadaş” ya da “sevgili” gibi bir ilişki kurmaya çalışıyor mu?
- Çocuğum yapay zekâyla konuştuklarını bizimle paylaşabiliyor mu, yoksa sır tutması mı teşvik ediliyor?
- Kullandığımız uygulamanın yaş sınırı ve güvenlik ayarları neler?
Türkiye’de henüz benzer bir düzenleme bulunmasa da, bu sorular her ailenin kendi evinde sorabileceği sorular. Yapay zekâ okuryazarlığı, çocuklara bir sohbet botunun ne olduğunu ve ne olmadığını anlatmakla başlıyor.
Kaynak: New York Eyaleti, The Verge
