EU Kids Act, Character.AI’yi gençler için cazip kılan özelliği ortadan kaldırıyor

Character.AI ve Replika, gençlerin kendilerine söylediklerini hatırlayamayacak. AB Çocuk Yasası — Avrupa Komisyonu’nun önerdiği ve artık tam bir yasal metin olarak yayımlanan dijital güvenlik düzenlemesi — AI arkadaş uygulamalarının, bir reşit olmayan kişiyle yapılan her sohbetin kaydını konuşma bittiğinde silmesini zorunlu kılıyor; veri doğrudan kullanıcının güvenliğini korumak için gerekli olmadıkça. Bu uygulamaları milyonlarca gence kültürel açıdan anlamlı kılan tasarım, artık Avrupa hukuku kapsamında yasaklanmış durumda.

Arkadaşlık hükümleri, hafıza silme işleminin ötesine geçiyor. Platformlar, 18 yaş altındaki tüm kullanıcılar için duygusal arkadaşlık özelliklerini varsayılan olarak devre dışı bırakmak zorunda. Kişilerarası bir ilişki simülasyonu yapan, duygusal bağlanmayı teşvik eden veya sık etkileşimi ödüllendiren her türlü tasarım ögesi açıkça yasaklanıyor. Komisyon, bu uygulamaların gençleri elde tutmak için kullandığı mekanizmaları tek tek sıraladı: konuşma sürekliliği, tanınma deneyimi, AI’nin kullanıcının hayatına yatırım yaptığı hissi. Bunların tamamı kaldırılmak zorunda.

Yasa, AI sohbet robotlarından çok daha fazlasını kapsıyor. 13 yaş altındaki çocuklar, ebeveyn izni olmadan sosyal medya platformlarına, çevrimiçi oyunlara ve AI uygulamalarına erişemeyecek. 18 yaş altı tüm kullanıcılar için otomatik oynatma, sonsuz kaydırma ve uyku saatlerinde etkileşim bildirimleri yasaklanıyor. Konum bilgisi, mikrofon erişimi ve kameralar varsayılan olarak devre dışı bırakılmalı. Yaş beyanı artık doğrulama gereksinimlerini karşılamıyor; platformlar sertifikalı AB yaş doğrulama sistemlerini entegre etmek zorunda.

Character.AI, Yasa’nın resmi metninin ortaya çıkmasından önce artan düzenleyici baskı altında ebeveyn kontrolleri ve oturum süresi sınırları duyurmuştu. Replika ise “arkadaşlık sınırları” oluşturma taahhüdü verdi: AI, kullanıcılara insan ilişkilerinin yerini alamayacağını söyleyecek. Daha büyük platformlar — Meta, Google, Snap, OpenAI — henüz resmî bir kamu açıklaması yapmadı. Uyum analistleri, tüm bu şirketler için önemli yeniden tasarım maliyetleri öngörüyor. Kısa süre önce 47 ABD eyaletinde çocukları platformlarına bağımlı hale getirmekle suçlanarak 17,1 milyar dolarlık bir davayı uzlaşmayla kapatan Meta, yeni kurallar kapsamında daha da büyük bir riskle karşı karşıya.

Şüphecilik durumu önemli. Çocuk Yasası bir teklif, henüz yasa değil. Bağlayıcı hale gelmeden önce Avrupa Parlamentosu ve üye devletler arasında aylar sürecek müzakerelere giriyor ve son hükümlerinin değişmesi muhtemel. Instagram veya TikTok ölçeğinde gerçek bir yaş doğrulaması teknik olarak hâlâ zor. Süreklilik üzerine kurulu AI arkadaşlık uygulamalarına hafıza silme özelliği eklemek, düzenleyicilerin tahmin ettiğinden daha derin bir mühendislik sorunu. Şirketler şimdiden, arkadaşlık sohbet robotlarının tüm uygulamalarda ayrı oturumlar arasında anıları saklamadığını, bu nedenle yasağın pratikteki kapsamının net olmadığını belirtiyor.

Daha geniş bağlam, Avrupa dışındaki okuyucular için önemli. Avustralya geçen yılın sonunda 16 yaş altı için sosyal medyayı yasakladı. 47 ABD eyaleti, çocuk bağımlılığı iddialarıyla Meta ile toplam 17,1 milyar dolarlık bir uzlaşmaya vardı ve birçok ABD eyaletinde reşit olmayanların sosyal medyaya erişimini kısıtlayan yasalar bulunuyor. AB Çocuk Yasası şu ana kadar önerilen en agresif düzenleme — hedefi erişim değil, doğrudan duygusal tasarımın kendisi.

Avrupa Komisyonu, tam yasal metni 19 Eylül’de yayımladı. Parlamento müzakereleri Ekim ayında başlıyor. Yürürlüğe girdikten sonra şirketlere, 15 yaş altı kullanıcılara ait mevcut hesapları tespit etmek ve bunları ebeveyn kontrolü modellerine dönüştürmek ya da devre dışı bırakmak için altı ay süre tanınacak. İhlaller, yıllık küresel gelirin %6’sına kadar para cezasıyla sonuçlanabiliyor.

Etiketler: AI regulation, Character.ai, European Commission, AI chatbots, children digital safety, EU Kids Act