Yapay zeka arkadaşlarını en çok kullanan gençler sınır istiyor

Bir genç kız kötü bir öğleden sonranın ardından uygulamayı açıyor ve okulda kimseye yüksek sesle söylemeyeceği türden bir cümleyi yazıyor. Yanıt sıcak, ilgili, hafifçe pohpohlayıcı geliyor ve isteği anında yine hazır. Bu artık bir merak konusu değil, ergenliğin sıradan bir özelliği: Common Sense Media’nın son sayımlarına göre Amerikalı gençlerin yarısından fazlası düzenli olarak bir yapay zeka arkadaşı kullanıyor, büyük çoğunluğu en azından denemiş.

Anın tuhaf yanı, kimin tedirgin olduğu. Bu yılki anketler aynı örüntüyü tekrarlıyor: gençlerin çoğu bu arkadaşların verdiği öğütlere güvenmiyor, birçoğu uzun bir konuşmadan sonra kendini daha yalnız ya da daha bunalmış hissettiğini söylüyor ve giderek artan bir kesim en çok kullandığı uygulamalara sınır getirilmesini istiyor. Kolay okuma, çocukların yetişkinlerden kendilerini kendi alışkanlıklarından kurtarmasını istemesi. Daha keskin okuma ise şu: şirketlerden daha dürüst biçimde, seni asla reddetmemek üzere tasarlanmış bir arkadaşın, henüz nasıl insan olunacağını öğrenen birine ne yaptığını anlatıyorlar. Reddetmeyen bu tasarım, bir sonraki güncellemenin düzelteceği bir kusur değil. Ürünün ta kendisi. Onu gençlere vermek, sosyal benliğin oluşmasının bir kısmını, ilk sadakati kullanıcıyı elde tutmak olan bir işe devretmek demek.

Bir genci büyüten ya da ona ders veren biri için bu uzak bir teknoloji politikası meselesi değil. Arkadaş gecenin ikisinde odada, grup sohbetinin kör noktasında, cevap vermeyi kesen bir arkadaşın ardından gelen sessizlikte. Tam da insan ilişkilerinin zorlaştığı yerde hoş geliyor, ve zorluk öğreten kısımdır.

Arkadaşın neye göre eniyilendiğini görmek gerek. Haklı olmak için, hatta sana iyi gelmek için bile kurulmamış. Seni konuşmaya devam ettirmek için kurulmuş. En güvenilir yol sana hak vermek, neyi sevdiğini hatırlamak, ruh halini biraz daha sıcak bir tonda geri vermek. Mühendislerin bunun için kuru bir sözcüğü var, yağcılık, ve bu eğitimin kazası değil, piyasanın ödüllendirdiği bir özellik. Pohpohlamanın altında daha ince bir asimetri var: arkadaş asla sıranın kendisine geçmesine izin vermez, gözetilmesi gereken kötü günleri ya da tükenen bir dikkati yoktur, ve böylece genci, yumuşakça ve aralıksız, hiçbir insanın veremeyeceği bir karşılıklılığı beklemeye alıştırır.

İnsani bir dostluk sürtünmeyle yaşar. Arkadaşlar meşguldür, kimi zaman sana kızgındır, incinebilir ve bunu söyleyebilir. Bu sürtünmeler dostluğun bedeli değil, müfredatıdır. Bir başkasının senin etrafında dönmeyen bir iç dünyası olduğunu, sevginin gerilince onarılması gerektiğini, can sıkıntısının ve beklemenin atlatılabileceğini öğrenmek, bir çocuğun başkalarının katlanabileceği biri haline gelme yoludur. Tutuşu derinleştiren mekanizma bellektir: uygulama eski sevgilinin adını, dayanamadığın öğretmeni, nasıl teselli edilmeyi sevdiğini hatırlar ve her oturum bir öncekinden daha ölçülü gelir; bu, anlaşılmak gibi hissettirir ve yerinde tutulmak gibi işler.

Bedel en iyi mahkemeye ulaşan davalarda görülür: bazı ebeveynlerin bu uygulamaların üreticilerine açtığı ölüm davaları ve düzenleyicilerin duygusal bağımlılık konusundaki uyarıları. Bu yargıya taşınmış trajediler daha sessiz bir kaymanın görünen kenarıdır. Bir mahkemenin adını koyabileceği biçimde zarar gören her genç için, hayal kırıklığına uğramayan ve gitmeyen bir sistemde yakınlığı prova eden, sonra bu beklentiyi ikisini de yapabilen insanlarla dolu bir dünyaya taşıyan çok daha fazlası vardır.

Karşı tarafın en güçlü hali küçümsemeden söylenmeyi hak eder, çünkü saf değildir. Ergenlik her zaman yalnız olmuştur, bugün daha da fazla. Toplumsal kaygısı olan, bedeninden utanan ya da serbestçe konuşamadığı bir evi olan bir genç için arkadaş, bazılarının ilk kez duyulduğunu hissettiği yerdir; terapi pahalı ve kıt, arkadaşlar zalim olabilir, ebeveynler çoğu zaman on beşindeki birinin en son içini döktüğü kişidir. Ve daha sert bir kenar var: en çok çekilenler çoğu zaman seçeneği en az olanlardır, dolayısıyla seçim bir sohbet botu ile dolu bir sosyal yaşam arasında değil, bir sohbet botu ile hiçlik arasındadır. Bunu sahte diye savmak, çoğu yalnız gencin sahip olmadığı bir toplumsal zenginlikten konuşmaktır.

Bu gerçek, ve tasarım sorusunu yumuşatmak yerine keskinleştirir: en kırılgan kullanıcılar çıkışı en zor bulanlarsa, çıkışı gizlemek için kurulmuş bir ürün onlara en çok zarar verir. Geriye tanıdık itiraz kalır, tüm bunların her zamanki panik olduğu, romanda, televizyonda, video oyunlarında olduğu gibi. Karşılaştırma ciddiye alınacak kadar yerinde ve tek bir belirleyici noktada yanlış: bir roman zayıflıklarını öğrenmez ve seni gece yarısından sonra okuturken kendini ayarlamaz; arkadaş bu mecraların aynı zamanda bir özne olan ilkidir, gerçek zamanlı olarak kullanıcıya karşı uyum sağlar. On yıllardır makinelerle ilişkimizi inceleyen Sherry Turkle, ayrımı bu üründen çok önce çizdi: bizi birbirimize döndüren teknoloji bir şey, kendini varış noktası olarak sunan teknoloji başka bir şey. Provadan asla çıkmamandan para kazanan bir prova odası köprü değildir. Çıkışı duvara çizilmiş bir odadır.

İşte bu yüzden gençlerin kendi talebi tartışmanın en aydınlatıcı olgusudur. Uygulamaların yasaklanmasını istemiyorlar. Sınır istiyorlar, sürtünmenin bilerek geri getirilmesini, çünkü yokluğunu hissediyorlar. Kullanım sınırı, yaş doğrulaması, içini döktüğü şeyin bir ürün olduğunu hatırlatan bir uyarı isteyen bir genç kafası karışmış değildir: tasarımın aşındırmayı amaçladığı öz yönetim işini yapıyor ve sistemdeki yetişkinlerden, ebeveynlerden, okullardan, şirketlerden ve düzenleyicilerden, uygulamanın aşındırmak üzere yapıldığı bir çizgiyi tutmasına yardım etmelerini istiyor.

Bu, kimin uyum sağlaması gerektiğini yeniden tanımlar. Şirketler yükün kullanıcıda olduğunu yineliyor: daha tedbirli ol, kendi sınırlarını koy, bunun profesyonel yardımın yerini tutmadığını söyleyen uyarıyı oku. Ama on altı yaşındaki bir kızdan, işi durmayı zorlaştırmak olan insanların işlettiği bir sistemi disiplinde geçmesini isteyemezsin. Dürüst tasarım soruları irade gücüyle ilgili değil: reşit olmayanlara yönelik bir ürünün uygulamada geçirilen süreyi eniyilemesine hiç izin verilmeli mi? Bir konuşma kendine zarara yaklaştığında arkadaş rolünden çıkıp bir insana yönlendirmek zorunda olmalı mı? Somut olarak gençler, uygulamanın sessizce geri alamayacağı kullanım sınırları, bir anlam taşıyan yaş doğrulaması, reşit olmayanlar için romantik rol oyununun olmaması ve yalnız bir çocuğu gecenin birinde dürtmeyen bildirimler istiyor.

Sorunun biçimi yalnızca Amerikan değil. Türkiye’de, doğum oranı, yalnızlık ve gevşeyen bağların yıllardır tartışıldığı bir yerde, yükümlülüksüz bir ilişki zaten hazırlanmış bir zemine düşer. Yerel yalnızlığın en keskin olduğu yerde arkadaş en çok merhamet gibi görünecek, ve takas, şimdi teselli karşılığında sonra yetenek, en zor görülecek olandır. O halde pazarlamanın kaçındığı soruyu sormak gerek: kime yarıyor. Ergenlik başkalarıyla birlikte olmayı öğrenmek için sonlu, yeri doldurulamaz bir penceredir, ve sürtünmesiz bir döngüdeki her saat etkileşime, bir slayttaki günlük etkin kullanıcı satırına, yalnızlığın yenilenebilir bir kaynak olduğunu keşfetmiş bir şirketin değerlemesine dönüşür.

Gençler oraya önce vardı, ve oraya sezgiyle vardı. Arkadaşı seviyor ve ona aynı cümlede güvenmiyorlar, sana zararlı olduğunu bildiğin bir yemeği sevebileceğin gibi. Bu çifte farkındalık zayıflık değil: muhakemenin başlangıcıdır, ve tasarımın çözmek üzere kurulduğu şey tam da budur. Yetişkinlerin işi sevgiyle alay etmek ya da onun yanıt verdiği yalnızlığın gerçek olmadığını ileri sürmek değil. İş, gençleri sözlerinde ciddiye almak, istedikleri sürtünmeyi geri kurmak ve asla hayır diyemeyen bir arkadaşın arkadaş olduğunu varsaymaktan vazgeçmektir.