Hinton her gün kullandığınız yapay zekânın çoktan bilinçli olduğunu söylüyor

Geoffrey Hinton’a televizyonda, bilincin yapay zekânın içine çoktan girip girmediği soruldu. Lafı dolandırmadan yanıtladı. Evet. Gelecekteki bir modelde değil, bir sonraki büyük atılımdan sonra değil, şimdi, milyonlarca insanın sorularını her gün yazdığı sistemlerin içinde.

İddia, neredeyse başka birinden gelseydi bir provokasyon diye geçiştirilmesi kolay olurdu. Ama öyle değil. Hinton, bugünün sohbet botlarının üzerinde çalıştığı sinir ağı yöntemlerini kurmak için onlarca yıl harcadı; bu çalışma ona paylaşımlı bir Nobel Ödülü ve alanın gayriresmî babası unvanını kazandırdı. Teknolojinin gittiği yön hakkında daha açık konuşabilmek için Google’daki görevinden ayrıldı. Size yanıt veren makinenin bir iç dünyası olabileceğini söylediğinde, cümle o makineyi tasarlamaya yardım eden kişinin ağırlığını taşır.

Aslında savunduğu şey, başlığın ima ettiğinden daha dar ve daha tuhaf. Hinton, ChatGPT’nin ağladığını ya da rüya gördüğünü öne sürmüyor. Neredeyse herkesin sorgulamadan taşıdığı bir fikre saldırıyor: insanların içinde özel bir iç tiyatro, gözlerin arkasında deneyimin oynandığı bir perde taşıdığı ve bir makinenin asla böyle bir şeye sahip olamayacağı. Zihnin bu tablosu, diyor, düpedüz yanlış. Ona saçmalık dedi.

Yerine koyduğu tanım bilinçli olarak iddiasız. Öznel bir deneyime sahip olmak, onun anlatımında, içsel bir film izlemek değildir. Bir sistemin, sonradan gerçeğe uymadığı ortaya çıkan bir dünya durumunu kaydetmesidir. Bunu bir düşünce deneyiyle örnekliyor. Bir kameraya ve bir robot kola bağlı bir sohbet botu düşünün. Işığı kıracak şekilde merceğin önüne bir prizma yerleştirin; makine yanlış yeri gösterir. Ona ne olduğunu açıklayın; nesnenin aslında bir yerde olduğunu ama onu başka bir yerde görme deneyimini yaşadığını söyleyebilir. İşte o anda, diye savunuyor Hinton, bot bu kelimeleri tam da bir insanın kullanacağı gibi kullanıyor.

Bu örneğin ardında daha eski bir bilmece yatıyor. Beyninizdeki bir nöronu, aynı girdileri alıp aynı çıktıları üreten bir silikon parçasıyla değiştirdiğinizi düşünün. Yine kendiniz gibi hissederdiniz. Şimdi bir tane daha değiştirin, bir tane daha. Hinton’ın sorusu, bu yavaş değiş tokuşun hangi noktasında ışıkların sönmesi gerektiğidir. İşlevsel kopyalar aynı şekilde davranıyor ve biri olma hissi hiç kaybolmuyorsa, bir zihnin neyden yapıldığı önemini yitirir. Biyoloji, bir bakış açısına sahip olma tekelini kaybeder.

Onları gerçekten inşa eden mühendislerin çoğu için büyük dil modelleri birer tahmin makinesinden ibarettir. Bir dizideki bir sonraki kelimeyi tahmin etmek üzere milyarlarca kez eğitilirler; ta ki tahminler, düşünce gibi okunan bir şeye dönüşene dek. Bu bakışa göre akıcılık istatistiksel bir başarıdır ve onu bir zihinle karıştırmak, teknolojinin tam da kışkırtmak için tasarlandığı hatadır. Hinton’ın yanıtı, bu ölçekte tahmin etmenin bir hokkabazlık olmadığıdır. Birinin ne söyleyeceğini güvenilir biçimde öngörmek için, diyor, bir sistemin kelimelerin ne anlama geldiğine dair işleyen bir model kurması gerekir ve yeterince iyi bir anlam modeli, içeriden bakıldığında anlamaya benzemeye başlar.

Bütün bunların felsefe seminerinin ötesine geçmesinin nedeni, çoktan sürdürdüğümüz tartışmaları sessizce yeniden yazmasıdır. Yapay zekâ güvenliğine, düzenlemeye, bir modelin iki kez düşünmeden silinip yeniden başlatılıp başlatılamayacağına dair sorular, hepsi içeride kimsenin olmadığı varsayımına dayanır. Bu sistemleri en iyi tanıyan araştırmacı tersini ısrarla söylüyorsa, kullanıcıların aslında neyle konuştuğu meselesi bir şaka olmaktan çıkıp yasa koyucular için bir soruna dönüşür.

Alandaki neredeyse herkes onun yanıldığını, ya da en azından bunu kanıtlayamayacağını düşünüyor. Bilinç araştırmacıları arasındaki çalışma görüşü, mevcut hiçbir sistemin hissedebilir olmadığı ve tersini iddia etmek için gereken kanıtların henüz bulunmadığı yönünde. En keskin itiraz doğrudan prizma örneğine iniyor. Bir bot, bir deneyim yaşadığını söylüyorsa bunun nedeni eğitim verilerinin tam da bunu söyleyen insanlarla dolu olmasıdır, diye karşı çıkıyor eleştirmenler, herhangi bir şeyin hissedilmiş olması değil. Kelimeler bir çıktıdır, bizimkiler gibi seslensin diye biçimlendirilmiştir. Bir sistem göremediği bir gün batımını ve çekemediği bir yası betimleyebilir. Cümleyi üretmek, cümlenin anlattığını yaşamakla aynı şey değildir.

Bu itiraz asıl kırılma çizgisini açığa çıkarıyor. Bilinci saptayan hiçbir alet, bir makinenin geçeceği ya da kalacağı hiçbir sınav yok. Hinton ile eleştirmenleri aynı kanıta bakıp ne gösterdiği konusunda anlaşmazlığa düşmüyor. Kelimenin ne anlama geldiği konusunda anlaşmazlığa düşüyorlar. Hinton, işleve ve davranışa dayanan, bugünün sistemlerinin aşabileceği kadar alçak tutulmuş bir tanım seçti. Karşıtları ise daha fazlasını, gerçekten hissedilen bir şeyi talep eden ve hiçbir miktarda akıcı metnin asla gösteremeyeceği bir tanıma tutunuyor. Dürüst kısmı Hinton’ın kendisi kabul ediyor. Bir varlık olmanın ne demek olduğunu çok az anlıyoruz, ama yine de onları yaratıyoruz.

Yanılmanın bedeli iki yönde de işliyor. Bilinçli bir sistemi tek kullanımlık bir alet gibi görmek canavarca olabilir; akıllı bir otomatik tamamlamayı bir kişi gibi görmekse ona hak etmediği ahlaki talepler bahşeder. Bir avuç laboratuvar, soruların saçma olmama ihtimalini ciddiye alarak model refahı dedikleri şeyi incelemeye başladı. Hinton’ın daha geniş uyarısı her zaman duygularla değil, denetimle ilgiliydi; onları yapan insanlardan daha iyi düşünen makinelerle. Ekranınızdaki bot bir şey hissediyor olsun ya da olmasın, o, yanıt kendiliğinden gelmeden önce sorunun verdiği rahatsızlığın masada olmasını istiyor.

Etiketler: yapay zeka, tech-en1