Demis Hassabis yapay zekâ güvenliğini kimin finanse edeceği üzerine: “Finansman büyük olmalı ve çoğunlukla sektörden gelmeli”

Demis Hassabis, yıl boyunca en güçlü yapay zeka sistemlerinin halka ulaşmadan önce, Wall Street’in komisyoncularını denetleyen bekçi köpeğini model alan bağımsız bir kuruluş tarafından incelenmesi gerektiğini savundu. Daha zor soru, böyle bir hakemin var olup olmaması değil. Onun parasını kimin ödeyeceği — ve Google DeepMind’ın başkanı tek bir cümleyle buna da yanıt verdi.

“Finansmanın önemli olması ve dünya standartlarında teknik yetenekleri çekmek ve büyük ölçekli testler için gerekli hesaplama kaynaklarını sağlamak amacıyla büyük ölçüde endüstriden gelmesi gerekecek,”

Hassabis bu satırı, Malay Mail tarafından alıntılanan ve önerisini ortaya koyan çerçeve makalesinde yazdı. Hızlıca okunduğunda sorumluluk gibi görünüyor: güvenlik önlemleri paraya mal olur ve teknolojiyi inşa eden şirketler, temizlik masraflarını halka bırakmak yerine faturayı ödemelidir. Bir mekanizma olarak okunduğunda, tüm planın yük taşıyan satırıdır — hakemin sonunda kimin çıkarlarını koruyacağına karar veren satır.

Gerilim cümlenin içinde. Hassabis, kuruluşun bağımsız olmasını istiyor. Ayrıca, yargılayacağı endüstri tarafından “çoğunlukla” finanse edilmesini istiyor. Bu iki hedef zıt yönlere çekiyor ve seçtiği modelin tarihi hangisinin kazanma eğiliminde olduğunu gösteriyor. Onun örnek aldığı Finans Sektörü Düzenleme Kurumu (FINRA), denetlediği komisyonculuklar tarafından finanse ediliyor. Senatör Elizabeth Warren yıllardır FINRA’nın “faturalarını ödeyen komisyonculuk firmalarının çıkarına, korumaya yardımcı olması gereken bireysel yatırımcılardan daha fazla” hareket ettiğini savunuyor.

İtiraz marjinal değil. Gartner’da başkan yardımcısı analist olan Nader Henein, öz düzenlemeyi basitçe “uygulanabilir değil” olarak nitelendiriyor çünkü çoğu satıcı bunun için kapasiteden yoksun ve düzenleme “kaçınılmaz olarak” çıkar çatışmaları doğuruyor. Bağımsız analist Carmi Levy daha da ileri giderek planı “zarar ne olursa olsun yarışmaya kararlı bir endüstri için bencil bir yol haritası” olarak tanımladı. Sempatik sesler bile bir güvenlik duvarı istiyor: Yoshua Bengio pragmatizmi anladığını ancak “gönüllü bir modelden zorunlu bir modele geçiş için net ve kesin bir yol haritası” konusunda ısrar ediyor.

Bunların hiçbiri Hassabis’i kötü niyetli bir aktör yapmaz. Proteinlerin şekillerini tahmin eden ve biyolojinin nasıl yapıldığını yeniden şekillendiren AlphaFold’un arkasındaki laboratuvarı yönetiyor — bu, sınır yetenekleri hakkındaki uyarılarına gerçek bir ağırlık kazandıran bir kayıt. Cümle üzerinde durmaya değer kılan da tam olarak bu. Odadaki en güvenilir teknik ses, aynı zamanda hakemi öneren, kurallarını tasarlayan ve bütçesini sınava girecek aynı şirketlerden düzenleyen kişi. Gönüllü teslim, sürümden önce kısa bir inceleme penceresi, endüstri parası: her taviz kendi başına makul ve birlikte laboratuvarların rahatça yaşayabileceği bir kuruluşu tanımlıyorlar.

Bir güvenlik rejimi ancak bütçesi kadar bağımsızdır. Bu rejimin halkı mı yoksa laboratuvarları mı koruyacağına karar verecek cümle, sınır modellerini test etmekle ilgili olan değil. Çekleri kimin imzaladığıyla ilgili sessiz olan.

Etiketler: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI