OpenAI’ın patronu Sam Altman BM’de: “Yapay zekâ makineleri sırf daha hızlı döndürmek için değil, insanlar için inşa edilmeli…”

Sam Altman yıllardır iki rolü birden üstleniyor: Piyasadaki en güçlü yapay zekâyı geliştiren kişi olmak ve dünyayı bu konuda uyarmak. Birleşmiş Milletler Güvenlik Konseyi’nin karşısına çıktığında, bu iki rolü birbirinden ayırmak için tek bir cümleye başvurdu. Cümle, tek başına ele alındığında gerçekten yerinde.

“Yapay zekâ, makinelerin kendi başlarına daha hızlı çalışmasını sağlamak için değil, insanlar için geliştirilmeli.”

Analytics Insight’ın aktardığı konuşmasında Altman, güçlü sistemlerin insan denetiminde kalması ve bunlara ilişkin kuralların yalnızca laboratuvarlar tarafından değil, hükümetlerce yazılması gerektiğini savunurken bu sözleri Güvenlik Konseyi’nde dile getirdi. Bu ifade bir sınır çiziyor: Bir tarafta insanlar için geliştirilen yapay zekâ, diğer tarafta sırf kendi başına daha da hızlanması için geliştirilen yapay zekâ var. Kimin ağzından çıkarsa çıksın, kulağa yalın bir ilke gibi geliyor. Ancak makineleri bu yönde hızlandırmak için en çok çaba harcayan şirketin CEO’sunun ağzından çıktığında, sınırın nereden geçeceğine kimin karar vereceğine ilişkin bir iddia da taşıyor.

Altman, aynı anda hem mimar hem de tehlike çanlarını çalan kişi olan nadir isimlerden biri. Güvenlik önlemleri çağrısı yaptığı kürsülerde, son duruşmalara yol açan sistemlerden daha yetenekli sistemleri de duyuruyor. 23 Eylül’de konuşurken sahneyi Davos panellerinden ve Senato’daki duruşma salonlarından Güvenlik Konseyi’ne taşıdı, ancak değişmeyen bir kalıbı sürdürdü: Sözlerinde temkin, yol haritasında hızlanma. Konsey’de, geliştiricilerin “insan denetimini sürdürebileceğimiz konusunda son derece güçlü bir gerekçeye sahip olmadığımız modelleri eğitmemesi gerektiğini” ve en önemli kararların “yalnızca San Francisco’daki laboratuvarlarda alınamayacağını” savundu.

Cümlenin ilginçleştiği, üzerinde dikkatle durulması gereken nokta da tam burası. Altman’ın tarif ettiği yönetişim kurallarını, hitap ettiği devletler yazacak. “İnsanlar için geliştirilmiş” olmanın ne anlama geldiğini tanımlayanlar, hangi geliştiricilerin bu tanıma şimdiden uyduğuna da karar verecek. Kural kitabının yazımına katkıda bulunan öncü bir yapay zekâ laboratuvarı, bu kurallar karşısında tarafsız değildir. Bunların hiçbiri uyarıyı içi boş bir söze dönüştürmüyor. Altman’ın dile getirdiği risk —sistemlerin onları denetlemesi gereken kurumlardan daha hızlı ilerlemesi ve kararların çok az sayıda elde toplanması— gerçek. Bunu Güvenlik Konseyi’nde açıkça söylemek, konunun muğlak kalmasını tercih eden herkes için bedeli yükseltiyor. Bu yalnızca, mesajı veren kişinin artık mesajın da bir parçası olduğu anlamına geliyor.

Cömert bir yorumla bu sözler bir etik ilkeyi ifade ediyor: İnsan denetimini korumak, yapay zekâyı insanları kendi girdilerine dönüştüren bir makine değil, insanların hareket alanını genişleten bir araç olarak görmek. Sektörün en fazla dikkat çeken oyuncusunun kendi konumunu sağlamlaştırma hamlesi olarak okunduğunda ise odadaki aklıselim kişi gibi görünürken, yaklaşan kuralların çerçevesini belirleme girişimi. Her iki yorum da aynı anda doğru olabilir. Altman’ı göz ardı etmeyi zor, ona güvenmeyi ise güç kılan tam da bu.

Dünya yapay zekânın kimin için olduğunu tartışırken makinenin kolu dönmeye devam ediyor. Bu sözlerin samimiyeti yalnızca tek bir ölçütle anlaşılacak: “İnsanlar için” ile “daha hızlı” sonunda farklı yönlere işaret ettiğinde OpenAI’nin hız kesip kesmeyeceğiyle.

Etiketler: OpenAI, Sam Altman, AI safety, AI governance