Google CEO’su artık oran hesabı yapmıyor. Şirketin kodlarının ne kadarının yapay zekâ tarafından yazıldığı sorulduğunda Sundar Pichai, yapay zekânın kodların tamamında payı olduğu için bu sorunun artık anlam taşımadığını söyledi. Aynı söyleşide, sektörün büyük bölümünün hazırlıklı olmaya çalıştığı ihtimali de küçümsedi: İnsanların devre dışı kaldığı ve yapay zekânın kendisinin daha iyi sürümlerini geliştirdiği bir gelecek.

Her iki iddia da doğru olabilir. Asıl mesele, bunları kimin denetlediği. Pichai’nin bir kenara bıraktığı oran, dışarıdan bakanların Google’ı diğer şirketlerle kıyaslamasını sağlayan tek sayıydı. Bu sayının yerini neyin aldığı ve kendi kendini geliştiren yapay zekâya ilişkin daha sakin yaklaşımının hangi kanıtlara dayandığı ise Google’ın Google’ı ölçmesinden ibaret.

Sundar Pichai, yapay zekâ ve Google kodu hakkında ne söyledi?

Pichai, Google’ın Mountain View merkezinde kaydedilen ve Kantrowitz’in yazılı bir soru-cevap olarak da yayımladığı Big Technology Podcast’te Alex Kantrowitz’in sorularını yanıtladı. Kantrowitz, Google kodlarının dörtte birinin yapay zekâ tarafından yazıldığı yönündeki eski iddiayı hatırlatıp bugünkü oranı sorduğunda Pichai, sorunun “anlamsız” olduğunu söyledi; çünkü Google’ın artık dokunduğu kodların her parçası “yapay zekâdan derinlemesine etkileniyor”.

Pichai, bu oranın yerine Google’ın kendi mühendislerinin kullanımına sunduğu en yeni modeli Gemini 4 Argon’a ilişkin sayıları paylaştı. Lansmandan sonraki dört haftada, şirketin kod gönderimleri için kullandığı kurum içi adla CL’lerde yüzde 30 artış, yayımlandıktan sonra geri alınması gereken değişikliklerde ise üçte bir düşüş gördüklerini söyledi. “Artık bunu daha yeni ölçütlerle takip ediyoruz,” dedi.

Eski ölçüt kendiliğinden ortadan kalkmadı. Semafor ve ETV Bharat’ın aktardığına göre Google, nisan ayında yayımladığı bir blog yazısında yeni kodlarının yüzde 75’inin yapay zekâ tarafından üretildiğini açıklamıştı; bu oran 2024’te yüzde 25, bir önceki sonbaharda ise yüzde 50’ydi. Semafor o sırada bu iddiaların bazılarının doğrulanmasının neredeyse imkânsız olduğuna dikkat çekmiş, oranları yüzde 65’e ulaşan Snap ve benzer seviyeleri hedefleyen Meta ile karşılaştırmıştı.

Pichai, kendi kendini geliştiren yapay zekânın neden hâlâ çok uzakta olduğunu söylüyor

Pichai, özyinelemeli kendini geliştirme (RSI) konusunda yanıtını Google’ın kurucu ortağı Sergey Brin’in sözlerine açıklık getirecek şekilde kurdu. Brin’in RSI’ı Argon’un geliştirilmesinde kritik bir etken olarak nitelendirdiğini, ancak “RSI’ın nihai aşamasına ulaşmaktan hâlâ epey uzakta olduğumuzu” söyledi. Ardından Google’ın gerçekte bulunduğu noktayı şöyle anlattı: “Bunu doğru tarif etmenin yolu, model geliştirmenin çeşitli aşamalarında yapay zekâ araştırmacılarının yanında RSI döngülerinin de bulunması. Bence, bir tür otomasyonla, bu modelleri geliştirmek için birlikte çalışan yapay zekâ araştırmacılarına yardımcı olan ajanlar var.”

Brin birkaç gün önce daha ileri gitmişti. Google’ın Argon hakkında paylaştığı yuvarlak masa toplantısında şirketin “bu RSI bandına girmeye başladığını” ve Business Insider’ın aktardığı üzere “araştırmacılarımızla modelin artık modelin bir sonraki sürümünü geliştirmek için el ele çalıştığını” söylemişti. Bu ay yayımlanan Gladstone AI raporuna göre, Anthropic, OpenAI ve Google DeepMind’da görüşülen araştırmacıların çoğu RSI’ın üç ila 12 ay içinde başlayacağını düşünüyor.

Google’ın güvenlik raporu, kendi testlerine dayanarak Pichai’yi destekliyor

Kâğıt üzerindeki veriler Pichai’yi destekliyor. TNW’nin haberine göre Google DeepMind’ın Argon için hazırladığı güvenlik raporu, “yapay zekâ kaynaklı olsun ya da olmasın, uçtan uca yapay zekâ Ar-Ge’sinde kayda değer bir hızlanma” olmadığını belirtiyor ve bu riski “şu an için düşük” olarak değerlendiriyor. Rapora göre yapay zekâ ajanları “üretim kodlarının ve hata düzeltmelerinin çoğunu yazıyor; ancak kod değişiklikleri gönderilmeden önce insan incelemesinden geçmeye devam ediyor.” Tamamen devredilen pull request’lerin oranı nisanda yüzde 7,5’ten eylülde yüzde 11,9’a yükseldi; yaklaşık yüzde 88’i ise hâlâ tekrar tekrar insan yönlendirmesi ya da bir kişi tarafından yazılmış kod gerektiriyor.

Bu bulgular Google’ın kendi ölçüm araçlarından geliyor. Yapay zekânın yapay zekâ araştırmalarını otomatikleştirme eşiği, şirket dışından kimsenin çalıştıramadığı 74 görevlik kurum içi bir ölçütle değerlendiriliyor. LessWrong’da yayımlanan bir analiz, raporun kendi içindeki şu ifadeye dikkat çekiyor: Google’ın denetlediği ilk görevlerin “yaklaşık dörtte birinde, hiçbir gönderimin başarıya ulaşmasını engelleyen hatalar vardı.” Birçok deneme zaman aşımına uğradığı için rapor, Argon’a ilişkin tek bir tahmini oran vermiyor; model, tamamlanan denemelerin kabaca yarısını çözdü. Google, tamamlanamayan denemelerin tümü başarılı olmuş olsaydı bile vardığı sonucun değişmeyeceğini söylüyor.

Güvenlik savunusunun dayandığı temel eşik, insan incelemesi. Kod gönderimlerindeki yüzde 30’luk artış, bu eşiği denetleyen kişilerin incelemesi gereken değişiklik sayısının da yüzde 30 artması demek. Pichai’nin seçtiği ölçütler ise çıktıyı ve geri alınan değişiklikleri sayıyor; her bir değişikliğin ne kadar yakından incelendiğini değil.

Pichai’nin kendi çözüm önerisi: bağımsız denetçiler

Pichai bu kaygıyı geçiştirmedi. Uyum araştırmalarında hâlâ “açık boşluklar” olduğunu ve “endişelenmenin makul olduğunu” söyledi. Ona göre sıradaki adım, muhasebe standartları ve bağımsız denetçiler örnek alınarak sektör genelinde standartlar oluşturulması; buna “bağımsız değerlendiriciler kullanarak değerlendirme yapabilme olanağının” da dahil edilmesi. Düzenlemenin de “sonunda bir rol oynayacağını” belirtti.

Bu ölçüte göre bakıldığında, bu haftaki iki iddia da henüz bağımsız denetimden geçmiş değil. Google kendi değişiklik listelerini sayıyor, kendi geri almalarını değerlendiriyor ve kendi araştırma ölçütünü puanlıyor.

Pichai’nin anlamsız bulduğu oran kabaydı ama herkes onu Snap’in oranıyla yan yana koyabilirdi. Yerine gelen sayıları ise yalnızca Google’ın içinden görmek mümkün.

Etiketler: Google, Gemini, Sundar Pichai, Sergey Brin, yapay zekâ ile kodlama