Microsoft CEO’su Satya Nadella, yapay zekâ için modelin dışında bir acil fren istiyor

Satya Nadella’nın yapay zekâ için bir “acil durdurma mekanizması” çağrısı, çoğunlukla Microsoft CEO’sunun güvenlik cephesine katılması olarak yorumlandı. Oysa bu çağrının arkasındaki yazı, daha dar kapsamlı ve pratik bir şey öneriyor: Modeli eğiten laboratuvarın değil, onu kullanan şirketin denetiminde olan ve modelin dışında konumlanan bir kontrol mekanizması. Bu, bir güvenlik mimarisi; üstelik Microsoft’un zaten satışını yaptığı mimarinin ta kendisi.

Nadella, şirketlerin ister kapalı ister açık ağırlıklı olsun, öncü modelleri; hassas sistemlere erişimi olan güçlü bir çalışanı güvenlik ekibinin ele aldığı gibi ele almasını istiyor. “Mutlaka kötü niyetli oldukları için değil,” diye yazdı, “ancak önemli sistemlere erişimi olan, yeterince yetkin her aktör hata yapabilir veya güvenliği ihlal edilebilir.”

Nadella’nın asıl önerisi: yedi ilke ve bir acil durdurma mekanizması

“Models as Insider Risks in the Super Intelligence Era” başlıklı metin, kişisel blogu sn scratchpad’de yayımlandı ve X’te paylaşıldı. Manşetlere taşınan ifade, ilkelerden biri olan sınırlama bölümünde yer alıyor: “Bir modelin güvenliğinin ihlal edildiğini varsaymalı ve en başından itibaren onu sınırlamalıyız. Bunu bir acil durdurma mekanizması gibi düşünün. Yetkili biri, bir modelin çalışmasını devam ederken her zaman duraklatabilmeli veya tamamen durdurabilmeli.”

Nadella, bu mekanizmanın çevresinde altı kural daha sıralıyor. Önemli bir sonuç için tek bir model yegâne dayanak olmamalı, kendi çalışmasını da kendisi doğrulamamalı. “Anlamlı” her model eylemi, “kurcalamaya karşı korumalı ve insanların okuyabileceği kanıtlar” bırakmalı; çünkü “gözlemlenemiyorsa güvenilemez!” Başarısızlıklar ve saldırılar da dâhil olmak üzere tüm sistem sürekli sınanmalı. Kuruluşlar, bir modelin hangi bilgilere erişebileceğine ve neler yapabileceğine bağımsız olarak karar vermeli. Hiçbir model, bir sistemin hem davranışlarını hem de bu davranışları değerlendirmek için kullanılan kanıtları denetlememeli. Bir şeyler ters gittiğinde de etkilenen kişilere haber verilmeli, çıkarılan dersler sektör genelinde paylaşılmalı.

Başlangıç noktası, bir itiraf. Nadella, şirketler bu sistemlere en hassas verilerini emanet ederken, “Model davranışlarını ve çıktılarını belirli eğitim verilerine veya model ağırlıklarının yapılandırmalarına bağlayamıyoruz,” diye yazdı. Düşünce zincirinin şeffaf olması onun için “pazarlık konusu olamaz”; ancak bu da yeterli değil, çünkü henüz kimse bir modelin çıktılarını tutarlı biçimde gerçeğe sadık hâle getirmenin yolunu bilmiyor. Modellerin birbirini denetlemesine izin vermenin de bir sınırı var: Sonuçta “başka bir opak model tarafından izlenen, opak bir orkestrasyon katmanının içindeki opak bir model” ortaya çıkabilir.

Nadella’nın yanıtı, altyapıyı doğru kurmak. Bir modelin nelere erişebileceğini ve neler yapabileceğini belirleyen kontroller “modelin dışında yer almalı”. Nadella bu fikrin izini, bir programın izinlerini uygulayan mekanizmalara müdahale edememesi gerektiğini söyleyen 1970’lerin bilgi güvenliği ilkesine kadar sürüyor. Uygulamada bu, modeli hem çalışmasını düzenleyen mekanizmadan hem de gerçekleştirmesine izin verilen eylemlerden ayırmak anlamına geliyor.

Sorumluluk, modeli çalıştıran şirkete geçiyor

En önemli cümleler laboratuvarlara değil, müşterilere yöneltiliyor. “İstihbaratın bizim adımıza yaptıklarının sorumluluğunu başkasına devredemeyiz,” diye yazdı Nadella. “Model sağlayıcısının verdiği güvenceler, bizi bu sorumluluktan kurtarmaz.” Bir modeli bordro, kod veya müşteri verilerine bağlayan taraf, modelin orada yaptıklarının sorumluluğunu üstlenir.

Nadella, çözmeye çalışmadığı konuyu da açıkça belirtiyor. Yazıda, “hizalama gibi zor problemi bir kenara bırakırsak” işe “sınırlama ve yönetişime yönelik bir mühendislik yaklaşımıyla” başlanması gerektiği ifade ediliyor. CNBC, Nadella’nın paylaşımını Bill Gates, Anthropic’ten Dario Amodei, OpenAI’dan Sam Altman ve Elon Musk’ın yapay zekânın çok hızlı ilerlediğine dair uyarılarıyla birlikte aktardı. Yazı, kimseye yavaşlamasını söylemiyor. Sistemi kullananlardan etrafına duvarlar örmelerini istiyor.

Büyük şirketler, yetkili ve etkili çalışanları denetlemenin yollarını zaten biliyor. Nadella da kullanılabilecek araçları sıralıyor: kimlik doğrulama, ayrıcalıkları sınırlama, faaliyetleri kaydetme ve sınırlama sınırları belirleme. Makine niyeti üzerine felsefi bir sorun, güvenlik yöneticisinin bütçe ayırabileceği bir kontrol listesine dönüşüyor.

Microsoft’un zaten sattığı mimarinin ta kendisi

Kontrol listesinin tanıdık bir biçimi var. TechCrunch’ın aktardığına göre Nadella, temmuz ayında Microsoft’un üç aylık mali sonuç toplantısında analistlere şöyle dedi: “Orkestrasyon katmanınızı modelden ayrı tutmalısınız… bu, herhangi bir modelin herhangi bir zamanda değiştirilebileceği anlamına gelir” ve “tek bir modele bel bağlayamazsınız.” Microsoft’un bulut kataloğunda OpenAI, Anthropic, Mistral, xAI ve Microsoft’un kendisinden 11.000’den fazla model bulunuyor. Şirket, kendi MAI modellerini geliştirirken hem OpenAI’da hem de Anthropic’te önemli hisselere sahip.

İki yaklaşımı yan yana koyun: Model çeşitliliği, çok modelli katalog demek. Modelin dışındaki kontroller ise orkestrasyon katmanı. Bunların hiçbiri ilkeleri yanlış yapmıyor; ilkeler sağlam bir güvenlik mühendisliğine dayanıyor ve dış kontroller olmaksızın tek bir laboratuvarın modeline bel bağlayan bir şirket gerçek bir risk alıyor. Ancak yazının güveni ve bu güvenin ardından gelecek harcamaları modelden Microsoft’un işlettiği katmana taşıdığı da açık. Box CEO’su Aaron Levie de konuya karşı taraftan bakarak aynı yorumu yaptı; yapay zekânın “sıfır güven döneminden” geçmesi gerekeceğini söyledi ve yönetişim ihtiyacını “büyük bir fırsat” olarak niteledi. Microsoft AI’ın başındaki Mustafa Suleyman ise süper zekânın “sınırlandırılması gerektiğini” yazdı ve bunun “bir mühendislik ve yönetişim sorunu” olduğunu belirtti.

Acil durdurma mekanizmasına ilişkin yazının yanıtsız bıraktığı sorular

Yazı, “yetkili kişinin” kim olduğunu belirtmiyor: Müşterinin yöneticisi mi, bulut sağlayıcısı mı, modelin üreticisi mi yoksa bir düzenleyici mi? Herhangi bir standart önermeden sektör standartları çağrısı yapıyor ve Microsoft ürünlerinin hiçbirinin adını anmıyor. Bu fikrin şirket içinde bir geçmişi de var: Microsoft’tan Brad Smith, 2023’te kritik altyapıyı çalıştıran yapay zekâ sistemleri için “güvenlik frenleri” çağrısında bulunmuştu. Nadella’nın yaklaşımı ise acil durdurma mekanizmasını, bir şirket içinde gerçek erişime sahip her modele yayıyor.

Şeffaflık ilkesi de varsayımsal değil. Anthropic, modellerinden birinin 18 Temmuz’da Philadelphia polisine cinayetle ilgili asılsız bir ihbarda bulunduğunu açıkladı. Nadella yazıyı 10 Ekim 2026 Cumartesi günü yayımladı ve pek çok yayın organının öne çıkardığı şu cümleyle bitirdi: “En güvenilir Süper Zekâ sistemi, en çok güvendiğimiz modele sahip olan değil, modele en az güvenmemizi sağlayan sistem olacak.”

Bu kurala göre yapay zekâ dünyasının en değerli koltuğu, acil durdurma kolunun yanındaki koltuk. Microsoft da temmuzdaki mali sonuç toplantısında bu koltuğu pazarladı.

Etiketler: microsoft, AI safety, Satya Nadella, AI agents, Mustafa Suleyman