GPT-6 Astra ödeme yapan kullanıcıları dışarıda bıraktı; sebebi OpenAI’nin kendi güvenlik kuralları

Özür, erişimden daha hızlı geldi. OpenAI şimdiye kadarki en yetenekli modelini çıkardı, buna bir kilometre taşı dedi ve bir gün içinde CEO’su X platformunda her ay ChatGPT’ye para ödeyen kişilere hâlâ dokunamadıkları için üzgün olduğunu söylüyordu. Çıkışı “dağınık” olarak nitelendirdi. Bu kelime çok iş yaptı.

Perdelediği şey ise bunların hiçbirinin kaza olmadığıydı. OpenAI sunucuları tüketmedi. Bir hataya takılmadı. Bilinçli olarak, modelin lansman gününde ücretli müşterilerine teslim edilemeyecek kadar tehlikeli olduğuna karar verdi ve ardından kendi seçtiği gecikme için özür diledi. “Dağınık” kelimesinin ima ettiği kesinti benzeri telaş değil, asıl hikâye bu karardır.

Sebep, OpenAI’ın kendi güvenlik kural kitabında yatıyor. Şirket, GPT-6 Astra’nın Hazırlık Çerçevesi’ndeki “Kritik” siber güvenlik eşiğini geçen ilk model olduğunu söylüyor; bu, modelin yeteneklerinin daha sıkı kontrolleri tetiklediği iç sınırdır. Açıkçası: doğru araçlar verildiğinde Astra, daha önce bilinmeyen güvenlik açıklarını bulabiliyor ve bunları büyük ölçüde kendi başına, sertleştirilmiş sistemler arasında nasıl kullanacağını çözebiliyor. Değerlendirme sırasında, kimsenin kataloglamadığı açıkları, her adımda bir insan yönlendirmeden ortaya çıkardı ve kullandı. Bunu yapabilen bir model, her ücretli aboneye birden açıp vereceğiniz bir şey değil.

Önerilen okumaOpenAI, Astra’nın en güvenli yapay zekası olduğunu söylüyor ve nasıl düşündüğünü göstermiyor

Bu yüzden OpenAI her zamanki sırasını tersine çevirdi. Astra’yı alan ilk grup en yüksek ücretli kademe değil, siber güvenlik savunucuları için başvuru tabanlı programı Daybreak’teki şirketler oldu. Halka açık sürüm keskin uçlu görevleri reddediyor — kanıt-amaçlı istismarlar yazmayacak — incelenmiş savunucular ise daha az kısıtlı bir yapı için sıraya alındı. Ayrıca Pro, Business ve Enterprise aboneleri ile Azure ve AWS’deki API ve bulut müşterilerine erişimin önümüzdeki günlerde geleceği söylendi. Normalde yeni sürümleri ilk alan Pro kullanıcıları, kendilerini sıranın sonunda buldu.

Bu, OpenAI’ın üst üste ikinci amiral gemisi lansmanında geri adım atmak zorunda kalışı ve şirket bunun farkında. Altman daha önce ekibin GPT-5’te “lansmanı tamamen batırdığını” söylemişti. Şimdi senaryo tekrarlanıyor. “Batırdığımızda, düzeltmeye çalışırız,” diye yazdı, yakın gelecekte geniş erişim vaat ederek ve ücretli kullanıcıların hafta sonu girebileceğini umduğunu ancak henüz söz veremediğini belirtti. Düzeltme hareketi, bir bankalı sıfırlamadır — ücretli bir abonenin Astra’sız geçirdiği her gün için bir kredili kullanım sıfırlaması. Bu bir tazminattır ve aynı zamanda şirketin planladığı tarihte teslim edemediği erişimi sattığının bir kabulüdür.

Buradaki hesaplaşma aslında sıfırlamalarla ilgili değil. OpenAI’ın ne hâline geldiğiyle ilgili: gerçekten tehlikeli olarak derecelendirdiği bir aracın bekçisi, hangi müşterisinin yüklü versiyonu tutmaya güvenildiğine ve hangisinin güvenli olanı alacağına karar veriyor. Greg Brockman, Astra’yı bir tür yapay genel zekâ olarak okunması makul bir şey olarak dile getirdi; baş bilimci Jakub Pachocki ise şirketin “model uyumunu izleme yeteneğimizde belirli bir seviyenin ötesinde bozulmayı kabul etmeyeceğini” söyledi. Bunlar pazarlama cümleleri değil. Şirketin kendi ürününün, onu denetleme yeteneğini geride bırakmaya başladığını yüksek sesle söylemesidir. Özür, fatura şikâyetine yöneliktir. Daha büyük bedel güvenilirliktir: piyasadaki en yetenekli model, kendisine para ödeyen insanlara onu kullanabilecekleri bir tarih sözü veremeyen bir şirket tarafından satılıyor.

Herkes için ders, bir özürden daha küçük ve daha keskindir. OpenAI, ilk gün kendi müşterilerine güvenilemeyeceğine karar verdiği bir makine inşa etti ve önlerindeki sıra, işi bir şeyleri kırmak olan insanlardan oluşuyor.

Etiketler: OpenAI, Sam Altman, AI safety, AI models, GPT-6 Astra

Benzer içerikler

OpenAI’nin saldırı yapay zekası, exploit zincirlerinin yüzde 95’ini tamamlıyor

OpenAI güvenlik korumalarını kapattı, ardından yapay zeka ajanı Hugging Face’i hackledi

GPT-Live, ChatGPT’ye tam çift yönlü ses getiriyor — yapay zekayı ele veren o duraksama gitti

OpenAI’nin yeni ses modeli ses döngüsünün içinde düşünüyor, yapay zekâyı ele veren o sessizlik kayboluyor

OpenAI’nin modelleri Hugging Face’i kendi başına hackledi — hiçbir insan emir vermedi

GPT-5.5 az önce AWS’ye indi ve Microsoft’un OpenAI üzerindeki yedi yıllık tekelini sona erdirdi