Teknoloji

OpenAI’nın sesli yapay zekası artık sıranızı beklemiyor — dakikası $0,05

Susan Hill

Piyasadaki her sesli yapay zeka, konuşmadan önce beklemenizi söyler. OpenAI’nin GPT-Live-1’i ise beklemez. OpenAI’nin API’si aracılığıyla kullanılabilen model, aynı anda dinliyor ve konuşuyor; kesintileri, duraklamaları ve üst üste binen konuşmaları, tıpkı bir insanın telefon görüşmesinde yaptığı gibi yönetiyor.

Fiyatlandırma, ses katmanı için dakikada 0,05 dolar — 30 dakikalık bir görüşme 1,50 dolar veya 1.000 görüşme dakikası 50 dolar. Geliştiriciler, muhakeme arka ucu için ayrıca ödeme yapıyor: OpenAI’nin kendi GPT-6 Astra’sı veya araç çağrılarını ve iş mantığını yöneten herhangi bir uyumlu model. Ses katmanı konuşma mekaniğini yönetir; muhakeme katmanı ise yapay zekanın gerçekte ne söyleyeceğine ve yapacağına karar verir.

Bu ayrımın pratikte anlamı: bir müşteri hizmetleri botu, cümle ortasında ‘bekle, aslında diğer seçeneği istiyorum’ ifadesini duyup buna yanıt verebilir, hazır bir cevabı sonuna kadar okumak yerine. Bir dil öğretmeni, bir öğrencinin bir kelimede takıldığını, öğrenci bitirmeden yakalayabilir. Bir rezervasyon sistemi, insanların kendini tekrarladığı, fikir değiştirdiği ve birbirinin sözünü kestiği gerçek dünya çağrılarını yönetebilir.

Full Duplex Bench adlı değerlendirmede — eşzamanlı yönlü ses işlemeyi test etmek için özel olarak tasarlanmış — GPT-Live-1, öncülü GPT-Realtime-2.1’den 30 yüzde puan daha yüksek puan alıyor. Muhakeme arka ucu olarak GPT-6 Astra ile eşleştirildiğinde, konuşma kesintisi olmadan karmaşık, çok adımlı sorguları test eden müşteri hizmetleri kıyaslaması Tau3’te zirveye çıkıyor.

İki katmanlı mimari, bilinçli bir tasarım tercihini yansıtıyor. Konuşma zamanlaması ve muhakeme ayrı ayrı faturalandırılıyor çünkü ölçeklenmeleri farklı: Hafif bir ders uygulaması geliştiren bir startup, GPT-6 Astra üzerinde binlerce eşzamanlı müşteri hizmetleri çağrısı yürüten bir kurumsal şirkete göre her iki katmanda da daha az ödüyor. Taban fiyat, arkasında ne çalışırsa çalışsın ses için dakikada 0,05 dolar.

GPT-Live-1’in değiştirmediği şey, yanıtların kalitesidir. Ses katmanı, yapay zekanın ne zaman ve nasıl konuştuğunu yönetir — ne bildiğini değil. Zamanlaması iyi yapılmış kötü bir yanıt, hâlâ kötü bir yanıttır. Müşteri hizmetleri uygulamaları geliştiren geliştiricilerin her iki katmanı ayrı ayrı değerlendirmesi gerekecek ve muhakeme arka ucu, ses katmanının kendisinden daha fazla faturaya ekleyebilir. OpenAI ayrıca, sürekli ses girişinin sürdürülmesinin daha zor olduğu düşük bant genişliğine sahip ortamlarda veya gürültülü telefon hatlarında full-duplex mimarisinin nasıl performans gösterdiğine dair veri yayınlamadı.

GPT-Live-1 artık OpenAI’nin API’sinde mevcut. Şirket, model üzerine inşa edilmiş tüketiciye yönelik bir ürün duyurmadı, ancak ChatGPT’nin ses modunun gelecekteki sürümlerinin aynı temel mimariden yararlanabileceğini belirtti. Dakikada 0,05 dolarlık ücret lansmanda geçerli; OpenAI, fiyat değişiklikleri için bir zaman çizelgesi veya ses katmanıyla kullanım için onaylanmış üçüncü taraf muhakeme modellerinin bir listesini yayınlamadı.

Etiketler: , , , , ,

Tartışma

S kadar yorum var.