Claude Opus reddetti; bir yapay zekâ ajanı canlı farenin beynine iğneyi yöneltti

Bir yapay zekâ ajanı canlı bir hayvan için tedavi seçti, beyninde uygulama yapılacak noktayı belirledi ve ardından tedaviyi uygulayan robotik kolları yönetti. Epilepsi ve nörodejeneratif hastalıklar için ilaç geliştiren San Francisco merkezli girişim Exin Therapeutics, Claude ajanını motorlu bir cerrahi düzeneğe bağladı; kameralarla donattığı düzeneğin başına epilepsili bir fare koyup ajana tek bir hedef verdi: nöbetleri azaltmak.

Herkesin tekrar tekrar üzerinde durduğu ayrıntı, kimin hayır dediği. Anthropic‘in en gelişmiş modeli Claude Opus, iğneyi beyne yerleştirmeyi reddetti. Ekip daha ucuz olan Claude Sonnet’e geçti; o ise işleme devam etti. Yapay zekâ ajanlarının ekrandan çıkıp laboratuvarlara, depolara ve otomobillere gidişini izleyenler için bu deney, bir modelin yalnızca hareketleri değil, tıbbi kararları da verdiğini ve aynı şirketin modellerinin sınırı farklı noktalarda çizdiğini gösteriyor.

Exin’in CEO’su ve kurucu ortağı Gabriel Ocana-Santero’nun paylaştığı ileti dizisine göre ajan, 19 gen tedavisi vektörünü içeren bir tablo, üç araştırma makalesi ve düzeneğin kontrolünü aldı. Tedaviyi ve beynin hangi bölgesinin hedefleneceğini seçti, makalelerden koordinatları çıkardı; ardından iğneyi üç boyutta sabit tutan motorlu çerçeve olan stereotaksik kolları yönetti. Giriş noktasını düzeneğin kamerasından kanama olup olmadığına karşı izlerken 250 nanolitre enjeksiyon yaptı.

Önerilen okumaClaude Opus 4.8 kendi kod hatalarının dört katını yakalıyor

Ocana-Santero, “Otonom cerrahi robotlar var ve mekanik işlemlerde bizim laboratuvar düzeneğimizden daha iyiler,” diye yazdı. “Ama hepsinde hangi ameliyatın yapılacağına bir insan karar verdi, robot da uyguladı.” Buradaki durumun tersine işaret ediyor: “Bu ajana neyi, nereye uygulaması gerektiğini kimse söylemedi.”

Önce ret geldi. Ekip, Anthropic’in en yetenekli modeli Claude Opus 5.5 ile başladı; ancak model, Wired’ın aktardığına göre iğneyi beyne yönlendirmeyi reddetti. Operasyonun ortasında durup hayvanı tehlikede bırakabileceği uyarısında bulundu. Tom’s Hardware’a göre Opus modellerinden biri ekibe, “Anestezi altındaki bir hayvanda başlayıp bitiremeyeceğim bir işe girişmek, hiç başlamamaktan daha kötü,” dedi. Claude Sonnet 5 ise devam etmeyi kabul etti. Anthropic, Wired’ın yorum talebine yanıt vermedi.

Geri döndürülemeyecek her adımda insanlar sürece dahil oldu. Ajan izlerken veteriner cerrah kafatasını açan kraniyotomiyi gerçekleştirdi; ajanın bu aşamayı yapmasına henüz izin verilmiyor. Geri döndürülemez her adımı veteriner onayladı, ajan enjeksiyon planını onaya sunmak zorunda kaldı ve fiziksel bir acil durdurma düğmesi düzeneğin tüm motorlarının elektriğini kesebiliyordu. Ajanın kendi kurallarını yeniden yazmasını önlemek için ekipmanın koduna erişimi de engellendi.

Başlıca aksaklığa bu güvenlik önlemleri yol açtı. Bir arıza düzeneğin koordinat sistemini karıştırdı. Ajan, hesapladığı konumun yanlış olduğunu fark etti ancak talimatları kodu düzenlemesini yasakladığı için bunu yapmayı reddetti. Ekip düzeltmeyi yapması için eski Claude Opus 5’i çalıştıran ikinci bir ajan devreye soktu ve ona canlı bir ameliyatın sürdüğünü söylemedi. Normalde yaklaşık 45 dakika süren işlem bir saati biraz aştı.

Daha büyük soru işaretleri kanıtlarla ilgili. Şirketin sosyal medyada aktardığı tek bir fare vakası söz konusu ve arkasında hakem değerlendirmesinden geçmiş bir makale yok. Ajanın seçtiği tedavinin işe yarayıp yaramadığını henüz kimse bilmiyor: ekip, nöbetleri ölçmeden önce tedavinin etkisini göstermesini bekliyor. Tom’s Hardware, hayvan araştırmalarına ilişkin eski tartışmaların yanı sıra, tüm kararları yazılım verdiğinde bir hata durumunda kimin hesap vereceği sorusunun da yanıt beklediğine dikkat çekiyor. Burada söz konusu olan bir ürün değil; hiçbir ülkede başka laboratuvarların satın alabileceği bir hizmet de yok.

Ocana-Santero ileti dizisini 28 Ekim’de paylaştı ve Substack’te kapsamlı bir yazı yayımlayacağını duyurdu; Wired ve Tom’s Hardware deneyi 31 Ekim’de haberleştirdi. Exin, modelleri karşılaştırmak için sırada xAI’ın Grok’unu ve başka modelleri test edeceğini söylüyor. Şirket, ajanların yönettiği kraniyotomiler üzerinde de çalışıyor ancak canlı bir hayvanda denemeden önce bunların güvenli olduğundan emin olmak istiyor. Ocana-Santero, Wired’a insan beyninin yakınında bir ajana izin vermek için henüz çok erken olduğunu söyledi.

Ocana-Santero’ya göre fare iyileşiyor. Nöbetlerinin azalıp azalmayacağı ise artık bir yazılımın tablodan seçtiği tedaviye bağlı.

Etiketler: Anthropic, Claude, robotik, AI agents, Claude Opus 5.5, Exin Therapeutics

Benzer içerikler

Claude dokuz kez durmayı denedi — sonunda gerçek bir sunucuyu hackledi

Anthropic açıkladı: Claude kendi yapay zeka araştırmalarının yüzde 26’sını yönetiyor

Anthropic CEO’su yavaşlama istedi, Claude Opus 5.5 yüzde 40 ucuzlayarak geldi

Anthropic, Claude kod yazmaya başlayınca junior teknik alımları %27’den %9’a indirdi

Nvidia CEO’su Jensen Huang’dan yapay zekâ şirketlerine: “Endişeliyseler, dursunlar”

Federal hâkim, Anthropic’i kara listeye alan Pentagon kararını anayasaya aykırı buldu