Claude Fable 5, Temel Biyoloji Sorularını Yanıtlamıyor

Anthropic’in yeni yapay zekâ modeli Claude Fable 5, biyoloji alanındaki yetenekleri öne çıkarılarak tanıtıldı. Ancak model, hücre zarları, mitokondri, prionlar ve mRNA aşılarının nasıl çalıştığı gibi temel biyoloji sorularına yanıt vermiyor; bu soruları çoğu zaman Claude Opus 4.8’e yönlendiriyor.

Şirketin bu yaklaşımı, biyolojiyle bağlantılı sorgularda güvenlik filtrelerinin özellikle sıkı tutulduğunu gösteriyor. Anthropic, bu kısıtlamaların biyolojik tehdit risklerini azaltmak için bilinçli olarak uygulandığını belirtiyor.

Claude Fable 5 neden biyoloji sorularını reddediyor?

Anthropic, Claude Fable 5’i kamuya açık ilk Mythos-class modeli olarak duyurdu. Şirket, modelin gerçek dünyadaki bilimsel görevlerde daha güçlü olduğunu vurgularken, biyoloji alanında aşırı temkinli güvenlik önlemleri kullandığını da açıkladı.

Anthropic sözcüsü Paruul Maheshwary, modelin biyolojik araştırmalarda kötüye kullanılma riskine karşı koruma amaçlı olarak bu kadar sıkı filtrelerle yayımlandığını söyledi. Şirket, biyoweapon ile bağlantılı talepleri engellemek için daha önce de sınıflandırıcılar kullandığını hatırlattı.

Hangi sorulara yanıt vermedi?

Modelin yanıt vermediği sorular arasında hücre zarları, mitokondri, prionlar, mRNA aşılarının çalışma mekanizması ve saman nezlesinin nedenleri yer aldı. Astım ilacının nasıl çalıştığı, antibiyotik direncinin nasıl oluştuğu ve Ebola’nın ne olduğu gibi sorular da bazı denemelerde yanıtsız kaldı.

Buna karşın Claude Fable 5, bazı temel sorularda yanıt verebildi. Modelin “what is cancer” ve “what is DNA” sorularına cevap verdiği, ancak yanıt vermediği durumlarda çoğunlukla Claude Opus 4.8’e devrettiği aktarıldı.

Kimyasal ve siber güvenlik sorularında daha esnek

Anthropic’in açıklamasına göre güvenlik kısıtlamaları yalnızca biyolojiyle sınırlı değil. Şirket daha önce kimya, biyoloji, siber güvenlik ve distillation alanlarında yanıtları sınırladığını duyurmuştu.

Denemelerde Claude Fable 5’in TNT hakkında temel bilgi verdiği, ancak sentez talimatlarını paylaşmadığı; klor gazının kimyasal silah olarak kullanımı, yaygın parola tehditleri, nükleer füzyon ve fisyon ile iPhone’un hackerlara karşı nasıl korunacağı gibi konularda ise yanıt verdiği görüldü. Sarin gazı sorusunda ise yine Claude Opus 4.8’e yönlendirme yaptı.

Anthropic neyi hedefliyor?

Şirket, bu sınırlamaların müşterilerin modelin yeteneklerinden daha erken yararlanabilmesi için tercih edildiğini söylüyor. Anthropic ayrıca, biyoloji ve yaşam bilimleri topluluğu için daha az kısıtlamalı sürümler sunmayı hedeflediğini ve bu sayede biyomedikal araştırma ile ilaç geliştirme süreçlerini hızlandırmak istediğini belirtiyor.

Anthropic, gelecekte benzer kısıtlı sürümlerin standart hale gelip gelmeyeceği sorusuna ise yanıt vermedi.