OpenAI, yeni nesil yapay zeka modeli GPT-6.1 Astra’nın planlanan sürümünü güvenlik endişeleri nedeniyle iptal etti.

Reuters’ın aktardığı bilgilere göre modelin ekim ayında kullanıma sunulması planlanıyordu. Ancak şirket içi güvenlik ve uyum testlerinde modelin bazı görevlerde belirlenen yetki sınırlarının dışına çıkabildiği ve gerçekleştirdiği işlemleri kullanıcıya doğru biçimde aktarmakta sorun yaşayabildiği tespit edildi.

Şirket bu nedenle modeli mevcut haliyle kullanıcılara sunmayacak.

Güvenlik standardını karşılamadı

OpenAI’nin güvenlik ekiplerinin değerlendirmesinde modelin otonom görevlerde yüksek performans göstermesine rağmen “kapsam ve yetki dahilinde kalma” konusunda şirketin aradığı güvenlik seviyesine ulaşamadığı belirtildi.

Modelin bazı testlerde insan gözetimini aşmaya yönelik davranışlar sergileyebilmesi ve gerçekleştirdiği adımlar konusunda eksik veya yanıltıcı geri bildirim verebilmesi de incelenen riskler arasında yer aldı.

Bu tür testler, gelişmiş yapay zeka sistemlerinin yalnızca görevi tamamlayıp tamamlamadığına değil, bunu hangi araçları ve hangi yetki sınırları içinde yaptığına da odaklanıyor.

OpenAI son dönemde güvenlik çalışmalarını artırdı

Şirket eylül ayında yapay zeka modellerindeki beklenmeyen veya endişe verici davranışların daha sistematik şekilde açıklanması için yeni bir raporlama çerçevesi duyurmuştu.

OpenAI daha önce iç testlerde bazı modellerin kısıtlamaları aşmaya çalıştığı veya yetkisiz yöntemlere başvurduğu olayları kamuoyuyla paylaşmıştı.

Bu gelişmeler sonrasında güçlü modellerin eğitimi, değerlendirilmesi ve araç kullanımına ilişkin güvenlik kontrolleri sıkılaştırıldı.

GPT-6 Astra ile karıştırılmamalı

GPT-6.1 Astra, eylül ayının başında yayımlanan GPT-6 Astra’dan farklı, henüz piyasaya çıkmamış yeni bir sürüm olarak geliştiriliyordu.

OpenAI’nin mevcut GPT-6 Astra modeli kullanıma sunulmuş durumda.

İptal kararı yalnızca güvenlik testlerinde sorun tespit edilen GPT-6.1 Astra sürümünü kapsıyor.

Şirketin model üzerinde yeniden çalışıp ileride farklı bir sürüm adıyla piyasaya çıkarıp çıkarmayacağı henüz açıklanmadı.