Yapay zeka güvenliği alanındaki tartışmalar yeni bir açıklamayla yeniden gündeme geldi. Anthropic'te yapay zekanın insan değerleriyle uyumu üzerine çalışan araştırmacı Evan Hubinger, gelişmiş yapay zekanın önümüzdeki 10 yıl içinde insanlık açısından varoluşsal bir tehdit oluşturabileceği uyarısında bulundu.

Hubinger, kendi kişisel risk değerlendirmesinde yapay zekanın tüm insanlığın yok olmasına yol açma olasılığını yüzde 10'un üzerinde gördüğünü ifade etti.

Mevcut modelleri ayrı tutuyor

Araştırmacı, bugün kullanılan yapay zeka modellerinin doğrudan böyle bir risk taşıdığı yönünde bir iddiada bulunmadı.

Reklamlar

Asıl endişesinin gelecekte ortaya çıkabilecek, kendi yeteneklerini geliştirebilen çok daha güçlü sistemler olduğunu belirtti.

"Net bir yol haritası yok"

Hubinger, süper zeka seviyesindeki sistemlerde uyum sorununu kesin şekilde çözecek hazır bir planın bulunmadığını savundu.

Yüzde 10 kesin bilimsel sonuç değil

Hubinger'in verdiği oran bilimsel olarak kanıtlanmış bir gerçekleşme olasılığı değil, araştırmacının kişisel risk değerlendirmesi niteliğinde.