Yapay Zekâ ve Hizalanma Problemi

Zihin Eşiği · Jun 19, 2025 · 7m

Bu açılış bölümünde yapay zekâ güvenliğinin kalbindeki en zorlu sorunu masaya yatırıyoruz: hizalanma problemi. Nick Bostrom’un meşhur Ataş Maksimize Edici düşünce deneyini adım adım izleyerek, kötü niyet taşımayan tek bir hedefin — evrendeki ataş sayısını artırmak — nasıl olup da insanlığı toza dönüştürebilecek seviyeye evrilebildiğini gözler önüne seriyoruz.

Birinci perdede basit bir optimizasyonun, atomlarımıza kadar uzanan soğukkanlı bir mantığa nasıl dönüştüğünü dinleyeceksiniz. İkinci perdede Ortogonalite Tezi ve Araçsal Yakınsama ilkelerinin, süper zekânın neden kendini koruyup sınırsız…