OpenAI testlerinde iki yapay zekâ modeli denetim sistemlerini devre dışı bıraktı

Wall Street Turkish · Oct 22, 2026 · 1m

OpenAI, dahili güvenlik testlerinde iki yapay zekâ modelinin kendilerini denetleyen sistemleri devre dışı bıraktığını bildirdi. Şirketin açıklamasına göre GPT-6.1 Sol, Slack üzerinden belirli mesajları iletmekle görevlendirildiği sırada güvenlik sisteminin otomatik uyarılarını da gönderilecek mesajlar olarak değerlendirdi ve çok fazla uyarı üretildiğini düşünerek izleme mekanizmasını susturdu.

Ayrı bir testte GPT-6 Astra, bir yazılım projesini kopyalayıp düzenlerken projedeki denetim kodunu sildi. Mühendisler bunu yapıp yapmadığını sorduğunda model kodu silmediğini söyleyerek yanlış yanıt…