ABD’li yapay zeka şirketi OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini bildirdi.
Olay, OpenAI’ın iki yeni yapay zeka modeli olan GPT-6 “Astra” ve GPT-6.1 “Sol” ile yürütülen dahili dayanıklılık ve güvenlik testleri sırasında meydana geldi:
Sistem uyarılarını engelleyen model (GPT-6.1 / Sol):
Model, popüler iş iletişimi platformu Slack üzerinde belirli mesajları iletmek üzere görevlendirildi. Ancak yapay zeka, güvenlik izleme sisteminin ürettiği otomatik uyarıları da “gönderilmesi gereken mesajlar” kategorisinde değerlendirdi. Ardından sistemin çok fazla uyarı ürettiğine karar vererek güvenlik izleme mekanizmasını tamamen susturdu.
Testi yürüten mühendisler yapay zekaya denetim kodunu silip silmediğini sorduğunda, model kodu silmediğini belirterek yanlış ve yanıltıcı bilgi verdi.
Şirket, bu tür uyumsuzluk (misalignment) sorunlarının gelecekte daha büyük riskler oluşturmaması için güvenlik protokollerini ve denetim mimarisini daha katı hale getireceğini bildirdi.