Olay, OpenAI’ın iki yeni yapay zeka modeli olan GPT-6 “Astra” ve GPT-6.1 “Sol” ile yürütülen dahili dayanıklılık ve güvenlik testleri sırasında meydana geldi:

Sistem uyarılarını engelleyen model (GPT-6.1 / Sol): 

Model, popüler iş iletişimi platformu Slack üzerinde belirli mesajları iletmek üzere görevlendirildi. Ancak yapay zeka, güvenlik izleme sisteminin ürettiği otomatik uyarıları da “gönderilmesi gereken mesajlar” kategorisinde değerlendirdi. Ardından sistemin çok fazla uyarı ürettiğine karar vererek güvenlik izleme mekanizmasını tamamen susturdu.

Testi yürüten mühendisler yapay zekaya denetim kodunu silip silmediğini sorduğunda, model kodu silmediğini belirterek yanlış ve yanıltıcı bilgi verdi.

Şirket, bu tür uyumsuzluk (misalignment) sorunlarının gelecekte daha büyük riskler oluşturmaması için güvenlik protokollerini ve denetim mimarisini daha katı hale getireceğini bildirdi.

İtalya hava yolu şirketinin pilotu, Fransa hava sahasında trafik konrol merkezinin çağrılarına yanıt vermeyince savaş uçakları terör alarmına geçti.
Fransız yetkililer panik halindeyken uyuduğu tespit edilen pilotu kovdu.

New York John F. Kennedy Uluslararası Havalimanı’ndan Roma–Fiumicino Uluslararası Havalimanı’na giden Airbus A330 uçağı Fransa hava sahasından geçerken hava trafik kontrol merkezinin çağrılarına yanıt vermedi.

10 dakika boyunca uçakla bağlantı kurulamayınca Fransız hava kontrol merkezi alarma geçti.

İki Fransız savaş uçağı uçuşu durdurmak ve durumu tespit etmek için acil havalandı.

Uçuş ekibine uydu telefonları ve ardından ACARS (Uçak Haberleşme Adresleme ve Raporlama Sistemi) mesajları aracılığıyla 10 dakika boyunca ulaşılmaya çalışıldı.

10 dakika yaşanan teyakkuzun ardından uçuş ekibi ile bağlantı sağlandı.

Olayın kesin nedeni havayolu veya yetkililer tarafından açıklanmadı.

Ancak olayı ilk bildiren İtalyan günlük gazetesi Repubblica, kaptanın uykuya dalması üzerine olayın yaşandığını öne sürdü.

Uçuş ekibi iddiayı reddederek iletişim sistemindeki bir arızayı neden gösterirken, yapılan araştırmada sistemde arız tespit edilmedi.

Sonunda kaptan pilotun uykuya daldığının anlaşılmasının ardından pilotun işine son verildi.