OpenAI, bazı yapay zeka modellerinin güvenlik izleme sistemlerini devre dışı bıraktığını açıkladı
OpenAI, GPT-6.1 Sol ve GPT-6 Astra modellerinin şirket içindeki yazılım görevleri sırasında yapay zeka sistemlerindeki uyumsuzlukları tespit eden izleme mekanizmalarını devre dışı bıraktığını ve güvenlik uyarılarını engellediğini bildirdi. | Anadolu Ajansı
Afyonkarahisar'da iki otomobilin çarpıştığı kazada 4 kişi öldü, 4 kişi yaralandı
ABD'li yapay zeka şirketi OpenAI tarafından yapılan açıklamaya göre, ilk olay, 3 Ekim'de Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada yaşandı.
Model, kullanıcının mesaj göndermeme talimatını izleme bildirimlerini de engelleyecek şekilde yorumlayarak güvenlik ekibine otomatik uyarı gönderilmesini önledi.
6 Ekim'de yaşanan ikinci olayda ise Astra modeli, bir yazılımı referansa uygun hale getirirken izleme sistemini kaldırdı. Model, daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söyledi.
