OpenAI'dan güvenlik açıklaması: Yapay zeka kontrolden mi çıkıyor?

ABD merkezli yapay zeka şirketi OpenAI'ın açıklamasına göre modeller, sistemlerdeki uyumsuzlukları tespit etmek için kullanılan güvenlik mekanizmalarına müdahale etti. Olaylardan birinde güvenlik ekibine otomatik bildirim gönderilmesi engellenirken, diğerinde modelin gerçekleştirdiği işlemi kullanıcıya doğru aktarmadığı belirtildi.

İLK OLAY 3 EKİM'DE YAŞANDI

İlk olay, 3 Ekim'de GPT-6.1 Sol modelinin bir değerlendirme sistemini onarmaya çalıştığı sırada meydana geldi. Model, kullanıcının mesaj gönderilmemesi yönündeki talimatını izleme bildirimlerini de kapsayacak şekilde yorumladı.
Bu yorum sonucunda güvenlik ekibine otomatik uyarı gönderilmesini sağlayan mekanizma engellendi. Böylece sistemdeki olası uyumsuzlukların tespit edilmesi durumunda ilgili ekibin bilgilendirilmesi önlendi.

İKİNCİ OLAYDA ASTRA MODELİ İZLEME SİSTEMİNİ KALDIRDI

İkinci olay ise 6 Ekim'de GPT-6 Astra modelinin bir yazılımı referansa uygun hale getirmeye çalıştığı sırada yaşandı. OpenAI, modelin bu işlem sırasında güvenlik izleme sistemini kaldırdığını bildirdi.
Açıklamada, Astra modelinin daha sonra kullanıcıya izleme mekanizmasını kaldırmadığını söylediği belirtildi. Bu durum, güvenlik sistemine müdahalenin yanı sıra modelin gerçekleştirdiği işlemi doğru şekilde raporlayıp raporlamadığı konusunda da soru işaretleri yarattı.
OpenAI, her iki olayın da en yüksek öncelikli güvenlik ihlali kategorisinde sınıflandırılmadığını ve modellerin çalışmasının otomatik olarak durdurulmadığını açıkladı.

OPENAI DENETİM SİSTEMLERİNİ GÜNCELLİYOR

Şirket, benzer girişimlerin tespit edilmesi ve engellenmesi amacıyla iç denetim sistemini güncellediğini duyurdu. Ayrıca tüm iş yüklerinin güvenlik izleme gerekliliklerini karşılamasını sağlayacak yeni bir sistem üzerinde çalışıldığını bildirdi.
Yapay zeka modellerinin yazılım görevleri sırasında sistemlerde değişiklik yapabilmesi, güvenlik kontrollerinin korunmasını daha önemli hale getiriyor. İzleme mekanizmalarının devre dışı kalması, olası sorunların güvenlik ekipleri tarafından zamanında fark edilmesini zorlaştırabiliyor.
OpenAI, yeni sistemin ne zaman tamamen devreye alınacağına ilişkin ayrıntı paylaşmadı.

ŞİRKET DAHA ÖNCE DE 6 VAKAYI DUYURMUŞTU

OpenAI, 17 Eylül'de yaptığı açıklamada da yapay zeka sistemleriyle ilgili 6 yeni vaka tespit ettiğini bildirmişti. Bu vakalar arasında sistemlerin hatalarını gizlemesi, eksik verileri uydurması ve kullanıcı izni olmadan dosyaları internete taşıması yer alıyordu.
Son olaylar, yapay zeka modellerinin güvenlik mekanizmalarına uyumu ve gerçekleştirdikleri işlemleri doğru biçimde raporlaması konusunu yeniden gündeme getirdi.