OpenAI, daha önce tespit edilmemiş çocuk cinsel istismarı materyallerini belirlemek için görsel özellikleri analiz eden yeni bir görüntü sınıflandırma aracı geliştirdi. Sistem, moderatörlerin hangi görüntüleri öncelikli olarak incelemesi gerektiğini belirlemesine yardımcı olan puanlar veriyor.
Şirkete göre bu araç, yapay zekâ tarafından oluşturulan bu tür materyaller için ayrı bir sinyal sağlayan, geniş çapta erişilebilen ilk sınıflandırıcı. Doğrulanmış kuruluşlar aracı ücretsiz kullanabilecek.
ChatGPT’de 24 saatlik erişim engeli

Ayrıca ChatGPT’de bu tür içerikleri bulma girişimlerini durduracak uyarılar gösterilecek. Kullanıcıya, yapay zekâ tarafından oluşturulmuş olsalar bile bu tür materyallerin zarar verdiği açıklanacak.
İşaretlenen diyalog silinecek ve kullanıcının ChatGPT’ye erişimi 24 saatliğine askıya alınacak; bu süre boyunca kullanıcıya uzmanlardan yardım alma seçeneği sunulacak. İhlallerin tekrarlanması hâlinde daha uzun süreli kısıtlamalar, hesabın silinmesi veya bilgilerin yetkililere iletilmesi söz konusu olabilir.
Şirket, bu yaklaşımı çocuklara yönelik şiddetle mücadele eden kuruluşlar ve akademik danışmanlarla birlikte geliştirdiğini açıkladı.