قدمت شركة OpenAI أداة جديدة لتصنيف الصور تحلل السمات البصرية بهدف اكتشاف مواد تتضمن اعتداءً جنسيًا على الأطفال لم تُرصد من قبل. وتمنح المنظومة الصور درجات تساعد المشرفين على تحديد الصور التي ينبغي فحصها أولًا.
وقالت الشركة إن هذه الأداة هي أول مصنف متاح على نطاق واسع يقدم إشارة منفصلة إلى المواد المماثلة التي أنشأها الذكاء الاصطناعي. وستتمكن المنظمات المعتمدة من استخدامها مجانًا.
حظر ChatGPT لمدة 24 ساعة

إضافة إلى ذلك، ستظهر في ChatGPT تحذيرات تقطع محاولات العثور على هذا المحتوى. وسيوضح للمستخدم أن هذه المواد تسبب ضررًا، حتى إذا أنشأها الذكاء الاصطناعي.
وستُحذف المحادثة التي جرى تحديدها، كما سيُعلّق وصول المستخدم إلى ChatGPT لمدة 24 ساعة، وسيُعرض عليه خلال هذه الفترة الحصول على مساعدة من متخصصين. وفي حال تكرار المخالفات، قد تُفرض قيود أطول، أو يُحذف الحساب، أو تُنقل المعلومات إلى السلطات.
وقالت الشركة إنها طورت هذا النهج بالتعاون مع منظمات تكافح العنف ضد الأطفال ومستشارين أكاديميين.