Новини›עוד›OpenAI пусна нов класификатор на снимки и предупреждения в ChatGPT срещу CSAM
עוד

OpenAI пусна нов класификатор на снимки и предупреждения в ChatGPT срещу CSAM

TechCrunch AI · понеделник, 16 ноември, 19:00 · 1 мин четене

Компанията добави инструменти за откриване на незаконно съдържание с деца и временно блокира акаунти

OpenAI обяви нови мерки срещу материали със сексуална злоупотреба с деца (CSAM), като безопасността при AI инструментите става все по-важна тема. Сред новостите е нов класификатор на снимки, който открива CSAM, включително такива, генерирани с AI.

Класификаторът търси визуални признаци на злоупотреба в снимки, които не са виждани преди, и връща оценка, която помага на проверяващите да знаят как да постъпят.

В ранните тестове с партньори класификаторът маркира с 48% по-малко снимки, като открива същия брой злоупотребяващи снимки. Това намалява работата на проверяващите, а снимките, които той маркира, са два пъти по-често злоупотребяващи.

В ChatGPT се добавят нови предупредителни екрани. Когато потребител се опита да напише заявка, която сексуализира деца, той вижда известие, насочва се към специализирана помощ и акаунтът му се спира за 24 часа като предупреждение. Повтарящите се нарушения могат да доведат до трайно премахване на акаунта. Приложението и без това блокира такова съдържание и заявки.

Компанията публикува и насоки за разработчици, които използват нейните инструменти, за да предотвратяват, откриват и подават сигнали за CSAM. Правоприлагащите органи получават AI функции като специални приставки, инструменти за разследване и анализ на сложни данни, а достъпът се управлява от администратори на програмата. Има и обучение за разследващи и ръководство как да се използва AI.

Още новини