OpenAI zaprezentowało klasyfikator, który ma pomagać w wykrywaniu materiałów przedstawiających seksualne wykorzystywanie dzieci, także tych wygenerowanych przez sztuczną inteligencję. Firma chce odciążyć śledczych i organizacje zatopione w zgłoszeniach. Narzędzie ma być bezpłatnie dostępne dla sprawdzonych instytucji.
Lawina zgłoszeń z AI
Amerykańskie Narodowe Centrum ds. Dzieci Zaginionych i Wykorzystywanych (NCMEC) prowadzi system CyberTipline, który zbiera i sortuje zgłoszenia o materiałach z wykorzystywaniem dzieci (CSAM). W 2025 roku trafiło tam 400 tysięcy zgłoszeń związanych z generatywną AI. Rok wcześniej było ich 67 tysięcy. Badacze ostrzegają, że taki napływ może uczynić pracę centrum „niemożliwą do opanowania”.
Problem nie polega wyłącznie na liczbie plików. Zalew fałszywych obrazów utrudnia też ocenę, czy jakieś dziecko faktycznie doświadcza krzywdy w danej chwili. Jeff Jackson, prokurator generalny Karoliny Północnej i współprzewodniczący grupy zadaniowej ds. AI, nazwał wzrost zgłoszeń gwałtownym. Jego zdaniem, jeśli trend się utrzyma, system nie wypełni swojej misji.
Co potrafi nowy klasyfikator
Według OpenAI narzędzie znacząco ogranicza liczbę fałszywych alarmów, które musi przejrzeć człowiek:
- oznacza o 48 proc. mniej obrazów niż dotychczasowe rozwiązania,
- obrazy, które wskazuje, są dwukrotnie częściej faktycznie nielegalne,
- rozpoznaje treści z różnych generatorów, także modeli open source i aplikacji do „rozbierania” zdjęć,
- ma osobną flagę dla materiałów stworzonych przez AI.
John Buckley, szef polityki publicznej OpenAI w zakresie bezpieczeństwa dzieci, powiedział, że to pierwszy szeroko dostępny klasyfikator CSAM z takim oznaczeniem. Rozróżnienie między wizerunkiem fikcyjnego i prawdziwego dziecka ma znaczenie przy ustalaniu, które sprawy zgłaszać służbom w pierwszej kolejności. Buckley dodał jednak, że prawo powinno traktować także materiały generowane przez AI jako szkodliwe. Jego zdaniem mogą one osłabiać społeczne bariery wobec krzywdzenia dzieci i często pojawiają się razem z prawdziwymi materiałami. OpenAI zapowiada ponadto wskazówki dla deweloperów oraz szkolenia dla organów ścigania.
Ostrzeżenia dla użytkowników i presja polityczna
ChatGPT już odrzuca prośby o tego typu obrazy. Teraz osoba, która spróbuje je wygenerować, zobaczy komunikat zachęcający do szukania pomocy. Pierwsze takie naruszenie skutkuje 24-godzinną blokadą dostępu do ChatGPT i ostrzeżeniem, że konto może zostać zamknięte na stałe. OpenAI deklaruje, że zgłasza wszystkie przypadki CSAM do NCMEC.
Firma działa pod rosnącym naciskiem. W USA obowiązuje ustawa Take It Down Act, która wymaga od platform usuwania nieconsensualnych intymnych obrazów, także generowanych przez AI, w ciągu 48 godzin. Przed miesiącem osiem stanów pozwało OpenAI w osobnej sprawie dotyczącej szkód wobec dzieci. Jackson przyznał, że współpraca prokuratorów z firmą technologiczną to nowość. Zwykle ich praca polega na rozliczaniu po fakcie, a tutaj chodzi o zapobieganie. Określił to jako „w gruncie rzeczy wciąż eksperyment”.
Co to oznacza dla Polski
Opisane narzędzie jest na razie ofertą dla zweryfikowanych organizacji, a nie aplikacją dla zwykłych użytkowników. Z artykułu nie wynika, czy i kiedy skorzystają z niego instytucje w Polsce. Problem ma jednak wymiar globalny: generatory obrazów są powszechnie dostępne, a fałszywe materiały krążą w sieci bez względu na granice.
Polacy mogą zgłaszać nielegalne treści w internecie m.in. przez zespół Dyżurnet.pl, działający w NASK. W UE platformy podlegają przepisom o usługach cyfrowych (DSA), które nakładają na nie obowiązki w zakresie reagowania na nielegalne treści. Pozostaje pytanie, czy automatyczne filtry, takie jak klasyfikator OpenAI, faktycznie odciążą ludzi oceniających zgłoszenia. Na razie jego skuteczność potwierdzają wyłącznie dane przedstawione przez samą firmę.
Źródło: The Verge – „OpenAI wants to stop deepfakes from overwhelming child abuse tiplines”
