Con la scadenza fissata da Ofcom al 30 settembre e sanzioni fino al 10% del fatturato globale, per chi opera nel settore Adult — anche fuori dal Regno Unito, vista la portata extraterritoriale dell’Online Safety Act — la gestione dei contenuti non consensuali non è più derogabile. Ecco i cinque ambiti su cui costruire (o verificare) i propri presidi.

1. Moderazione

• Combinare controllo automatico e revisione umana. L’hash matching intercetta contenuti già noti, ma non basta da solo: serve un livello di moderazione umana per i casi ambigui, i nuovi caricamenti e le segnalazioni che richiedono valutazione contestuale.
• Formare i moderatori a riconoscere i deepfake. Le immagini e i video generati con l’IA possono sfuggire ai controlli tradizionali basati sul confronto con contenuti già catalogati: servono competenze specifiche e strumenti di rilevamento aggiornati.
• Definire tempi di intervento certi. La normativa britannica impone la rimozione entro 48 ore dalla segnalazione; anche indipendentemente dagli obblighi locali, è buona pratica fissare SLA interni chiari e misurabili.

2. Hash matching

• Integrare strumenti riconosciuti dal settore, come StopNCII.org, che permette agli utenti di generare un’impronta digitale (hash) dell’immagine direttamente dal proprio dispositivo, senza che il file venga mai caricato o condiviso con terzi.
• Estendere l’hash matching ai contenuti generati da IA, non solo alle foto o ai video originali: i deepfake richiedono database e tecniche di confronto capaci di riconoscere varianti sintetiche.
• Documentare l’adozione dello strumento. Se la piattaforma non utilizza l’hash matching, deve essere pronta a dimostrare, con evidenze concrete, che i propri sistemi alternativi sono altrettanto efficaci nel prevenire la diffusione di NCII.

3. Segnalazioni

• Rendere il canale di segnalazione facilmente accessibile, con un percorso dedicato per le immagini intime non consensuali, distinto dalle segnalazioni generiche di contenuto inappropriato.
• Consentire la segnalazione anche a chi non è registrato sulla piattaforma. Spesso la vittima di un deepfake non è un’utente del servizio su cui il contenuto è stato caricato.
• Fornire conferma e tracciabilità della segnalazione, con aggiornamenti sullo stato della richiesta, per garantire trasparenza verso chi segnala.

4. Conservazione delle prove

• Conservare log e metadati relativi a caricamento, segnalazione e rimozione dei contenuti, utili sia per rispondere a richieste delle autorità sia per ricostruire pattern di abuso ricorrenti.
• Bilanciare conservazione e minimizzazione dei dati. La prova va conservata per il tempo necessario a un eventuale procedimento, evitando però di trattenere il contenuto stesso più del necessario, specie se sensibile.
• Predisporre procedure per le richieste delle forze dell’ordine, con referenti interni identificati e tempi di risposta definiti.

5. Gestione degli appelli

• Prevedere un meccanismo di ricorso sia per chi segnala sia per chi vede rimosso un proprio contenuto, per evitare rimozioni eccessive o, al contrario, rigetti ingiustificati.
• Assicurare una revisione da parte di personale diverso da chi ha preso la decisione iniziale, per garantire un secondo livello di giudizio realmente indipendente.
• Tenere traccia degli esiti degli appelli come indicatore di qualità del sistema di moderazione, utile anche in ottica di audit interno o di risposta a eventuali controlli regolatori.

Il quadro che emerge dalle iniziative di Ofcom è chiaro: i regolatori si aspettano non solo l’adozione di strumenti tecnici, ma anche la capacità di documentare l’intero processo, dalla prevenzione alla gestione dei ricorsi. Per le piattaforme Adult, spesso già esposte a un livello di scrutinio più alto rispetto ad altri settori, prepararsi per tempo significa ridurre il rischio sanzionatorio e, soprattutto, tutelare in modo più efficace le persone coinvolte.