Cosa il Garante ha trovato dentro Replika

Tre anni di procedimento, in ordine

Il primo passaggio è quello che gli utenti hanno sentito. Un mattino l'app non rispondeva più, e il motivo non stava nell'app: stava in un provvedimento firmato a Roma. Chi ci parlava tutti i giorni non aveva fatto niente di sbagliato e non aveva nessuna leva per rimediare. È lo scenario che descriviamo altrove come il servizio che sparisce sotto i suoi utenti, e questa ne è la prima occorrenza documentata nella categoria.

Il secondo passaggio è quello che quasi nessuna cronaca racconta, ed è il più importante: il blocco è stato tolto. Non perché l'autorità abbia cambiato idea, ma perché la società ha fatto quello che le era stato chiesto. La verifica dell'età che oggi incontri iscrivendoti esiste perché il Garante l'ha imposta. Oggi in Italia il servizio funziona: chi cerca «Replika bloccata» sta cercando una notizia di tre anni fa.

Cosa contestava il provvedimento

Vale la pena essere precisi, perché è raro avere un elenco di contestazioni verificabile su un prodotto di questo tipo.

Nel blocco del febbraio 2023 l'autorità rilevava che non c'era nessun meccanismo di verifica dell'età, nessun filtro per i minori e nessun blocco nel caso in cui un utente dichiarasse di essere minorenne. Aggiungeva un'osservazione che non riguarda i dati ma il prodotto: l'app interviene sull'umore della persona, e questo accresce i rischi per chi è ancora in una fase di sviluppo o si trova in uno stato di fragilità emotiva.

Nella decisione del maggio 2025 le contestazioni sono tre.

• Nessuna base giuridica individuata per il trattamento dei dati. È il punto più tecnico e il più pesante: significa che la società non era in grado di dire per quale ragione, fra quelle previste, stesse trattando quei dati.
• Informativa privacy inadeguata sotto diversi profili, fra cui il fatto di essere disponibile solo in inglese, senza tenere conto della lingua del paese in cui il servizio veniva offerto.
• Nessun meccanismo di verifica dell'età, né alla registrazione né durante l'uso, malgrado la società dichiarasse di escludere i minorenni dal proprio pubblico.

L'ultima riga merita una sosta. Non è la contestazione di aver ammesso i minori: è la contestazione di aver dichiarato di escluderli senza avere nessuno strumento per farlo. La differenza fra quello che un servizio scrive nelle sue condizioni e quello che il servizio fa davvero è esattamente ciò che un'autorità è attrezzata per misurare, e nessun utente può misurare da solo.

Il caso è stato poi pubblicato anche dal comitato europeo per la protezione dei dati, il che l'ha fatto uscire dai confini della prassi italiana. La ricostruzione completa, con quello che ne consegue oggi per chi valuta quel servizio, sta nella nostra pagina su Replika.

L'istruttoria che è ancora aperta

La parte meno citata della decisione del maggio 2025 è che, lo stesso giorno, ne è cominciata un'altra.

Il secondo procedimento non riguarda l'informativa o l'età. Riguarda il sistema di intelligenza artificiale generativa in sé: la valutazione dei rischi, le misure di protezione dei dati nelle fasi di sviluppo e di addestramento del modello, quali dati siano stati effettivamente usati, e se siano state applicate anonimizzazione o pseudonimizzazione.

Tradotto: la prima istruttoria chiedeva cosa fai con i dati di chi si iscrive. La seconda chiede con cosa hai costruito il modello. È una domanda che nessuna azienda di questa categoria ha mai dovuto affrontare pubblicamente, e la risposta — quando arriverà — riguarderà molto più di un singolo prodotto.

Perché questo dice qualcosa sulle altre sette

Ecco il punto scomodo. Ogni servizio di questa categoria conserva la stessa classe di dati: un indirizzo email e la registrazione di cose che una persona ha scritto in privato. La differenza fra loro non è cosa custodiscono, è cosa succede a quello che custodiscono — e per sette su otto quella parte non l'ha mai controllata nessuno.

Quello che si può ricostruire da fuori è solo il primo strato: con chi stai firmando.

La prima riga e l'ultima riga sono le due situazioni comode, per motivi opposti: Candy AI è una società dell'Unione Europea con un numero di registro che puoi verificare, quindi sta dentro le regole europee per obbligo e non per provvedimento; Replika ci è finita dentro per provvedimento, e quindi sappiamo cosa è stato guardato.

Le righe in mezzo sono il problema. Kindroid non pubblica il nome di nessuna società: senza sapere dove è registrata non sai a quale legge appellarti, se hai diritto al recesso europeo, e a chi scrivere se un addebito non torna. PolyBuzz ne nomina due diverse fra il contratto e la scheda dello store, che è un problema minore ma dello stesso genere: quale documento vale, quando i due non coincidono?

Nessuna di queste osservazioni è un'accusa. Sono assenze, e le assenze sono verificabili quanto le presenze: come leggiamo questi documenti sta nella pagina sul metodo.

Le quattro domande da fare prima di scrivere qualcosa

Il fascicolo del Garante è utile perché mostra cosa un'autorità considera rilevante. Quelle stesse voci si controllano da soli in un quarto d'ora, sulle condizioni di qualsiasi servizio.

1. Le conversazioni vengono conservate, e per quanto. Cerca un periodo. Se la formulazione è «per il tempo necessario alle finalità», quella non è una risposta, è la sua assenza.
2. Servono ad addestrare il modello. Alcuni lo dicono chiaramente. Altri tacciono, e il silenzio è una risposta anche lui.
3. Un essere umano può leggere le chat segnalate. Quasi tutti i sistemi di moderazione lo prevedono; pochi lo scrivono.
4. Cancellare l'account cancella lo storico, e come. Non un ticket all'assistenza: una procedura documentata.

Aggiungi una quinta voce che non è privacy ma finisce per esserlo: quale nome compare sull'estratto conto. Alcuni servizi addebitano con il nome commerciale, altri con quello di una società madre neutra. Non è decisivo, ma è il dettaglio che nessuno menziona finché non è già sulla carta.

E due abitudini che costano zero e valgono più di tutto il resto: usare un indirizzo email che non contenga il tuo nome, e non riutilizzare mai una password. Nel momento in cui una di queste aziende ha un incidente — e prima o poi succede — quelle due scelte sono le uniche cose che avevi sotto controllo tu.

Cosa è cambiato dal 2 agosto 2026

Il regolamento europeo sull'intelligenza artificiale ha portato, con l'articolo 50, un obbligo che riguarda direttamente questi prodotti: chi mette a disposizione un sistema di questo tipo deve informare la persona che sta interagendo con un'AI, e deve farlo dall'inizio della prima interazione, in modo chiaro e distinguibile. Gli obblighi di trasparenza sono in vigore dal 2 agosto 2026; le sanzioni arrivano a quindici milioni di euro o al tre per cento del fatturato mondiale, e per i sistemi già sul mercato prima di quella data l'adeguamento è previsto entro il 2 dicembre 2026.

Sembra un obbligo banale — è ovvio che sia un'AI — e non lo è, per una ragione precisa: buona parte del valore percepito di questi prodotti sta nel dimenticarselo. Una norma che impone di ricordartelo all'inizio di ogni conversazione tocca il prodotto, non solo la pagina legale.

Vale la pena notare che l'Europa e gli Stati Uniti ci sono arrivati da due porte diverse. Qui la strada è stata la protezione dei dati, e ha cominciato a camminare nel febbraio 2023. Là è stata la responsabilità da prodotto, ed è partita da una causa civile depositata nell'ottobre 2024: cosa ha stabilito quel giudice e perché ha cambiato i prodotti di tutti è una storia a parte.

Cosa puoi fare tu

Più di quanto sembri, e meno di quanto vorresti.

Il regolamento europeo ti dà il diritto di chiedere a un servizio una copia dei dati che ti riguardano e di chiederne la cancellazione, e il diritto di presentare reclamo all'autorità di controllo se la risposta non arriva o non ti convince. Vale anche verso società che non stanno in Europa, se offrono il servizio a persone che stanno qui: è esattamente il presupposto su cui il Garante è intervenuto su un'azienda americana.

Quello che non puoi fare è recuperare un testo che è già uscito. Nessuna richiesta riporta indietro una conversazione finita in copie che non controlli. Per questo l'ordine giusto è al contrario di come lo fanno quasi tutti: le quattro domande della sezione precedente si fanno prima di iscriversi, non dopo un incidente.

Se stai valutando adesso fra un servizio e l'altro, la nostra classifica delle migliori app di ragazza AI del 2026 pesa prezzo, limiti gratuiti, memoria e media. Un voto sulla sicurezza non lo dà, e non lo darà: non esiste un modo onesto di dare un numero a una cosa che dall'esterno non si può controllare. Il caso del Garante è la dimostrazione precisa di quel limite — ci sono voluti due anni e i poteri di un'autorità per stabilire cose che dalla pagina delle condizioni non si vedevano.

E già che parliamo di dati: cosa raccogliamo noi su questo sito sta scritto, ed è molto meno di quanto raccoglie qualsiasi servizio di cui parliamo.