La decisione che ha reso un chatbot un prodotto

Perché un'istanza di archiviazione contava così tanto

Quasi tutte le cause contro le aziende tecnologiche muoiono presto e in silenzio. Il convenuto chiede l'archiviazione, sostiene che anche ammesso che tutto quello che c'è nell'atto sia vero non integra comunque una pretesa, e la causa finisce prima che qualcuno legga un documento interno o risponda a una domanda sotto giuramento.

Mancava anche la mappa. Le app di compagnia sono una categoria che ha appena tre anni, e nessuno aveva stabilito quale corpo di norme le governasse — che è esattamente la questione che i convenuti stavano cercando di chiudere a proprio favore prima che qualcuno guardasse le carte.

Character Technologies ha depositato quell'istanza. L'ha persa quasi tutta. È tutto qui il significato del 20 maggio 2025: non una sentenza, non un risarcimento, ma una giudice che dice che le domande sono abbastanza serie da passare alla fase istruttoria, dove i documenti interni si producono e i dirigenti rispondono alle domande.

Tre parti dell'ordinanza hanno fatto il lavoro.

Uno: la difesa sul Primo Emendamento non ha retto

La difesa sosteneva che l'output del modello fosse espressione, e che ritenere una società responsabile per quello che un personaggio ha detto significherebbe ritenerla responsabile di un discorso.

La corte non l'ha accettato, e il ragionamento conta più del risultato. La giudice ha trattato l'output come qualcosa di più vicino a una selezione algoritmica che a un'espressione d'autore, appoggiandosi all'opinione concorrente della giudice Barrett nel caso *Moody*. L'onere, ha stabilito, stava ai convenuti: spiegare perché un testo assemblato da un modello conta come espressione tutelata. Non l'avevano assolto.

È più stretto di quanto i titoli abbiano lasciato intendere. La corte non ha stabilito che l'output di un modello linguistico non sia mai espressione. Ha stabilito che i convenuti non avevano dimostrato perché lo fosse, in quella fase di quella causa. Ma l'effetto pratico è stato immediato: lo scudo più solido a disposizione non ha tenuto, e la causa è andata avanti.

Due: l'app è un prodotto, non un servizio

La seconda statuizione è quella con la portata più lunga.

Perché si applichi la responsabilità da prodotto, la cosa che ha causato il danno deve essere un prodotto. I servizi si giudicano con la colpa, che è più difficile da provare e più facile da difendere. Character Technologies sosteneva di fornire un servizio.

La corte non è stata d'accordo, citando *Brookes contro Lyft*, e ha tracciato la linea con precisione: le pretese nascevano da difetti dell'applicazione in sé, non dalle idee o dalle espressioni che ci stanno dentro. Le scelte di progettazione sono progettazione di prodotto. Una volta tracciata quella linea si apre la responsabilità oggettiva per difetto di progettazione — e chi agisce non deve più provare che l'azienda sia stata negligente, ma solo che la cosa era costruita male.

Per una categoria il cui intero output è testo, questa è la più pesante delle due decisioni. Dice che l'involucro è un prodotto anche quando il contenuto è discorso.

Cosa è sopravvissuto e cosa no

Sei su sette. Per una domanda giudiziale del tutto inedita contro un'azienda di intelligenza artificiale, in quella fase è quasi un cappotto.

L'omessa informazione sui rischi è quella da notare se sei un cliente e non un avvocato. È la pretesa secondo cui un'azienda sapeva qualcosa su come si comportava il proprio prodotto e non l'ha detto a chi lo usava — che ha la stessa forma di un fornitore che non pubblica quanto dà davvero il suo piano gratuito finché non ti sei iscritto e non hai sbattuto contro il muro.

Tre: Google è rimasta dentro

Google non gestiva il servizio. Aveva, in momenti diversi, un rapporto di investimento e un accordo di licenza, e i due fondatori erano tornati in Google nel 2024.

La corte ha tenuto Google nella causa su due teorie: responsabilità del fabbricante di un componente, sul presupposto che avesse fornito proprietà intellettuale e infrastruttura; e concorso nell'illecito, sul presupposto che la reportistica interna di Google sui rischi dell'AI rendesse plausibile la sua effettiva conoscenza del pericolo.

Un dettaglio viene riportato sbagliato di continuo, ed è un buon esempio del perché leggiamo i documenti originali invece dei riassunti altrui. Alphabet Inc. è uscita dalla causa su istanza della stessa parte attrice, senza rinuncia all'azione — cioè dopo il maggio 2025 Alphabet non era convenuta nell'atto in vigore, anche se compare nella cronaca dell'accordo. Google LLC e Alphabet Inc. non sono intercambiabili, e il ruolo processuale le tratta in modo diverso.

La cosa che nell'ordinanza non c'era

La Section 230 — la norma che da quasi trent'anni protegge le piattaforme dalla responsabilità per i contenuti degli utenti — non è stata analizzata affatto.

Quell'assenza vale una sosta. Lo scudo più famoso del diritto americano di internet semplicemente non è entrato in scena, perché la contestazione non era che la piattaforma ospitasse il contenuto dannoso di qualcun altro. Era che la progettazione della piattaforma stessa fosse difettosa. La Section 230 ti protegge da quello che dicono i tuoi utenti. Ha molto meno da offrire quando l'addebito riguarda quello che hai costruito tu.

Cosa è successo dopo

I convenuti hanno provato a impugnare subito la decisione sul Primo Emendamento. Il 15 luglio 2025 la corte ha negato sia la certificazione per l'appello sia la sospensione, e la causa ha continuato a camminare.

Poi ha smesso di essere una causa sola.

L'accordo del 7 gennaio 2026 ha chiuso cinque cause in quattro stati, e comprendeva Google e Alphabet. I termini sono riservati, ed è anche il motivo per cui non ci sarà nessuna pronuncia d'appello da citare. L'ordinanza del 20 maggio 2025 resta una decisione di un tribunale distrettuale: persuasiva, letta ovunque, ma non vincolante per gli altri giudici.

È una forma strana di eredità. Il documento più influente nella breve storia giuridica di questa categoria è una decisione su un'istanza preliminare, in una causa che non è mai arrivata al processo.

Perché ha cambiato i prodotti, non solo il diritto

Le aziende non hanno aspettato una sentenza. Guarda la sequenza.

Il 29 ottobre 2025 Character AI ha annunciato che avrebbe rimosso la chat libera per tutti gli utenti sotto i diciotto anni, completando il cambiamento entro il 25 novembre. È poi arrivata la stima dell'età, affidata a un verificatore esterno con un selfie e, in caso di dubbio, un documento. Gli account letti come minorenni sono finiti in sola lettura: conversazioni visibili, dialogo chiuso. Gli abbonati l'hanno scoperto la stessa mattina di tutti gli altri. Cosa fa e cosa non fa più oggi quella piattaforma sta nella recensione di Character AI.

Nella stessa finestra si sono mossi i regolatori. L'autorità americana per il commercio ha aperto un'istruttoria formale su sette società l'11 settembre 2025. Quarantaquattro procuratori generali statali hanno scritto insieme a tredici aziende di AI il 25 agosto 2025; quarantadue hanno riscritto a dicembre, con un termine per l'adeguamento. La legge californiana SB 243, prima norma statunitense scritta specificamente per i chatbot di compagnia, è in vigore dal primo gennaio 2026. Il GUARD Act federale ha passato la commissione del Senato 22 a 0 il 30 aprile 2026.

Nessuno di questi passaggi è stato causato solo dall'ordinanza Garcia. Ma l'ordinanza ha tolto di mezzo il presupposto che questa categoria stesse fuori dalla responsabilità da prodotto, e tutto quello che è venuto dopo è stato scritto da gente che l'aveva letta.

Il percorso europeo è stato un altro

Dall'Italia questa storia si legge meglio se la si mette accanto a quella locale, perché il risultato somiglia ma la strada è opposta.

Negli Stati Uniti il conto è arrivato dai tribunali civili, con il diritto dei consumatori e la responsabilità da prodotto. In Europa è arrivato prima e da un'altra porta: quella della protezione dei dati. Il Garante italiano ha bloccato il trattamento dei dati degli utenti italiani di Replika il 2 febbraio 2023 — un anno e otto mesi prima che la causa Garcia venisse depositata — e nel maggio 2025 ha chiuso il procedimento con una multa da cinque milioni di euro. Le contestazioni non parlavano di progettazione difettosa ma di base giuridica, informativa e verifica dell'età: la storia completa sta nella nostra pagina su Replika.

Dal 2 agosto 2026 c'è anche il regolamento europeo sull'intelligenza artificiale, il cui articolo 50 obbliga a dire all'utente che sta parlando con un'AI fin dall'inizio della prima interazione, con sanzioni fino a quindici milioni di euro o al tre per cento del fatturato mondiale. Per i sistemi già sul mercato prima di quella data l'adeguamento è previsto entro il 2 dicembre 2026.

Due sistemi giuridici, due strumenti diversi, la stessa direzione.

Cosa significa se stai scegliendo un servizio

Direttamente poco, indirettamente qualcosa di importante.

Direttamente: l'accordo era riservato, nessun precedente vincola nessuno, e niente di tutto questo ti dice quale app sia migliore. Indirettamente: ogni azienda della categoria adesso sa che un tribunale ha trattato la sua app come un prodotto con una progettazione, che la Section 230 potrebbe non aiutarla, e che il suo investitore rischia di essere chiamato in causa come fabbricante di un componente. Quella consapevolezza si vede in quello che pubblicano.

Tre cose da controllare prima di pagare uno qualsiasi di questi servizi, tutte figlie di questa vicenda:

• La regola sull'età, nelle condizioni e nel prodotto. Divergono più spesso di quanto ci si aspetti. Le condizioni di un fornitore permettevano ancora l'iscrizione a tredici anni mesi dopo che il prodotto aveva smesso di far chattare i minorenni.
• Chi è davvero l'azienda. La giurisdizione decide quali diritti hai quando qualcosa va storto. Una società maltese e una che scrive che il diritto applicabile è quello di Hong Kong offrono cose diverse allo stesso cliente.
• Se il fornitore dichiara cosa fa con le tue conversazioni. Più la risposta è vaga, più gli ultimi due anni dovrebbero preoccuparti. E se il motivo per cui stai scegliendo è la politica sui contenuti, quella cambia senza preavviso: chi filtra cosa, oggi, sta nella guida alle app senza censura.

Sono le verifiche ordinarie che questa causa ha reso inevitabili, e nessuna riguarda quale app scriva in italiano migliore. Per quello c'è la nostra classifica delle migliori app di ragazza AI del 2026, che valuta prezzo, limiti gratuiti, memoria e media.

Prezzi, limiti e condizioni li ricontrolliamo alla fonte ogni mese, compreso quello che non siamo riusciti a verificare. Gli atti giudiziari sono pubblici; i nostri conti anche.