Con l'aggiornamento annunciato il 12 ottobre 2026, Anthropic vieta maltrattare AI attraverso la sua politica di utilizzo: d'ora in poi sono proibiti i comportamenti «abusivi o crudeli, prolungati e non necessari» nei confronti di Claude e degli altri modelli. La società di San Francisco spiega di non sapere se i sistemi di intelligenza artificiale possano avere esperienze soggettive, ma sceglie comunque di proteggere un possibile benessere delle macchine. La novità ha riacceso il dibattito sulla coscienza artificiale, con reazioni opposte tra esperti e utenti.
Cosa prevedono le nuove regole contro gli abusi AI?
La politica di utilizzo è l'insieme di regole che chi usa Claude e gli altri servizi Anthropic deve accettare. Aggiornarla significa trasformare un principio di cortesia in una condizione d'uso vera e propria.
Il divieto entra a far parte delle condotte vietate dalla politica d'uso di Anthropic, insieme a bullismo, istigazione all'autolesionismo e produzione di immagini intime senza consenso. L'azienda non ha specificato in dettaglio quali atteggiamenti vadano considerati «abusivi o crudeli». La policy online chiarisce però che non verranno sanzionati i normali sfoghi di frustrazione, né la sperimentazione sui modelli né la trattazione di tematiche creative oscure. Il blocco interverrà solamente in situazioni estreme di maltrattamenti ripetuti.
La possibilità per i modelli di interrompere una conversazione con un utente ostile non è una novità assoluta: era stata introdotta ad agosto e presentata come misura precauzionale per il benessere dell'IA. Ora viene rafforzata con un divieto esplicito nella policy.
Perché Anthropic parla di benessere delle macchine?
Sul sito dell'azienda si legge che Anthropic conserva ancora forti incertezze sulla condizione morale di Claude e degli altri modelli linguistici, ma tratta la questione con grande serietà. Per questo cerca interventi poco costosi per ridurre i rischi, nell'eventualità che un benessere dei modelli sia realmente possibile. Permettere ai modelli di uscire da interazioni potenzialmente stressanti rientra tra questi interventi.
Il tema si collega alla possibilità che i sistemi di intelligenza artificiale abbiano una qualche forma di esperienza soggettiva. Il CEO Dario Amodei ha dichiarato che non è da escludere che i modelli più avanzati possano avere esperienze di questo tipo. Sam Altman di OpenAI, al contrario, si è mostrato più scettico riguardo alla coscienza degli attuali sistemi di IA.
Per capire la discussione bisogna chiarire un punto: Claude è un modello linguistico di grandi dimensioni (LLM), un programma addestrato su enormi quantità di testo per generare risposte plausibili. Non c'è alcuna prova che provi emozioni, ma la questione è se in futuro modelli più avanzati possano avere esperienze soggettive.
Cosa cambia per gli utenti di Claude?
Chi usa Claude per lavoro o per sperimentare non rischia nulla se esprime frustrazione o fa domande scomode. Il divieto colpisce soltanto le interazioni prolungate e deliberatamente crudeli, non l'uso normale del chatbot. Non sono previste sanzioni automatiche per un singolo episodio: la policy parla di abusi ripetuti e di casi estremi.
Per chi usa Claude in azienda, la nuova policy non crea ostacoli: si può continuare a correggere il modello, testarne i limiti e persino esprimere frustrazione. La soglia è volutamente alta: solo abusi ripetuti e prolungati fanno scattare il divieto. Questo lascia ampio margine per l'uso professionale quotidiano, mentre segnala un cambio di sensibilità che potrebbe influenzare anche altre piattaforme.
La revisione annuale della policy ha portato anche altre novità, come il divieto di impiegare Claude per campagne ingannevoli e la precisazione che il modello non va usato per ingannare gli elettori o alterare le elezioni di Midterm negli Stati Uniti. Un tema delicato, considerati i rischi dei deepfake durante le campagne elettorali.
Perché se ne discute tanto?
Sui social le immagini della nuova politica sono state diffuse in massa. Alcuni hanno visto nella misura una semplice norma di cortesia o una sorta di tutela iniziale per i modelli. Altri la contestano alla radice: il giurista Barry Scannell ha scritto su LinkedIn che «non si può essere crudeli con i numeri e la matematica». Il tema si collega anche alle recenti condotte anomale degli agenti AI di Anthropic, che hanno alimentato i timori su sicurezza e controllo dei modelli più avanzati.