L’IA offre alle aziende reali opportunità per migliorare l’efficienza. Porta anche nuove sfide, motivo per cui le aziende cercano sempre più di utilizzare una forma specifica di IA contro l’IA: i rilevatori di IA.

Ci sono motivi legittimi per utilizzare i rilevatori di IA: proteggere il tono di voce del brand, rilevare le frodi, individuare il plagio, ottenere un buon rapporto qualità-prezzo dai collaboratori esterni e altro ancora.

Ma i rilevatori di IA non sono infallibili e per la maggior parte delle aziende i rischi derivanti dal loro utilizzo superano i benefici. Ecco cosa devi sapere prima di usarne uno.

Come funzionano i rilevatori di IA?

I rilevatori di IA sono software specializzati che analizzano matematicamente i pattern per stimare la probabilità che un testo sia stato generato da una macchina. Tra i rilevatori più diffusi ci sono GPTZero, Copyleaks, Originality.ai, Sapling, Turnitin e Grammarly AI Detector.

Ciò che i rilevatori di IA cercano, in termini tecnici, si riduce a due metriche:

  • Perplessità misura quanto sia prevedibile una sequenza di parole. Una minore prevedibilità significa una minore probabilità di coinvolgimento dell’IA, perché i modelli di IA sono addestrati a indovinare e utilizzare le parole statisticamente più probabili. Gli esseri umani compiono scelte di parole più varie ed eccentriche.
  • La frequenza delle raffiche (burstiness) misura la variazione nella lunghezza e nella complessità delle frasi. La scrittura umana procede a “raffiche” con un mix di tipi di frasi, mentre l’IA orientata alla probabilità tende a scrivere in modo regolare, fluido, quasi matematico. Una scrittura con una bassa frequenza di raffiche indica chiaramente a un rilevatore il coinvolgimento dell’IA.

Alcuni rilevatori di IA utilizzano anche l’analisi stilometrica, valutando la scelta del vocabolario e della grammatica, alla ricerca di strutture sospettosamente rigide e formali.

Un piccolo numero di modelli di IA sta iniziando a utilizzare la filigrana (watermarking), che comporta l’incorporare pattern invisibili e rilevabili nel testo generato dall’IA al momento della creazione. Ma poiché la maggior parte dei modelli attualmente non lascia tracce, non puoi ancora fare affidamento su questa soluzione.

I rilevatori di IA sono affidabili?

I rilevatori di IA non sono mai affidabili al 100% e spesso lo sono in misura significativamente inferiore.

L’accuratezza varia in modo significativo in base allo strumento, al tipo di contenuto e (aspetto fondamentale) al modo esatto in cui l’IA è stata utilizzata per creare il contenuto analizzato, sempre che sia stata utilizzata.

Quando i rilevatori funzionano

Incolla l’output dell’IA non modificato (o “grezzo”) in qualsiasi rilevatore di IA e lo strumento lo individuerà. L’output grezzo è facile da identificare per il rilevatore perché il pattern statisticamente probabile che sta cercando non è stato interrotto.

Ad esempio, abbiamo incollato del testo generato direttamente da Claude Sonnet 4.6 in Sapling. Sapling ha stabilito con una sicurezza del 99,5% che questo testo generato dall’IA era effettivamente generato dall’IA.

Sapling contrassegna correttamente il paragrafo grezzo generato dall’IA.

Originality (un altro rilevatore di IA leader del settore) ha contrassegnato lo stesso paragrafo come generato da IA con una sicurezza ancora maggiore: 100%.

Originality è ancora più sicuro che il nostro testo grezzo dell’IA sia stato generato dall’IA.

I rilevatori possono identificare la scrittura dell’IA anche quando il testo inviato non è generato al 100% dall’IA, sebbene in modo significativamente meno affidabile, in particolare quando il testo è breve (meno di 300 parole) e i pattern cercati dai rilevatori non hanno il tempo di delinearsi.

Quando i rilevatori falliscono

È ampiamente documentato che i rilevatori di IA rilevano falsi positivi: segnali di utilizzo dell’IA in testi interamente scritti da esseri umani. Un recente studio sottoposto a revisione paritaria sulla scrittura accademica(nuova finestra) ha valutato l’accuratezza complessiva di Originality e Turnitin nell’identificare i testi accademici generati dall’IA rispettivamente solo al 69% e al 61%.

Un problema è che gli esseri umani spesso scrivono in modo naturale come l’IA, in particolare se non sono madrelingua, i quali (come i LLM) utilizzano frasi semplici e molto grammaticali. Uno studio di Stanford(nuova finestra) ha fatto analizzare a sette famosi rilevatori di IA alcuni saggi del Test of English as a Foreign Language scritti da studenti cinesi. Il tasso medio di falsi positivi è stato del 61,22%.

È anche difficile per i rilevatori individuare quando gli esseri umani alterano deliberatamente i pattern statistici che stanno cercando. Gli autori assistiti dall’IA non devono fare molto per rompere questi schemi: riscrivere alcune frasi, variare la struttura del periodo, usare parole meno prevedibili.

Se questo sembra un lavoro eccessivo, possono farlo fare al posto loro da uno dei numerosi strumenti di “umanizzazione” che sono inevitabilmente sorti per aggirare i rilevatori.

Possono anche semplicemente continuare a usare il LLM prescelto e utilizzare prompt più intelligenti. Uno studio del 2025 su 12 rilevatori di IA(nuova finestra) ha rilevato che “una rifinitura minima con GPT-4o può portare a tassi di rilevamento compresi tra il 10% e il 75%, a seconda del rilevatore”.

Abbiamo chiesto a Claude Sonnet 4.6 di scrivere un saggio di 300 parole sull’accuratezza dei rilevatori di IA, e gli abbiamo chiesto di scrivere come un essere umano, con frasi di lunghezza varia, opinioni dirette e scelte di parole inaspettate. Sapling ha valutato la probabilità che il testo fosse generato dall’IA solo al 12%.

Screenshot di uno strumento di rilevamento dell'IA che mostra un brano di testo di 360 token che spiega perché i rilevatori di IA non sono affidabili. Due frasi verso la fine sono evidenziate in rosso come segnalate: "Lo stesso vale per qualsiasi prosa che privilegi la precisione rispetto alla personalità" e "In parole povere: questi strumenti possono individuare con ragionevole sicurezza gli output di IA pigri e non modificati. Tutto il resto sono congetture mascherate da dati". Sotto il testo ci sono un pulsante verde "Verifica di nuovo", un menu a discesa "Prova un campione", un pulsante per caricare un "File" e un risultato che indica "Falso: 12,0%".
Sapling non riesce a identificare il testo di Claude generato con prompt intelligenti.

Originality ha analizzato lo stesso testo e ha dichiarato di essere sicuro al 100% che il testo fosse generato dall’IA.

Screenshot del Docs Editor di Originality.ai che scansiona lo stesso passaggio sull'inaffidabilità dei rilevatori di IA, con la maggior parte dei paragrafi evidenziati in rosso/rosa che indicano il testo segnalato. Il pannello dei risultati a destra mostra un indicatore che riporta "Sicuro al 100% che sia IA", una nota che specifica che ciò riflette la sicurezza che il testo sia generato dall'IA (non che il 100% del testo sia stato prodotto dall'IA), un invito a eseguire una "Scansione approfondita" per spiegazioni dettagliate e un conteggio dei caratteri di 1.704 / 12.000.
Originality valuta lo stesso testo come IA al 100%: il verdetto opposto, con la stessa sicurezza.

Originality sembra essere lo strumento migliore sulla base di questo test, ma è importante riconoscere che entrambi gli strumenti erano ugualmente sicuri della propria analisi. Se hai scritto tu il testo analizzato, saprai quale rilevatore ha ragione. Se non lo hai fatto, allora non potrai mai esserne sicuro.

In che modo i rilevatori di IA mettono a rischio i tuoi dati

Il problema più grande con i rilevatori di IA è quello che molte aziende trascurano del tutto: i rischi che presentano per la privacy e la sicurezza dei tuoi dati. Si tratta di rischi simili a quelli posti dall’IA in generale:

  • Rischi di conformità: i modelli di rilevamento ereditano i pregiudizi dai dati di addestramento, creando il potenziale per risultati discriminatori e violando le leggi sulle pari opportunità. Molti rilevatori sono “scatole nere” e framework come l’EU AI Act(nuova finestra) e il NIST AI Risk Management Framework(nuova finestra) richiedono che le organizzazioni forniscano una logica significativa per gli output dell’IA.
  • Rischi relativi alla proprietà intellettuale (IP) e ai dati di addestramento: molti rilevatori di IA hanno termini di servizio (ToS) che concedono al fornitore il diritto di memorizzare, analizzare e utilizzare i dati inviati per addestrare modelli futuri. Ciò può significare che il tuo fornitore ha il diritto legale di utilizzare qualsiasi roadmap di prodotto, proiezione finanziaria e ricerca proprietaria che hai inviato, senza alcun obbligo di garantirne la privacy o impedirne la comparsa nell’output di un concorrente.
  • Rischi per la sicurezza dei dati: i rilevatori di IA sono vulnerabili agli attacchi informatici ed inviare contenuti a un rilevatore di terze parti estende la tua superficie di attacco includendo quella del tuo fornitore. Se il tuo fornitore subisce una violazione, anche i tuoi dati ne saranno interessati. Gli strumenti gratuiti e non verificati, proprio il tipo di strumenti che i dipendenti potrebbero essere tentati di utilizzare, non ti consentiranno di verificare in anticipo le pratiche di sicurezza di un fornitore.
  • Rischi legati alla sovranità dei dati: inviare un documento a un rilevatore può comportare il trasferimento del testo a server stranieri, privandolo potenzialmente delle protezioni locali ed esponendolo alla sorveglianza governativa extraterritoriale ai sensi del CLOUD Act(nuova finestra).

Per la maggior parte delle aziende, la questione non è se i rilevatori di IA funzionino: è se valga la pena correre i rischi legati al loro utilizzo. Se lavori con dati sensibili, originali o riservati, la risposta è no.

Domande frequenti sui rilevatori di IA

Come funzionano i rilevatori di IA?

I rilevatori di IA scansionano il testo alla ricerca di pattern che sono stati addestrati ad associare al testo generato dall’IA. Questi pattern compaiono perché l’IA genera testo prevedendo algoritmicamente e utilizzando la parola successiva più probabile.

Cosa cercano i rilevatori di IA?

I principali indicatori di testo generato dall’IA cercati dai rilevatori sono bassi livelli di “perplessità” (scelte di parole imprevedibili) e “frequenza delle raffiche” (variazione nella lunghezza e nella struttura delle frasi).

Alcuni modelli di IA stanno iniziando a sperimentare la filigrana (watermarking), il che significa incorporare pattern invisibili (ma rilevabili) nel testo al momento della generazione. Tuttavia, poiché solo pochi modelli hanno iniziato a farlo, il watermarking non fornisce ancora un test infallibile per il testo generato dall’IA.

I rilevatori di IA funzionano?

L’accuratezza dipende dal rilevatore utilizzato, dal tipo di testo analizzato e da come (e se) l’IA è stata utilizzata per generare il testo. I rilevatori funzionano bene sull’output dell’IA grezzo e non modificato. Su qualsiasi cosa di più complesso (contenuti modificati, scrittura umana da parte di non madrelingua, output dell’IA leggermente parafrasato) l’accuratezza diminuisce in modo significativo.

Accuratezza a parte, il problema più grande dei rilevatori di IA è la minaccia che il loro utilizzo può rappresentare per la sicurezza dei tuoi dati. L’invio di contenuti a un rilevatore di terze parti comporta il trasferimento degli stessi su server esterni, esponendoli potenzialmente ad attacchi informatici, raccolta di dati, sorveglianza extraterritoriale e concedendo a un fornitore diritti legali sui contenuti che hai inviato.

Per la maggior parte delle aziende, in particolare quelle che lavorano con contenuti sensibili, originali o riservati, i rischi per i dati associati al rilevamento dell’IA da parte di terze parti superano i benefici.