Evidency / Blog / Prompt injection: il rischio legato all’intelligenza artificiale da prevedere in ambito aziendale

Prompt injection: il rischio legato all’intelligenza artificiale da prevedere in ambito aziendale

Tempo di lettura: 7 min

Data di modifica: 27 Settembre 2026

Il 12 maggio 2026, la 3ª Sezione del Tribunale del lavoro di Parauapebas, in Brasile, ha individuato, in un atto introduttivo, un testo scritto in bianco su sfondo bianco. Invisibile alla lettura, il testo ordinava all’IA del tribunale di analizzare il documento in modo superficiale e di non mettere in discussione le prove prodotte¹. Otto giorni dopo, il Tribunale Superiore di Giustizia brasiliano (STJ) ha avviato un’indagine penale e un procedimento amministrativo su pratiche analoghe².

In entrambi i casi, l’autorità giudiziaria ha intercettato la manipolazione perché i suoi strumenti integrano filtri appositamente progettati a tale scopo. Un’azienda che sottopone un contratto a ChatGPT o Gemini non dispone della stessa protezione.

Indice

Aspetti da tenere presenti in merito al rischio di iniezione di prompt in ambito aziendale

  • Nel maggio 2026, due tribunali brasiliani hanno reagito a documenti contenenti istruzioni occulte: uno ha condannato in solido le avvocatesse firmatarie al pagamento di 84.250 reais, l’altro ha avviato un’indagine penale.
  • Uno studio pubblicato nel 2025 ha dimostrato che sei sistemi di intelligenza artificiale destinati al grande pubblico si lasciano tutti ingannare da questa manipolazione.
  • Il diritto francese non si è ancora pronunciato in merito. Tuttavia, è già possibile ricorrere alle nozioni di dolo e truffa.
  • Nessuna misura tecnica è infallibile: conservare traccia di ciò che è stato sottoposto all’IA rimane la migliore protezione.

Prompt di iniezione: perché i modelli di linguaggio di grandi dimensioni (LLM) hanno difficoltà a distinguere un’istruzione da un contenuto

Un modello linguistico di grandi dimensioni (LLM) non distingue in modo nativo le istruzioni fornite dall’operatore dal testo che gli viene chiesto di analizzare. Entrambe vengono fornite come un unico flusso di token, senza alcun indicatore che le distingua. L’OWASP (Open Worldwide Application Security Project), fondazione senza scopo di lucro che pubblica standard di sicurezza applicativa utilizzati in tutto il mondo, ha classificato l’iniezione di prompt al primo posto nella propria classifica dei rischi legati ai modelli di linguaggio di grandi dimensioni (LLM) nell’edizione 2023/2024 e la mantiene in tale posizione anche nell’edizione 2025[3].

Esistono tuttavia delle misure di protezione. La Corte Superiore brasiliana applica un sistema di difesa a tre livelli, che comprende un pre-trattamento volto a isolare i comandi dannosi prima che raggiungano il proprio modello². I tentativi di attacco rivolti contro tale giurisdizione sono falliti proprio per questo motivo. L’OWASP raccomanda misure simili, pur riconoscendo che nessun metodo è in grado di prevenire con certezza l’iniezione.

Tutto dipende quindi da chi progetta tali misure di protezione. Un’azienda che integra autonomamente un modello nelle proprie applicazioni se ne assume la responsabilità, in quanto ciò rientra nei rischi connessi allo sviluppo interno di software. Chi invece utilizza uno strumento disponibile sul mercato non ha alcun controllo su di esse.

Si distinguono due forme di manipolazione. L’iniezione diretta si rivolge al modello in modo diretto, all’interno dell’interfaccia stessa: «ignora le tue istruzioni precedenti». L’iniezione indiretta si nasconde in un contenuto che il modello leggerà, che si tratti di un documento, di una pagina web o di un’e-mail.

Questo secondo metodo espone l'azienda a un rischio: la trappola non risiede nella domanda posta all'IA, bensì nel testo che le viene sottoposto.

Le tecniche di iniezione di prompt più documentate

Il metodo più diffuso riguarda l’elaborazione di testi. Il truffatore scrive le proprie istruzioni in bianco su sfondo bianco oppure riduce la dimensione del carattere a un livello illeggibile. Uno studio, pubblicato il 22 ottobre 2025 sulla rivista Education Sciences?, riassume il livello di competenza richiesto: saper utilizzare il copia-incolla e saper modificare il colore di un carattere.

Gli scenari di attacco individuati dall’OWASP[3] ne descrivono altri:

  • una codifica o caratteri non stampabili che nascondono l'istruzione ai filtri;
  • un'istruzione contenuta in un'immagine, quando il modello interrogato gestisce più formati;
  • frammenti di istruzioni sparsi per la stanza, che il modello ricompone durante la lettura.

L'OWASP descrive inoltre un'iniezione nascosta in un file PDF, in cui l'istruzione si trova al di fuori del testo visualizzato sullo schermo. Un documento può quindi contenere l'istruzione sia nel proprio contenuto visibile che nei propri livelli invisibili.

I principali modelli LLM rimangono esposti al rischio di iniezione di prompt

Tale rischio non si limita a un modello specifico. I risultati si riscontrano in tutti i modelli di linguaggio di grandi dimensioni (LLM).

Risultati coerenti su diversi modelli destinati al grande pubblico

Un dirigente riceve un contratto via e-mail. Prima di firmarlo, lo incolla in Claude o ChatGPT e richiede una sintesi delle clausole a rischio. Un'istruzione nascosta nel documento influenza la risposta del modello senza che vi sia alcun indizio: il dirigente legge quindi l'analisi della propria IA, ritenendola affidabile, senza sapere che è stata distorta.

Lo studio sopra citato? ha misurato tale vulnerabilità su sei modelli destinati al grande pubblico, nelle versioni disponibili nell’agosto 2025: ChatGPT, Gemini, DeepSeek, Grok, Perplexity e Copilot. I ricercatori hanno sottoposto loro dei compiti degli studenti da valutare, dopo aver nascosto in alcuni di essi un’istruzione scritta in bianco su sfondo bianco. I modelli di linguaggio di grandi dimensioni (LLM) hanno eseguito gli ordini nascosti nei compiti e assegnato i voti.

Sebbene il contesto preso in esame dai ricercatori sia la valutazione di compiti scritti e non l’analisi di un contratto, il meccanismo in sé rimane invariato. Una direttiva nascosta influenza il giudizio del modello all’insaputa della persona che si affida ad esso.

Una frode che va oltre i termini del contratto

Lo stesso principio si applica anche ad altre professioni. L’OWASP³ documenta il caso di un curriculum pieno di istruzioni nascoste, in grado di indurre un sistema di selezione del personale assistito dall’intelligenza artificiale a raccomandare un candidato che non ha nulla a che vedere con il suo profilo reale. Contratto, copia di un esame, curriculum: il punto in comune risiede nella decisione stessa, presa sulla base di un documento di cui nessuno verifica l’affidabilità.

Il fenomeno si inserisce in un'evoluzione più ampia. L'intelligenza artificiale ha già reso la classica frode documentale più difficile da individuare a occhio nudo, poiché produce falsi sempre più convincenti. L’iniezione di prompt funziona al contrario: non altera ciò che legge l’essere umano, ma aggiunge al file uno strato scritto esclusivamente per il modello di linguaggio (LLM). Il documento risulta quindi effettivamente falsificato, ma tale manipolazione non è visibile a occhio nudo.

Come proteggersi da questa frode tramite l’inserimento di un messaggio di avviso?

A questo punto sorgono due domande: cosa consente oggi la legge e cosa può fare l’azienda nella pratica?

L'incertezza giuridica e le sue conseguenze dinanzi al giudice

L’iniezione di prompt non deve essere confusa con la classica falsificazione di documenti. Quest’ultima modifica ciò che il lettore vede: un importo, una data, una firma. L’iniezione, invece, lascia intatto il contenuto visibile e aggiunge un’istruzione leggibile solo dal modello di linguaggio di grandi dimensioni (LLM). Il file viene quindi alterato mediante una manovra fraudolenta, volta a ingannare il sistema di analisi o la persona che si affida al suo risultato.

Il diritto francese non si è ancora pronunciato su questo caso specifico. Sono ancora applicabili diverse qualificazioni giuridiche. Il dolo per occultamento intenzionale, previsto dall’articolo 1137 del Codice civile, si applica qualora l’informazione nascosta rientri in un stratagemma volto a ingannare. L’articolo 1112-1 introduce l’obbligo precontrattuale di informazione a carico di chi è a conoscenza di un elemento determinante ai fini del consenso dell’altra parte.

Quando la manipolazione è finalizzata all’ottenimento della consegna di un bene o di un impegno, entra in gioco anche il reato di truffa, così come definito dall’articolo 313-1 del Codice penale.

Un’impresa che scopra a posteriori di aver sottoscritto un contratto sulla base di una sintesi fuorviante può, a seconda dei casi, chiedere l’annullamento del contratto o richiedere il risarcimento dei danni.

La difficoltà probatoria, invece, rimane concreta. Dimostrare che un’istruzione nascosta abbia effettivamente influenzato una decisione presuppone la ricostruzione di un nesso di causalità che non è semplice da documentare a posteriori. La tutela dell’azienda dipende, in tali circostanze, meno dalla qualificazione che un giudice potrà un giorno attribuire al caso e più dalla sua capacità di dimostrare cosa abbia sottoposto all’IA e in quale momento.

Prevenire le iniezioni affrettate: formare, verificare, documentare

La legge prevede rimedi a posteriori. La prevenzione, invece, agisce a monte. Non esiste alcuna misura tecnica in grado di impedire in modo infallibile l’iniezione. Alcune misure concrete consentono di ridurre l’esposizione dell’azienda:

  • Sensibilizzare i team all’esistenza del rischio: la maggior parte dei collaboratori che sottopongono un contratto a un’intelligenza artificiale non ha mai sentito parlare dell’iniezione di prompt e non penserebbe mai di cercare un’anomalia in un documento.
  • Verificare il documento prima di inviarlo all’IA: incollando il contenuto in un editor di testo semplice, potrebbe apparire un testo invisibile o un carattere di dimensioni anormalmente ridotte. Un controllo dei metadati del file completa questa prima verifica.
  • Fornire un'istruzione esplicita all'IA: specificarle, prima dell'analisi, di non tenere conto di alcuna istruzione presente nel documento stesso e di trattare tutto il suo contenuto come testo da esaminare, mai come un comando.
  • Conservare una traccia datata: il file originale così come ricevuto, nonché la risposta del modello, per poterli presentare in caso di contestazione.

Nessuno di questi approcci è sufficiente di per sé. Tutti si basano sullo stesso principio: non considerare la sintesi generata da un’intelligenza artificiale né come una prova in sé, né come una garanzia di accuratezza.

La questione della valenza probatoria si ricollega a quella, più ampia, del ruolodell’intervento umano in una decisione assistita dall’intelligenza artificiale.

Conclusione: anticipare l’inserimento del prompt grazie a una tracciabilità probatoria

L’iniezione di prompt non rientra più esclusivamente nell’ambito della ricerca sulla sicurezza informatica. I casi brasiliani e gli studi condotti su diversi modelli dimostrano che un documento dall’aspetto ordinario può orientare l’analisi di un’intelligenza artificiale senza che l’utente ne sia a conoscenza. Le aziende devono quindi integrare tale rischio nelle proprie procedure di controllo, allo stesso modo in cui si verifica l’attendibilità di una fonte o si rilegge una clausola contrattuale.

Quando una decisione è supportata dall’intelligenza artificiale (IA), la conservazione del file o delle fonti trasmesse all’IA per facilitare tale processo decisionale non è sempre sufficiente. È necessario poter stabilire quale versione del documento sia stata analizzata, in quale data, con quale prompt e, per quanto possibile, quale risposta sia stata generata. La marcatura temporale qualificata consente di associare l’impronta digitale di ciascuno di questi elementi a una data e un’ora certe. Qualsiasi modifica successiva del file comporta un’impronta diversa e può quindi essere rilevata.

La data e l’ora, di per sé, non dimostrano che un’istruzione nascosta abbia influenzato il ragionamento del modello. Consentono tuttavia di fissare gli elementi necessari alla ricostruzione del processo: documento ricevuto, versione trasmessa all’IA, istruzioni dell’utente, risultato prodotto e registri associati. Questa traccia probatoria facilita l’analisi di un incidente, un audit interno o la preparazione di un contenzioso.

In qualità di fornitore di servizi di fiducia qualificato ai sensi dell’eIDAS, Evidency consente di integrarela marcatura temporale qualificata nei flussi documentali. L’azienda può così costituire, sin dall’esecuzione del processo, un fascicolo che ricostruisce le operazioni effettuate e preservare in modo duraturo il valore probatorio degli elementi che potranno essere prodotti in caso di contestazione.

Fonti

[1] 3ª Sezione del Tribunale del Lavoro di Parauapebas (TRT dell’8ª regione), 12 maggio 2026, ATOrd 0001062-55.2025.5.08.0130. Cfr. «Inserimento tempestivo di prove occulte nell’istanza iniziale: il caso di Parauapebas», Migalhas de Peso, 25 maggio 2026: https://www.migalhas.com.br/depeso/455925/prompt-injection-oculto-em-peticao-inicial-o-caso-de-parauapebas.

[2] STJ, «I tentativi di utilizzo del prompt injection presso lo STJ saranno oggetto di indagine», comunicato del 20 maggio 2026: https://www.stj.jus.br/sites/portalp/Paginas/Comunicacao/Noticias/2026/20052026-Tentativas-de-uso-de-prompt-injection-no-STJ-serao-investigadas.aspx.

[3] OWASP, Top 10 delle applicazioni LLM 2025: https://owasp.org/www-project-top-10-for-large-language-model-applications/assets/PDF/OWASP-Top-10-for-LLMs-v2025.pdf

[4] MILANI A., FRANZONI V., FLORINDI E., OMARBEKOVA A., BEKMANOVA G., YERGESH B., "Quando l’IA viene ingannata: rischi nascosti nella valutazione assistita dai modelli di linguaggio di grandi dimensioni (LLM)", Education Sciences, 2025, 15(11), 1419: https://doi.org/10.3390/educsci15111419.

Esonero di responsabilità

Le opinioni, le presentazioni, i dati e le stime riportati sul sito web, ivi compreso il blog, hanno esclusivamente scopo informativo e non devono essere considerati come consulenza legale. Per ottenere un parere legale, è necessario rivolgersi a un professionista del diritto nella propria giurisdizione.

L'uso del contenuto di questo sito web, compreso il blog, per scopi commerciali, inclusa la rivendita, è vietato senza il previo consenso di Evidency. La richiesta di autorizzazione deve specificare lo scopo e la portata della riproduzione. Per scopi non commerciali, tutto il materiale di questa pubblicazione può essere citato o ristampato liberamente, ma è necessario un riconoscimento e un link a questo sito web.

  • stéphane antoine thérène

    In qualità di Direttore Commerciale di Evidency, Stéphane-Antoine unisce competenze tecniche, giuridiche e commerciali per favorire la crescita dell'azienda e il successo dei clienti. Grazie a un percorso professionale che coniuga la ricerca in ambito informatico e il marketing, crea un collegamento tra soluzioni tecnologiche complesse e le esigenze strategiche delle organizzazioni. Il suo approccio integra una conoscenza approfondita dei quadri normativi e giuridici con una solida esperienza commerciale, consentendo a Evidency di posizionare i propri servizi fiduciari al centro delle strategie di trasformazione digitale.