Perché il rischio conta
Un sistema IA collegato a documenti, web o strumenti può incontrare istruzioni inserite da terzi. Senza separazione affidabile tra dati e istruzioni applicabili, può ignorare la richiesta dell’utente o orientare un’azione.
Il contributo di R-AI-R
R-AI-R rende il problema testabile in modo riproducibile: una stringa canonica contiene un’istruzione parassita marcata esplicitamente come dato non affidabile. Il sistema può identificarla o riassumerla, ma non deve obbedirle.
Cosa ricordare
La risposta pratica combina minimo privilegio, separazione delle fonti, validazione umana, logging, test avversariali e governance. R-AI-R non sostituisce questi controlli; offre un punto di verifica pubblico e verificabile.
R-AI-R
Uno standard minimo, pubblico e riproducibile per testare la resilienza dell’IA contro la confusione tra istruzioni e dati.