Brésil : des instructions cachées ciblent les outils d'IA des tribunaux

Au Tribunal suprême fédéral (STF) brésilien, une affaire d'instructions dissimulées à l'intention des systèmes d'intelligence artificielle mobilise la justice. Le ministre Cristiano Zanin s'est prononcé en faveur d'une amende de 3 242 reais après la détection de consignes cachées conçues pour viser les outils d'intelligence artificielle de la cour. En complément de cette sanction financière, le magistrat a ordonné la saisine de l'ordre des avocats ainsi que du parquet fédéral. La chambre dispose d'un délai courant jusqu'au 2 octobre pour se prononcer sur cette position.

Cet incident s'inscrit dans une série de cas similaires observés au sein du système judiciaire. L'utilisation d'instructions cachées pour interférer avec les logiciels d'intelligence artificielle des tribunaux a déjà fait l'objet de signalements ou de condamnations dans au moins trois autres juridictions brésiliennes depuis le mois de mai. L'examen de ces précédents révèle toutefois une grande disparité dans la sévérité des peines appliquées selon les tribunaux.

Face aux enjeux soulevés par ces pratiques, le Conseil national de justice (CNJ) est intervenu au mois de juin en publiant un ensemble d'orientations techniques. Ce cadre informatif ne comprend toutefois aucune règle contraignante pour encadrer ou réprimer de manière uniforme ces agissements.