Beyond Histotrust: A Blockchain-Based Alert in Case of Tampering with an Embedded Neural Network in a Multi-Agent Context
Une intrusion dans le réseau opérationnel d’un site de production peut provoquer des dommages importants en affectant la productivité, la fiabilité et la qualité. La présence de réseaux neuronaux embarqués (NN), tels que des classificateurs, dans des dispositifs physiques, ouvre la voie à de nouveaux vecteurs d’attaque. En raison du comportement stochastique des classificateurs et de la difficulté à reproduire les résultats, le règlement sur l’intelligence artificielle (AI Act) exige que le comportement des NN soit explicable. À cette fin, la plateforme HistoTrust permet de tracer le comportement des NN grâce à des composants matériels sécurisés émettant des attestations enregistrées dans un registre blockchain. Cette solution contribue à instaurer la confiance entre des acteurs indépendants dont les dispositifs coopèrent pour accomplir des tâches.
Cet article propose d’aller plus loin en intégrant un mécanisme de détection de la falsification des NN embarqués et en utilisant des contrats intelligents exécutés sur la blockchain pour propager l’alerte de manière distribuée vers les dispositifs pairs. Le cas d’usage d’une attaque par modification de bits (bit-flip), ciblant les poids du modèle du NN, est étudié. Cette attaque peut être menée par l’injection répétée de messages de très petite taille, susceptibles d’échapper au Système de Détection d’Intrusion (IDS). Des expérimentations sont en cours sur la plateforme HistoTrust afin de démontrer la faisabilité de notre approche distribuée et d’évaluer le temps nécessaire à la détection de l’intrusion et à la propagation de l’alerte, en comparaison avec le temps requis pour que l’attaque impacte les décisions prises par l’IA. En conclusion, la blockchain pourrait constituer une technologie pertinente pour compléter les IDS traditionnels afin de faire face à des attaques distribuées.
Appl. Syst. Innov.2026, 9(1), 19;https://doi.org/10.3390/asi9010019
