Enhancing the Security, Privacy and Robustness of AI Models and Systems (SecureAI)

Titre officiel (anglais)

Enhancing the Security, Privacy and Robustness of AI Models and Systems (SecureAI)

Programme et référence

Horizon Europe — HORIZON-CL3-2026-02-CS-ECCC

Financement

HORIZON Innovation Actions — enveloppe globale du topic : 21,2 M€ selon la liste officielle du PCN. Vérifier les conditions de financement et la contribution par projet dans Funding & Tenders.

Informations à collecter

Collecter : cas d’usage et modèle d’IA; type et provenance des données; menaces visées; accès adversaire supposés; attaques de référence; performances initiales; taux de faux positifs; métriques de fuite; contraintes de latence et de calcul; architecture de déploiement; exigences de confidentialité; dispositifs d’accès et de chiffrement; exigences réglementaires; jeu de test; utilisateurs et critères d’acceptation; maturité initiale et plan de mise en production.

Calendrier

Statut au 13/10/2026 : clôturé. Type : Innovation Action. Enveloppe globale listée : 21,2 M€; page individuelle : 21,2 M€. Le sujet cible la robustesse contre attaques adversariales, données empoisonnées et backdoors, ainsi que les techniques de confidentialité et Private AI. Préqualification seulement, sans garantie d’éligibilité.

Présentation du topic

APPEL CLÔTURÉ au 13/10/2026 : ouverture 03/03/2026 ; clôture 15/09/2026 à 02:00. Ne pas présenter comme ouvert.

SecureAI vise à renforcer la robustesse, la confidentialité et la sécurité des modèles et systèmes d’intelligence artificielle, en particulier contre les manipulations adversariales, les portes dérobées, l’empoisonnement des données et les erreurs provoquées. Le topic attend des défenses innovantes, des méthodes de détection et d’atténuation des attaques et des systèmes capables de traiter des données sensibles dans des environnements de confiance. Il couvre aussi des approches de « Private AI » permettant le déploiement d’IA au sein d’organisations publiques ou privées sans exposer inutilement les données.

La question centrale est de savoir comment rendre un système d’IA plus difficile à compromettre tout en préservant la confidentialité des données et l’utilité opérationnelle. Le projet doit choisir une ou plusieurs menaces clairement définies : perturbations adversariales, empoisonnement de jeux d’entraînement, backdoors, attaques contre l’inférence ou risques liés à l’apprentissage distribué. Les techniques de confidentialité peuvent inclure l’apprentissage fédéré, l’agrégation sécurisée, le calcul sur données chiffrées ou l’inférence sécurisée. Il faut préciser le modèle d’attaquant et les hypothèses de confiance.

Définir les actifs, les données, le modèle d’IA et les scénarios d’attaque; établir des métriques de robustesse, de détection, de faux positifs, de performance et de fuite d’information. Construire un protocole de test reproductible comparant la solution à des lignes de base pertinentes. Évaluer les défenses sur des attaques réalistes et des changements de distribution, puis mesurer les coûts en latence, calcul, mémoire et qualité de prédiction. Pour les approches Private AI, documenter les frontières de confiance, les clés, les environnements d’exécution, les accès opérateurs et les limites de la protection.

Les risques comprennent une défense efficace uniquement sur des benchmarks étroits, une dégradation excessive des performances, des faux positifs, des fuites par les métadonnées, une confiance injustifiée dans une enclave ou une technique cryptographique, et des attaques adaptatives qui contournent les contrôles. Atténuer ces risques par des évaluations indépendantes, des tests adversariaux, une analyse des compromis et une documentation des hypothèses. Ne pas revendiquer une robustesse absolue; préciser les classes d’attaques testées, les limites connues et les conditions de déploiement.

Associer des équipes de recherche en sécurité de l’IA, des spécialistes de cybersécurité, des experts en confidentialité et cryptographie, des détenteurs de données, des intégrateurs et des utilisateurs opérationnels. Les partenaires d’usage doivent fournir des cas réalistes et des exigences de confidentialité, sans transmettre plus de données que nécessaire. Prévoir une validation indépendante, la gouvernance des jeux de données, la gestion des incidents et une stratégie d’intégration dans les systèmes existants. Les compétences de conformité réglementaire, notamment au regard de l’AI Act et du RGPD lorsque pertinents, renforcent le dossier.

Documenter les bases légales, la minimisation des données, les risques de réidentification, les biais et les effets discriminatoires. Les données sensibles doivent être protégées pendant l’entraînement, l’inférence, le stockage et les transferts. Définir les droits d’accès, la journalisation, la conservation, les mécanismes de retrait et la réponse à incident. Les méthodes de sécurité ne doivent pas masquer les limites du modèle ou produire un faux sentiment de garantie. Examiner aussi les risques de double usage et les conditions de publication des attaques et défenses.

Les résultats peuvent être mesurés par la résistance à des familles d’attaques définies, la capacité à détecter des données empoisonnées, la réduction du taux de réussite adversarial, la fuite d’information mesurée, la performance du modèle, le coût de calcul et la facilité de déploiement en environnement maîtrisé. Une Innovation Action doit aller au-delà d’une démonstration académique et prévoir l’intégration, la validation avec des utilisateurs et une trajectoire d’adoption. Les TRL, démonstrateurs et exigences de consortium exacts doivent être confirmés dans le programme de travail.

L’appel ECCC 2026 a ouvert le 03/03/2026 et clôturé le 15/09/2026 à 02:00. La liste officielle du PCN affiche une enveloppe globale de 21,2 M€ pour SecureAI, tandis que la page individuelle affiche « budget : 21 200 000 € ». Le statut est clôturé. Ne pas déduire un montant par projet ni le nombre de projets à partir de l’enveloppe globale. Vérifier dans Funding & Tenders les conditions de participation, les éventuelles restrictions de propriété/contrôle, les exigences de sécurité et les coûts éligibles.

Appel ECCC 2026 clôturé le 15/09/2026 à 02:00. Vérifier les conditions finales, les restrictions de participation et de contrôle capitalistique, les exigences de sécurité et les règles relatives aux données dans Funding & Tenders.

Sources officielles

• Source officielle (PCN / Funding & Tenders)