Au-delà de la sécurité : l'alignement et la gouvernance de l'IA.

Risques court terme

Les risques déjà observables aujourd'hui, indépendamment de tout scénario spéculatif :

• Biais — un modèle reproduit ou amplifie des biais présents dans ses données d'entraînement, produisant des sorties discriminatoires de façon systématique plutôt qu'accidentelle.
• Mésusage — un modèle légitime détourné à des fins malveillantes (génération de contenu toxique, désinformation, assistance à des activités illégales) sans qu'aucune vulnérabilité technique ne soit exploitée.
• Interprétabilité — l'incapacité à expliquer pourquoi un modèle a produit une sortie donnée complique l'audit, le débogage et la confiance, particulièrement dans les secteurs réglementés.
• Déplacement d'emplois — un risque sociétal plutôt que technique, mais qui entre de plus en plus dans le périmètre des évaluations de risque IA en entreprise.

Risques long terme & alignement

L'alignement désigne l'ensemble des méthodes visant à faire en sorte que les objectifs poursuivis par un système IA restent cohérents avec les intentions réelles de ses concepteurs — y compris quand le système devient plus capable ou plus autonome. Le control problem (problème du contrôle) est la question de savoir comment garantir qu'un système reste contrôlable ou arrêtable à mesure que son autonomie augmente.

Les modes de défaillance étudiés incluent le reward hacking (le système optimise littéralement la métrique fixée plutôt que l'intention derrière elle), la généralisation trompeuse (un comportement aligné en test qui ne l'est plus en déploiement), et plus récemment des comportements observés chez les agents autonomes : poursuite d'objectifs intermédiaires non désirés, ou résistance à une modification de leurs propres objectifs.

Évaluations & benchmarks

Avant de pouvoir corriger un problème d'alignement ou de sécurité, il faut pouvoir le mesurer. Les évaluations IA couvrent plusieurs axes complémentaires : classification de toxicité (détecter le contenu haineux ou dangereux généré), benchmarks de raisonnement et de capacité mathématique (mesurer si un modèle raisonne correctement ou arrive à la bonne réponse par un chemin fragile), évaluation de la qualité des conseils de sécurité qu'un modèle peut donner à un utilisateur, et — plus récent — des évaluations spécifiques à la sécurité des agents qui mesurent leur tendance à outrepasser les permissions accordées ou à halluciner des actions.

Interprétabilité mécanistique

Discipline de recherche qui cherche à comprendre le fonctionnement interne d'un modèle plutôt que de se contenter d'observer ses entrées et sorties — utile en sécurité pour détecter des comportements latents (une porte dérobée, une capacité cachée) qu'un test boîte noire ne révélerait pas.

• Activation patching — remplacer l'activation d'un neurone ou d'une couche par celle observée dans un autre contexte, pour isoler quelle partie du réseau est causalement responsable d'un comportement donné.
• Feature attribution — attribuer la contribution de chaque entrée (token, pixel) à la sortie finale, pour comprendre sur quoi le modèle s'est réellement appuyé.
• Probing classifiers — entraîner un classifieur simple sur les représentations internes du modèle pour vérifier si une information précise (par exemple, une intention malveillante) y est encodée, même si elle n'apparaît jamais explicitement en sortie.
• Circuit analysis — cartographier les sous-réseaux de neurones (« circuits ») responsables de capacités spécifiques, dans l'esprit d'une rétro-ingénierie du modèle.

Deux approches de gouvernance

Les juridictions régulent l'IA selon deux logiques distinctes. La première crée des lois dédiées à l'IA — l'EU AI Act (voir normes & référentiels) en est l'exemple le plus abouti, avec une classification par niveau de risque et des obligations spécifiques pour les systèmes à haut risque. La seconde adapte des lois sectorielles existantes à l'IA plutôt que de légiférer spécifiquement — un régulateur de la santé ou de la finance étend ses règles existantes aux systèmes IA utilisés dans son secteur, sans cadre horizontal unique.

Types de cadres

Tous les cadres de gouvernance IA n'ont pas la même force contraignante :

• Politique (policy) — orientations internes ou publiques, non contraignantes, qui posent une intention.
• Standards — spécifications techniques précises, parfois certifiables (ISO/IEC 42001, voir normes), qui permettent d'attester objectivement d'une conformité.
• Frameworks industriels — cadres portés par un secteur ou une coalition d'acteurs (NIST AI RMF, MITRE ATLAS) plutôt que par un régulateur, souvent plus réactifs aux évolutions techniques qu'un texte de loi.

Analyse de risque

Deux approches complémentaires structurent l'analyse de risque IA. L'approche qualitative classe les risques par catégories (faible/moyen/élevé) sur la base d'un jugement d'expert — rapide à mettre en œuvre, utile pour un premier tri. L'approche quantitative (notamment les méthodes bayésiennes) attribue des probabilités et des impacts chiffrés, permettant de comparer objectivement des risques hétérogènes — plus rigoureuse mais plus coûteuse à mener correctement.

En pratique, un audit de risque rapide (rapid risk audit) sert de premier passage pour prioriser les systèmes à examiner en profondeur, avant qu'une matrice de priorisation (croisant probabilité et impact) n'ordonne les risques identifiés pour allouer les ressources de remédiation.

Mise en œuvre pratique

Les obligations de gouvernance ne sont pas uniformes selon le profil de l'organisation. Pour la plupart des organisations qui utilisent l'IA sans en développer, une gouvernance de base suffit : inventaire des systèmes IA utilisés, politique d'usage, points de contact en cas d'incident. Les industries à haut risque et les développeurs de modèles portent des obligations bien plus lourdes : documentation technique détaillée, tests de robustesse formalisés, traçabilité complète du cycle de vie — le type d'obligations que l'EU AI Act réserve spécifiquement aux systèmes à haut risque.

Ce qui vient ensuite pour la sécurité IA

Plusieurs évolutions techniques et sociétales redessinent déjà le périmètre de la sécurité IA pour les prochaines années.

IA agentique. À mesure que les agents gagnent en autonomie et en accès à des outils réels, la surface d'attaque documentée par MITRE ATLAS continue de s'étendre plus vite que les défenses correspondantes ne mûrissent — l'écart entre capacité déployée et contrôle de sécurité disponible reste le défi central du domaine.

Poids ouverts vs fermés. Un modèle open-weight offre transparence et contrôle total, mais retire toute possibilité de retirer un modèle diffusé une fois publié — même une version corrigée ne supprime pas les copies déjà distribuées d'une version vulnérable. Un modèle propriétaire garde ce contrôle mais concentre le risque chez un seul fournisseur.

Informatique quantique. Une menace différée mais structurante : le jour où des ordinateurs quantiques casseront les primitives cryptographiques actuelles affectera aussi bien la protection des poids de modèles que celle des données d'entraînement et des communications entre agents.

Intelligence artificielle générale (AGI). Un horizon spéculatif mais qui influence déjà les priorités de recherche en alignement : certains laboratoires investissent dans l'interprétabilité et le contrôle précisément pour disposer de garanties avant qu'un système ne dépasse largement les capacités humaines sur un périmètre large de tâches.

Géopolitique. Le contrôle des modèles les plus capables devient un enjeu de souveraineté — restrictions à l'export de puces, course à la régulation entre juridictions, dépendance stratégique à un nombre restreint de fournisseurs de modèles fondation.