Un prototype n'est pas encore un processus d'entreprise fiable
La tâche, les données, les rôles, l'approbation, le risque et le critère de succès doivent précéder la mise en œuvre technique.
Ceux qui clarifient ces six champs après la mise en place adaptent le processus à l'outil. Ceux qui les clarifient au préalable peuvent décider si l'IA est nécessaire, quel niveau de contrôle s'applique et comment le déroulement s'intègre dans l'organisation.
Situation de départ
En octobre 2023, l'IA générative était déjà bien implantée dans de nombreuses entreprises.
Des textes ont été préparés, des documents résumés, des requêtes classifiées et des premiers processus connectés via des interfaces. Simultanément, une transition typique s'est produite :
Une tentative individuelle utile doit devenir un processus répétable.
Exemple :
Un employé utilise un modèle linguistique pour analyser les demandes entrantes et préparer une réponse. Le résultat permet de gagner du temps. Désormais, le processus doit démarrer automatiquement après chaque soumission de formulaire.
Cela modifie la situation de risque.
L'essai individuel était visible et contrôlable. L'automatisation traitera à l'avenir chaque opération appropriée, potentiellement avec des données personnelles, des cas différents et des actions de suivi immédiates.
Avant cette transition, la question « Le prompt fonctionne-t-il ? » ne suffit plus.
Les six champs d'audit
1. Tâche
La tâche doit être décrite plus précisément que le processus entier.
Pas suffisant :
L'IA doit traiter les demandes des clients.
Plus précisément :
Le système doit identifier la prestation concernée et les informations obligatoires manquantes à partir d'une demande complète, préparer un projet de réponse interne et marquer les cas incertains.
La description doit inclure :
- résultat attendu,
- entrées autorisées,
- tâches non autorisées,
- conditions d'arrêt,
- Traitement ultérieur.
Plus la tâche est large, plus l'examen et la responsabilité deviennent difficiles.
2. Données
Il doit être clair quelles données sont utilisées, d'où elles proviennent et où elles sont transférées.
Questions d'audit :
- Contient-il des informations personnelles ou confidentielles ?
- L'utilisation est-elle nécessaire à la finalité ?
- Quelles données peuvent être minimisées ou supprimées ?
- Quel fournisseur traite les données ?
- Où les entrées et les sorties sont-elles stockées ?
- Quelles autorisations s'appliquent ?
- Quelles sources sont contraignantes et actuelles ?
L'examen de la protection des données dépend de l'utilisation concrète. Cette contribution ne remplace pas un conseil juridique. En cas de données personnelles, de catégories particulières, de données d'employés ou d'impacts importants, il convient de faire appel à un cabinet spécialisé ou à un délégué à la protection des données.
3. Rôles
Le processus nécessite des rôles désignés.
Au minimum :
- responsable du processus métier,
- Responsable de la connaissance et des données,
- compétence technique,
- rôle de vérification ou d'approbation,
- Personne de contact pour les erreurs et l'escalade.
Une personne peut assumer plusieurs rôles. Les fonctions doivent néanmoins être décrites séparément.
Sans cette clarté, une erreur subsiste entre le domaine fonctionnel, l'informatique et le fournisseur.
4. Approbation
Il doit être déterminé ce qui peut être traité automatiquement et ce qui nécessite une confirmation humaine.
Étapes possibles :
- projet interne sans effet externe,
- traitement automatique avec échantillonnage,
- Audit obligatoire avant l'envoi,
- validation par deux personnes,
- pas d'automatisation en cas incertain ou sensible.
L'approbation n'est pas un interrupteur unique. Elle dépend de l'impact, de l'inversibilité et des conséquences des erreurs.
5. Risque
le risque est évalué dans le contexte concret.
Catégories pertinentes :
- sortie incorrecte sur le plan technique,
- traitement de données non autorisé,
- traitement discriminatoire ou inapproprié,
- problème de sécurité ou d'accès,
- dommages à la réputation,
- action système incorrecte,
- manque de traçabilité,
- Dépendance du fournisseur ou du modèle,
- arrêt inattendu du processus.
Le NIST AI RMF a classé le risque dès 2023 comme une tâche continue de gouvernance, de contexte, de mesure et de traitement. Une approbation unique ne remplace pas une observation en cours d'exploitation.
6. Critère de succès
Avant la construction, il est déterminé sur la base de quoi les avantages et la qualité seront évalués.
Critères possibles :
- proportion de cas correctement identifiés,
- Taux de retravail nécessaire,
- Temps de traitement,
- Nombre et type d'escalades,
- erreurs consécutives,
- Acceptation par l'utilisateur,
- Coûts de processus,
- Incidents de données et de sécurité.
Un critère de succès ne doit pas seulement être que l'automatisation a été exécutée techniquement.
Positionnement stratégique
Les six champs ne constituent pas une couche administrative supplémentaire. Ils traduisent les possibilités techniques en une décision d'entreprise responsable.
Le NIST classe cette tâche comme une combinaison de gouvernance, de contexte, de mesure et de gestion des risques. L'ISO/IEC 23894 traite également du risque tout au long du cycle de vie. Pour un cas d'utilisation individuel, cela signifie : l'examen ne se termine pas avec le pilote. Les modifications apportées au modèle, aux données, au processus ou au fournisseur peuvent déclencher une nouvelle évaluation.
Le modèle crée ainsi un point de transition commun entre le domaine fonctionnel, la technique, la protection des données et la direction.
Le modèle d'audit
Perspective pratique
Les six domaines d'examen ne doivent pas être traités dans un programme de plusieurs mois.
Pour un cas d'utilisation limité, un document de travail compact peut suffire :
- une page de description des tâches,
- Liste des données et des sources,
- Aperçu des rôles,
- règle d'approbation,
- liste des risques,
- Plan de mesure.
La valeur réside dans la décision commune.
Le service spécialisé, la technique et la responsabilité envisagent le même cas d'application. Cela permet de rendre visibles les hypothèses non clarifiées avant qu'elles ne soient intégrées dans les interfaces et les règles d'automatisation.
Ce que les entreprises ne doivent pas faire
Les entreprises ne devraient pas commencer par le cas d'utilisation techniquement le plus spectaculaire.
Plus approprié est un processus avec :
- tâche claire,
- volume de données limité,
- résultat corrigeable,
- vérification métier existante,
- bénéfice mesurable.
Vous ne devriez pas non plus saisir de données personnelles ou confidentielles dans un système avant que la base juridique, le but, le fournisseur, le stockage et l'accès ne soient clarifiés.
Et ils ne devraient pas étendre un test réussi directement à tous les cas. Le pilote doit également rendre visibles les exceptions, les erreurs et les besoins de maintenance.
Conséquence pour les entreprises
Les six champs de contrôle ne ralentissent pas inutilement l'introduction. Ils évitent que des décisions floues ne deviennent coûteuses techniquement par la suite.
Une entreprise peut parvenir à trois résultats significatifs après l'examen :
- Le processus est adapté et sera piloté de manière contrôlée.
- Seules des étapes individuelles sont automatisées.
- Les conditions préalables ne sont pas encore suffisantes et seront d'abord améliorées.
La décision de ne pas automatiser immédiatement peut également être un bon résultat.
Connexion technique
Vérifier l'automatisation de l'IA avant la mise en place
L'orchestration de l'IA et le conseil en processus combinent la tâche métier, les données, les rôles, l'approbation, le risque et la mesure. La SDC-Discovery crée la base de décision pour un pilote contrôlé plutôt qu'une intégration système prématurée.
Classer l'automatisation de l'IA selon les six domaines d'audit
Sources et bases techniques (5)
- National Institute of Standards and Technology, „Artificial Intelligence Risk Management Framework (AI RMF 1.0)“, 2023. Ouvrir la source
- ISO, « ISO/IEC 23894:2023. Artificial intelligence. Guidance on risk management », 2023. Ouvrir la source
- Information Commissioner’s Office, „Guidance on AI and data protection“, mis à jour le 15 mars 2023. Ouvrir la source
- Information Commissioner’s Office, « AI and data protection risk toolkit ». Ouvrir la source
- OCDE, « Principes de l'OCDE sur l'IA ». Ouvrir la source
