L’intelligence artificielle peut traiter des données non structurées. Elle peut aussi automatiser certaines tâches répétitives. Elle peut aider une équipe à préparer une décision (IBM). Sa contrepartie est immédiate. Ses résultats peuvent manquer de stabilité ou d’explicabilité. Ils peuvent aussi exposer des données et déplacer des tâches ou des emplois (IBM). Les deux risques que je place en tête dans un workflow d’entreprise sont une décision conséquente prise sur une sortie erronée. Le second est l’exposition incontrôlée de données.
La bonne question n’est pas « l’IA est-elle bonne ou mauvaise ? ». C’est : quel avantage cherchons-nous, quelle contrepartie acceptons-nous et quel test doit être réussi avant de lui confier l’étape suivante ?
C’est quoi exactement, l’intelligence artificielle ?
L’intelligence artificielle regroupe des techniques informatiques. Elles accomplissent des tâches associées à l’apprentissage. Elles peuvent aussi servir au raisonnement, à la résolution de problèmes, à la perception ou à la compréhension du langage (IBM). Un programme peut suivre des instructions explicites. Un système d’IA peut aussi apprendre des régularités à partir de données. IBM résume ses composants par les données, les algorithmes et la puissance de calcul (IBM).
Cette définition couvre des systèmes très différents. Dans le workflow d’exemple de cette page, je lui confierais le classement des demandes. Je lui confierais aussi l’extraction d’éléments d’un document ou la production d’un brouillon. Cela ne signifie pas qu’elle comprend la situation comme la personne qui devra répondre du résultat. Les modèles complexes peuvent être difficiles à interpréter. Ils ne produisent pas toujours des réponses cohérentes ou pertinentes (IBM).
Je préfère donc parler d’une capacité insérée dans un workflow. Une demande arrive. Le système propose une sortie. Un contrôle a lieu. Une personne ou un logiciel déterministe autorise l’action suivante. Je pose le problème ainsi pour ne pas confondre une démonstration convaincante avec un processus exploitable.
Quelle matrice relie avantage, contrepartie et test ?
La matrice ci-dessous est ma méthode de décision. Ce n’est pas une norme. Elle reprend une idée simple du NIST. Il faut intégrer les considérations de confiance dans la conception, le développement, l’usage et l’évaluation des systèmes d’IA. Le NIST précise que son AI Risk Management Framework est volontaire (NIST).
| Avantage recherché | Contrepartie à accepter | Test avant usage réel |
|---|---|---|
| Traiter du texte, des images ou d’autres données non structurées (IBM) | La sortie peut être difficile à expliquer (IBM) | Constituer des cas représentatifs, documenter la réponse attendue et faire examiner les écarts par le responsable du processus |
| Automatiser une tâche répétitive (IBM) | L’automatisation peut affecter le travail et l’emploi (IBM) | Exécuter en parallèle sans action automatique, puis vérifier les sorties et les cas d’escalade |
| Préparer une réponse ou une décision (IBM) | Le modèle peut produire une réponse incohérente ou non pertinente (IBM) | Exiger les éléments utilisés, interdire l’envoi autonome et attribuer la validation à une personne nommée |
| Étendre un processus à davantage de cas (IBM) | Une plus grande capacité ne garantit pas une plus grande stabilité (IBM) | Tester les cas courants, les cas limites et le comportement en cas d’indisponibilité |
| Exploiter des données internes | La confidentialité et la protection des données deviennent une contrainte du workflow (CNIL) | Inventorier les données envoyées, limiter les accès et faire valider le dispositif de conformité adapté |
Les lignes attribuées à IBM reprennent sa synthèse. L’IA est adaptée au traitement de données non structurées et à l’automatisation de tâches répétitives. Ses sorties peuvent manquer de stabilité. L’automatisation peut aussi avoir des conséquences sur l’emploi (IBM). La dernière ligne traduit un risque opérationnel. Ce n’est pas un avis juridique. La CNIL rassemble des ressources sur l’IA, les données personnelles et la conformité (CNIL).
Le test est la colonne la plus importante. Un avantage formulé sans test reste une promesse. Une contrepartie formulée sans responsable reste un avertissement décoratif.
Quels sont les avantages utiles, avec quel prix réel ?
Traiter ce que les règles rigides traitent mal
Les systèmes d’IA peuvent être mieux adaptés que la programmation traditionnelle aux données non structurées. Il peut s’agir de textes, d’images et de vidéos (IBM). Je ciblerais donc des entrées variables. Les demandes peuvent être rédigées librement. Les pièces jointes peuvent être hétérogènes. Les descriptions peuvent être difficiles à réduire à un formulaire.
La contrepartie est le contrôle. Un programme à règles suit une logique inspectable. Un modèle complexe peut fonctionner comme une « boîte noire ». Le passage de l’entrée à la sortie reste alors difficile à expliquer (IBM). Je ne lui confierais donc pas seul une décision qui affecte une personne. Cela vaut aussi pour un paiement ou un engagement de l’entreprise.
Automatiser une étape, pas abandonner le processus
IBM cite l’automatisation des tâches répétitives parmi les avantages de l’IA. La source signale aussi que cette automatisation peut avoir des implications importantes sur l’emploi (IBM).
Pour un opérateur, l’unité de décision n’est donc pas le métier entier. C’est l’étape. Elle peut être la réception, l’extraction, la proposition, la vérification ou l’exécution. Plus l’étape est difficile à annuler, plus le contrôle doit intervenir avant l’action.
Préparer une décision sans fabriquer une autorité
L’IA peut aider à analyser des données. Elle peut aussi produire des informations utilisables dans un workflow (IBM). Mais une réponse bien formulée n’est pas une preuve de justesse. IBM indique que les systèmes d’IA ne donnent pas toujours des réponses cohérentes et pertinentes (IBM).
Je conserve donc quatre objets dans l’interface. La demande originale. Les données transmises au modèle. La proposition produite. La validation finale. Le NIST propose un cadre destiné à mieux gérer les risques de l’IA pour les individus, les organisations et la société (NIST).
Quels sont les inconvénients qui changent vraiment la décision ?
Pour cette matrice, un inconvénient doit modifier le workflow. Voici les signaux qui me feraient réduire l’autonomie du système.
- La sortie ne peut pas être reliée aux informations qui l’ont produite. Les modèles complexes peuvent être difficiles à contrôler. Ils peuvent aussi être difficiles à interpréter (IBM).
- Les mêmes entrées utiles conduisent à des réponses dont la cohérence n’est pas suffisante pour l’usage prévu. IBM oppose l’évolutivité de l’IA à une stabilité plus faible. Cette stabilité est comparée à celle d’un programme traditionnel fondé sur des règles (IBM).
- Le workflow envoie des données personnelles sans inventaire, règle d’accès ou validation adaptée. Le dossier de la CNIL réunit des ressources sur l’IA. Il traite aussi de la protection des données (CNIL).
- Personne ne peut désactiver le système ou reprendre le traitement manuellement. Le NIST présente la gestion des risques comme une préoccupation. Elle doit être intégrée à la conception, à l’usage et à l’évaluation des systèmes d’IA (NIST).
La méfiance utile n’est pas un refus de l’outil. C’est le refus d’accorder à une sortie probabiliste une autorité que le workflow n’a pas explicitement définie.
Comment tester un cas d’usage avant de le déployer
Je commencerais par une fiche courte, rattachée à un processus réel. Elle contient au minimum :
- L’avantage attendu. Une seule capacité observable, comme classer une demande ou préparer un brouillon.
- La contrepartie principale. Par exemple, une sortie difficile à expliquer, une donnée à protéger ou une erreur qui se propage.
- Le jeu de test. Des cas représentatifs et des cas limites, avec le résultat acceptable défini avant l’essai.
- Le point de contrôle. La personne qui accepte, refuse ou corrige la proposition avant l’étape irréversible.
- La sortie de secours. La façon de désactiver l’IA et de reprendre le processus sans elle.
Cette fiche s’inspire de l’objectif de gestion des risques du cadre volontaire du NIST. Elle ne prétend pas le remplacer (NIST). Pour un cas qui traite des données personnelles, le dossier de la CNIL est un point d’entrée vers ses ressources (CNIL). Cet article ne donne pas de conseil juridique.
Si votre sujet est l’adoption à l’échelle de l’organisation, poursuivez avec l’intelligence artificielle en entreprise. Vous pouvez ensuite passer du cadrage à un système qui agit dans un périmètre défini. Voyez alors comment créer un agent IA. Pour partir d’un cas concret, consultez cet exemple de projet d’intelligence artificielle.
Quelles questions faut-il poser sur les avantages et les inconvénients ?
Quels sont les deux pires risques de l’IA ?
Dans un workflow d’entreprise, je retiens d’abord la décision conséquente fondée sur une sortie erronée. Je retiens ensuite l’exposition incontrôlée de données. Ce classement est un choix d’opérateur. Ce n’est pas une hiérarchie officielle. Il s’appuie sur les problèmes de cohérence, de transparence, de confidentialité et de cybersécurité recensés par IBM (IBM).
Pourquoi faut-il se méfier de l’intelligence artificielle ?
Parce qu’une réponse plausible peut manquer de cohérence, de pertinence ou d’explicabilité. Cela vaut surtout avec des modèles complexes (IBM). Se méfier signifie ici vérifier la sortie selon l’enjeu. Il faut aussi conserver une personne responsable de la décision.
Quels sont les impacts négatifs de l’IA ?
IBM mentionne notamment les problèmes de confidentialité. Il mentionne aussi les risques de cybersécurité. Il cite les effets possibles de l’automatisation sur l’emploi. Il cite enfin les difficultés de transparence ou de stabilité (IBM). Le NIST traite la gestion des risques dans la conception, l’usage et l’évaluation des systèmes. La matrice sert à les relier à une étape et à un test (NIST).
Quels métiers survivront à l’IA ?
Personne ne peut répondre sérieusement à cette question métier par métier à partir de ces sources. Je ne ferai pas cette prédiction. IBM indique que l’automatisation peut libérer du temps pour d’autres tâches. Elle peut aussi avoir des implications sur l’emploi (IBM). La décision concrète consiste à examiner les tâches d’un workflow. Il faut aussi examiner leur responsabilité et le contrôle requis. Il ne s’agit pas de déclarer un métier condamné ou protégé.
Comment arbitrer entre avantage et inconvénient ?
Formulez l’avantage attendu. Nommez sa contrepartie. Définissez ensuite un test et un responsable avant tout usage réel. Si le test n’est pas observable, le cas d’usage n’est pas prêt. Il en va de même si personne ne porte la décision. Le NIST fournit un cadre volontaire pour intégrer les considérations de confiance à la conception, au développement, à l’usage et à l’évaluation des systèmes d’IA (NIST).
L’intelligence artificielle mérite sa place lorsque l’avantage est testé et que son droit d’agir est limité. La matrice ne promet pas de supprimer le risque. Elle oblige à décider où l’humain garde le contrôle.