La méfiance envers l’intelligence artificielle - KPMG Belgium
Human hand touches robot hand

La méfiance envers l’intelligence artificielle

La méfiance envers l’intelligence artificielle

La méfiance envers l’intelligence artificielle

Peter Van den Spiegel | Author,

Dans le précédent blog de notre série, nous avons expliqué  les différents problèmes auxquels vous pourriez être confronté en ayant recours à l’intelligence artificielle et à l’analyse des données. Sur la base de notre expérience, nous pensons que les organisations doivent adopter une approche systématique afin que leurs analyses de données inspirent confiance. Cette approche repose sur les quatre piliers : la qualité, l’efficacité, l’intégrité et la résilience.

L’emploi de données de mauvaise qualité occasionne des conséquences fâcheuses. Prenons par exemple une entreprise européenne de voyages dont la campagne marketing serait basée sur des illustrations intitulées de manière inappropriée. Son site Internet se conclut sur des illustrations de grands hôtels en marbre munis de climatisation high tech, au lieu de proposer des images « de rêve ». Les illustrations ont été étiquetées à la main par des personnes ayant une vision différente des vacances idéales de l’Européen lambda. La qualité des données et des processus utilisés pour leur collecte se révèle donc déterminante. C’est pourquoi des contrôles de qualité doivent être mis en place. Cependant, une étude récente de KPMG a établi que moins de la moitié des organisations dans le monde mettent actuellement en œuvre de telles procédures de contrôle de la qualité.

Il est essentiel d’avoir la preuve de l’efficacité de l’analyse des données si l’on veut renforcer la confiance. Cependant, mesurer cette efficacité s’avère parfois très difficile. Prenons par exemple le modèle de prévision du taux de résiliation des clients. Comment évaluer correctement si c’est votre modèle qui est efficace ou si ce sont les actions que vous avez entreprises ? De plus, comme indiqué dans le blog précédent, vous pouvez préférer optimiser le taux de faux positifs au détriment des faux négatifs (ou l’inverse) en fonction du contexte (domaine médical ou tests d’alcoolémie).

Les actionnaires n’investiront pas dans une entreprise s’ils ne font pas confiance à l’intégrité des solutions d’intelligence artificielle qu’elle a créées. Imaginez un GPS qui vous fait passer par des routes sur lesquelles sont situées les stations-service d’une certaine marque, au lieu de vous proposer le chemin le plus court. Les organisations doivent répondre à différentes questions : dans quelle mesure les processus sont-ils transparents ? Est-ce que tout est conforme à la législation ? Des frontières éthiques sont-elles franchies ?

Enfin, la résilience du système et des modèles constitue également un aspect déterminant. Les clients n’utiliseront pas un modèle s’il n’est pas suffisamment flexible et si, par conséquent, celui-ci n’est pas optimisé sur le long terme. Le GPS traditionnel d’une voiture sera rapidement dépassé par une application GPS pour smartphone qui s’adapte rapidement à de nouveaux environnements et aux modifications de voirie. Un modèle de confiance devra modifier ou adapter rapidement sa fonction au gré des nouvelles technologies, des changements de réglementation, de l’évolution de la société…

Nous proposons donc plusieurs idées pour combler « l’écart de confiance » dans le domaine de l’analyse des données. Dans un premier temps, les organisations doivent commencer par évaluer la confiance qu’elles accordent à l’analyse des données. Cette évaluation initiale leur permettra, d’une part, de définir les matières dans lesquelles des analyses fiables sont le plus essentielles à leur activité et, d’autre part, de se concentrer sur ces domaines. Dans un deuxième temps, elles doivent clarifier et harmoniser leurs objectifs : pourquoi collectons-nous des données ? Pourquoi effectuons-nous des analyses de données ? Les réponses à ces questions doivent être claires. Conjointement à cela, l’engagement en interne et le développement d’une vraie culture de l’analyse des données seront encouragés par le soutien d’équipes multidisciplinaires composées d’informaticiens, de scientifiques des données et de parties prenantes travaillant à l’harmonisation des objectifs commerciaux clés lors de la création d’analyses de données. Inciter à la transparence et adopter une approche par portefeuille sont deux autres axes de recherche potentiels. Un dernier conseil, et des plus importants : soyez innovant et mettez en avant l’expérimentation, sans craindre l’échec.

« Seuls ceux qui prennent le risque d’échouer spectaculairement réussiront brillamment ».

-- Robert F. Kennedy

Auteurs: Peter Van den Spiegel et Annelies De Corte