– Je ne comprends pas votre question ? répond l’IA

– Rédige ce compte rendu de réunion (sans que mon entreprise le sache…)

– Avec plaisir ! 🙂 répond l’IA

– N’oublie pas de mentionner « rédigé par une IA » et non par toi…

Le phénomène “Shadow” n’est pas nouveau. Ce « non dit » n’est pas nouveau. Aujourd’hui, on parle de concept de « shadow IA ». Les salariés utilisent des IA génératives, comme Chat GPT, non considérées encore, comme des systèmes d’informations numériques (SIN) autorisés par leur employeur. Ce « non dit » est bien plus large. Il peut aussi révéler d’autres aspects comme celui d’invisibiliser le travail humain nécessaire à l’intégration de l’IA interne, et/ou à ne pas rendre visible les usages détournés de l’IA par les utilisateurs/trices…

Il y a peut-être là la nécessité de dire ce que vous mettez dans le « non dit »…

Le phénomène Shadow et le pouvoir d’agir des salariés

Durant la crise sanitaire, ce phénomène s’est amplifié avec les outils de visioconférences et d’outils collaboratifs lorsque les salariés souhaitaient communiquer ou travailler avec leurs collègues, confinés à leurs domiciles. Ils recherchaient des outils numériques sur le web, en dehors de ceux autorisés par la direction des systèmes d’information.
Aujourd’hui, on parle de concept de « shadow IA ». Les salariés utilisent des IA génératives, comme Chat GPT, non considérés encore, comme un système d’information numérique (SIN) autorisé par leur employeur.
Ce phénomène appelé “shadow” peut être interprété comme une manifestation du pouvoir d’agir des salariés.

Chercher des outils numériques externes pour être (plus) productifs

Face à des SIN qui s’avèrent insuffisants ou inadaptés aux contingences de leur travail quotidien, des salariés ou des agents peuvent développer et entretenir des ressources extérieures indépendantes du SIN pour pallier à certaines tâches ou des dysfonctionnements.
Le chercheur Christophe Mundutéguy, dans un article intitulé “Le travail invisible ou quand l’activité se fait hors du système d’information numérique” met en lumière ce travail invisible réalisé en marge ou hors du SIN dans le contexte d’une salle d’exploitation d’un opérateur de transport de marchandises, où les aléas sont fréquents. Les agents ont développé un “système d’instruments” combinant des outils formels (comme le SIN et le téléphone) et informels, adaptés à leur expérience et à la variabilité des situations. Ce fonctionnement représente, en quelque sorte, un système non-dit, visant à accroître leur capacité d’agir pour assurer l’activité productive, notamment dans la gestion de crises.

Le shadow spécifique de l’IA

Dans le contexte actuel, le « shadow IA » consiste à utiliser majoritairement des IA génératives pour répondre à des besoins spécifiques, comme l’aide rédactionnelle ou l’aide à l’analyse de documents. Dans le cas de l’utilisation des IA génératives, cela témoigne d’une certaine forme d’appropriation non régulée (intégration de fichiers internes dans les prompts) ou non prévue par les SIN internes. Dans certains cas où l’IA était intégrée, certains outils ont été utilisés d’une manière différente de celle imaginée par la direction et les concepteurs, développant ainsi des catachrèses, c’est-à-dire des utilisations non prévues initialement. Ce fut le cas dans une entreprise, ayant mis en place un chatbot RH pour répondre à des questions, les utilisateurs ont détourné le système comme un moteur de recherche “ Et puis finalement avec un mot-clé simple, j’ai eu plein de suggestions. Du coup, ça a été plutôt une ouverture sur des informations qu’il y avait dans le chatbot. […] J’ai détourné l’usage. Je me suis mis à l’utiliser un peu comme un livre en disant « Tiens, qu’est-ce qu’il y a là-dedans à ce sujet-là ? Qu’est-ce que [l’expert métier] a entré dans le chatbot. Et si je le parcourais ? » [Laurent, 28 ans, utilisateur.]” (Extrait de l’article je ne comprends pas votre question de Marion Gras Gentiletti).

Visibilité de l’IA et invisibilité du travail humain

Lorsqu’une entreprise ou une collectivité souhaite intégrer un outil numérique ou une intelligence artificielle, elle cherche un moyen pour recentrer les salariés sur des tâches à forte valeur ajoutée. Dans certains cas, comme le démontre l’article de Marion gras Gentiletti sur des chatbots, l’introduction d’une IA a entraîné des tâches supplémentaires et invisibles pour les experts métier. Ces experts doivent alimenter, mettre à jour et valider les connaissances des chatbots, un travail souvent non reconnu. De même, les utilisateurs peuvent effectuer un travail invisible de vérification et de traçage des informations fournies par l’IA, par manque de confiance ou d’adaptation du contenu à leurs besoins.
Dans d’autres cas, les travaux de chercheur Christophe Mundutéguy met également en évidence une forme d’invisibilisation du travail car l’outil numérique ou l’IA ne capturera pas la réalité de l’activité dans sa globalité, comme les connaissances interpersonnelles, les négociations informelles et les arbitrages réalisés par les agents pour gérer les aléas et maintenir la collaboration avec des tiers. Ces aspects, cruciaux pour la régulation et la continuité de l’activité, restent et resteront hors du champ du système d’information numérique ou de l’IA.
Pour traiter ces sujets de visibilité de l’IA et celle de l’humain dans la conception de systèmes métiers intégrant l’IA, plusieurs pistes peuvent être envisagées :

• Adopter une approche anthropocentrée de la conception des SIN et des systèmes d’IA. Il est crucial de replacer l’activité réelle au cœur du processus de conception. Cela implique d’inclure les futurs utilisateurs dès les premières étapes pour comprendre leurs besoins réels, leurs pratiques de travail (y compris celles hors du SIN), et les situations auxquelles ils sont confrontés. La recherche en ergonomie souligne l’importance d’un « apprentissage mutuel » entre ceux qui conçoivent et ceux qui exécutent les tâches.
• Reconnaître et valoriser le travail invisible induit par l’IA. Lors de l’introduction de systèmes d’IA, il est essentiel d’anticiper et de prendre en compte les nouvelles tâches et les charges de travail supplémentaires pour les salariés/agents, notamment en termes d’intégration de données, de maintenance et de validation des systèmes d’IA. Ce travail doit être reconnu dans les descriptions de postes et les évaluations de performance.
• Étudier les usages réels et les appropriations de l’IA par les utilisateurs (« shadow IA »). Comprendre comment les salariés utilisent l’IA en dehors des cadres formels peut révéler des besoins non satisfaits par les systèmes officiels et des pistes d’amélioration pour les futurs développements. Ces usages peuvent témoigner de leur créativité et de leur capacité à adapter les outils à leurs besoins spécifiques.
• Ne pas se limiter à une vision technicienne de l’IA. L’IA est souvent introduite avec une forte emphase sur l’innovation et l’automatisation, parfois au détriment de l’analyse des besoins réels et des impacts sur le travail humain. Il est important de considérer l’IA comme une aide à l’activité humaine plutôt que comme un substitut.
• Maintenir et valoriser l’intersubjectivité et les connaissances informelles. Dans des environnements de travail dynamiques et incertains, les échanges informels, les connaissances interpersonnelles et la prise en compte des contraintes d’autrui sont essentiels pour la régulation et la gestion de crise. Les systèmes d’IA ne doivent pas occulter ou rendre obsolètes ces formes de collaboration et de savoirs.
• Développer des SIN plus flexibles et adaptables. Les limites et l’inadaptation des SIN existants sont souvent une des raisons du développement du travail invisible hors système. Concevoir des systèmes qui peuvent intégrer une plus grande variété d’informations et s’adapter plus facilement aux situations imprévues pourrait réduire le recours à la « shadow IA » par nécessité.
• Organiser des espaces de dialogue et de débat autour de l’introduction de l’IA. Selon la sociologue Danièle Linhart, une démocratisation de l’usage du numérique passe par une démocratisation de l’organisation du travail. Créer des forums de discussion et d’émulation peut permettre de mieux comprendre les attentes, les craintes et les besoins des employés face à l’IA.

Sources :

• https://www.la-fabrique.fr/fr/publication/numerique-collaboratif-et-organisation-du-travail-au-dela-des-promesses-2/

• Je ne comprends pas votre question : https://journals.openedition.org/socio-anthropologie/13284#tocto2n4
• Numérique au travail, un moment politique ? https://journals.openedition.org/socio-anthropologie/13036