L’IA Générative a besoin de l’UXR (partie 1/2)

Cela fait plusieurs années déjà que l’IA existe, et que les gens y sont plus ou moins consciemment exposés au quotidien… mais on a l’impression que depuis qu’OpenAI a sorti ChatGPT, toutes les entreprises se sont lancées dans la création d’outils fondés sur l’IA Générative, et que c’est devenu une réalité pour tout le monde en même temps…

Claire Jin est User Research Manager et a 10 ans d’expérience dans le domaine : d’abord chez Orange, puis chez TotalEnergies et enfin aujourd’hui chez Brevo. En parallèle de ses activités de Researcher, Claire dispense son savoir et partage son expertise à la communauté en école de Design et via Medium.

Cet article constitue la première partie d’une conversation que nous avons eue avec Claire sur le rôle de l’UXR dans l’IA Générative :

• [Partie 1] Contexte et enjeux : pourquoi les researchers peuvent (et doivent) devenir des références sur les enjeux liés à l’IA ?
• [Partie 2] Sujets de recherche : comment faire de la recherche sur les sujets IA ?

Les entreprises, notamment, voient à juste titre un fort potentiel de croissance dans l’IA générative et veulent à tout prix être les premières à l’intégrer. Cela entraîne souvent une approche centrée uniquement sur la technologie et non la valeur qu’elle va apporter aux utilisateurs.

Qu’est-ce que l’IA générative a d’inhabituel ? En quoi est-elle une technologie révolutionnaire ?

Claire :  L’IA générative est révolutionnaire car elle bouleverse les modalités de l’interaction homme-machine. Dans les approches traditionnelles, l'utilisateur donne des commandes au système, une par une, jusqu'à obtenir le résultat escompté. Avec l'IA générative, au lieu de dire au système quoi faire, l'utilisateur exprime le résultat qu'il souhaite atteindre et le système exécute les étapes nécessaires en autonomie.

Cette transformation de l’expérience utilisateur crée des modèles mentaux inédits fondés sur l’intention et pose la question de l’agentivité, soit la capacité de l'humain à agir et à prendre des décisions. L’IA générative reste une technologie en plein développement qui pose de nombreux défis. Selon la manière dont ont été créés et entraînés les modèles, les contenus générés peuvent par exemple reproduire des discriminations, propager de fausses informations, ou encore être utilisés à des fins de manipulation. On observe également des enjeux autour de la propriété intellectuelle, des données personnelles et de l’impact environnemental. La “hype” considérable autour de l'IA entraîne souvent une précipitation dans son adoption, éclipsant parfois les réflexions éthiques et sociétales qui sont pourtant indispensables. Les entreprises, notamment, voient à juste titre un fort potentiel de croissance dans l’IA générative et veulent à tout prix être les premières à l’intégrer. Cela entraîne souvent une approche centrée uniquement sur la technologie et non la valeur qu’elle va apporter aux utilisateurs. Les résultats sont alors décevants et peuvent même avoir des conséquences néfastes, notamment si l’aspect "boîte noire" de l’IA et la difficulté à obtenir des données d’entraînement complètes et non biaisées ne sont pas adressés avec soin.

Par exemple, l'utilisation de l'IA par les entreprises de services financiers dans leurs systèmes de demande et d'approbation de crédit peut renforcer des stéréotypes et des inégalités économiques. Dans le domaine des ressources humaines, cela peut conduire à reproduire les schémas sociaux existants en favorisant certains profils au détriment de la diversité et de l'équité. L’IA reste néanmoins un outil extrêmement prometteur et bénéfique quand il est bien utilisé. J’ai par exemple eu l’occasion de travailler sur des applications dans le domaine de l’éducation, visant à adapter les programmes d’apprentissage aux besoins des élèves, ou encore dans le domaine de l’énergie en permettant d’optimiser la consommation des réseaux. Et le potentiel à venir est énorme, notamment lorsque l’IA est combinée avec des innovations comme la réalité augmentée et les objets connectés. J’ai hâte de voir ce que l’avenir nous réserve !

l’IA pose beaucoup de questions et offre une multitude de sujets à étudier, par exemple sur la compréhension des interactions homme-machine.

De ce que tu vois dans ton entourage, comment les Researchers abordent cette révolution ?

C’est un sujet dont nous discutons beaucoup entre nous.

Les Researchers sont des professionnels curieux et très impliqués. Comme ils sont issus de divers horizons allant de l’ergonomie, la sociologie, la psychologie à la philosophie, les échanges sont passionnants. De ce que j’ai observé, leur premier réflexe est l’exploration : l’IA pose beaucoup de questions et offre une multitude de sujets à étudier, par exemple sur la compréhension des interactions homme-machine. Je dirais que les Researchers sont particulièrement conscients qu’il y a encore énormément d’inconnues et qu’ils sont enclins à utiliser leur expertise pour accompagner cette période de transformation. Par leur métier, ils sont notamment particulièrement sensibles aux enjeux éthiques et sociétaux. Cela les amène à prendre de la hauteur et à se poser des questions sur des sujets comme les biais, la transparence des systèmes ou encore le respect des données personnelles.

Or les entreprises, qui veulent souvent aller très vite, peuvent avoir du mal à comprendre cette approche. On retrouve les mêmes problématiques concernant l’utilisation de l’IA pour la Research. La communauté voit un vrai potentiel sur des cas d’usages comme le recrutement des utilisateurs, la retranscription, l’analyse thématique, la gestion des connaissances ou encore la préparation de supports de présentation.

Cependant, des préoccupations émergent autour de l’utilisation de l’IA pour des tâches qui requièrent une connaissance fine du contexte des utilisateurs et du produit, une approche systémique de l’empathie et de l’esprit critique, comme par exemple l’analyse des entretiens et l’observation. J’ai l’impression que les Researchers sont donc de plus en plus amenés à aborder cette révolution en tant que guides. L’enjeu dépasse désormais le cadre de l’équipe Design ou Produit, il s’agit de favoriser au niveau de l’entreprise une volonté partagée de mettre les utilisateurs au cœur de l’innovation et de la création de valeur. Cela nécessite une collaboration renforcée avec les différentes équipes, notamment tech, business et juridique, qui fait évoluer leur rôle.

‍

Nous sommes donc à un moment charnière pour les Researchers… Sur le rythme de travail, est-ce qu’il faut aller plus vite lorsqu’il s’agit d’IA ?

Pour les entreprises, il est tentant de penser que l’on doit accélérer voire même sauter certaines étapes quand on fait de la recherche sur l’IA.

Je suis cependant convaincue que pour obtenir de bons résultats, y compris sur la partie business, une recherche utilisateur de qualité est nécessaire. C’est même un élément différenciant et nécessaire pour créer de la valeur. Pour moi, l’enjeu est d’adapter la manière dont on fait de la recherche. Ces sujets demandent une approche beaucoup plus itérative : cela n’aurait par exemple pas de sens de mener une phase de recherche et d’attendre deux mois pour voir comment les choses ont évolué, alors que le modèle a complètement changé entre temps et que les pratiques des utilisateurs ont fait un bond en avant. En ce sens, l’IA est une véritable opportunité de développer les pratiques de recherche continue. C’est comme en navigation, il vaut mieux mieux ajuster constamment les voiles pour s’adapter aux variations du vent plutôt que d’attendre d’avoir dérivé pour procéder à un changement de cap radical. Et cette approche continue est une opportunité de fluidifier la collaboration avec les autres équipes de la Data, au Support en passant par les Sales.

Ceci dit, il est vrai qu’il est aujourd’hui nécessaire d’acquérir rapidement des connaissances de base en IA et de se tenir continuellement à jour. Et ces besoins d’adaptabilité et de rapidité d’apprentissage s’ajoutent aux responsabilités existantes des Researchers. Il ne faut donc pas hésiter à faire du partage d’expérience avec ses collègues ou encore à s’appuyer sur les communautés existantes.

L’IA renforce le besoin en Research. Notre démarche et nos méthodologies sont particulièrement adaptées pour appréhender les ruptures technologiques et traiter des questions stratégiques.

Donc beaucoup de choses à découvrir, en peu temps… faut-il en avoir peur ?

L’appréhension est une réaction naturelle face à l’inconnu. Je vois toutefois dans cette révolution de nombreuses opportunités pour les Researchers !

Tout d’abord, l’IA - et toutes les interrogations qu’elle soulève - renforce le besoin en Research. Notre démarche et nos méthodologies sont particulièrement adaptées pour appréhender les ruptures technologiques et traiter des questions stratégiques. Cela nous donne l’occasion de collaborer de manière renforcée avec les différentes équipes, au-delà du produit, à tous les niveaux de l’entreprise, et de montrer que l’impact de la Research dépasse largement les projets évaluatifs.

Cette révolution nous permet également d’étendre nos connaissances. Comme l’IA est un sujet nouveau, il y a un travail collectif de montée en compétences et de partage d’expertise. Dans mon cas, par exemple, cela m’a motivée à me former aux bases de Python ou encore à creuser des aspects réglementaires qui pourront également me servir pour d’autres sujets. C’est également une période très excitante : comme nous le disions tout à l’heure, nous sommes en train de développer de nouvelles modalités de la relation homme-machine. Cela demande d’être proactif, de s’adapter en continu et de travailler de manière plus transverse. Je suis confiante dans les capacités des Researchers à relever le défi et à favoriser une approche centrée sur l’humain.

‍

Et des conseils pour être écouté sur l’IA en interne ?

Mon premier conseil est de se former et de tester soi-même régulièrement différents modèles pour pouvoir participer activement aux discussions sur les applications de l’IA dans le produit, ses bénéfices et ses risques. Vous pouvez par exemple bloquer un créneau chaque semaine pour faire de la veille. L’idée est par exemple de commencer avec des chatbots comme ChatGPT, Claude et Gemini en expérimentant différents types de prompts : textuels, visuels, vocaux, multimodaux soit en une étape, soit en chaîne de pensée. Et d’explorer ensuite des plugins, des outils plus spécialisés ou encore des fonctionnalités disponibles par exemple dans les outils de user research comme l’analyse thématique ou encore la génération de résumés. Cela permet de se faire son avis sur ce qui fonctionne et ce qui fonctionne moins bien.

Mon deuxième conseil est de favoriser la collaboration en se rapprochant des autres équipes comme les équipes data, tech et juridiques et d’établir des échanges réguliers et identifier les zones d’ombre et les sujets à adresser en priorité. Pour un sujet comme l’IA, il est essentiel de parler le langage des autres équipes, d’être capable de comprendre leurs préoccupations et leurs objectifs afin de mettre en avant la manière dont la Research peut les aider. Cela est également l’occasion de créer des canaux de communication et de préparer avec elles des sessions de formation et sensibilisation destinées à l’ensemble de l’entreprise. Plus vous rendrez l’information accessible et pertinente, plus vous responsabilisez l’ensemble de l’organisation sur l’importance d’une démarche commune centrée sur l’humain tout au long du cycle de développement.

Et pour continuer dans ce sens, mon troisième conseil est de partager régulièrement des études de cas et des exemples concrets. Cela permet de démontrer l’impact réel de la Research. Ce partage peut avoir lieu à la fois en interne et en externe, dans une logique d’innovation ouverte, par exemple au sein de la communauté produit, dans des meetups ou encore dans des réseaux inter-entreprises.

Aujourd’hui, si notre rôle est bien identifié sur tous les sujets d’utilisabilité, nous devons par contre souvent aider les équipes à prendre de la hauteur concernant l’impact de l’IA dans le contexte global de l’utilisateur et les enjeux éthiques. C’est en suscitant ces interrogations que nous pouvons valoriser la recherche exploratoire.