Pendant des décennies, la conception d'interfaces reposait sur une hypothèse rassurante. Le logiciel est prévisible. Le même clic donne le même résultat, à chaque fois. Les boutons, les formulaires et les menus sont tous bâtis sur ce contrat.

Les produits d'IA brisent ce contrat. La même question peut donner des réponses différentes. Le système peut se tromper avec aplomb. Il peut faire quelque chose d'impressionnant et quelque chose de déconcertant dans la même minute. Concevoir pour cela relève d'une autre discipline, et tout tient pour l'essentiel à une seule question. Quand la machine répond, l'utilisateur dispose-t-il de ce qu'il faut pour décider s'il peut lui faire confiance.

La confiance est un élément de design

Une interface traditionnelle n'a pas besoin d'exprimer son degré de certitude, car elle est toujours certaine. Une interface d'IA, si. La pire chose qu'un produit d'IA puisse faire, c'est présenter une supposition avec la même autorité qu'un fait. Les utilisateurs ne peuvent pas calibrer leur confiance si tout paraît également certain.

L'incertitude doit donc être visible. Quand le système raisonne sur des bases solides, il peut le dire clairement. Quand il extrapole, l'interface doit le rendre lisible, à travers la façon dont la réponse est formulée, à travers des citations, à travers une affirmation plus prudente. Concevoir la confiance est aussi important que concevoir la réponse.

Les utilisateurs n'ont pas besoin d'une IA toujours juste. Ils ont besoin d'une IA honnête sur les moments où elle pourrait se tromper.

Montrez le cheminement, pas seulement la réponse

Une boîte noire qui crache des réponses est facile à construire et difficile à croire. À l'instant où un utilisateur la prend en flagrant délit d'erreur sans aucun moyen de comprendre pourquoi, il cesse de croire à l'ensemble, y compris aux parties qui étaient justes.

La solution, c'est de montrer le cheminement. D'où vient cette information. Qu'a-t-elle examiné. Qu'est-ce qui changerait la réponse. Une IA qui cite ses sources permet à l'utilisateur de la vérifier en quelques secondes. Un agent qui annonce ce qu'il s'apprête à faire, avant de le faire, permet à l'utilisateur d'attraper l'erreur avant qu'elle ne survienne, plutôt que de réparer ensuite. La transparence n'est pas ici un bonus appréciable. C'est le mécanisme par lequel la confiance survit à la première erreur.

Concevez l'annulation, pas seulement l'action

Parce que les systèmes d'IA se tromperont parfois, l'interface doit le présumer. Cela signifie que le chemin du retour compte autant que celui de l'aller. Avant qu'un agent ne prenne une action lourde de conséquences, l'utilisateur doit la voir venir et pouvoir l'arrêter. Après une action, l'annuler doit être évident et peu coûteux.

C'est l'expression, dans l'interface, du principe « humain dans la boucle ». La machine propose, la personne garde le contrôle, et ce contrôle n'est pas un réglage enfoui, c'est une partie visible du parcours. Un produit qui rend ses erreurs faciles à repérer et faciles à inverser peut se permettre d'être ambitieux. Un produit qui les rend silencieuses et définitives ne le peut pas.

Réduisez le coût d'une mauvaise réponse

Le fil conducteur, c'est que concevoir des produits d'IA consiste surtout à abaisser le coût de l'erreur. Une bonne réponse est agréable dans n'importe quel design. Une mauvaise réponse, c'est là que les produits vivent ou meurent, et c'est l'interface qui décide combien cette mauvaise réponse coûte à l'utilisateur.

Rendez la confiance visible. Montrez le raisonnement. Gardez l'humain aux commandes, avec un vrai moyen d'intervenir et de revenir en arrière. Faites cela et les utilisateurs pardonneront le faux pas occasionnel, parce que le système ne leur a jamais demandé une foi aveugle au départ. Faites l'impasse, et une seule erreur assénée avec assurance suffira à les perdre. La confiance n'est pas un sentiment qu'on ajoute à la fin. C'est la somme de cent choix de design honnêtes.