Confier son épargne à l'intelligence artificielle : les angles morts à connaître

La majorité des acteurs des marchés financiers français utilisent déjà l'intelligence artificielle ou s'y préparent, selon l'Autorité des marchés financiers. Pour l'épargnant qui délègue sa gestion, les failles de ces systèmes méritent un examen lucide.
 

Faut-il laisser une machine gérer son patrimoine ? La question a quitté le terrain de la science-fiction. Les modèles de langage analysent en quelques secondes des milliers d'articles, de rapports d'analystes et de données de marché, une capacité qui dépasse de loin celle d'une équipe humaine. 

Certains fonds dont les équipes maîtrisent ces outils affichent des performances supérieures à leurs pairs. Le détail compte toutefois : les gains se concentrent dans les fonds discrétionnaires, où l'IA assiste un gérant expérimenté plutôt qu'elle ne le remplace. 

La formule efficace associe l'humain et la machine, et non la machine seule. Pour une clientèle patrimoniale qui délègue, ce point change tout, car la valeur vient de la supervision, non de l'automatisation intégrale. Les offres de gestion pilotée mettent volontiers en avant l'intelligence artificielle comme argument commercial, sans toujours préciser le rôle exact qu'elle joue dans les décisions. Avant de confier une part de son épargne à une gestion assistée par IA, encore faut-il comprendre où se situent les fragilités de ces systèmes et quelles garanties encadrent leur usage.
 

Des failles structurelles, pas accidentelles
Les vulnérabilités de ces systèmes ne relèvent pas de l'accident. Pour Wassim Bouaziz, spécialiste de la sécurité de l'IA chez Mistral AI, les modèles de langage restent intrinsèquement instables : une perturbation minime des données d'entrée, comme l'ajout de quelques espaces dans un texte, peut inverser le résultat produit. Le phénomène d'hallucination, par lequel un modèle fabrique une information de toutes pièces, a déjà des effets mesurables, jusque dans des décisions de justice influencées par des contenus inventés. S'y ajoutent des attaques délibérées. 

L'injection de prompt glisse des instructions cachées dans les données traitées : un texte invisible inséré dans un document peut détourner une recommandation, par exemple un avis de recrutement. Transposé à la finance, un agent qui consulte des sites d'information ou des bases de données pourrait voir ses décisions manipulées par des contenus malveillants conçus pour orienter ses choix. 

L'empoisonnement des données d'entraînement, démontré par une étude de 2024, permet de contaminer une fraction infime d'un corpus pour un coût dérisoire, en rachetant par exemple des noms de domaine expirés. Dans un secteur où un biais introduit dans un modèle oriente des milliards d'euros de transactions, ce type d'attaque devient un risque systémique difficile à détecter, d'autant que l'origine d'une décision automatisée se trace mal une fois l'ordre passé.
 

Pourquoi le jugement humain reste central
Un autre danger tient à l'uniformisation. Entraînés sur des corpus voisins, les modèles tendent à converger : si tous se trompent dans le même sens au même moment, les pertes se propagent à l'échelle du marché. Le flash crash de 2010, qui a vu le Dow Jones perdre près de 9 % en quelques minutes sous l'effet d'interactions entre algorithmes, donne un aperçu d'une défaillance corrélée. 

L'AMF observe la bascule : son secrétaire général Sébastien Raspiller rappelle que l'IA sert surtout des fonctions internes, recherche, conformité, analyse, et peu le conseil direct aux épargnants. Un signal d'alerte mérite d'être noté : interrogés sur des données financières basiques d'entreprises, les grands modèles ne fournissent qu'une faible proportion de réponses exactes, un taux d'erreur qui serait inacceptable pour un conseiller humain. 

Le règlement européen classe certaines applications financières parmi les usages à haut risque, et exige transparence, explicabilité et supervision humaine. Or, dans la gestion d'actifs, justifier une décision relève d'une obligation, pas d'un confort, et les modèles fonctionnent comme des boîtes noires. Les sociétés les plus avancées répondent en faisant tourner des modèles en parallèle pour repérer les biais, en découpant la décision en sous-tâches confiées à des agents spécialisés, ou en préservant l'apprentissage des analystes débutants que l'automatisation pourrait priver d'expérience. 

Avant de confier son épargne à un dispositif automatisé, mieux vaut donc demander qui supervise, comment les biais sont détectés, qui répond en cas d'erreur et quelle place garde le gérant humain dans la chaîne de décision. Cette mise en garde émane de chercheurs de l'Université Paris Dauphine-PSL.