Une carte générée par ChatGPT envoie deux randonneuses dans la mauvaise vallée

Mardi soir, dans la vallée du Marcadau au-dessus de Cauterets, un accompagnateur en montagne croise deux jeunes femmes épuisées. Elles cherchent le lac d'Estom. Le lac d'Estom est dans la vallée voisine, pas du tout à cet endroit. Leur itinéraire venait de ChatGPT.

Deux randonneuses qui cherchent un lac

Julien Vignasse travaille au Parc national des Pyrénées. Il rentrait de sa journée quand il tombe sur deux randonneuses de 18 à 19 ans, fatiguées, un peu inquiètes, qui lui demandent leur chemin. Elles lui expliquent qu'elles marchent depuis deux heures vers le lac d'Estom et qu'elles n'ont toujours pas vu le refuge Wallon-Marcadau.

Il leur demande leur carte. Elles lui tendent un téléphone. Ce qu'il y voit ne correspond à rien : refuges déplacés, lacs installés dans des vallées qui ne sont pas les leurs, temps de marche fantaisistes. « Il n'y a rien qui va dans cette carte », résume-t-il auprès de franceinfo. Quand il demande d'où elle sort, la réponse tombe : ChatGPT, qui leur a préparé toute leur itinérance.

Il leur a refait un itinéraire sur place, revu à la baisse, en leur conseillant de suivre les panneaux. Elles étaient novices et marchaient en « baskets de running », raconte-t-il à ICI Béarn Bigorre. Personne n'a été blessé. C'est à peu près le seul détail rassurant de l'histoire.

Dans le message qu'il a ensuite publié sur Facebook, et qui a beaucoup tourné, il précise ne pas vouloir juger les deux jeunes femmes. Sa demande tient en une phrase : « ne faites pas confiance à ChatGPT pour vos randonnées ».

Marcadau et Lutour : deux vallées qui ne communiquent pas à pied

Pour qui ne connaît pas Cauterets, l'erreur peut sembler anodine. Elle ne l'est pas.

La vallée du Marcadau se remonte depuis le parking du Pont d'Espagne. Il faut compter environ 2h à 2 h 30 de marche pour atteindre le refuge Wallon-Marcadau, à 1 866 m. Le lac d'Estom, lui, est à 1 804 m dans la vallée de Lutour, avec son propre refuge au bord de l'eau. On y monte depuis le parking de la Fruitière, à 1 370 m, en 2 h environ pour 450 m de dénivelé.

Les deux vallées partent bien de Cauterets, mais elles divergent très vite et ne se rejoignent qu'en haute montagne, par des cols hors de portée d'une sortie improvisée en fin de journée. Concrètement, deux randonneuses parties du Pont d'Espagne pour rejoindre le lac d'Estom ne peuvent pas y arriver : il faut redescendre, reprendre la D 920 et remonter la petite route de la Fruitière. La carte du téléphone, elle, promettait un sentier.

Une trentaine de cas pour le seul secteur, depuis le début de l'été

Le point le plus inquiétant n'est pas l'anecdote. C'est sa fréquence. Julien Vignasse indique avoir croisé une trentaine de personnes égarées depuis le début de l'été, à cause de cartes générées par intelligence artificielle ou récupérées sur internet avec de mauvaises informations.

Les CRS de Gavarnie n'ont pas encore été appelés pour un secours directement lié à une carte produite par une IA. Sébastien Abadie, chef de l'unité, dit s'attendre à ce que cela arrive. On voit assez bien le scénario : une cheville qui lâche à 20 h dans une vallée où personne ne vous cherche, parce que vos proches croient que vous êtes ailleurs. Et des secours qui cherchent, en vain, pendant des heures dans la vallée juste à côté de la bonne.

Pourquoi un modèle de langage se trompe de vallée

Un modèle comme ChatGPT (et les autres IA fonctionnent de la même manière) ne lit pas la carte. Il produit du texte plausible à partir de ce qu'il a vu passer. Dans les Pyrénées, les toponymes se ressemblent, les lacs et les refuges apparaissent souvent dans les mêmes pages, et le modèle les recombine sans avoir aucun moyen de vérifier lequel est où. Le résultat sonne juste. Il est faux.

Deux choses aggravent le problème. D'abord, ces outils ne signalent presque jamais qu'ils ne savent pas : la réponse arrive avec le même aplomb qu'elle soit exacte ou inventée. Ensuite, une « carte » générée par une IA n'est pas une carte. C'est une image qui en a l'apparence, sans géoréférencement, sans courbes de niveau exploitables, sans mise à jour des sentiers fermés ou des passerelles emportées.

Autant le dire clairement, puisque nous utilisons nous aussi ces outils en rédaction : une IA peut aider à préparer une sortie, à comparer des options, à résumer un topo. Elle ne peut pas être la source de vos coordonnées, de vos altitudes ni de vos temps de marche. Chez Randozone, aucune donnée géographique ne part en ligne sans être recoupée avec le fond IGN et les traces réelles. Et nous partageons des traces gps de randonnées qu'on a vraiment fait ou qu'on a vérifié de manière méthodique.

Ce qu'on emporte à la place

• Une vraie carte. Pour ce secteur, la TOP 25 IGN 1647 OT Vignemale. En papier, ou dans une application qui affiche le fond IGN avec les dalles téléchargées hors ligne.
• Une trace GPX dont vous connaissez l'origine. Un fichier tracé par quelqu'un qui a marché l'itinéraire, avec une date et un profil altimétrique cohérent.
• Les panneaux du Parc national. Ils donnent les directions et les durées relevées sur le terrain. Ce sont eux qui font foi, pas votre écran.
• Un avis humain avant de partir. La Maison du Parc national à Cauterets, l'Office de la montagne, un bureau des guides, un gardien de refuge. C'est gratuit et cela prend dix minutes.
• La météo montagne du jour, et un objectif choisi en fonction du plus lent du groupe.
• Des chaussures de randonnée. Les baskets de running tiennent tant que le sentier est sec et plat. Au-dessus de 1 800 m, il l'est rarement.

Le lac d'Estom vaut le détour, et la vallée du Marcadau aussi. Simplement, ce sont deux journées différentes.

Où chercher ses idées de randonnée

Un modèle de langage ne sait pas où passent les sentiers. Il n'a rien parcouru, rien mesuré, rien vérifié. Pour préparer une sortie, mieux vaut aller là où l'information vient du terrain.

• Les cartes officielles. Le fond IGN reste la référence, en TOP 25 papier ou dans une application qui l'affiche hors ligne.
• Les structures locales. Maisons du Parc national, offices de tourisme, bureaux des guides, gardiens de refuge. Ce sont eux qui savent qu'une passerelle a été emportée la semaine dernière.
• Les topos publiés et documentés. Sur Randozone, chaque topo est vérifié et parfois associé à une trace GPX, un profil altimétrique et des fiches de points d'intérêt, classés par département et par massif.
• Les communautés de randonneurs. Pour les Pyrénées, le groupe Pyrénées balades et randonnées réunit des marcheurs qui répondent souvent avec des retours de sorties récentes. Un témoignage n'est pas un topo, mais il vous dira l'état de la neige ou des conditions du sentier mieux qu'un chatbot.

Quelle que soit la source, recoupez-en au moins deux avant de partir. C'est la règle qui aurait suffi à éviter toute cette histoire. Il existe de nombreux sites (pas que Randozone), appli, cartes donc mieux vaut avoir plusieurs sources d'informations plutôt que de dépendre d'une IA qui ne fait que copier des informations à droite ou à gauche sans vraiment les comprendre.