IA : des conversations de Claude exposées dans Google

Des conversations et créations réalisées avec l’IA Claude d’Anthropic se sont retrouvées dans les résultats de recherche de Google, rapporte le média spécialisé 404Media.

Des utilisateurs auraient rendu publiques, sans nécessairement s’en rendre compte, des informations qui pourraient contenir des données sensibles.

Selon 404Media, Claude permet de partager une conversation à l’aide d’un lien public afin de l’envoyer à un contact. Sauf que ces liens peuvent être indexés par Google, ce qui les rend accessibles à toute personne effectuant une recherche. Suffit de cliquer sur le bouton « Partager » en haut d’une conversation, comme pour la plupart des chatbots populaires.

Le média indique qu’on pouvait retrouver des applications créées avec Claude, des notes de réunion et même un tableau de bord servant à analyser des données de facturation médicale. Certaines conversations contiendraient aussi des clés de portefeuilles de cryptomonnaies, des clés d’API, des identifiants de connexion et des renseignements personnels comme des noms, des adresses et des numéros de téléphone. Un rappel pertinent de ne jamais partager des informations sensibles avec un agent conversationnel.

C’est grâce à la technique « Google Dork », une requête très précise dans Google permettant de trouver certains types de pages, que la situation a été mise de l’avant sur Reddit. Utiliser la méthode Google Dork est loin d’être sophistiqué et c’est courant, alors c’est davantage inquiétant.

404Media souligne que la méthode Google Dork ne fonctionnait plus au moment de publication lundi, autant sur Google que sur DuckDuckGo, pour les recherches de conversation. Le média indique toutefois qu’il est toujours possible de trouver des « Artifacts », des espaces de travail interactifs pour tester des applications de programmation et d’autres outils.

Il faut souligner que ce même problème a été signalé l’an dernier avec Open AI, où près de 100 000 conversations avec ChatGPT étaient répertoriées sur Google. Même si ces conversations ne sont plus dans les résultats de recherches Google, rien ne peut assurer qu’elles ne sont pas répertoriées par des tiers.