Microsoft Copilot: vos requêtes et photos vues par des humains

Cela ne devrait plus être une surprise à ce stade-ci, mais vos conversations avec des agents conversationnels d’intelligence artificielle ne sont pas nécessairement privées. Une enquête du média spécialisé 404 Media révèle que des travailleurs contractuels ont été embauchés pour Copilot de Microsoft afin de lire les requêtes et examiner les images téléversées.

• À lire aussi : Des humains lisent vos conversations avec ChatGPT pour entraîner l’IA

Selon 404 Media, au moins une centaine d’évaluateurs humains consultent parfois ces requêtes et ces photos. Une personne qui fait ce travail, qui a parlé au média de façon anonyme, affirme que les « visages ne sont jamais censurés » et que « bon nombre des requêtes sont de nature sexuelle et leur caractère consensuel est douteux ».

Les documents consultés par le média font état de nombreuses demandes de modifier des photos de manière sexuellement explicite. Les travailleurs doivent ensuite évaluer si l’image générée répond bien à la demande. L’exemple donné : si le générateur d’images a généré « les seins agrandis par l’IA de la femme suffisamment volumineux ».

Le média indique aussi que les travailleurs sont inondés de demandes visant à créer des images fétichistes de pieds mettant en scène des personnages de dessins animés pour enfants, à raccourcir la jupe d’une vraie femme ou à placer des personnes dans des poses à caractère sexuel. D’autres travailleurs ont également indiqué qu’ils étaient exposés à du contenu faisant la promotion de l’anorexie.

Mais ces travailleurs n’auraient pas été engagés pour signaler du contenu potentiellement inapproprié. Ils seraient engagés pour réviser la qualité des réponses de Copilot. « Faites confiance à votre intuition : lorsque vous regardez deux images modifiées côte à côte, laquelle vous semble immédiatement être la meilleure modification ? Votre réaction instinctive en tant qu’être humain compte », peut-on lire dans une série de consignes fournies aux travailleurs, citées par le média.

Un porte-parole de Microsoft a déclaré à 404 Media par courriel que la compagnie « utilise les données des clients comme le décrivent nos conditions d’utilisation, notamment pour améliorer nos produits et faire respecter notre code de conduite. »

Plus tôt en septembre, OpenAI avait été ciblée par une nouvelle semblable où il avait été révélé que des humains pouvaient lire vos conversations avec ChatGPT afin d’entraîner son IA.