Votre intelligence artificielle est plus humaine que vous ne le pensez


Rédigé par Karim JOUINI le Jeudi 1 Mars 2018 à 14:59

Nombreuses sont les entreprises assurant confier les données de leurs clients à une intelligence artificielle. En réalité, ces entreprises ne font que sous-traiter ces données à des travailleurs ; ce qui soulève d'importants problèmes de confidentialité et d'éthique.


Derrière la notion d'intelligence se cache parfois de la main d'oeuvre à bas coût (Photo Pixabay)

L'Amazon Mechanical Turk est une plateforme de microtravail, lancée en 2005 par Amazon. Le principe est de faire effectuer des tâches simples et morcelées par des humains, comme de la traduction de fragments de textes, pour le compte d'entreprises qui externalisent ces services. Le nom de la plateforme vient d'un célèbre canular de la fin du 18e siècle, le Turc Mécanique[1], présenté aux Européens comme un automate capable de jouer aux échecs. En réalité, il ne s'agissait que d'un pantin de bois, à l'intérieur duquel se cachait un humain. 

La plateforme d'Amazon met en évidence l'ironie d'une situation où l'humain fait le travail de l'intelligence artificielle. En effet, contrairement à ce que laissent trop souvent entendre les startups, l'intelligence artificielle n'est pas gratuite, au contraire. Dans les pays en développement — comme l'Inde ou les Philippines — le coût du travail humain est souvent plus compétitif que celui du recours à une intelligence artificielle.


Madagascar, champion français de intelligence artificielle!

Ainsi, parmi les nombreuses entreprises et startups qui vendent à leurs clients une gestion des données faite par une intelligence artificielle, se cache en réalité un traitement de l'information « à l'ancienne » fait par des travailleurs à bas coût, dans des pays, comme Madagascar, où le prix de la main d'oeuvre est jusqu'à 30 fois inférieur à celui de la France [2].

Une raison, autre qu'économique, à ce traitement manuel, est que l'intelligence artificielle n'est pas encore tout à fait capable d'imiter l'esprit humain. Lorsqu'il s'agit, par exemple, de scanner des livres anciens, l'IA ne sait pas toujours reconnaître les mots. Il faut donc l'intervention d'un être humain, bien réel, pour éviter les erreurs de transcription. Ainsi, pendant que l'IA se développe, ce qui, à moyen terme, fera baisser son coût et le rendra plus compétitif, il se met en place un système hybride, où on rencontre actuellement davantage de délocalisation d'emplois et de traitement manuel que de recours à des intelligences artificielles.


La confidentialité des données mise à mal

Cette sous-traitance des données par des travailleurs humains pose un problème de confiance, car les entreprises clientes, faute d'en être informées, n'y ont pas donné leur consentement. Une startup pourra ainsi faire traiter les données d'une entreprise française par des travailleurs asiatiques ou africains, avec lesquels elle n'a par ailleurs aucun contact direct. Le recours à des travailleurs humains pose également un problème de confidentialité, car les données qui sont traitées par les travailleurs ne sont pas toujours anonymisées. Ceux-ci ont donc accès à des informations parfois sensibles sur l'activité des entreprises, comme des notes de frais ou des factures.


Une promesse d'avenir

Pour les nombreuses startups qui ont recourt à l'intelligence humaine au lieu d'une intelligence artificielle, il s'agit avant tout d'un pari sur l'avenir. Toute intelligence artificielle fonctionne par analogie, à partir de ce que l'humain lui enseigne. Pour que leurs algorithmes apprennent, il faut les nourrir en données : ce sont ces fameuses données, qui sont pour le moment traitées par des travailleurs. En faisant traiter manuellement certaines tâches, les startups accumulent les bases de données nécessaires à la création d'un algorithme efficace, qui sera plus tard capable d'exécuter efficacement ces tâches.

Ces startups vendent aujourd'hui ce qu'elles seront dans 5 ans. Un modèle ingénieux, même si, comme le Turc Mécanique, il ne peut fonctionner que tant que les entreprises ignorent que cette intelligence artificielle reste, pour le moment encore, bien humaine.

 


Karim JOUINI
CEO et Fondateur d'Expensya






Dans la même rubrique :