Accéder au contenu principal
Nouvelles technologies

Éthique et Intelligence artificielle

Audio 02:08
Le domaine de la vidéosurveillance cristallise la plupart des angoisses avec la perspective de l’analyse automatique des images des caméras urbaines.
Le domaine de la vidéosurveillance cristallise la plupart des angoisses avec la perspective de l’analyse automatique des images des caméras urbaines. © AP/Alexander Zemlianichenko

Avec la pandémie de Covid-19, le déploiement des programmes d’intelligence artificielle dans tous les secteurs des activités humaines connaît un essor sans précédent. Mais cette « gouvernance » informatique tous azimuts, basée sur la collecte massive et l’analyse fine des données par les machines dans les domaines publics, industriels ou ceux de la sphère privée, suscite autant d’espérances que d’inquiétudes.

Publicité

Que ce soit dans les secteurs de la santé, du transport, de la recherche scientifique, du commerce, de l’industrie, du divertissement, de l’éducation, ou encore de l’assistance aux personnes, les progrès attendus avec le déploiement massif des systèmes d’intelligence artificielle catalysent aujourd’hui toute sorte de fantasmes. Le domaine de la vidéosurveillance cristallise par ailleurs la plupart de ces angoisses avec la perspective de l’analyse automatique des images des caméras urbaines, tel que le prévoient les articles de loi « Sécurité globale » du gouvernement français.

Mais sans une vision éthique pour réguler leurs usages dès leur conception, le développement et l’adoption de ces technologies seraient en définitive compromis, nous précise Jérémy Harroch, fondateur et président de Quantmetry. Ce cabinet français de conseils et d’expertises est spécialisé dans le déploiement de l’intelligence artificielle pour les Grands Comptes.

Pour arriver à un résultat éthique, la première chose à prendre en considération est le cadre légal pour développer l’intelligence artificielle.

– Jérémy Harroch, fondateur et président de Quantmetry

« Ces caméras-là auront besoin de systèmes intelligents pour être capables de détecter les anomalies. On sait aujourd'hui qu'il y a des capacités à reconnaître si un objet tenu dans une main est un objet en plastique ou une arme de poing. Certains de ces systèmes étaient enclins à distinguer plutôt l’arme de poing entre les mains d’une personne de couleur et indiquaient en revanche que l’objet tenu par un individu blanc était un jouet en plastique », explique Jérémy Harroch.

Puis, Jérémy Harroch ajoute : « L’éthique en intelligence artificielle est d’être capable de comprendre a priori quels sont les biais présents dans un jeu de données analysées par ces programmes et d’éviter qu’ils se reproduisent et conditionnent les décisions de la machine. Mais pour arriver à un résultat éthique, la première chose à prendre en considération est le cadre légal pour développer l’intelligence artificielle et notamment les questions de l’anonymisation des données personnelles, le respect des droits privés et individuels, des libertés fondamentales des personnes, des questions éthiques qui aujourd’hui n’ont pas du tout été résolues. »

Une utilisation de l’intelligence artificielle par la justice aux résultats peu probants

L’utilisation de l’intelligence artificielle par des autorités judiciaires est déjà une réalité dans de nombreux pays du monde. La police aux États-Unis l'a employée pour tenter de prévenir les meurtres et le Japon afin de prédire la criminalité dans toute une ville, mais sans succès.

Ailleurs, ce n’est pas mieux, ces systèmes de surveillance par reconnaissance faciale et pilotée par intelligence artificielle, qui ont été implantés au mépris de l’éthique et des libertés fondamentales des citoyens ont démontré qu’un dispositif informatique, aussi intelligent soit-il, livrera plutôt des résultats « abracadabrantesques » quand il est alimenté avec des données infondées, voire truquées.

Vous avez des questions ou des suggestions, vous pouvez nous écrire à nouvelles.technologies@rfi.fr

 

NewsletterRecevez toute l'actualité internationale directement dans votre boite mail

Page non trouvée

Le contenu auquel vous tentez d'accéder n'existe pas ou n'est plus disponible.