Le bon et le méchant algorithme
Les algorithmes déterminent toujours plus notre vie. Sont-ils une aide ou un danger ? L’informaticienne la plus importante d’Allemagne nous l’explique.
Mme le Professeur Zweig, vous travaillez dans le domaine de la socio-informatique et vous penchez sur les algorithmes. Pouvez-vous nous expliquer ce qu’est un algorithme ?
Les algorithmes sont des instructions générales d’action pour résoudre des problèmes. La multiplication écrite en est un bon exemple : votre maîtresse vous a expliqué comment procéder, indépendamment des nombres multipliés et de leur longueur. Cette généralité caractérise un bon algorithme.
Quand l’utilisation d’un algorithme est-elle utile et pertinente ?
Ce que l’on comprend aujourd’hui comme un algorithme n’en est généralement pas. En soit, les algorithmes sont très utiles et pertinents car ils trouvent toujours une solution, c’est prouvé. Cette garantie fait partie de la définition de l‘algorithme. Mais aujourd’hui, quand on parle « d’algorithme », on pense généralement au processus d’apprentissage machine. Ces processus recherchent des schémas dans les données à l’aide de statistiques et en font des règles de décision. Par exemple, si nombre de postulants et postulantes à une poste ayant entre 25 et 30 ans sont embauchés, cette information deviendra l’un des critères de décision lors de la prochaine embauche.
Ce n’est pas un problème du système décisionnel mais de la manière dont on l’utilise.
Quand l’utilisation d’algorithmes est-elle problématique ?
L’exemple dans le monde du travail montre déjà que la règle fixée comporte un risque de discrimination. De tels systèmes de décision issus de données devraient être analysés quant à une éventuelle discrimination là où ils présentent un risque – notamment pour accéder à des prestations publiques ou dans le monde du travail. Il ne faut pas pour cela en connaître le code. Il suffit de regarder les résultats pour des personnes aux caractéristiques différentes comme l’âge ou la religion. Ce n’est d’ailleurs pas un problème du système décisionnel mais de la manière dont on l’utilise. On pourrait tout aussi bien utiliser le schéma trouvé dans les données pour compenser des inégalités.
Avec votre dernier livre « Ein Algorithmus hat kein Taktgefühl » (L’algorithme n‘a pas de tact), vous voulez permettre aux néophytes de « garder le contrôle ». Cela peut-il marcher ?
Oui, j’en crois chacun capable – car nous, les informaticiens, pouvons apporter l’implémentation technologique. Mais nous ne pouvons pas répondre seuls à la question sur les schémas qu’un algorithme doit rechercher dans quelles données et ce qui doit être optimisé. Lorsqu’on prévoit un système qui doit prédire si un criminel fera une récidive, la société doit décider si elle le veut vraiment. Et si oui, si on construit le système de manière à ce qu’il découvre presque tous les criminels ayant récidivé ou plutôt un système qui ne suspecte pas à tort les criminels resocialisés. Pour cela, il faut donner une orientation générale sur la manière dont fonctionne de tels processus d’apprentissage machine – et faire preuve de beaucoup de bon sens. Et les gens qui parcourent le monde en ouvrant les yeux en ont beaucoup.
Prof. Katharina Zweig dirige la chaire de Théorie des graphes et d‘analyse des réseaux complexes à l‘ UT de Kaiserslautern ; elle a largement créé le cursus de « Socio-informatique » qui se penche sur l’impact de l’informatique sur la société.
Interview : Martin Orth
You would like to receive regular information about Germany? Subscribe here:
