L’Automatisation

L’automatisation peut améliorer la production tout en minimisant le temps et la main-d’œuvre nécessaires, accroissant ainsi la productivité des travailleurs et la demande pour d’autres types de travail. Par exemple, l’automatisation peut rationaliser l’examen des documents, en réduisant le temps que les juristes doivent consacrer à la recherche de documents ou à l’étude des sources, etc. En Azerbaïdjan, le gouvernement s’est associé au secteur privé pour utiliser un système automatisé afin de réduire l’accumulation de dossiers judiciaires relativement simples, tels que les réclamations pour factures impayées. Au cas où l’automatisation augmente la qualité des services ou des biens et/ou réduit leur coût, une demande plus importante de biens ou de services peut être satisfaite.

L’automatisation peut améliorer la rapidité, l’efficacité, la qualité, la cohérence et la couverture de la prestation de services et réduire les erreurs humaines, le temps passé et les coûts. Elle peut donc permettre le développement des activités à plus grande échelle. Par exemple, le PNUD et le gouvernement des Maldives ont utilisé l’automatisation pour créer des cartes en 3D des îles et déterminer leur topographie. Le fait de disposer de ces informations pourra permettre d’accélérer les opérations de secours et de sauvetage en cas de catastrophe. L’utilisation de drones a également permis de réduire le temps et les fonds nécessaires à la réalisation de cet exercice : alors que la cartographie de 11 îles prendrait en principe près d’un an, l’utilisation d’un drone a permis de réduire le temps à une seule journée. Voir la section Robots et drones pour d’autres exemples.

L’optimisation d’une tâche automatisée nécessite généralement des compromis entre le coût, la précision, la marge d’erreur admissible et l’échelle. L’automatisation peut parfois nécessiter de tolérer davantage d’erreurs afin de réduire les coûts ou d’atteindre une plus grande échelle. Pour en savoir plus, voir la section « Savoir quand l’automatisation offre une solution adaptée au défi à relever » dans Automation of government processes. [Automatisation des processus administratifs].

En ce qui concerne les processus démocratiques, l’automatisation peut faciliter l’accès des électeurs qui ne peuvent pas se rendre dans les bureaux de vote grâce au vote électronique à distance ou à l’utilisation de systèmes accessibles dans les bureaux de vote. En outre, l’automatisation du dépouillement des votes peut contribuer à réduire les erreurs des utilisateurs dans certains cas et à renforcer la confiance dans le processus démocratique en général.

L’automatisation peut accroître la transparence en rendant les données et l’information facilement accessibles au public, renforçant ainsi la confiance du public et favorisant la redevabilité. En Inde, le département des transports de l’État de Karnataka a automatisé les centres d’examen de conduite dans l’espoir d’éliminer la corruption dans la délivrance des permis de conduire. Une multitude de caméras haute définition et de capteurs placés le long de la piste d’examen de conduite capturent les mouvements du véhicule tandis qu’un système informatisé décide si le conducteur a réussi ou échoué l’examen. Voir aussi « Les technologies émergentes contribuent-elles à la lutte contre la corruption dans les pays en développement ? »

Lorsque l’automatisation est utilisée pour remplacer le travail humain, la perte d’emplois qui en résulte conduit à un chômage structurel appelé « chômage technologique ». Le chômage structurel affecte de manière disproportionnée les femmes, les pauvres et d’autres membres vulnérables de la société, à moins qu’ils ne soient requalifiés et qu’ils ne bénéficient de protections adéquates. L’automatisation nécessite également une main-d’œuvre qualifiée capable d’exploiter, de superviser ou d’entretenir des systèmes automatisés, ce qui finit par créer des emplois pour une plus petite partie de la population. Mais l’impact immédiat de cette transformation des emplois peut s’avérer néfaste pour les personnes et les communautés dépourvues de filets de sécurité sociale ou de possibilités de trouver un autre emploi.

En outre, des liens ont été établis entre l’automatisation croissante et l’augmentation des préférences pour les politiciens populistes, car la perte d’emploi commence à toucher particulièrement les travailleurs à faible revenu. Une étude menée par les Proceedings of the National Academy of Sciences (PNAS) a établi une corrélation entre l’impact de la mondialisation et de l’automatisation et l’augmentation des votes en faveur des partis populistes de droite dans plusieurs pays européens. Bien que l’automatisation puisse avoir un impact positif sur les bénéfices en général, les travailleurs peu rémunérés et sans formation peuvent se sentir particulièrement affectés par le fait que les salaires restent bas alors que leurs tâches sont remplacées par des systèmes automatisés.

Les systèmes d’automatisation dotés d’une intelligence artificielle (IA) peuvent produire des résultats discriminatoires à l’égard de certains groupes marginalisés et minoritaires lorsque le système a appris à partir de modèles d’apprentissage biaisés, de jeux de données biaisés ou de décisions humaines biaisées. Les résultats des systèmes automatisés dotés d’IA peuvent refléter les biais et les traitements discriminatoires de la société à l’égard de certains groupes démographiques. Les biais peuvent également provenir de la mise en œuvre humaine de systèmes automatisés, par exemple lorsque les systèmes ne fonctionnent pas dans la vie réelle comme ils ont pu le faire en laboratoire ou dans un cadre théorique, ou lorsque les personnes qui travaillent avec les machines interprètent ou utilisent mal la technologie automatisée.

Il existe de nombreux exemples de discrimination raciale et d’autres types de discrimination qui sont reproduits ou amplifiés par l’automatisation. Pour prendre un exemple dans le domaine du maintien de l’ordre prédictif, ProPublica a rapporté, après avoir mené une enquête en 2016, que COMPAS, un outil d’IA basé sur des données et destiné à aider les juges aux États-Unis, était biaisé par rapport aux Noirs lorsqu’il s’agissait de déterminer si un délinquant condamné commettrait d’autres crimes à l’avenir. Pour en savoir plus sur le maintien de l’ordre prédictif, voir “How to Fight Bias with Predictive Policing” et “A Popular Algorithm Is No Better at Predicting Crimes Than Random People.”

Ces risques existent également dans d’autres domaines. Le rapport de l’Université de Toronto et du Citizen Lab intitulé “Bots at the gate : A human rights analysis of automated decision-making in Canada’s immigration and refugee system” note que « [de] nombreux [demandeurs d’asile et immigrants] viennent de pays déchirés par la guerre et cherchent à se protéger de la violence et de la persécution. La nature nuancée et complexe de nombreuses demandes d’asile et d’immigration échappe à ces technologies, ce qui entraîne de graves violations des droits de l’homme protégés au niveau national et international, sous la forme de préjugés, de discriminations, d’atteintes à la vie privée, de problèmes de procédure et d’équité procédurale, entre autres. Ces systèmes auront des conséquences vitales pour les gens ordinaires, dont beaucoup fuient pour sauver leur vie ».

Les lois et règlements existants peuvent ne pas être applicables aux systèmes d’automatisation et, dans les cas où ils le sont, leur application peut ne pas être bien définie. Tous les pays ne disposent pas de lois protégeant les individus contre ces dangers. En vertu du RGPD (Règlement général européen sur la protection des données), les personnes ont le droit de ne pas faire l’objet d’une décision fondée uniquement sur un traitement automatisé, y compris le profilage. En d’autres termes, les humains doivent superviser les décisions importantes qui affectent les personnes. Mais tous les pays ne disposent pas de telles réglementations ou ne les respectent pas, et même le RGPD n’est pas respecté dans toutes les situations. Entre-temps, les personnes devraient revendiquer activement leurs droits et contester ces décisions, généralement en sollicitant une assistance juridique, ce qui n’est pas à la portée de beaucoup d’entre elles. Les groupes victimes de ces discriminations disposent généralement de moins de ressources et d’un accès limité aux protections des droits de l’homme pour contester ces décisions.

Les gens ont tendance à faire confiance à l’automatisation et à croire que la technologie est précise, neutre et non discriminatoire. Ce phénomène peut être décrit comme un « biais de l’automatisation » : lorsque des humains qui travaillent avec des systèmes automatisés ou les supervisent ont tendance à abandonner leurs responsabilités à la machine et à faire confiance à la prise de décision de la machine sans aucun esprit critique. Il a été démontré que les biais liés à l’automatisation ont des effets néfastes dans tous les secteurs automatisés, notamment en occasionnant des erreurs dans le domaine des soins de santé. Le biais de l’automatisation joue également un rôle dans la discrimination décrite ci-dessus.

Le recours de plus en plus fréquent à l’automatisation soulève des questions et des préoccupations éthiques qui n’avaient peut-être pas été envisagées avant l’avènement de la technologie elle-même. Par exemple, qui est responsable si un véhicule autonome fait un accident ? Quelle quantité d’informations personnelles devrait être communiquée aux prestataires de services de santé pour faciliter la surveillance automatisée de la santé ? Dans de nombreux cas, des recherches supplémentaires sont nécessaires pour commencer à résoudre ces dilemmes.

Lorsque des systèmes automatisés prennent des décisions qui affectent la vie des gens, ils brouillent la formation, le contexte et l’expression du consentement (ou de l’absence de consentement) de l’individu, comme le décrit cette citation : «…[La ] dilution de la base libre de notre consentement individuel – que ce soit par la distorsion pure et simple de l’information ou même simplement par l’absence de transparence – met en péril les fondements mêmes de la manière dont nous exprimons nos droits humains et tenons les autres responsables de leur privation ouverte (ou même latente).» Pour plus d’informations sur le consentement éclairé, voir Data Protection resource. [Ressource sur la protection des données.]

Les technologies d’automatisation à grande échelle nécessitent des coûts d’investissement très élevés, ce qui constitue un risque au cas où l’utilisation de la technologie ne serait pas viable à long terme ou ne garantirait pas un rendement proportionné ou le recouvrement des coûts. Par conséquent, les projets d’automatisation financés par des fonds publics (par exemple, certaines infrastructures de « villes intelligentes ») nécessitent des études de faisabilité approfondies afin d’évaluer les besoins et d’en assurer la viabilité à long terme. D’autre part, les coûts initiaux peuvent également être très élevés pour les personnes et les communautés. Une installation solaire automatisée ou un système de collecte des eaux pluviales représentent un investissement important pour une communauté. Toutefois, en fonction des tarifs de l’électricité du réseau ou de l’eau, les dépenses peuvent être recouvrées à long terme.

Véhicules agricoles automatisés

« Les prévisions de l’augmentation de la population mondiale au cours des prochaines décennies exigent de nouveaux processus de production plus efficaces, plus sûrs et moins destructeurs pour l’environnement. Les industries s’efforcent de remplir cette mission en développant le concept d’usine intelligente. Le monde agricole devrait suivre le leadership de l’industrie et développer des approches pour mettre en œuvre le concept de ferme intelligente. Les véhicules terrestres sans pilote (UGV en anglais) sont l’un des éléments les plus importants qui doivent être configurés pour répondre aux exigences des nouvelles fermes intelligentes. »

Systèmes de vote automatisé en Estonie

Depuis 2005, l’Estonie autorise le vote électronique, qui permet aux citoyens de voter en ligne. Lors des élections qui se sont succédé, les électeurs ont de plus en plus choisi de voter en ligne pour gagner du temps et participer facilement aux élections locales et nationales. Les électeurs utilisent des identifiants numériques pour vérifier leur identité et éviter les fraudes. Les bulletins de vote déposés en ligne sont automatiquement recoupés avec des listes afin d’éviter les doublons et les fraudes électorales.

Exploitation minière automatisée en Afrique du Sud

« La spirale des coûts de la main-d’œuvre et de l’énergie pèse sur les performances financières des mines d’or en Afrique du Sud, mais la solution pourrait se trouver dans l’adoption des technologies numériques. En mettant en œuvre l’automatisation, les opérateurs peuvent éloigner les employés affectés aux travaux souterrains du danger, ce qui va devenir un impératif de plus en plus grand si les mineurs d’or entendent rester rentables pour les investisseurs internationaux. L’importance accrue accordée à la sécurité de la main-d’œuvre et des mines est source de motivation pour le développement du marché de l’automatisation minière. Auparavant, les anciennes techniques d’exploration et de forage compromettaient la sécurité de la main-d’œuvre minière. Ces exemples ont contraint les opérateurs à élaborer des résolutions et des outils intelligents pour garantir la sécurité des travailleurs ».

Automatiser le traitement des affaires civiles non contestées pour réduire l’accumulation des dossiers judiciaires en Azerbaïdjan, Étude de cas N°14.

« En Azerbaïdjan, le gouvernement a élaboré une nouvelle approche pour traiter ses propres cas d’accumulation de dossiers, une approche qui tient compte à la fois des éléments de l’offre et de la demande. Reconnaissant qu’une grande partie de l’accumulation des dossiers provenait d’affaires civiles relativement simples, telles que des réclamations pour des factures impayées, le gouvernement s’est associé au secteur privé pour utiliser un système automatisé afin de rationaliser le traitement des affaires non contestées, libérant ainsi le temps des juges pour des affaires plus importantes ».

Réforme du recrutement dans la fonction publique par le biais d’examens informatisés en Indonésie, Étude de cas N° 6.

« En Indonésie, l’Agence de la fonction publique (BKN) a réussi à introduire un système d’Examens assistés par ordinateur (EAO) pour perturber le système de tests manuels qui existait depuis longtemps et qui favorisait la corruption endémique dans le recrutement à la fonction publique par les fonctionnaires des ministères concernés. Aujourd’hui, la base de données des questions est étroitement contrôlée et les résultats sont affichés en temps réel à l’extérieur du centre d’examen. Depuis son lancement en 2013, l’EAO est devenu la norme de facto pour plus de 62 ministères et agences. »

Automatisation en temps réel de l’agriculture indienne

« L’automatisation en temps réel du système agricole indien à l’aide du microcontrôleur AVR (Advanced Virtual RISC) et du GSM (Global System for Mobile) vise à faciliter le processus agricole grâce à l’automatisation. L’installation se compose d’un processeur qui est un microcontrôleur de 8 bits. Le GSM joue un rôle important en contrôlant l’irrigation des champs. Le GSM y est utilisé pour envoyer et recevoir les données collectées par les capteurs à l’agriculteur. Le GSM sert de point d’intersection entre le microcontrôleur AVR et l’agriculteur. Notre étude vise à mettre en œuvre l’application de base de l’automatisation dans le domaine de l’irrigation en programmant les composants et en fabricant le matériel nécessaire. Dans notre recherche, différents types de capteurs comme le LM35, le capteur d’humidité, la sonde d’humidité du sol, le capteur IR sont utilisés pour déterminer les conditions exactes du champ. Le GSM y est utilisé pour informer l’agriculteur de l’état exact du champ afin qu’il puisse prendre les mesures nécessaires. Les commandes AT(Attention) sont utilisées pour contrôler des fonctions telles que l’irrigation, le labourage, le déploiement des semences et la réalisation d’autres activités agricoles ».

Une étude publiée en mai 2020 sur l’abandon du vote électronique au Kazakhstan met en lumière certains des défis politiques liés au vote électronique. Le Kazakhstan a utilisé le vote électronique entre 2004 et 2011 et a été considéré comme un exemple à suivre. Voir “Kazakhstan: Voter registration Case Study (2006)” produit par le Ace Project Electoral Knowledge Network. Cependant, le pays est revenu au vote traditionnel au format papier en raison du manque de confiance des citoyens et de la société civile dans la capacité du gouvernement à garantir l’intégrité des procédures de vote électronique. Voir “Politicization of e-voting rejection: reflections from Kazakhstan,” par Maxat Kassen. Il est important de noter que le Kazakhstan n’a pas utilisé de vote biométrique, mais plutôt des machines de vote électronique fonctionnant à l’aide d’écrans tactiles.