ICTjournal 02/2021

  • Suisse
  • Entreprises
  • Secteur
  • Netzmedien
  • Ainsi
  • Gestion
  • Technologies
  • Suisses
  • Doivent
  • Permet

16 IA & secteur public

16 IA & secteur public Source: 230 cas IA analysés, dont 12 en Suisse (Overview of the use and impact of AI in public services in the EU, European Commission’s Joint Research Centre, 2020) VISÉE DE L’IA DANS LES ADMINISTRATIONS PUBLIQUES Services publics et engagement Gestion interne Application de la loi Recherche, analyse et suivi de la réglementation Adjudication (*) Références ¹ European Tech Insights 2019, Madrid: Center for the Governance of Change, 2019 2 Artificial Intelligence: what consumers say, BEUC, 2020 3 Overview of the use and impact of AI in public services in the EU, European Commission’s Joint Research Centre, 2020 4 Trigger Project, D4.3 Review of governance regimes and EU initiatives concerning AI (working paper), EPFL-IRGC, 2020 20% 17% 5% 20% 38% 1. Services publics et engagement. 38% des initiatives IA ont pour objet la fourniture de services aux citoyens et aux entreprises, ou la facilitation ou la communication avec le grand public. A l’instar des chatbots déployés par certaines administrations cantonales pour endiguer les demandes qui leur parviennent (service de l’assurance sociale en Argovie, mesures de soutien aux entreprises impactées par la pandémie dans les cantons de Vaud et Genève). Mais aussi des projets plus inédits comme la plateforme belge de participation citoyenne Citizenlab qui utilise l’IA pour analyser et regrouper les propositions soumises aux collectivités publiques. 2. Gestion interne. 20% des utilisations de l’IA servent à faciliter la gestion de l’organisation interne, comme les ressources humaines, les achats, les systèmes IT ou d’autres services publics. A l’instar de l’administration zurichoise qui recourt à un robot logiciel (RPA) s’appuyant sur l’IA pour automatiser le traitement des demandes de chômage partiel. 3. Application de la loi. 20% des cas d’utilisation de l’IA concernent l’application de la réglementation existante, comme l’identification et la hiérarchisation des cibles nécessitant une mise en application ou des inspections. Depuis 2015, la police zurichoise utilise par exemple l’outil Precobs pour identifier des patterns et prédire le lieu des prochains cambriolages. Ou l’Estonie qui analyse les images satellites à l’aide de l’IA pour déterminer les champs fauchés et ainsi les agriculteurs bénéficiant de subventions. 4. Recherche, analyse et suivi de la réglementation. 17% des déploiements servent à informer les processus d’élaboration des politiques publiques, comme la collecte, le suivi et l’analyse des données pour aider les décisions et les fonder sur des preuves. L’étude cite l’exemple de la ville de Tallinn qui utilise des caméras exploitant l’IA pour reconnaître le type et le nombre de véhicules qui circulent et ainsi améliorer la planification des transports urbains. 5. Adjudication. Enfin, 5% seulement des systèmes d’IA utilisés par les administrations publiques aident ou servent à décider des avantages ou droits accordés aux citoyens. L’expérimentation conduite à Zurich pour équilibrer la composition sociale des écoles de la ville appartient typiquement à cette catégorie. Les risques de la gestion publique algorithmique Si les usages potentiels sont nombreux, l’intérêt du secteur public pour l’IA est toutefois tempéré par des craintes éthiques et sociétales. Deux cas emblématiques d’utilisation de l’IA par des administrations européennes ont défrayé la chronique ces derniers mois. En février 2020, un tribunal néerlandais a ordonné au gouvernement de cesser d’utiliser un logiciel servant à établir des listes de personnes suspectes de fraude au logement et à la sécurité sociale, car l’outil catégorisait des fraudeurs potentiels sans preuve. Aux Pays-bas et au Royaume-Uni, les autorités ont dû renoncer à des algorithmes controversés. L’été dernier, c’est un algorithme britannique qui a fait polémique. Dans l’impossibilité de conduire les examens de fin de secondaire en présentiel en raison de la pandémie, le gouvernement a fait appel aux pronostics des enseignants, qui ont ensuite été ajustés à l’aide d’un processus algorithmique reposant notamment sur les notes obtenues dans le passé par les élèves de la même école. Résultat, 40% des élèves ont vu leur pronostic abaissé forçant le ministère de l’éducation à faire machine arrière. Ces exemples illustrent le caractère sensible des algorithmes employés dans le secteur public. Les questions de transparence, d’explicabilité, de responsabilité, d’équité et de contrôle humain y sont encore plus importantes que dans le secteur privé. Ainsi que le rappellent les auteurs d’un rapport sur le sujet 4 : «Un consommateur peut généralement choisir de ne pas utiliser un réseau social particulier pour éviter d’être soumis aux algorithmes qu’il emploie, mais un citoyen n’a pas d’autre choix que d’avoir affaire aux fonctions essentielles de l’administration publique. On ne peut pas «supprimer son compte» du système judiciaire». 02 / 2021 www.ictjournal.ch © netzmedien ag

IA & secteur public stratégie suisse 17 Berne fixe ses orientations pour l’intelligence artificielle Le Conseil fédéral a adopté un rapport fixant sept lignes directrices pour encadrer et préserver l’innovation en matière d’intelligence artificielle dans le pays. Si une réglementation voyait le jour, c’est sans doute l’UE qui en fixerait le cap: les travaux sont déjà engagés. Rodolphe Koller Fin novembre 2020, le Conseil fédéral a adopté un rapport fixant ses lignes directrices sur l’intelligence artificielle. Le document doit orienter l’action des différents départements en la matière et assurer une politique cohérente. Les sept lignes directrices s’appuient sur un rapport d’experts publié en décembre 2019, qui se base lui-même sur des travaux menés à l’échelon international, notamment à l’OCDE et dans l’UE. Comme la plupart de ces travaux, les lignes directrices de la confédération ont pour objectif d’encadrer les risques spécifiques liés aux technologies d’IA tout en préservant la recherche et l’innovation. Il ne s’agit donc pour nullement d’une quelconque réglementation. Le rapport relève d’ailleurs les diverses lois en vigueur applicables au domaine: protection des données, droits fondamentaux, discrimination, sécurité des produits, etc.). Sept lignes directrices Les sept lignes directrices extraites du communiqué de la Confédération: 1. Placer l’être humain au cœur des préoccupations: la dignité et le bien-être de chaque individu, de même que l’intérêt public, doivent figurer au premier plan lors du développement et de l’utilisation de systèmes d’IA. Une attention toute particulière est accordée à la protection des droits fondamentaux dans l’utilisation de l’IA. 2. Conditions propices au développement et à l’utilisation de l’IA: la Confédération veille à l’existence de conditions propices à l’exploitation des chances qu’offre l’IA afin de renforcer la création de valeur et le développement durable. La Suisse doit continuer de se positionner comme l’un des principaux sites pour la recherche, l’application et l’exploitation commerciale de l’IA. 3. Transparence, traçabilité et explicabilité: les processus de décision fondés sur l’IA doivent être conçus de sorte à être identifiables et vérifiables. 4. Responsabilité: afin de déterminer les responsabilités en cas de dommage, d’accident ou de violation du droit, il est nécessaire d’établir clairement la responsabilité lors de l’utilisation de l’IA. La responsabilité ne doit pas être déléguée à des machines. 5. Sécurité: dès leur conception, les systèmes d’IA doivent être sûrs, robustes et résilients de sorte à déployer des effets positifs et à ne pas pouvoir être détournés à des fins abusives ni être utilisés de manière erronée. 6. Participation active à la gouvernance en matière d’IA: pour la Suisse, il est essentiel de participer activement à la gouvernance mondiale dans le domaine de l’IA et de s’impliquer dans l’élaboration de normes et de standards internationaux en matière d’IA, tout en défendant ses propres intérêts et valeurs. 7. Implication de tous les acteurs pertinents aux plans national et international: la Suisse doit s’engager pour que les processus de décision sur la gouvernance en matière d’IA intègrent toutes les parties prenantes. Bruxelles fixe le cap Dans sa dernière ligne directrice, le rapport du Conseil fédéral souligne l’importance de la coopération internationale en matière de gouvernance «avec pour objectif de renforcer la position de Genève en tant que pôle de la gouvernance numérique en matière d’IA». La mention fait sans doute écho à la Swiss Digital Initiative lancée officiellement au World Economic Forum 2020. Présidée par Doris Leuthard, la fondation regroupe les géants de la tech, de grandes entreprises et universités suisses, ainsi que des organisations internationales. Elle a pour objectif «d’accroître la confiance du public à l’égard des technologies numériques et des acteurs qui participent à la transformation numérique». La gouvernance et la possible réglementation de l’intelligence artificielle ne se jouent néanmoins ni à Berne, ni à Genève, mais bien davantage à Bruxelles. Avec le RGPD, l’Union Européenne a montré qu’elle était capable de faire cavalier seul en matière de réglementation du monde numérique. Son règlement a donné un cap en matière de protection des données et a depuis été repris hors de l’UE en Suisse ou en Californie dans des versions certes moins contraignantes. L’Europe pourrait bien rééditer le coup avec la gouvernance de l’intelligence artificielle. Ce n’est pas un hasard si les lobbys des géants de la tech s’activent dans les débats menés à Bruxelles, comme notre rédaction a pu le constater l’automne dernier lors de l’assemblée de l’Alliance européenne pour l’IA. www.ictjournal.ch © netzmedien ag 02 / 2021