Alors que nous réfléchissons tous à des manières d’être plus sobres et conscients dans nos quotidiens, la partie numérique de notre société n'échappe pas à cette remise en cause. Entre questionnements éthiques, législations européennes ou nationales et espoirs rêvés pour le futur, le secteur connaît une profonde évolution.
Par Lola Breton
Un ordinateur portable d’1,5 kg nécessite l’extraction de 800 kg de minerais. En l’état actuel du monde et alors que la société évolue – et le monde de l’entreprise avec elle – le numérique ne peut décemment se reposer sur ses acquis. De nombreuses initiatives se développent pour tenter de faire vivre de nouvelles pratiques, voire de nouvelles normes. Depuis quelques années, des questionnements s’élèvent autour de la mise en place d’une éthique numérique. Au-delà des questions législatives et des normes internationales relatives à l’environnement, par exemple – ce qui peut être le cas dans le référentiel RSE notamment – « l’éthique est une démarche propre à chaque entreprise », indique Floran Vadillo, directeur conseil en charge des sujets éthique et souveraineté chez Sopra Steria Next. « L’obligation d’établir une charte d’éthique numérique au sein de son entreprise est de plus en plus importante parce que les clients et les collaborateurs y sont de plus en plus attentifs mais aussi parce que cela joue dans les recrutements et participe à affirmer l’identité de l’entreprise », explique-t-il. D’autant que, « à chaque fois qu’il y a une liberté d’entreprendre, il y a une place pour le questionnement éthique » explique Floran Vadillo. La confiance en l’IA
Communément, et parce qu’elle revêt des questions tant légales que normatives et éthiques, l’intelligence artificielle semble cristalliser tous ces enjeux. C’est dans cette optique que l’on parle depuis plusieurs années d’IA de confiance. Une notion difficile à définir, souligne Loïc Cantat, Responsable de l’équipe Sciences des données, IA et interactions au sein de l’IRT SystemX. « On établit des éléments pour mesurer la confiance, comme ce qui est fait avec l’analyse de risque. On a décidé d’utiliser cette terminologie de confiance parce que cela permet de se placer du point de vue de l’utilisateur. Tout l’enjeu est de construire une relation de confiance. » L’institut de recherche SystemX a été désigné pour piloter le programme Confiance.ai, qui regroupe une dizaine de grands acteurs industriels autour de ces questions. « Notre but est d’aider les industriels à s’aligner sur les normes. Il y a là des enjeux dans la manière de concevoir un système d’IA, d’identifier les évolutions entre les méthodologies, mais aussi de voir comment évolue les normes et standards pour que tout le monde applique les mêmes partout. » Dans la même direction que la coopération européenne, une loi, Artificial Intelligence Act, est en cours de rédaction au niveau de l’Union européenne pour réguler les applications des technologies d’intelligence artificielle, notamment en fonction de leur niveau de criticité. En attendant l’adoption de ce règlement, censé être basé sur le même principe directeur que le RGPD – c’est-à-dire établir un standard international sur les questions d’IA – le programme Confiance.ai prend déjà de l’avance. « L’objectif est d’avoir, d’ici deux ans et demi, des propositions de normes sur les risques spécifiques aux IA », note Loïc Cantat. En attendant que les standards pour les applications critiques aient été déterminés officiellement, Confiance.ai a déjà signé un pacte avec l’association allemande VDE pour créer un label garantissant une IA de confiance. Ce label devrait officiellement voir le jour courant 2023, et ainsi mettre le pied à l’étrier aux entreprises franco-allemandes avant même la mise en place du règlement européen. « En réalité les industriels n’ont pas besoin d’attendre la norme pour commencer à afficher ce qu’ils savent faire dans ce domaine, tient toutefois à appuyer Loïc Cantat. Tout comme ils n’ont pas attendu de montrer qu’ils respectaient les données utilisateurs avant l’entrée en vigueur du RGPD. »
L’éthique numérique est partout
Mais les industriels et les chercheurs en intelligence artificielle poursuivent leurs travaux et leurs investissements en attendant que les briques de la confiance s’institutionnalisent. « Il reste certains défis scientifiques pour construire la confiance, admet le manager Data IA de l’institut. Cela s’applique notamment pour certains cas d’usage autour de solutions d’IA complexes comme dans le secteur automobile avec le véhicule autonome. Les constructeurs européens ont tendance à appliquer la prudence, notamment sur le fait de ne pas renverser de piétons, et donc à ne pas tout déléguer à la machine, contrairement à d’autres constructeurs étrangers. La confiance repose sur la communication forte entre l’opérateur et l’humain. » Pour « lever les verrous scientifiques » qui entourent encore l’IA tout en construisant une relation de confiance entre constructeurs, collaborateurs, clients et usagers finaux, se concentrer uniquement sur la technologie ne suffit pas. « On travaille en partenariat avec quatre laboratoires de Sciences humaines et sociales, souligne Faicel Chamroukhi, Responsable de l’axe Science des données et interactions au sein de l’institut. Cela permet de savoir comment réagissent les humains qui interagissent avec ces technologies. » Car l’homme reste au centre des décisions. Une part essentielle de l’éthique mais aussi de la bonne gouvernance, selon le programme. Et ce malgré les biais que la présence humaine peut apporter dans les systèmes d’IA. « Toute interaction est biaisée, rappelle Faicel Chamroukhi. On ne peut pas éliminer le biais, mais on peut apprendre à le connaître et en éliminer les effets néfastes. » « Le sujet de l’éthique numérique est souvent abordé sous l’angle IA, mais il faut prendre conscience qu’il se niche partout » soutient Floran Vadillo, de l’agence Sopra Steria Next. Il est question notamment de prendre à bras le corps les sujets liés à l’organisation du travail, aux politiques d’achats et de ventes également. « L’éthique numérique peut très bien se retrouver dans la lutte contre l’enfermement numérique, autrement dit dans le droit à la déconnexion dans les entreprises, par exemple » démontre Floran Vadillo. La « diffusion des enjeux éthiques et leur en mise en perspective » se fait notamment via Nicom@que, la revue de l’éthique numérique.
Un numérique responsable
Certains acteurs veulent d’ores et déjà agir concrètement pour faire évoluer les usages liés au numérique. Aller au-delà de l’éthique pour entrer dans la sphère du numérique responsable. C’est ce qu’a décidé de faire Romane Clément en fondant CTRL-S Studio, une agence de design parisienne, avec trois ex-camarades de Sciences Po Paris et Strate Ecole de Design. Derrière « numérique responsable », Romane Clément entend « sobriété numérique ». En accompagnant leurs clients – entreprises privées ou organismes publics – dans leurs projets, CTRL-S Studio veut les aider à « coordonner leur stratégie R&D à leur démarche RSE ». Pour cela, l’agence tente de « questionner tous les scopes qui font la stratégie de l’entreprise » pour pouvoir à la fois faire du design pur sur certains projets, mais également proposer de la formation aux salariés des DSI ou des directions de la communication, par exemple sur les effets de leur pratique du numérique au quotidien, et sur les manières de l’améliorer. Pour être encore plus efficace et rapide dans la diffusion du message et des pratiques de sobriété numérique que Romane Clément et ses associés portent, ils ont créé un Programme de Recherche-Action en lien avec les acteurs de la culture. Ce « lab » sectoriel a regroupé cette année plusieurs dizaines de musées, écoles d’arts et de design, et autres acteurs du secteur. Après 9 mois de travail conjoint, il est parvenu à penser quatre pistes de solutions pour rendre le secteur plus sobre numériquement. L’une de ces pistes, dont un prototype est à l’étude, consiste en la création d’une ressourcerie pour des dons ou prêts de matériels entre institutions. « Nous aimerions dupliquer l’idée à d’autres secteurs, et notamment celui des collectivités territoriales, pour les accompagner dans les changements voulus par la loi REEN [visant à réduire l’empreinte environnementale du numérique, adoptée en novembre 2021, NDLR]. Cela permettra de réfléchir ensemble à des solutions efficaces. »
Quel un numérique souhaitable à horizon 2024 ?
Pour penser le numérique de demain, et même au-delà, travailler à plusieurs est indispensable. Raphaël Suire, professeur d’université et chercheur en management de l’innovation, sait bien de quoi il s’agit. Avec cinq Nantais – deux de ses étudiants et trois jeunes issus des quartiers prioritaires de la ville – et en collaboration avec la ville de Montréal, il a coordonné un projet binational : le Manifeste du numérique souhaitable à l’horizon 2034. L’idée : faire émerger un socle de valeurs communes aux deux villes séparées par l’Atlantique. Dans un futur « suffisamment éloigné pour pouvoir imaginer des choses qui n’existent pas encore mais pas trop pour ne pas s’en sentir complètement détachés », le rapport au numérique sera peut-être comme les auteurs du manifeste l’ont envisagé. Un «quartier de la connexion » en plein Nantes, destiné à retrouver une utilisation rationnelle du numérique par le retour du bas débit ? Les décisions autour des progrès technologiques prises au sein de forums citoyens ? Pourquoi pas ? Une plateforme décentralisée mettant en lien les producteurs et les citoyens afin de favoriser les circuits courts ? Ou encore la création du statut de « médianimateur » pour accompagner la transition vers des usages numériques plus sains ? « Cela peut aider à imaginer un autre numérique, souhaite Raphaël Suire. Peut-être qu’il y a des valeurs qui nous animent au sein même du modèle européen, au-delà des métropoles qui centralisent beaucoup de décisions et d’éléments de connexion, et que nous pourrions mettre en œuvre. » Si le manifeste prône la déconnexion, à plus ou moins haute dose, personne n’est dupe. « Je ne crois pas qu’on soit prêt à laisser passer le progrès déjà acquis, concède le professeur. Mais il n’est pas impossible que le changement doive venir de l’échelle métropolitaine. Ce n’est pas facile de lutter contre les GAFAM à l’échelle globale, par exemple. Ça l’est peut-être davantage si on installe une démarche d’éthique sur le territoire. » Ce n’est pas par hasard si Montréal et Nantes se sont engagées dans ce manifeste. Les deux métropoles ont adopté depuis quelques années des chartes des données numériques. Les entreprises qui remportent des marchés publics sur ces territoires doivent donc désormais se soumettre aux règles de ces chartes. « Cela permet, par petites touches, d’instaurer une forme de moins laisser faire », note Raphaël Suire. Un premier pas dans une meilleure direction.