top of page

L’éthique c’est chic !

Utile et décisif pour notre avenir aussi !


En direct de #Biarritz, Amal El Fallah Seghrouchni, experte mondiale en Intelligence Artificielle, membre de la Commission Mondiale de l’Ethique des Sciences et des Technologies (COMEST) de l’UNESCO, directrice du centre International d’Intelligence Artificielle du Maroc Ai movement au sein de l’Université Mohammed 6 Polytechnique à Rabat s’est exprimée sur la géopolitique et l’éthique.


Par Mélanie Bénard-crozat



© Mat Beaudet

Il y a quelques semaines, elle s’exprimait au siège des Nations Unies lors du sommet AIFORTHEPLANET. Un AI FOR THE PEOPLE aussi ?

« Cette technologie « pas comme les autres » interagit avec l’humain de façon intrusive et interpelle ses fonctions cognitives intimes : voix, parole, image, émotions mais aussi intelligence. Mais l’IA n’est plus seulement en interaction avec l’humain, elle fait partie intégrante de sa vie et influence celle-ci, ses comportements, ses pensées… Loin des fantasmes, et plus encore aujourd’hui avec l’IA générative, je ne pense pas que nous soyons face à une révolution. Mais la dynamique engagée, qui s’accélère, et le jeu des puissances et de pouvoir derrière les outils technologiques d’intelligence artificielle ou de neurotechnologies par exemple, qui est en train de s’opérer, nous obligent à nous questionner. A nous questionner continuellement. » témoigne Amal El Fallah Seghrouchni et de poursuivre « En tant que chercheuse, je m’intéresse à la cognition, l’étude des comportements individuels et collectifs avec l’objectif de concevoir et de mettre en œuvre des systèmes intelligents. Associer l’intelligence artificielle, l’éthique, l’inclusion et l’interculturel fait éminent sens. »


Le rôle des marques


Les marques et les acteurs du marketing ont une grande responsabilité et peuvent choisir d’être des acteurs majeurs du changement. « Les marques proposent plus que des produits, influencent des décisions, façonnent ds expériences, et parfois modifient subtilement le comportement. » témoigne la Dr Mariagrazia Squicciarini, Directrice des politiques sociales au Secteur des Sciences sociales et humaines de l’UNESCO. L’IA peut en effet représenter une révolution en matière d’apprentissage plus inclusive mais elle suscite aussi des inquiétudes, au travers des biais algorithmiques et de la manipulation. « 84 % des consommateurs interrogés dans une enquête en 2020 disaient être prêts à se détourner d’une marque s’ils n’ont pas confiance dans le traitement de leurs données. La transparence et la confiance sont et seront des garants de la loyauté des consommateurs. » ajoute la docteure.


Un enjeu éthique majeur


L’enjeu de l’éthique se pose donc de façon accrue aujourd’hui. « En interaction avec l’humain, de nombreux dispositifs comme les robots domestiques, les objets connectés et les smartphones viennent l’assister pour accomplir des tâches, comme dicter un compte rendu et lancer un missile, ou le divertir, comme jouer un jeu de rôle. La technologie d’IA fascine, fait progresser, favorise et facilite notre quotidien. Certains dispositifs sont en revanche conçus pour capter l’attention le plus longtemps possible. Des designers proposent des guides pratiques à destination des entreprises pour construire “des produits créateurs d’habitudes, que vous utilisez sans y penser”. Et la jeune génération en est la première victime. Regardez le temps perdu devant tout ce contenu inutile et vide de sens déversé chaque jour… » déclare Amal El Fallah Seghrouchni. Aussi, l’éthique doit-elle s’appliquer à toutes les étapes du cycle de vie de l’IA, de la conception à la fin de vie du système.


Faire preuve de vigilance


Le président russe Vladimir Poutine déclarait en 2017 : « Celui qui deviendra le leader de cette sphère dominera le monde ». Les investissements se chiffrent aujourd’hui en milliards de dollars, pour l’IA comme pour les neurotechnologies dans le monde, avec les 3/4 concentrés par les Etats-unis et la Chine. La course engagée est rude et nécessite de grands investissements à tous les niveaux - la formation, le capital humain, la recherche. L’Europe n’est pas en marge. Nous pouvons rattraper un peu notre retard car l’IA est une science cognitive qui repose sur les mathématiques, un domaine de recherche qui se porte bien en Europe et en Afrique. Au-delà des investissements, c’est le modèle qui questionne : « Le modèle américain est orienté sur une génération du profit quand le modèle chinois utilise ces outils technologiques à des fins de surveillance de masse. Cela doit nous alerter, nous inviter à rester prudents et à penser un autre modèle, basé sur des valeurs qui sont universelles. » ajoute Amal El Fallah Seghrouchni.

Réponse mondiale engagée


Avec l’adoption par 193 pays membres du premier accord sur l’éthique de l’IA auprès de l’UNESCO « l’éthique est désormais un dénominateur commun. Nous avons des espaces de réflexion comme la COMEST qui nous offre l’opportunité de contribuer à la réflexion autour de l’éthique au niveau mondial. Cela est nécessaire pour traduire les principes éthiques dans le monde réel au niveau des sciences et des technologies. L’Europe est le berceau des droits de l’Homme où cette question de l’éthique est centrale. En Afrique, aussi, le peuple est très attaché à la démocratie. Je suis persuadée que les ponts existants entre les deux continents doivent être renforcés avec pour socle commun des valeurs universelles. » soutient Amal El Fallah Seghrouchni.

Le Chili, en 2020, a lui, désigné la manipulation cognitive comme un acte préjudiciable pour l’humanité. En septembre 2021, la Chambre des députés a approuvé une loi sur les neurodroits. Véritable jurisprudence à venir en matière de droit humain, qui a ouvert la voie à une révision de la constitution chilienne. « Nous devons prendre exemple sur des pays comme le Chili pour accroître nos connaissances et éviter les dangers qui pèsent sur les citoyens. » clame t-ellle.


Régulation pour une IA acceptable et accessible


Transparence et gouvernance éthique. Cela passe par l’explicabilité et l’accessibilité. « Les choses doivent être intelligibles par l’être humain. Nous devons synchroniser le progrès et la régulation de l’IA. La technologie est créée par l’homme tout comme elle est utilisée par lui. Nous devons choisir ce que nous souhaitons en faire. Nous pourrions imposer aux professionnels une sorte de serment d’Hippocrate appliqué à l’IA en nous basant sur les 23 principes d’Asilomar compilés dans une charte qui se veut un guide éthique pour l’IA, approuvés par des centaines de chercheurs et d’experts. Ces principes s’appliquent sur la base du volontariat aujourd’hui, pourquoi ne pas les rendre obligatoires ? » interpelle Amal El Fallah Seghrouchni.


Brider les algorithmes


« Auditer des algorithmes est compliqué mais interdire certaines pratiques est réalisable. Il faut protéger l’IA de l’humain pour protéger l’humain de l’IA face notamment aux manipulations psychologiques. J’aspire à beaucoup de méfiance face au nudge, qui consiste à faire de l’incitation comportementale, presque à l’insu de son plein gré. On pourrait par exemple brider les algorithmes comme on bride le moteur des voitures, ou interdire l’utilisation de certains algorithmes pour les adolescents et les personnes vulnérables. L’Homme doit intervenir dans ces systèmes d’IA pour apporter du bon sens et de l’intuition. Cela implique également de trouver un équilibre entre automatisation et autonomie. » poursuit-elle.


Miser sur la jeunesse


La formation et l’éducation sont une pierre angulaire de l’IA. « Il faut investir dans la recherche, la formation et l’innovation. » ajoute l’experte mondiale.

C’est avec la jeune génération que tout se joue. « Il ne faut pas perdre de temps, apprendre et sortir de sa zone de confort. Le monde est grand et ouvert. Il faut l’explorer. Ce qui est à découvrir est merveilleux. Le champ des possibles est immense. Il ne faut pas se priver de cette exploration à la portée de toutes et de tous. » soutient Amal El Fallah Seghrouchni.


Si les avancées sont extraordinaires, des questions pressantes subsistent. L’UNESCO poursuit ses travaux et pourrait s’engager dans l’émergence d’un instrument normatif sur l’éthique des neurotechnologies. « Nous assistons à un cri de ralliement en faveur de la transparence et de la gouvernance éthique. Un mouvement d’ampleur qui n’est pas passager. » souligne la Dr Mariagrazia Squicciarini qui invite les marques à « relever les défis sociaux de transparence en opérant des changements positifs pour la société. »


« Nous devons repenser ces technologies pour un usage résilient, égalitaire, équitable et éthique. Il en est un enjeu démocratique. Il nous appartient de décider de ce que nous voulons faire ou pas de ces systèmes intelligents. » soutient Amal El Fallah Seghrouchni. Espérant voir naître à terme une école de la pensée de l’IA en Afrique et en Europe, elle conclut : « Les jeunes générations y débattraient et construiraient les bases d’une IA responsable, éthique, inclusive. La jeunesse est notre avenir. C’est en elle que nous devons investir et porter nos espoirs. »

Comentários


bottom of page