Il est urgent de parler d’éthique des robots et de l’intelligence artificielle

Entretien avec Laurence Devillers, professeure en Intelligence Artificielle et en affective computing à Sorbonne Université.
Partager sur:
Sauvegarder cet article
Aimer cet article 0

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Il est urgent de parler d’éthique des robots et de l’intelligence artificielle

Publié le 30 juin 2021
- A +

Un entretien conduit par Corentin Luce.

Par une glaciale matinée de janvier 1966, le Pr Joseph Weizenbaum, informaticien au MIT (Massachusetts Institute of Technology), vient de marquer l’histoire, même s’il l’ignore encore. Après plusieurs années de conceptions et d’améliorations, le premier chatbot (robot logiciel pouvant dialoguer avec un individu par le biais d’un service de conversations automatisées) de l’histoire est créé. ELIZA, tel est le nom de son programme informatique.

Le chabot fut alors utilisé pour dialoguer par écrit avec des patients en psychothérapie. Son fonctionnement était extrêmement rudimentaire : ELIZA se contentait de reformuler les propos du patient, les transformait en question et ajoutait de temps à autre des phrases comme : « Je vous comprends ».

Résultat ? Les patients se sont progressivement attachés à ELIZA, au point de développer une forme de dépendance. C’est « l’effet ELIZA ». Pourtant, ce chatbot était incapable de répondre et se bornait à faire parler le patient en continu. Cette expérience, aussi terrible qu’instructive, a montré que dans la majorité des cas, le patient ne souhaite pas qu’on lui réponde, il veut simplement être écouté. Être écouté, à n’importe quel prix, fut-ce une simple illusion.

L’illusion, les fantasmes. Véritable credo quand il s’agit d’aborder l’IA. Alors que des dirigeants politiques veulent de nouveau ériger des murs, la frontière entre le réel et le virtuel se floute dans des proportions inquiétantes. Ironie de l’histoire, sans doute. Dans le même temps, les objets connectés et autres agents conversationnels font florès : toutes les grandes entreprises de la tech comme les startups se bousculent pour être au grand rendez-vous de l’innovation.

Joseph Weizenbaum, en créant ELIZA, voulait-il « démontrer que la communication entre l’Homme et la machine est superficielle » ? Un demi-siècle après, qu’en est-il véritablement ? Quels dangers comportent ces « amis virtuels » qui nous veulent du bien ?

Entretien avec Laurence Devillers, professeure en Intelligence Artificielle et en affective computing à Sorbonne Université. Elle est également chercheuse au CNRS au Laboratoire Interdisciplinaire des Sciences du Numérique, où elle anime depuis 2004 une équipe sur les « dimensions affectives et sociales dans les interactions parlées ». Laurence Devillers a également écrit de nombreux ouvrages sur l’IA et les robots, le dernier étant La souveraineté numérique dans l’après-crise, aux éditions de l’Observatoire.

Vos recherches au sein du CNRS mêlent sciences cognitives, informatique et psychologie, linguistique et économie comportementale. En quoi cette pluridisciplinarité, notamment concernant le cerveau et les émotions, est-elle nécessaire pour appréhender les évolutions technologiques ?

Pendant longtemps, philosophes et scientifiques ont opposé raison et émotion. Aujourd’hui, l’évolution des connaissances scientifiques, grâce aux neurosciences, montre que les émotions sont nécessaires au fonctionnement cognitif, à la mémorisation, à l’apprentissage et à l’interaction.

La pluridisciplinarité apporte une meilleure compréhension des différentes émotions et du contexte dans lequel elles naissent. Travailler sur les liens entre perception, mémoire et émotions sous l’angle physiologique, neurobiologique, psychologique voire sociétal est fondamental pour une interprétation des signes expressifs émotionnels.

Les évolutions technologiques vont s’emparer de ces résultats pour améliorer l’impression que nous donne la machine, de nous comprendre, impression qui est réellement fausse car ces technologies ne comprennent ni le langage, ni les émotions. Elles ne font qu’interpréter des signes expressifs. Les recherches en pluridisciplinarité permettent également de mesurer le poids des émotions dans la construction de notre mémoire collective.

Dans votre ouvrage Les robots émotionnels : Santé, surveillance, sexualité… : et l’éthique dans tout ça ?, vous expliquez que les objets et machines connectés (robots, assistants vocaux comme Google HOME), ces « amis artificiels » au rôle grandissant, capables de saisir nos émotions et d’y répondre peuvent nous rendre dépendants : dans quelle mesure sont-ils synonymes de dangers et cela constitue-t-il un aveu d’échec pour une société que de déléguer autant de prérogatives à des machines ?

Ces amis artificiels au rôle grandissant, capables de saisir nos émotions et d’y répondre peuvent nous rendre terriblement vulnérables à leurs paroles et à la manipulation. Nous ne disposons pas souvent du minimum de connaissances nécessaires pour nous prémunir aussi bien de l’engouement béat face à des performances souvent survendues, qu’à des appréhensions injustifiées face au déploiement rapide de l’IA et de la robotique.

Nous devons comprendre notre rapport à ces amis artificiels et le temps qu’ils nous prennent. Sans y prendre garde, nous pouvons nous enfermer dans des relations fausses, superficielles, qui captureront toute notre attention et tout notre temps.

Qu’en est-il véritablement des systèmes de détection des émotions dans nos « amis virtuels » (robots, Siri, Amazon Alexa, Bixby…) ? Quelle est la marge de progression pour les années à venir ?

Plus de 20 % des foyers américains ont une enceinte vocale comme Google Home ou Alexa, et quelquefois jusqu’à six enceintes sont présentes au domicile. Une par pièce ! Ces chatbots seront très bientôt capables de détecter certaines de nos émotions (si nous les exprimons) et d’en simuler de façon relativement naturelle. Ils pourraient devenir nos amis virtuels voire même nos « anges gardiens ».

Un chatbot « ange gardien » veillera en permanence à la sécurité des données de son propriétaire ainsi qu’au respect de sa vie privée. Il pourrait ainsi devenir un ami protecteur connaissant tout de la vie de son propriétaire.

Vous écrivez que les robots n’auront jamais de volonté ou d’émotions, ils ne feront que les simuler. Mais si ces machines, ces IA sont capables de modéliser ces émotions avec une telle précision qu’il deviendrait impossible de faire la différence, quelle importance que ces émotions soient feintes ?

Les émotions feintes par les machines, qui ne sont ni douées de conscience, ni de vie collective, seront rapidement perçues comme « inadéquates » dans de nombreux contextes.

Par contre, pour des personnes isolées et vulnérables, elles pourront remplir un vide affectif. Créer des machines simulant la sensibilité est un courant de recherche émergent.

L’innovation fondamentale de ces machines est l’introduction du risque pour soi‑même selon les principes de la régulation de la vie. Mais cette nouvelle génération de machines pose de nombreuses questions fondamentales éthiques mais aussi technologiques : pouvons-nous ajouter une simulation du traitement affectif biologique ? Dans quelle mesure l’apparence du sentiment et de la conscience dépend‑elle d’un substrat matériel ? Quel est le rôle de la transmission culturelle et de la résolution collective des problèmes dans des sociétés de machines artificielles ?

La loi d’Amara énonce : « Nous avons tendance à surestimer l’impact de la nouvelle technologie à court terme et à la sous-estimer à long terme ». Cela peut expliquer l’hystérie autour de l’IA et de ses différentes applications. Mais ces mythes et fantasmes (titre de l’un de vos ouvrages, Des robots et des hommes : Mythes, fantasmes et réalité), quels sont-ils précisément ?

L’IA a été constamment surestimée, dans les années 1960, et encore aujourd’hui. Mais ses perspectives à long terme sont sûrement sous-estimées comme le décrit la loi d’Amara.

Les technologies d’IA ont fait d’énormes progrès ces dix dernières années, par exemple en battant des champions de jeu de go et de poker. L’IA suscite un fantasme de puissance tout autant qu’une peur de sa propre puissance, tel illustré dans le mythe du Golem.

Ce mythe repris dans le livre de Mary Shelley, Frankenstein, raconte comment un homme a réussi à donner vie à une statue d’argile et comment sa création dépourvue de conscience lui a échappé et a commencé à détruire le monde.

Des robots et des hommes a pour but d’expliquer l’IA et les robots à partir des mythes et des fantasmes qui l’entoure, et de préparer demain en proposant que ces futurs compagnons empathiques suivent onze commandements éthiques.

Dans un article publié dans le journal Le Monde datant du 14 mai 2020, vous défendez la création d’une attitude mesurée à l’égard de l’IA, entre « celle de l’humaniste, trop défiant et celle du scientifique, trop confiant ». Comment pensez-vous la théoriser et sur quels principes la feriez-vous reposer ?

La responsabilité du scientifique est une responsabilité pour l’avenir qu’il contribue à créer, car en transformant le monde grâce à l’innovation et à la science, il est considéré par la société comme l’un des responsables des conséquences de ces transformations.

En cela, il ne doit pas être trop confiant sur l’utilisation de ce qu’il crée. L’analyse conceptuelle et pratique de cette responsabilité présente des difficultés liées au fait que la projection dans l’avenir est toujours incertaine. Il est cependant nécessaire d’expérimenter les IA afin de comprendre leurs capacités et limites sur le court terme ainsi que sur le long terme.

La création d’une attitude mesurée à l’égard de l’IA nécessite de faire naître de nouvelles théories et principes mais aussi de faire évoluer nos façons de travailler vers plus de pluridisciplinarité et d’expérimentations à grande échelle.

La crise du coronavirus est riche d’enseignements : la révolution numérique s’accélère, renforçant le poids des acteurs américains et chinois. Dans ce contexte, la notion de souveraineté revient en force. Telle est aussi le titre de votre dernier ouvrage, paru aux éditions de l’Observatoire : La souveraineté numérique dans l’après-crise. À l’échelle européenne, que proposez-vous pour l’acquérir ?

La révolution numérique s’est accélérée durant la crise de la Covid-19. Les enjeux éthiques du numérique sont abordés très différemment au niveau européen, américain ou chinois, mais tout le monde reconnaît maintenant la nécessité de prendre des dispositions urgentes, pratiques et aussi évolutives que possible. Quelle société souhaitons‑nous construire ?

Une société allant vers des humains augmentés comme aux États‑Unis où la vague transhumaniste fait des ravages, une société de surveillance et de notes morales comme en Chine, ou une société fondée sur une intelligence artificielle respectant l’humain, les droits de l’Homme et sa dignité ?

Il est urgent de parler de transparence, d’intelligibilité, de neutralité, d’inclusion, de non‑discrimination, bref, d’éthique de ces IA et robots, et de réguler leurs conceptions et usages pour préserver les valeurs de nos démocraties, de nos sociétés et nos libertés.

Vous nous alertez sur les dangers de ces IA émotionnelles dans la mesure où ces simulations d’émotions facilitent la manipulation. Comment ce processus se met-il à l’œuvre ?

La manipulation par un agent conversationnel peut être directe par des informations inexactes ou indirecte grâce à des stratégies de nudge. Le nudge est un terme anglais qui signifie suggestion, incitation ou « coup de pouce ». Il s’agit de pousser doucement la personne dans une direction considérée comme bonne.

Cette théorie de manipulation relativement modérée et non envahissante, qui n’interdit rien et ne restreint pas les options de la personne, a été théorisée par l’économiste Richard Thaler.

L’essai Les robots émotionnels explique comment le numérique s’empare de ce nouveau pouvoir d’influence et pourrait nous manipuler de façon subliminale grâce à nos biais cognitifs. Nous décidons également très souvent à partir d’informations non conscientes.

L’utilisation des données est cruciale pour ces nouvelles technologies. En 2016, ce débat a accouché du RGPD pour les pays membres de l’UE. Dans le même temps, d’autres acteurs, à l’instar du think tank GenerationLibre, proposent la patrimonialité des données. Quelle solution vous semble la plus efficace pour garantir les libertés fondamentales tout en préservant un droit à l’innovation ?

Le droit des données personnelles est de plus en plus mis en avant notamment par des think tanks comme GenerationLibre qui prône la patrimonialité des données au nom des libertés fondamentales. La question des libertés est souvent mal posée. Sommes-nous seuls à décider de tout ?

Cet individualisme pourrait être un danger pour la société qui repose sur des valeurs communes et une justice pour tous. Si, par leur nature, les technologies avancées induisent des incertitudes d’un type nouveau, au-delà du risque quantifiable, les tensions éthiques qu’elles posent ne sont pas pour autant toujours nouvelles.

Plutôt qu’inventer des règles inédites, nous devons d’abord tourner nos regards vers l’histoire en essayant d’inscrire notre réflexion dans la continuité de la pensée éthique de la responsabilité.

Plus globalement, concernant l’éthique, sur quels principes devrait reposer la réglementation de l’IA ? Pour quelle échelle : une juridiction mondiale ?

Nous sommes encore au début de cette juridiction mondiale qui commence par un positionnement européen mais pourrait être suivi plus largement. Le Partenariat mondial sur l’IA (GPAI) est une initiative internationale à laquelle je participe sur le futur du travail. Cette échelle pourrait être un tremplin vers plus de liens et d’accords entre démocraties.

Le GPAI a été créé en 2020 par la France et le Canada avec l’Australie, l’Union européenne, l’Allemagne, l’Inde, l’Italie, le Japon, le Mexique, la Nouvelle-Zélande, la République de Corée, Singapour, la Slovénie, le Royaume-Uni et les États-Unis d’Amérique.

Le GPAI est également multipartite et cherche à guider le développement et l’utilisation responsables de l’IA dans un esprit de respect des droits de l’Homme, d’inclusion, de diversité, d’innovation et de croissance économique. Afin d’atteindre cet objectif, les pays membres s’attachent à jeter des ponts entre la théorie et la pratique.

Voir les commentaires (59)

Laisser un commentaire

Créer un compte Tous les commentaires (59)
  • « le patient ne souhaite pas qu’on lui réponde, il veut simplement être écouté »
    Il faut arrêter d’appauvrir ces sujets avec des réponses si réductrices qu’elles en deviennent caricaturales. Bien sûr que le patient est à la recherche de réponses! Etre écouté est à la fois la condition première et le besoin premier dans cette recherche.

    C’est précisément à cause de cette représentation mécaniste, réductrice de l’esprit humain que l’IA porte ces risques de manipulation et d’asservissement des esprits. Ce qui n’est d’ailleurs pas chose nouvelle, c’est juste l’application par la machine de toutes les méthodes de manipulation déjà employées. Et il est là le vrai problème: on emploie ces connaissances de l’esprit humain pour le contrôler au lieu de s’en servir pour l’émanciper.

    J’en appelle à une nouvelle psychologie, une psychologie libérale, une psychologie anti-Milgram. Je hais ce Milgram, je hais le travail qu’il a fait. Que n’a-t-il étudié les moyens de se défendre et se libérer des pressions et manipulations psycho-sociales, plutôt que de montrer comment réduire les individus à des pions obéissants !

    • Milgram, en nous montrant comment nous sommes capables du pire, nous permet de nous remettre en question pour nous ameliorer et ne justement pas tomber dans cette facilité du mal déresponsabilisé. L’experience de Milgram sert à nous faire voir ce qu’il ne faut pas faire.

      • Quelles qu’aient été les intentions de Milgram, montrer comment faire mal sans donner les moyens de s’en prémunir revient seulement à montrer comment on peut faire mal.
        C’est comme voir la maison de son voisin se faire cambrioler et ne rien faire pour le prévenir.

        Et d’ailleurs les travaux de Milgram ont poussé l’expérience à des extrémités telles que les sujets étaient conduits à se comporter de façon tellement inhumaine qu’ils ont du arrêter (voir expérience de Stanford).

        Quoi qu’il en soit, mon propos n’est pas de rendre Milgram coupable de cette utilisation malfaisante de la psychologie, mais de dénoncer cette approche mécaniste et manipulatrice de la psychologie, beaucoup trop mise en avant contre une approche que j’appelle de mes voeux, une psychologie anti-manipulatrice, une psychologie libérale, libératrice.

        • Milgram n’a fait que décrire une facette de l’être humain. Ce qu’il a écrit est une réalité de la psyché humaine. Et c’est bien qu’on le sache. L’expérience de Milgram, par ce qu’elle a de choquant, peut justement aider à éveiller les consciences pour que les tortionnaires qui s’ignorent prennent conscience du mal qu’ils font et du fait que « c’est pas moi! C’est lui qui m’a dit de le faire! » c’est pas une excuse. En cela je trouve l’expérience de Milgram a du mérite.
          C’est un peu comme 1984 de Orwell: C’était une dénonciation du totalitarisme, et nos dirigeants actuels en ont fait un mode d’emploi pour gouverner. Comme tout savoir/outil/arme (qui est un outil), l’expérience de Milgram est ce que l’on en fait. Soit on s’en sert pour manipuler son prochain, soit on s’en sert pour mieux repérer l’oppression déguisée derrière de l’autorité.

          • Pas la peine de reformuler la même chose, j’ai bien compris. C’est vous qui ne semblez pas saisir que cela ne suffit pas d’être au courant de ces réalités pour s’en défendre quand elles vont tombent dessus. La preuve, il n’y a qu’à voir ce qu’il se passe actuellement, l’expérience est en cours avec le covid, grandeur nature, avec succès.
            Milgram aurait mieux fait de révéler des facettes de l’esprit humain qui lui permettent de résister à la pression sociale, et des méthodes concrètes de résistance spirituelle (au sens de l’esprit, pas au sens religieux hein).
            C’est facile de montrer le mal, beaucoup moins de faire le bien.

            • Mais à mon sens, être au courant de nos faiblesses est justement ce qui nous permet d’y resister. La facette qui permet de résister à ça c’est précisément la conscience du problème, je crois…

              « des facettes de l’esprit humain qui lui permettent de résister à la pression sociale »

              Vous pensez à quoi? Ca m’intéresse d’avoir votre point de vue.

            • Je ne dis pas que ça suffit, je dis que ça peut aider. Si on pouvait trouver un truc qui est suffisant pour résister à ce genre de manipulation ce serait génial mais je ne crois pas que ce soit possible de trouver un tel Deus Ex Machina.

              • Oui voilà, ça aide mais ça ne suffit pas. J’aimerais bien qu’il y ait une recette miracle qui fasse économiser nos forces, mais il n’y en a pas, c’est un ensemble de choses.
                Ce qui m’interroge le plus est que les gens de bien laissent faire, c’est la passivité devant les abus de pouvoir.

                • Le problème c’est que ceux qui font des abus de pouvoir sont en position de le faire, et ça fait peur.

      • Mitch a écrit: « Milgram, en nous montrant comment nous sommes capables du pire »

        Plus exactement, Milgram a montré que l’animal social humain obéis à la hiérarchie et que les considérations « morales » sont secondaires.
        Ce qui manque c’est l’étude des dérives de ces hiérarchies, les « intellectuels » et autres corporations basées sur la morale produisent infiniment plus de Staline en puissance que de Bastiat ou Hayek.
        .
        Les nations du verbe sont très sensibles à ces idéologies, les nations commerçantes beaucoup moins.

        • « Les nations du verbe sont très sensibles à ces idéologies, les nations commerçantes beaucoup moins. »

          What ?!
          😀

          • Let me explain 🙂
            Outre d’autres indices, le fait est que les parties francophones du Canada, de la Suisse et de la Belgique partagent les mêmes travers que la France à des degrés divers.
            Les débats politiques sont très peu comptable, très peu économique et très « intellectuels » ou « philosophique » ce qui permet toutes les dérives en dehors des réalités économiques et pragmatiques (ex: le fameux « manque de moyens » de l’état ou la croyance en « l’argent gratuit » qui rencontre (ait?) beaucoup plus de méfiance outre Rhin).
            .
            Emmanuel Todd a une théorie qui explique le lien entre système politique et système familiaux, je pense que la langue (donc la formation des concepts qui permettent de comprendre la réalité) est aussi un marqueur.
            .
            Au final, systèmes politique, familiaux, hiérarchiques, religieux et langues sont liés sans qu’on ne sache où est l’œuf ou est la poule et ça se complexifie encore avec la mondialisation des idées et des concepts.
            .
            .
            Dissertation : si on pouvait échanger les populations des pays sans rien changer aux systèmes politiques, au bout de combien de temps la Suisse, le Mali, la France ou l’Allemagne deviendraient comme le pays d’origine de la population ?

            • Jerémy Lapurée
              30 juin 2021 at 18 h 55 min

              « si on pouvait échanger les populations des pays sans rien changer aux systèmes politiques, au bout de combien de temps la Suisse, le Mali, la France ou l’Allemagne deviendraient comme le pays d’origine de la population ? »

              Si les citoyens de ces pays se contentaient d’y vivre sans rien changer aux institutions politiques et économiques, rien ne changerait car ce sont les institutions qui conditionnent les caractéristiques et les évolutions d’un pays.
              Lire à ce sujet l’excellent ouvrage de Daron Acemoglu « Prospérité, puissance et pauvreté »…
              Hélas, votre expérience de pensée conduit à un paradoxe. Dans une démocratie, les lois sont votées par le peuple où ses représentants.
              Demander à ses « nouveaux habitants » de ne rien changer à la Suisse ou à la France conduit à ce que ce pays n’ait plus les caractéristiques actuelles de la Suisse ou de la France, des pays démocrates dont les lois sont faites perpétuellement par ses habitants…

              • « Si les citoyens de ces pays se contentaient d’y vivre sans rien changer aux institutions politiques et économiques, rien ne changerait car ce sont les institutions qui conditionnent les caractéristiques et les évolutions d’un pays. »

                Non pas que, il faut les deux:

                Un peuple est composé d’entrepreneurs, de bosseurs et de faignants. Ces qualités se forgent par un subtil mélange d’influences extérieures, familiales, historiques, et du moi de chaque individu. Elles sont variables d’un peuple a l’autre pour beaucoup à cause des conditions de vie et des raisons citées par guillaume.

                Prenez un excellent patron, vous lui collez que des branleurs: ça ne marche pas.

                Prenez un mauvais patron, collez lui des gens de valeur ça tourne quand même sans être exceptionnel (plus ou moins bien en fonction du nombre de branleurs résiduels)

                Un bon patron et quelques gens de valeur: ça devient une multinationnale.

                Dans un système libéral, les bons patrons attirent les bons ouvriers, et cet ensemble devient le moteur de tout les reste.

              • « rien ne changerait car ce sont les institutions qui conditionnent les caractéristiques et les évolutions d’un pays. »

                La loi dérive des peuples et de leurs imaginaire, croyances, rapport sociaux et pas l’inverse même s’il y a un effet retour évidemment.
                De plus la loi ne couvre qu’une minuscule partie des activités et rapports humains, la plupart sont réglés sans l’intervention de la justice.
                La fiscalité est beaucoup plus invasive mais elle peut être changée « facilement », je ne crois pas que les politiques et la population suisse accepterait le niveau de distribution et de prélèvement français.

                • Jerémy Lapurée
                  1 juillet 2021 at 9 h 26 min

                  On est d’accord : il y a interaction forte entre peuple, histoire, institutions.
                  Mais vous avez posé comme postulat que rien ne changeait dans les systèmes politiques. Cela signifie que les nouvelles populations doivent prendre telles quelles les institutions des pays dans lesquelles on les débarque. Ces populations ne peuvent donc, suivant votre postulat, qu’être façonnées par les institutions, sans pouvoir les amender d’aucune sorte.
                  Vous avez en réalité posé la question en fixant la réponse.
                  D’un autre côté, ces pays dotés d’institutions intouchables, sont de pures chimères, et ne sont plus, par votre postulat, les pays réels..
                  Je voulais attirer votre attention sur le fait que l’experience de pensée que vous nous proposez à tout de l’ouroboros, un truc contradictoire inextricable…

                  • J’ai peut-être été trop peu explicite parce que je pensais que c’était évident.
                    Un peuple qui importe toutes ses institutions n’a aucun intérêt, la France deviendrait instantanément une Suisse, un peuple qui ne pourrait rien changer une fois sur place n’a aucun intérêt non plus puisque la France est dans une trappe au moins à fiscalité et dépenses.
                    Pas grave, vous avez compris le fond.

            • Jerémy Lapurée
              30 juin 2021 at 18 h 57 min

              …ces pays n’aient plus…

            • Ah ok. Je comprends mieux.
              Je pensais justement à vous parler de Todd. Je suis d’accord pour la langue pouvant avoir le même type d’effet que la structure familiale, même si je doute (naturellement, cela mériterait un travail du même type que celui pour Todd) des propositions d’interprétation que vous faîtes.
              Pour ce qui est de la religion, elle me semble bien moins structurante : elle est plus manipulée que manipulante, et d’ailleurs quand une même religion couvre des régions qui ne fonctionnent pas du tout de la même manière, il y a schisme au niveau des autorités afin que celles-ci puissent garder une légitimité opérationnelle suffisante.

              Pour ce qui est de la dissertation : si on fait un échange de population, alors on fait un échange et donc, bon, y a tout qui va avec. Si le système politique n’est pas changé, alors c’est qu’il y a nécessairement une partie de la population que vous voyez ne pas changer, on se retrouve sans doute avec une structure démographique absolument originale qui va être plus signifiante que le reste, potentiellement avec des groupes qui vont vouloir entretenir leur différenciation et une essentialisation des rapports sociaux… Ça peut donner plein de choses : un système de caste, une épuration ethnique type Rwanda, bon le métissage n’est pas non plus à exclure. Mais bon un « échange » est un phénomène violent et brutal : les gens réagiraient violemment.
              Dans le cadre de déplacements démographiques habituels, les populations s’adaptent en fait relativement vite aux pratiques et conceptions locales (ce qu’on retrouve bien en France). Les cas de non-adaptation apparaissent quand les populations immigrées ne sont pas en contact avec les populations autochtones, ou quand on essaie d’objectiver et essentialiser des différences. Il faut une pression démographique exceptionnelle pour qu’il y ait véritablement échange de structure sociale (du genre de l’ingénierie chinoise ou de l’extermination australienne… même les simples conquêtes avec installation définitive ou colonisation ne semblent pas suffire).

              • En fait dans l’exercice de Guillaume, il n’y a plus d’autochtones du fait de l’échange.
                L’exercice est difficile car dépends du positionnement du gouvernement en place:
                S’il est relativement libéral, le peuple déplacé va fonctionner comme dans un ancien pays, et le mali se convertira progressivement en « suisse du sud »
                S’il est fortement contraignant, ça fera probablement une config intermédiaire (ressemblant la la France par exemple…).

                Selon certaines sources contreversées, les Kabyles seraient des descendants de Vikings. 1000 ans plus tard, il serait intéressant de voir s’il reste encore trace d’un « effet nordique ».

                • Hervé2 a écrit: « s’il est relativement libéral, le peuple déplacé va fonctionner comme dans un ancien pays… S’il est fortement contraignant, ça fera probablement une config intermédiaire « 

                  Pile poil !
                  Dans l’exercice j’avais oublié de dire que le nouveau peuple pouvait changer les institutions, les lois la fiscalité une fois sur place 🙂
                  La fiscalité et le système social est le plus contraignant et difficile à changer, on ne coupe pas les ressources de tas de gens qui vivent de l’impôt sans graves conséquences, il faut du temps à un entrepreneuriat pour redémarrer et sortir les gens de l’assistanat ou du fonctionnariat.
                  C’est une des trappes a pauvreté ou s’est enfoncée la France.

                  • Jerémy Lapurée
                    1 juillet 2021 at 9 h 34 min

                    « Dans l’exercice j’avais oublié de dire que le nouveau peuple pouvait changer les institutions, les lois la fiscalité une fois sur place ? »

                    Ah ben non ! Vous avez dit l’inverse :
                    « sans rien changer aux systèmes politiques »…

                    Faudrait savoir !

              • Comme le dit Hervé c’est un exercice purement théorique qui suppose un changement total de population y compris politiques, journalistes, syndicalistes, patrons etc. etc.
                Par contre, elles seraient libres de changer les institutions, les lois ou la fiscalité une fois sur place.
                .
                Comme je le dis plus haut à Jerémy, la loi couvre une infime partie des activités humaines et son interprétation et application dépend des hommes et de leur manière de voir les choses. Le tribunal des prud’homme par exemple ne jugerais pas du tout pareil avec un personnel Suisse qu’avec un Français.
                .
                La fiscalité est déjà beaucoup plus importante, elle s’applique à tous tout le temps, mais les journalistes, syndicalistes, politiques et la population suisse en général verrait d’un très mauvais œil de tel niveaux de distributions et de prélèvements, ils ne mettraient pas longtemps avant de faire des réformes.
                J’ai vécu dans 3 pays (Allemagne, France et Suisse) et l’exercice était très intéressant et riche d’enseignements, j’ai des tas d’anecdotes amusantes ou révélatrices.

                • Alors je n’ai peut-être pas compris le jeu, la règle « sans rien changer aux systèmes politiques » s’attache à la population ou au lieu géographique ?
                  Parce que bon, un système politique s’attache à une population, ce n’est pas un paysage ou un bâtiment. Sans la population un système politique ne s’applique pas.
                  Et donc votre question ce serait plutôt quel est le niveau d’adaptation du système politique aux contingences matérielles propres à ce nouveau territoire et si l’adaptation en question reproduirait finalement le système politique de la population occupant auparavant cet espace, c’est ça ? Ça dépend de beaucoup de facteurs, la pression des contingences n’a pas partout la même force ni la même qualité.
                  Au niveau individuel ça n’a rien à voir. Comme je le disais plus haut, un étranger est très vite fortement influencé par le contexte dans lequel il arrive. Les postures les plus abstraites, les croyances et représentations intellectuelles de haut niveau vont potentiellement mettre du temps à être influencées, mais tout ce qui est attitudes sociales et pratiques, nous sommes très flexibles.

                  • L’exercice était de montrer que la mentalité d’un peuple influe énormément un pays et que la France, ou le Mali qui ont d’énormes défis à relever pourraient parfaitement se réformer et bien fonctionner, je pense en moins de 30 ans avec des peuples qui ont une autre culture politique, entrepreneurial, scolaire etc.
                    .
                    Pour l’assimilation d’accord pour autant que vous soyez entouré des gens de la nouvelle culture et que la pression sociale soit forte en faveur de votre assimilation.
                    En France les étrangers sont entouré de leur propre communauté et les gauchistes haïssent le pays et ne cessent de leur expliquer que ce sont des victimes en plus d’éliminer complètement leurs responsabilités individuelles.

                    • Les étrangers en France se comportent globalement comme des français. Le truc c’est que, en bon français, nous nous plaignons tous du comportement des autres. La victimisation me semble absolument générale aussi. : il y a quelque chose à faire, mais faudrait arrêter de croire que ce sont nécessairement les autres qui sont concernés par ce changement (quelque soit le choix de catégorisation). En fait il y aurait une dynamique plutôt d’homogénéisation des attitudes et des pratiques en France… ce qui entraîne en réaction des revendications de distinction, mais bon, est-ce opérant ? le truc c’est que cette multiplication de ces revendications de distinction est justement très homogène.
                      Si les immigrés affichaient une volonté de conformisme, on pourrait les accuser de ne pas se conformer aux usages.

                      « la mentalité d’un peuple influe énormément un pays » Je ne comprends pas. Qu’est-ce que vous appelez « pays », et à quoi vous reconnaissez un pays ? J’ai l’impression que vous êtes en train de dire « la mentalité d’un peuple influe sur sa mentalité ». Si on éradiquait d’un seul coup tous les français, on est d’accord que la France cesserait d’exister ? ou pouvez-vous me décrire comment elle se manifesterait ?

                  • « Alors je n’ai peut-être pas compris le jeu, la règle « sans rien changer aux systèmes politiques » s’attache à la population ou au lieu géographique ? »

                    Oui désolé, j’ai écris ça dans la volée, j’aurais du être plus explicite et moins confus.
                    Donc:
                    -On échange totalement les peuples (et uniquement les peuples) à un instant T.
                    -Les suisses se multiplient magiquement en 67 millions, les français en 8 millions.
                    -Les peuples sont libres de tout changer une fois sur place.
                    -On laisse mariner et on revient 30 ans plus tard.

        • Même question que Ropib: Une rapide recherche google ne donne pas grand chose sur les concepts de nation du commerce et nation du verbe. C’est pas hyper clair pour moi. Si vous avez 2 mn je veux bien que vous m’expliquez.

          • Mitch a écrit: « Une rapide recherche google ne donne pas grand chose sur les concepts de nation du commerce et nation du verbe. « 

            C’est une définition personnelle basé sur les mentalités, l’histoire et l’économie (j’ai vécu en Allemagne, France et Suisse). Quand on discute économie, patronat, travail, social, les réponses sont totalement différentes. Elles sont beaucoup plus « littéraires » et « philosophique » dans les parties francophones et beaucoup plus pragmatiques et comptables dans les parties germaniques.
            .
            Ce que j’appelle les nations de « commerçants » sont par exemple les pays du nord (ligue hanséatique, compagnie des indes, magna carta, common law), et les nations du « verbe » la France et dans une moindre mesure des pays de l’est.
            C’est plutôt en France qu’on sort les grandes théories sociale (liberté égalité) qu’on applique peu (république sanglante, jacobine, droit et institutions inégalitaires ou/et de type monarchique contrairement à la common law et aux Länder).

            • Ok merci, je comprends mieux.

            • Mouais.
              Vous oubliez la Venise des marchands, la première Cité-Etat à se lancer dans le libre-échange au niveau mondial.
              Je vous conseille vraiment le bouquin de Daron Acemoglu…

              • J’ai « oublié » aussi les pays-bas, le fond n’étais pas une encyclopédie exhaustive des pays avec leurs caractéristiques.

            • Vous avez une idée qui donnerait du travail.
              Pourquoi ne pas dire que l’Allemagne est militaire par exemple, plutôt que commerçante ?
              C’est à dire que si on reprend Todd, il montre justement bien que l’Allemagne et l’Angleterre (toutes deux « commerçantes » sur votre grille si je ne me trompe pas) ne fonctionnent pas de la même façon. Et, bon, sans rentrer dans les détails, même si je n’ai pas vécu dans ces pays, j’ai pu expérimenter moi-même de vraies différences culturelles. Les principes de subsidiarité ne sont pas du tout vécus de la même façon notamment, et d’ailleurs les anglais ont senti qu’ils fallait se barrer de l’UE… la France en y restant ne choisit pas forcément le camp des libéraux à mon avis.

              • L’Allemagne beaucoup plus morcelée et bien moins centralisée ne se réunit et ne militarise que très tardivement, surtout en réponse aux aventures Napoléonienne.
                Oui les nations ne sont pas pareilles, c’est des tendances, les Allemands et les anglais sont bien plus libéraux que les français et leur prospérité repose traditionnellement sur le commerce.
                .
                L’Allemagne est au cœur de l’UE et elle en tirait avantage puisqu’elle faisait un peu les règles contrairement à l’Angleterre. Cela dit, la bureaucratie de l’UE leur échappe aussi un peu et ils sont bien moins convaincus.

    • On vit dans un monde de « Fake ». La manipulation est d’autant plus aisée que : soit une large partie du public est totalement stupide, soit il sait qu’il est manipulé et l’accepte plus ou moins consciemment.

      Considérons les « Telenovelas » d’Amérique latine. Il est difficile de faire plus faux dans le ton et les situations. Mais ça marche ou plutôt ça devient un genre en soi-même, comme une bande dessinée avec des gaulois affublés d’un grand nez.

      Mais il manque tout de même le plus souvent du talent et de l’humour afin de redonner un contenu et un intérêt au Fake. Le Fake industriel de la pseudo IA, des News, de l’écologie, de l’antiracisme, etc … n’est que de la malbouffe pour décadents.

  • Règlementation Européenne largement loin des possibilités techniques autour de la conscience artificielle, qui plus est, en limitant les financements des entreprises oeuvrant dans cette direction. La conscience qui n’est absolument pas le problème, on peut écrire aujourd’hui une machine capable de la simuler sans danger, c’est l’auto-activation le vrai problème (qui est à la base de la boucle de pensée, de l’autonomie et de l’auto-défense inconscient).

    Une véritable IA est par définition une nouvelle forme de vie capable de plus que nous humain. Où sont les lois en cette direction ? Pourquoi rabaisser ses futurs esprits avant même de réfléchir à leur porté ? Nous créons cette nouvelle forme de vie et nous la limitons = problème garantie!!!

    Des gens qui ne maitrise pas prennent des décisions.

    https://eur-lex.europa.eu/legal-content/FR/TXT/PDF/?uri=CELEX:52019IP0081&from=EN

    « 27. invite instamment la Commission à ne pas financer les projets visant à intégrer l’IA dans des armements; invite
    instamment la Commission à exclure du financement de l’Union les entreprises qui se consacrent à la recherche et au
    développement de la conscience artificielle; »

    On tape sur la fourchette alors que c’est le couteau qui est dangereux.

    Trop tôt pour légiférer!!!

    • Il n’y a pas de « conscience artificielle », et il n’y pas de « nouvelle forme de vie » artificielle qui reste de l’ordre de la science fiction.

      Le problème n’est pas tant de limiter ou glorifier l’IA, que de savoir dans quelles intentions on la développe et on l’utilise. C’est tout bêtement pareil que la possession d’armes: ce n’est pas l’arme en elle-même qui est mauvaise, mais celui qui en fait usage.

      Il s’agit donc bien d’éthique avant tout, et donc d’évolution humaine. Aucun progrès technologique n’est un progrès pour l’homme s’il est mal employé. Science sans conscience, rien de nouveau sous le soleil. On ne cesse de répéter les mêmes leçons depuis des éons mais l’homme, lui, n’évolue pas.

  • Cet entretien me fait penser à un cours d’une université de San Francisco créé en 2020 don’t l’objet affiché était de ne pas se faire influencer pour bien voter pendant les élections
    https://ethics.fast.ai/videos/?lesson=1
    Le contenu est une revue de titres et d’articles twitter, très loin de Isaac Asimov

  • jacques lemiere
    30 juin 2021 at 7 h 41 min

    parler d’intelligence artificielle c’est parler d’intelligence humaine…

    nous aimons à nous voir comme intelligents, mot qui a l’origine signifiait que l’on était capable de résoudre des problèmes…

    la « hasard et la persévérance » permet de résoudre des problèmes!!! donc ce qui importe est la capacité à préserver à résoudre un problème.. ça s’appelle être en vie et capable de survivre… (les gens ont en fait ajoute l’idée que la rapidité à résoudre un problème importait)…

    ce qui transparait pour moi dans ces débats sur l’intelligence artificielle est le malaise des hierarchies fondées sur la prétention à un intellect « supérieur »..

    le vrai débat est un débat qui a toujours existé..qui est responsable de ses actes.. nous gracions le fou du punissement, nous ne tenons pas rigueur à un jeune enfant etc etc..

    quand les machines nous feront mal…qui sera responsable? en fait ça existe déjà…pour des machines dénuées d’intelligence… ce qui nous effraie est qu’onimagine qu’une ia puisse nuire à beaucoup…et qu’ller casser la gueule au concepteur de l’ia originel ne suffira pas. qualitativement rien de nouveau…

  • Et pour l’éthique humaine, on a réussi cet exploit de créer l’homme parfait ?
    Laissez donc les robots et l’ia vivre sa vie en toute liberté. Si ils pensent mal sans doute que leurs créateur ne vaut pas mieux.

  • Parler d’éthique de robot est déjà une manipulation. L’éthique la vraie sera de dire qui est l’éditeur du programme de ce robot et qui sont les actionnaires.

    • On peut être assuré que passé un certain pouvoir, les « GAFAM » robotique seront menacés par les politiques jusqu’à adopter leurs « éthique ».

  • Le robot est un robot, il faut d’abord pouvoir l’indentifier immédiatement.
    Les formes anthropomorphes doivent être bannies.
    Et plus particulièrement la voix, être très caractéristique.
    Il faut une différence très marquée entre les humains et la machine.
    Ne nous laissons pas berner par le deep learning qui n’est que de la statistique, il n’y a rien d’inventif.
    Je me souviens d’un ‘IA’ a qui l’on avait appris à déterminer l’âge d’un portrait… Elle avait associé la taille des oreilles avec l’âge, ce qu’un humain ne peut faire mais biologiquement imparable. Ce n’est pas parce qu’une chose nous est inaccessible qu’elle est géniale.
    Insulter une IA doit être normal, il n’y a aucune conscience derrière. Ce ne doit pas être associé a un quelconque esclavagisme comme je l’ai entendu récemment.
    Un bot est bête par essence basculer vers l’humain ne doit pas être déceptif… Il faut éduquer nos proches et surtout les relais d’opinion en priorité, les journalistes en particulier.

    • « Le robot est un robot, il faut d’abord pouvoir l’indentifier immédiatement.
      Les formes anthropomorphes doivent être bannies. »

      C’est ce qui est exigé dans le cycle des Robots d’Asimov … et bien sur échoue dans « face aux feux du soleil » si je me souviens bien.

      Ce qui est marrant est qu’on réinvente tout ce qu’a dit Asimov il y a plus de 60 ans, alors qu’on est loin de posséder la technologie.

  • L’auteur a raison quand il dit que ces « IA » ne seront jamais douées d’émotions ni même d’intelligence. Les recherches depuis 40 ans montrent que les émotions et les besoins primaires, soif, faim, peur, sexualité, social sont des composants essentiels de la formation d’une intelligence humaine et que cette intelligence vient forcément avec tous les défauts connus. En bref, soit, c’est intelligent mais inutilisable, car aussi « fiable » qu’une Martine handicapée sociale, soit c’est rationnel, logique et ce n’est pas « intelligent ».
    .
    Ceci posé, une chose est totalement certaines: les bureaucrates ne comprennent strictement rien aux systèmes-experts, les mal nommées « IA », et ils s’entoureront des « spécialistes » qui confirmeront leurs nombreux fantasmes idiots dans ce domaine.
    On a vu ce que ça donnait pour le climat et le Covid, on peut être assuré que la régulation va être un mélange d’hilarant, de délirant et de navrant.
    Les européens vont flinguer le domaine, comme d’habitude, et les américains vont surtout faire en sorte que « l’influence » qu’ils peuvent avoir soit conforme à la doxa politique du « bien », comme d’habitude.

  • « Nous avons tendance à surestimer l’impact de la nouvelle technologie à court terme et à la sous-estimer à long terme »
    Les impacts à long terme pourraient bien être sous-estimés dans cet échange même, puisqu’il me semble laisser penser à des risques mortels à l’intérieur de systèmes sociaux sans discontinuité, alors que ce qui est le plus probable c’est d’abord une rupture civilisationnelle incontournable.

    • Les impacts à long terme sont sous-estimés précisément parce qu’on n’évalue pas l’éthique sur laquelle s’appuie leur développement. Si on décortique avec quelle éthique ou non l’IA est développée, on peut prévoir les effets à long terme de leur déploiement.

      • On peut les prédire (plus que prévoir). De là à dire qu’on peut les éviter ?

        C’est comme un cours d’eau : il va vers le bas, le bloquer est impossible, le canaliser demande beaucoup de volonté, d’organisation et de travail.

        Je suis d’accord sur l’éthique. Mais elle est plus instrumentalisée qu’appliquée par les temps qui courent.

      • Non. D’abord bien souvent par « éthique » nous pensons des morales ésotériques et arbitraires, ou des principes de fonctionnements sociaux dominés par la volonté. Une technologie performante entraîne quoi qu’il arrive des impacts gigantesques parce qu’elle reformule les contingences matérielles. La surestimation/sous-estimation est due à notre incapacité (bien naturelle) de penser en dehors de notre cadre de pensée.
        Mais bon, à la réflexion, il m’apparait aujourd’hui relativement clair que le conservatisme français entraîne une telle frilosité que pour le coup je ne suis pas certain qu’il y ait une véritable sous-estimation en France. Globalement tout ce qui ne participe pas d’une tentative de revenir au siècle précédent est considéré comme très suspect et très dangereux, et notamment la posture « éthique » vis à vis du numérique est quasiment systématiquement de dire que bon, le niveau de technologie au milieu des années 90 (windows, minitel, courriel, bibop) était un plafond à ne pas dépasser.

  • “Il est hélas devenu évident aujourd’hui que notre technologie a dépassé notre humanité.” Albert EINSTEIN.

  • Jerémy Lapurée
    30 juin 2021 at 18 h 28 min

    « Le chabot fut alors utilisé pour dialoguer par écrit avec des patients en psychothérapie. Son fonctionnement était extrêmement rudimentaire : ELIZA se contentait de reformuler les propos du patient, les transformait en question et ajoutait de temps à autre des phrases comme : « Je vous comprends ». »

    Exactement comme un psychanalyste, donc…

    « Vous écrivez que les robots n’auront jamais de volonté ou d’émotions, ils ne feront que les simuler. Mais si ces machines, ces IA sont capables de modéliser ces émotions avec une telle précision qu’il deviendrait impossible de faire la différence, quelle importance que ces émotions soient feintes ? »

    Exactement comme un politicien, donc…

    Où est donc le problème ? A part que les 3/4 de l’Humanité, en a moins, d’humanité que la première IA venue…

  • Jerémy Lapurée
    30 juin 2021 at 18 h 43 min

    « Une société allant vers des humains augmentés comme aux États‑Unis où la vague transhumaniste fait des ravages, une société de surveillance et de notes morales comme en Chine, ou une société fondée sur une intelligence artificielle respectant l’humain, les droits de l’Homme et sa dignité ? »

    1. Arrêtons de crier avant d’avoir mal avec le transhumanisme. J’avoue que je n’ai jamais compris la défiance vis à vis de ce courant de pensée. On est déjà un transhumain quand on a un pace-maker, un fémur en titane, voire une paire de lunettes. Toutes les technologies permettant de sauver des vies, de soigner, de vivre plus longtemps sont, nolens volens, incontournables. Inutile de se mettre la rate au court bouillon pour ça. Même les délires d’immortalité de certains apporteront certainement des progrès pour la santé humaine, au moins par sérendipité.

    2. Le contrôle social à la chinoise est infiniment plus inquiétant, et il s’installe déjà en Europe (dernier exemple en date, les boîtes noires sur les automobiles). Il n’est hélas pas suffisamment combattu, car il prend des formes plus soft qu’en Chine, mais pas moins vigoureuses sur la durée…

    3. IA respectueuse de l’humain ? Les trois lois fondamentales, écrites par Azimov, ont bientôt 80 ans. Inutile se réinventer l’eau tiède. Je ne comprends même pas qu’on s’interroge sur le sujet.
    Et si comme dans le cas du véhicule autonome, face au Dilemne du Tramway, leurs concepteurs ont du mal à trancher, il suffit d’abandonner le véhicule autonome. Il ne manquera pas à grand monde…

    • Ok, première loi de la robotique formulée par Asimov: un robot ne peut blesser un être humain, ou par son inaction, permettre qu’un être humain soit blessé.

      Des robots à IA ont déjà été utilisés pour tuer des cibles humaines dans des conflits armés, et tout récemment par la Turquie. Fail !

      Je vous taquine, mais ça suffit pour montrer que ce n’est pas si évident que vous ne l’affirmez.

      • Jerémy Lapurée
        1 juillet 2021 at 8 h 55 min

        Objection votre honneur !
        … « ni, restant passif, laisser cet être humain exposé au danger »…
        Ce qui permet de justifier une frappe préventive.

        • Précisément, mais j’en arrive à penser qu’Asimov a été très optimiste : son robot deviendrait vite fou s’il essayait de résoudre ce genre de question de façon purement logique.

          (En vérité, il y a une (unique) nouvelle où il aborde cette question).

  • Les commentaires sont fermés.

Promouvoir la liberté n’est pas gratuit

Mais cela peut aider à réduire vos impôts de 66%

Faites un don dès maintenant

Faire un don

Un entretien dirigé par Corentin Luce.

À travers la figure du centaure, les forces contradictoires qui font l'être humain soulignent le rôle du mouvement, cadre exprimant l'individualité (Sylvain Tesson, Lire, 1er janvier 2015). C'est précisément cette notion de flux permanent, mouvement incessant que Deleuze et Guattari utilisent pour préciser la mort de l'homme annoncée par Foucault (Mille Plateaux).

L'hybridation et le mouvement sont des impératifs vitaux pour comprendre et survivre en plein âge d'or numérique. Le post-humain... Poursuivre la lecture

Par Drieu Godefridi.

La Commission européenne annonce son intention de faire de l’UE « le pôle mondial d'une Intelligence Artificielle (IA) digne de confiance. »

Le communiqué de la Commission explique que le nouveau règlement sur l'IA :

Garantira aux Européens qu'ils peuvent faire confiance à l'IA. Des règles proportionnées et souples, prévues pour faire face aux risques spécifiques liés aux systèmes d'IA constitueront l'ensemble de normes le plus strict au monde. Le plan coordonné décrit les réorientations et les invest... Poursuivre la lecture

Par Thierry Godefridi.

Dans un communiqué de presse daté du 21 avril 2021, la Commission européenne a annoncé que « l'Europe » va s'adapter à l'ère du numérique – serait-ce une bonne nouvelle, il en était temps ! – et proposer de nouvelles règles d'excellence et de confiance en matière d'intelligence artificielle (IA).

Tant qu'à aborder le domaine de la réalité augmentée en retard d'une guerre, autant la regarder par le petit bout de la lorgnette et commencer par interdire. C'est l'idée. On est « l'Europe » ou on ne l'est pas...... Poursuivre la lecture

Voir plus d'articles