L’éthique des robots, parfois connue sous l’appellation courte «roboéthique», concerne les problèmes éthiques rencontrés avec les robots, tels que de savoir si les robots représentent une menace pour les humains à court ou à long terme, si certaines utilisations des robots sont problématiques en tant que «robots tueurs» en temps de guerre) et comment les robots devraient être conçus pour agir de manière «éthique» (cette dernière préoccupation est également appelée «éthique de la machine»). L’éthique des robots est un sous-domaine de l’éthique de la technologie, en particulier des technologies de l’information, et elle entretient des liens étroits avec des préoccupations juridiques et socio-économiques. Des chercheurs de divers domaines commencent à aborder les questions éthiques relatives à la création de la technologie robotique et à sa mise en œuvre dans les sociétés, de manière à garantir la sécurité de la race humaine.
Alors que les problèmes sont aussi anciens que le mot robot, des discussions académiques sérieuses ont débuté vers l’an 2000. L’éthique des robots nécessite l’engagement combiné d’experts de plusieurs disciplines, qui doivent adapter les lois et les réglementations aux problèmes résultant des réalisations scientifiques et technologiques de Robotique et IA. Les principaux domaines concernés par l’éthique des robots sont: la robotique, l’informatique, l’intelligence artificielle, la philosophie, l’éthique, la théologie, la biologie, la physiologie, les sciences cognitives, les neurosciences, le droit, la sociologie, la psychologie et le design industriel.
Sujets fondamentaux
En quelques décennies, la robotique est devenue l’une des principales disciplines scientifiques et technologiques. Son évolution est si rapide que, dans un proche avenir, nous allons habiter la planète et que nous allons collaborer avec un nouveau type de machines automatiques: les robots. Cela impliquera de nombreux problèmes nouveaux, éthiques, psychologiques, sociaux et économiques. « La robustesse est une éthique appliquée. Son objectif est de développer des outils et des connaissances scientifiques, culturels et techniques universellement partagés, quelles que soient leurs différences culturelles, sociales et religieuses. Ces outils favoriseront et encourageront le développement de la robotique au service du bien-être de la société et de la société. En outre, grâce à la roboéthique, il sera possible d’empêcher le recours à la robotique contre des êtres humains « (Veruggio, 2002). Pour la première fois de son histoire,
De ce point de vue, il est nécessaire que la communauté scientifique réexamine le concept d’intelligence, celui-ci n’est plus associé qu’aux seuls humains ou aux animaux, mais également aux machines. De même, des concepts complexes tels que autonomie, apprentissage, conscience, volonté libre, prise de décision, liberté, émotion et bien d’autres n’ont pas la même signification sémantique ou pratique, s’ils concernent des êtres humains, des animaux ou des machines. Dans ce contexte, il devient encore plus naturel et nécessaire pour la robotique d’impliquer dans son progrès de nombreuses autres disciplines, y compris la nécessité pour la communauté scientifique de réexaminer le concept d’intelligence, celui-ci n’est plus associé aux seuls humains ou aux animaux, mais aussi avec des machines.
Les principales positions sur la roboéthique
Déjà lors du premier Symposium international sur la roboéthique (Sanremo, Italie, 2004), trois positions éthiques différentes se sont fait jour dans la communauté de la robotique, en relation avec leurs responsabilités vis-à-vis de leur activité technico-scientifique (D. Cerqui, 2004):
La robotique ne s’intéresse pas à l’éthique: c’est la position de ceux qui considèrent leur recherche comme une activité strictement technique, dépourvue de responsabilités morales ou sociales;
Les personnes robotiques intéressées par les questions éthiques à court terme: c’est la position de ceux qui expriment leurs préoccupations morales concernant leur activité professionnelle, en termes simples et immédiats de bien et de mal, faisant référence à leur définition des valeurs culturelles et des conventions sociales acceptées;
Les personnes robotiques intéressées par les problèmes éthiques à long terme: c’est la position de ceux qui expriment leur préoccupation morale, en relation avec leur activité professionnelle, de manière globale et à long terme. Ils examinent, par exemple, des problèmes tels que la fracture numérique entre le Nord et le Sud, ou entre différentes générations.
Disciplines impliquées dans la roboétique
La préparation de la roboéthique nécessite la participation d’experts de différentes disciplines qui, en collaborant à des projets, comités et commissions internationaux, peuvent mettre à jour les lois et les règlements en fonction des problèmes résultant des développements scientifiques et technologiques de la robotique. Il est possible que la nécessité de créer de nouveaux curricula studiorum et de nouvelles spécialisations capables de gérer une situation aussi complexe (comme cela a été le cas par exemple dans le cas de la médecine légale) apparaisse au cours du travail. Outre la robotique, les principales disciplines de la roboéthique sont l’informatique, l’intelligence artificielle, la philosophie, la théologie, la biologie, la physiologie, les sciences cognitives, les neurosciences, la jurisprudence, la sociologie, la psychologie et le design industriel.
Des principes
En tant qu’éthique humaine, la roboéthique doit être conforme aux principes et normes fondamentales acceptés, sanctionnés et universellement reconnus dans les principales Chartes des droits de l’homme, et parmi celles-ci:
Respect de la dignité et des droits de l’homme.
Égalité, justice et équité.
Avantages et inconvénients de chaque activité.
Respect des différences culturelles et du pluralisme.
Pas de discrimination ou de stigmatisation.
Droit à la protection des données personnelles.
Défense de la vie privée.
Confidentialité.
Solidarité et collaboration.
Responsabilité sociale.
Partage des avantages.
Responsabilité de la protection de la biosphère.
Problèmes éthiques généraux liés à la science et à la technologie
La robotique partage avec de nombreux autres secteurs de la science et de la technologie bon nombre des problèmes éthiques dérivés des deuxième et troisième révolutions industrielles, notamment:
Double utilisation de la technologie.
Impact de la technologie sur l’environnement.
Effets de la technologie sur la répartition mondiale de la richesse.
Écart de partenariat technologique, fracture numérique.
Accès aux ressources technologiques.
Déshumanisation de l’homme par rapport aux machines.
Dépendance technologique.
Anthropomorphisation des machines.
Feuille de route de la Roboéthique
La feuille de route de la robotique 2006 du Réseau européen de recherche sur la robotique décrit la dimension éthique comme suit: En fonction de la manière dont les capacités des robots sont perçues, il existe différentes évaluations des robots dans la dimension éthique:
Les robots ne sont que des machines: dans ce cas, la Roboéthique est comparable à l’éthique de toute autre science mécanique.
Les robots ont une dimension éthique: on pense que les robots ont une dimension éthique intrinsèque car, en tant que produits symboliques humains, ils peuvent développer et améliorer la capacité de l’homme à agir de manière éthique.
Les robots sont des agents moraux: les agents artificiels peuvent désormais agir en tant que patients moraux (objets d’action morale) ou en agents moraux. De l’avis de la plupart des roboéthiciens, il n’est pas nécessaire qu’ils aient un libre arbitre pour agir de manière éthique. Ici, l’attention est concentrée sur l’action et non sur la décision d’agir.
Les robots sont une nouvelle espèce: selon ce point de vue, les robots auront non seulement une conscience, mais transcenderont les dimensions humaines en termes de moralité et d’intelligence.
Prévisions EURON
Selon les prévisions EURON, des robots seront développés et utilisés prochainement dans les domaines suivants:
Production de robots humanoïdes: Ainsi, la production d’un robot ou d’androïdes d’intelligence humaine et d’aptitude émotionnelle. Conformément à la prétendue Déclaration du robot de Fukuoka en 2004, EURON publie trois points programmatiques:
Les robots de la prochaine génération coexisteront en tant que partenaires avec les humains.
Les robots de la prochaine génération soutiendront les personnes physiquement et mentalement.
Les robots de la prochaine génération contribueront à la réalisation d’une société sûre et pacifique.
Installations de production modernes dans les usines mais aussi dans les petites entreprises
Robots de service adaptables et maisons intelligentes; Il s’agit, d’une part, de robots de service humanoïdes et, d’autre part, d’espaces de vie entièrement informatisés, contrôlés par un capteur et en réseau. À titre d’exemple, citons le réfrigérateur à commande automatique qui, dès que les stocks baissent, permet de réapprovisionner automatiquement le commerçant via le réseau.
Robots de réseau: il s’agit principalement des développements de l’intelligence artificielle sur Internet, car ils commencent déjà à être observés dans les moteurs de recherche.
Robots prêts à l’emploi: de grands progrès ont été réalisés ici, en particulier dans le domaine des voyages dans l’espace. mais aussi dans les secteurs des mines, de l’entreposage et de l’agriculture, des développements ultérieurs sont prévisibles.
Soins de santé et qualité de vie: Au cours des dernières années, la robotisation de la médecine et de la chirurgie a été relativement peu remarquée. Les procédures de diagnostic assistées par ordinateur, les robots thérapeutiques et les robots chirurgicaux sont approuvés en Europe depuis 2000.
Robots militaires: systèmes de défense intégrés, véhicules et aéronefs autonomes et munitions intelligentes.
Jeux éducatifs: Outre les cours, l’industrie du jouet et du divertissement est également résolument tournée vers l’industrie du sexe.
Au cours des deux dernières années, toutefois, la vision très optimiste du rôle futur des robots dans la société a suscité de plus en plus de critiques. Il existe un danger croissant que les gens soient de moins en moins liés à la vie parce que les artefacts ne peuvent que donner l’illusion de la vie. Les effets de l’interaction persistante avec des êtres pseudo-maniaques sur le psychisme humain sont au moins considérés comme potentiellement problématiques. On trouvera dans le documentaire Plug & Pray une critique substantielle de l’utilisation de robots dans le domaine social et militaire, présentée principalement par le pionnier de l’informatique, Joseph Weizenbaum.
Les défis éthiques des prochaines années ne seront donc pas des « droits de robot », mais le traitement de la réalité à venir d’une société robotisée.
Robotique et Droit
Parallèlement à l’occupation de la robotique d’un point de vue éthique, une analyse jurisprudentielle des problèmes spécifiques liés à l’utilisation des robots se développe. L’accent est mis principalement sur la responsabilité civile et pénale, ainsi que sur le changement d’allocation de responsabilité requis par une autonomie accrue, par exemple dans le domaine de la robotique et de l’AAL. Avec l’utilisation de robots pour effectuer des tâches relevant de l’État dans des domaines sensibles aux droits fondamentaux, par exemple dans les prisons. En outre, il existe également des problèmes de droit public spécifiques, par exemple dans le domaine de la protection des données, qui vont au-delà des exigences de la sécurité des produits et critères d’admission. L’utilisation de robots confrontera à l’avenir la société à une variété de problèmes juridiques non résolus. Très probablement, cette discussion est menée dans le contexte de la conduite autonome des voitures, qui peut avoir à prendre une décision sur la vie et la mort peut également être ,. Jusqu’à présent, très peu d’avocats traitent du « droit robotique » et conseillent dans ce domaine.
Développements actuels
La robotique a été examinée par divers organes depuis 2016/17, tels que l’IEEE, le Parlement européen, l’Association européenne de robotique (euRobotics) et des initiatives telles que la « robotique responsable ».
Histoire et événements
Depuis l’Antiquité, les discussions sur l’éthique en relation avec le traitement des êtres non humains et même non vivants et de leur « spiritualité » potentielle ont été abordées. Avec le développement des machines et éventuellement des robots, cette philosophie a également été appliquée à la robotique. Runaround (histoire), première nouvelle de science-fiction écrite en 1942 par Isaac Asimov, abordait directement les fondements de l’éthique des robots et posait les bases de cette éthique; elle mettait en vedette Three Laws of Robotics. Asimov a constamment modifié ces trois lois, et une quatrième loi, ou loi zéro, a été ajoutée pour précéder les trois premières. dans le contexte de ses travaux de science-fiction. Le terme « roboéthique » à court terme a probablement été inventé par Gianmarco Veruggio.
Le premier symposium international sur la Roboéthique, organisé en 2004 par le groupe Scuola di Robotica, le laboratoire des arts de la Scuola Superiore Sant’Anna, à Pise, et l’Institut théologique de la Pontificia Accademia della Santa Croce, a été un événement important qui a propulsé la préoccupation de la roboéthique. Rome. « Après deux jours d’intenses débats, l’anthropologue Daniela Cerqui a identifié trois positions éthiques principales émergeant de deux jours d’intenses débats:
Ceux qui ne sont pas intéressés par l’éthique. Ils considèrent que leurs actions sont strictement techniques et ne pensent pas avoir une responsabilité sociale ou morale dans leur travail.
Ceux qui s’intéressent aux questions éthiques à court terme. Selon ce profil, les questions sont exprimées en termes de «bon» ou de «mauvais» et font référence à certaines valeurs culturelles. Par exemple, ils estiment que les robots doivent adhérer aux conventions sociales. Cela inclura le « respect » et le fait d’aider les humains dans divers domaines, tels que l’application des lois ou l’aide aux personnes âgées. (Ces considérations sont importantes, mais nous devons nous rappeler que les valeurs utilisées pour définir le «mauvais» et le «bon» sont relatives. Ce sont les valeurs contemporaines des pays industrialisés).
Ceux qui pensent en termes de questions éthiques à long terme, par exemple au sujet de la «fracture numérique» entre le Sud et le Nord, ou les jeunes et les personnes âgées. Conscients du fossé qui sépare les pays industrialisés des pays pauvres, ils se demandent si les premiers ne devraient pas changer leur façon de développer la robotique pour être plus utiles au Sud. Ils ne formulent pas explicitement la question de savoir pourquoi, mais on peut considérer qu’elle est implicite « .
Voici quelques événements et projets importants en matière d’éthique des robots. Les autres événements sur le terrain sont annoncés par le groupe de sujets euRobotics ELS et par RoboHub:
1942, la nouvelle d’Asimov « Runaround » énonce explicitement ses Trois lois pour la première fois. Ces « lois » sont réutilisées pour des travaux ultérieurs de science-fiction de robot liés à Asimov.
2004, Premier Symposium international sur la Roboéthique, 30 au 31 janvier 2004, Villa Nobel, Sanremo, Italie, organisé par la School of Robotics, où le mot Roboethics a été officiellement utilisé pour la première fois.
En 2004, l’IEEE-RAS a mis en place un comité technique sur la Roboéthique.
2004, Déclaration du robot Fukuoka World, publiée le 25 février 2004 à partir de Fukuoka, Japon.
2005, ICRA05 (Conférence internationale sur la robotique et l’automatisation), Barcelone: le comité de coordination IEEE RAS sur la Roboéthique a organisé un atelier sur la Roboéthique.
2005-2006, EC Euron Roboethics Atelier (Gênes, Italie, février / mars 2006). Le projet Euron, coordonné par la School of Robotics, impliquait un grand nombre de robotistes et de spécialistes des sciences humaines qui ont élaboré la première feuille de route pour une Roboéthique.
2006, BioRob2006 (première conférence internationale IEEE / RAS-EMBS sur la robotique biomédicale et la bio-mécatronique), Pise, Italie, 20 février 2006: mini-symposium sur la Roboéthique.
2006, Atelier international « Ethique de l’interaction humaine avec les systèmes robotiques, bioniques et IA: concepts et politiques », Naples, 17-18 octobre 2006. Cet atelier a été financé par le projet européen ETHICBOTS.
2007 ICRA07 (Conférence internationale sur la robotique et l’automatisation), Rome: le comité de coordination IEEE RAS sur la Roboéthique a organisé un atelier sur la Roboéthique.
2007 ICAIL’07, Conférence internationale sur l’intelligence artificielle et le droit, Université Stanford, Palo Alto, États-Unis, du 4 au 8 juin.
2007 Conférence européenne internationale sur l’informatique et la philosophie E-CAP ’07, Université de Twente, Pays-Bas, 21-23 juin 2007. Track « Roboethics ».
2007 Enquête philosophique sur l’éthique informatique, CEPE ’07, Université de San Diego, États-Unis, 12-14 juillet 2007. Sujet « Roboéthique ».
SYMPOSIUM INTERNATIONAL 2008 ROBOTICS: NOUVELLES SCIENCES, jeudi 20 février 2008, Via della Lungara 10 – ROME – ITALIE
2009 ICRA09 (Conférence internationale sur la robotique et l’automatisation), Kobe, Japon: le comité de surveillance de l’IEEE RAS sur la Roboéthique a organisé un atelier sur la Roboéthique.
2012 We Robot 2012, Université de Miami, FL, États-Unis
Atelier 2013 sur l’éthique des robots, Université de Sheffield, février 2013
2013 We Robot 2013 – Se mettre au travail, Université Stanford
2014 We Robot 2014 – Risks and Opportunities, Université de Miami, FL, États-Unis
2016 Considérations éthiques et morales relatives aux agents non humains, Symposium printanier de Stanford, Association AAAI pour la promotion de l’intelligence artificielle
2017 Le 25 octobre 2017, lors du Sommet sur les investissements futurs à Riyad, un robot appelé Sophia, désigné avec des pronoms féminins, a obtenu la citoyenneté saoudienne, devenant ainsi le premier robot à avoir une nationalité. Cela a suscité une controverse, car il n’était pas évident de savoir si cela impliquerait que Sophia puisse voter ou se marier, ou si un arrêt délibéré du système pouvait être considéré comme un meurtre; de plus, il était controversé compte tenu de l’absence de droits accordés aux femmes humaines saoudiennes.
Dans la culture populaire
La Roboéthique en tant que sujet scientifique ou philosophique n’a pas eu d’impact culturel fort, mais est un thème commun dans la littérature et les films de science-fiction. The Matrix est l’un des films les plus populaires illustrant l’abus potentiel de la robotique et de la technologie de l’intelligence artificielle. Il décrit un avenir où le manque de roboéthique a entraîné la destruction de la race humaine. Un film d’animation basé sur The Matrix, l’Animatrix, s’est fortement concentré sur les problèmes éthiques potentiels entre humains et robots. Beaucoup de courts métrages d’animation d’Animatrix sont également nommés d’après les histoires fictives d’Isaac Asimov.
Bien que cela ne fasse pas partie de la roboéthique en soi, le comportement éthique des robots eux-mêmes a également été un problème commun à la roboéthique dans la culture populaire. La série Terminator se concentre sur les robots exécutés par un programme d’intelligence artificielle non contrôlé, sans restriction pour la résiliation de ses ennemis. Cette série a également le même complot futuriste que la série The Matrix, où les robots ont pris le contrôle. Le cas le plus célèbre de robots ou d’ordinateurs sans éthique programmée est HAL 9000 de la série Space Odyssey, où HAL (un ordinateur doté de fonctions avancées d’IA qui surveille et assiste les humains dans une station spatiale) tue tous les humains à bord pour assurer le succès de la mission assignée après sa propre vie est menacée.