Article mis à jour le 15/03/2017
Le Centre des Hautes Etudes du Cyberespace (CHECy) organisait une journée de sessions découvertes qui s’est déroulée le 03/02/2017 à Versailles.
Maître Christiane Féral-Schuhl est intervenue de 9h30 à 11h pour animer la session intitulée « Droit et Ethique Numérique ».
Cet ancien bâtonnier de l’Ordre des avocats du barreau de Paris (2012-2014), a co-présidé avec le député Christian Paul une commission parlementaire originale dont le titre était « Commission de réflexion sur le droit et les libertés à l’âge du numérique ». Maître Féral-Schuhl est venu présenter les travaux de cette commission, la nature des débats qui les ont animés et les principales recommandations formulées.
Vous trouverez ci-dessous une synthèse des points détaillés en séance, dont une partie est susceptible d’intéresser les professionnels RH et les dirigeants d’entreprise, raison pour laquelle cet article est publié sur ce blog.
Au Checy pour échanger sur “Numérique et Ethique”. Merci pour votre invitation, votre accueil et la richesse de nos échanges ! pic.twitter.com/CNJJFUGMav
— Féral-Schuhl (@feral_schuhl) 3 mars 2017
Maître Féral-Schuhl a fait référence à ces deux documents que je vous invite à lire.
Projet de déclaration des droits sur Internet :
Déclaration franco italienne de réflexion et de propositions sur le droit et les libertés à l’âge du numérique :
Préambule terminologique
Pour limiter la confusion qui règne dans certains esprits entre les termes et concepts d’éthique, de déontologie, et de morale, un exercice terminologique préalable est important à faire (lire « Éthique, morale, déontologie, droit » – EthicPedia).
- L’éthique (du mot grec ethos) a trait au comportement et aux caractéristiques d’un individu et à sa manière d’être vis-à-vis de ses règles morales, dont certaines peuvent être érigées en loi. L’éthique peut se définir comme l’ensemble des valeurs fondamentales à partir desquelles les individus interagissent dans le respect de la dignité humaine et des droits fondamentaux. L’univers numérique n’étant qu’interaction, les questions éthiques et de morale y sont prégnantes.
- La morale est une notion subjective qui permet de différencier le bien du mal. Les normes morales influencent l’action. Si l’éthique se situe au niveau des valeurs, la morale se situe quant à elle au niveau de l’action concrète.
- La déontologie à trait quant à elle à un ensemble de règles qui régissent l’exercice d’une profession (dite réglementée) afin de sanctionner un manquement qui pourrait être éventuellement constaté par rapport à l’une ou plusieurs de ces règles. La déontologie demeure une transcription minimaliste de règles éthiques.
- La place du Droit en matière d’éthique et de numérique :
La justice est un pilier de notre démocratie mais l’on peut être en infraction avec la règle éthique sans être en infraction avec la règle de droit car tous les comportements éthiques ne sont pas encadrés par le Droit.
A l’ère numérique, faut-il tout dématérialiser ou bien conviendrait-il de circonscrire la dématérialisation ? Il existe en effet un risque de perdre la dimension humaine en basculant dans le tout numérique. Maître Féral-Schuhl a souligné une inflation marquée de l’accès à la justice ces dernières années puisqu’en 2017, le barreau de Paris compte 8 000 magistrats et 30 000 avocats, contre 5 000 magistrats et 6 000 avocats en 1980. De son point de vue, la médiation juridique est de plus en plus obligatoire pour remettre de l’humain là où l’univers numérique tend à l’effacer.
L’éthique est une responsabilité qui relève de 3 niveaux :
1) Responsabilité des gouvernements et de l’Etat :
Chaque décision doit être respectueuse des libertés fondamentales et des règles constitutionnelles (liberté d’expression, liberté d’organiser des réunions privées, liberté de circulation…). En portant atteinte à ces principes, l’on porte atteinte à l’éthique. L’Etat a une responsabilité en terme éthique dans la mesure où la puissance publique est tenue de garantir le respect des droits fondamentaux qui doivent être reconnus à toute personne.
L’exemple du fichier TES
Le fichier TES (base de données contenant des informations nominatives et biométriques), dont la vocation était de moderniser et d’accélérer la gestion de l’attribution des papiers d’identité, a soulevé un débat éthique. Ce fichier ne constitue-t-il pas une atteinte aux principes éthiques ?
La Loi de 1978 a pour principe fondateur le suivant : l’informatique doit être au service de chaque citoyen et non l’inverse. Ainsi, par exemple, une base de données ne doit pas permettre de catégoriser les individus. Du reste, la crainte est justifiée que ces données puissent tomber entre les mains de personnes mal attentionnées qui en feraient un mauvais usage.
L’exemple des caméras
Le citoyen est ambivalent vis-à-vis des caméras de surveillance. Il ne sait pas toujours ce qu’il veut et considère les caméras de surveillance installées dans les lieux publics, tantôt pour ses avantages (résolution d’affaires criminelles, amélioration de la sécurité et diminution des actes illicites dans les rues), tantôt pour leur inconvénient majeur de limiter certaines libertés individuelles.
2) Responsabilité du Chef d’entreprise ou d’institution :
Certaines décisions requièrent un arbitrage entre compétitivité et éthique. Il est nécessaire de procéder au cadrage des limites des utilisations qui pourront être faites des innovations, créations, outils fabriqués et commercialisés par l’entreprise ou l’institution dans son objectif de compétitivité et de profitabilité…
En la matière, le chef d’entreprise a donc une responsabilité vis-à-vis des salariés, des actionnaires et de ses clients. Le Droit est là pour encadrer les conditions dans lesquelles l’employeur peut effectuer la surveillance des activités et des individus. L’entreprise influence l’économie par ce qu’elle met sur le marché.
Dans ce contexte, il paraît important de se demander quelle confiance placer en un robot ? Quelles sont les limites de celui-ci ?
L’exemple de la robotisation
La robotisation n’est pas un phénomène si récent que l’on peut le croire. Les premiers automates conçus datent du XVIIIème siècle. Cependant, après la cybernétique, l’Intelligence Artificielle a ouvert la voie aux humanoïdes et, la robotique pose de plus en plus de questions d’ordre éthique.
Dans le cadre de la commission européenne (Vers une nouvelle économie numérique, 2015), il a été énoncé la nécessité d’imposer des limites à l’action des robots (cf. plus bas).
La machine ne doit pas se substituer à l’homme pour ce qui concerne la prise de décision et cette dernière devra continuer de reposer sur la dimension humaine.
L’humanité augmentée, qui vise l’amélioration de nos capacités cognitives et physiques, présente des enjeux éthiques. La question éthique se pose sur le couplage entre l’objet et les personnes.
Le cas du domaine médical
Des miracles sont aujourd’hui possibles dans le domaine médical.
Il y a de quoi être à la fois inquiet et fasciné d’apprendre que 140 hôpitaux utilisent des robots aux Etats-Unis pour faire préparer les plateaux repas. Les robots sont en effet capables (de façon plus faible et plus rapide que les êtres humains) de tenir compte des régimes particuliers et des allergies de chaque patient.
Les questions éthiques qui se posent sont par exemple les suivantes :
- Jusqu’où viser la profitabilité versus le facteur humain ?
- Comment encadrer le transfert de la responsabilité de l’homme vers la machine (dans le cas du train du futur par exemple) ?
- Comment réagira la voiture autonome pour traiter les dilemmes moraux ?
Ces questions impliquent de revisiter droit de la responsabilité civile, celui du droit des assurances et même celui du droit du travail.
Dans le rapport Delvaux contenant des recommandations à la Commission concernant des règles de droit civil sur la robotique (2015/2103(INL)), l’on peut lire que le Parlement Européen estime
- « qu’il est nécessaire de mettre au point un cadre éthique pour la conception, la fabrication et l’utilisation des robots […] et propose un tel cadre, sous forme de charte établissant un code de conduite pour les ingénieurs en robotique, une déontologie pour les comités d’éthique de la recherche lorsqu’ils examinent les protocoles de robotique, et un ensemble de licences-type pour les concepteurs et les utilisateurs. » (Page 8).
- que « L’Union européenne pourrait jouer un rôle essentiel dans la définition de principes éthiques fondamentaux à respecter lors de la conception, la programmation et l’utilisation de robots et d’intelligences artificielles et lors de l’intégration de ces principes dans les règlements et codes de conduite de l’Union, dans le but de façonner la révolution technologique pour qu’elle soit au service de l’humanité et afin que le plus grand nombre tire parti de la robotique et de l’intelligence artificielle de pointe, tout en évitant, autant que faire se peut, les écueils potentiels. » (Page 5).
L’exemple des implants
Avec l’implant et les puces électroniques dont il est question dans cet article « Une société belge équipe certains employés de puces électroniques« , l’on touche à l’intégrité de l’être humain.
En France, l’implant est considéré comme un système invasif qui touche à l’intégrité physique des employés. Le comité d’éthique de la CNIL estime que l’implant est un dispositif non seulement excessif (puisque d’autres alternatives plus proportionnées existent), mais également un élément privatif de liberté (tout comme l’est le bracelet électronique).
3) Responsabilité individuelle :
Nous avons tous une responsabilité personnelle dans la façon de consommer et de partager l’information, notamment des « fake news » par exemple.
La position de la loi et celle de la CNIL consiste à donner le maximum de responsabilités à l’internaute. (Cf. Loi de 1981 a pour principe l’application de la liberté d’expression et loi pour la confiance dans l’économie numérique de 2004).
L’internaute a plusieurs casquettes : celui qui produit et celui qui consomme et relaie les informations. Certains n’ont pas forcément conscience qu’il faut mesurer l’impact possible de leur action avant d’agir sur Internet. Dans de nombreuses affaires, les retweets ont amplifié les préjudices.
Est-il éthique de relayer des nouvelles immondes, que l’on vérifie d’ailleurs ou non préalablement ses sources ?
Le pouvoir du contrôle social et de l’auto-régulation :
Dans l’histoire d’Oscar le petit chat, la toile a prouvé qu’elle pouvait exploiter ses émotions pour appréhender une situation amorale et exercer ses droits civiques (lire Rattrapé par les internautes – Le tortionnaire d’Oscar, le chat martyr, jugé lundi).
Pour conclure sur une réflexion :
L’addition de comportements individuels éthiques pourrait permettre de construire un monde numérique meilleur.
Certains considèrent que les réseaux sociaux représentent un 5ème pouvoir qui viendrait se substituer au 4ème qu’est celui du journalisme… Affaire à suivre
A propos du CHECy :
Le Centre des Hautes Etudes du Cyberespace (CHECy) est né du constat d’un déficit de compréhension, par les cadres dirigeants des secteurs publics et privés, des enjeux numériques et des risques associés. Le CHECy est une association Loi 1901, à but non lucratif, et dont le financement est essentiellement assuré par les cotisations de ses membres et par la contribution aux frais de formation versée par les organismes publics et privés qui lui adressent des auditeurs. Le CHECy peut également recevoir des subventions et des dons.
- Découvrez le programme des sessions découvertes et inscription ici (sessions ouvertes chaque vendredi du mois de mars).
- Pour devenir auditeur du CHECy pour la session 2017/2018, déposez votre candidature par ce lien.
———————————
Ressource connexe :
Mutations sociales et technologiques : impacts des écrans sur les cerveaux et intensification de la robotisation dans un contexte de transformation profonde du travail.
