À l'aimable invitation de Thomas alias @valerossi, je devais intervenir hier avec Mélodie à la journée des doctorants en informatique du Labri pour une table-ronde consacrée à l'éthique, la déontologie et la morale dans la recherche. Une laryngite et une nuit blanche m'ayant joué un sale tour, j'ai malheureusement dû déclarer forfait. Voici la substance de mon intervention, avec quelques tuyaux fournis par les informaticiens David Monniaux et Nicolas Holzschuch que je remercie. Je vous invite également à lire l'autre intervention de Mélodie.

Une mauvaise habitude : créer des comités d'éthique

En général quand on parle d'éthique, c'est en l'accolant au terme "comité" : l'éthique, c'est ce dont s'occupe un comité d'éthique. Et comme il fait ça très bien, on est bien content de pouvoir se reposer sur lui. C'est une tradition américaine, qui fait florès à Bruxelles (Commission européenne) et en France.

Dernier avatar de cette manie : fin 2009, deux rapports du comité d'éthique du CNRS et d'une commission de l'Inria recommandaient la création d'un comité d'éthique sur la recherche dans les sciences et technologies du numérique, de composition pluridisciplinaire.

Dans le même ordre d'idée, le Ministère de l'enseignement supérieur et de la recherche en 2008 a confié au "chargé des relations science-société" du CNRS une mission sur l'intégrité scientifique. Pourquoi est-ce choquant ? Parce qu'associer l'intégrité scientifique, qui concerne chaque chercheur dans son travail le plus fondamental, à l'interface science-société conduit à penser que c'est la société "impure" qui salit les pratiques sinon irréprochables des chercheurs.

Pourquoi c'est dangereux ?

Revenons quelques instants sur le plus connu des comités d'éthique, le Comité consultatif national d'éthique pour les sciences de la vie et de la santé (CCNE), est aussi l'un des tout premiers et date de février 1983. Il s'est imposé comme lieu de la réflexion nécessaire sur les progrès scientifiques en biologie. Cette réflexion se traduisait d'abord par des avis ("voici ce que nous pensons"), puis après 1994 par des recommandations ("voici ce qu'il conviendrait de faire"), conduisant tout droit à des décisions du parlement. Dépourvus de toute légitimité démocratique, les comités d'éthique ont ainsi tendance à supplanter le législateur.

Au niveau communautaire, la Commission a mis en place son premier organe consultatif d'éthique en 1991, pour rassurer les investisseurs en biotech et garder le contrôle du débat.

Pour ces raisons et d'autres, l'éthique ne doit pas être confisquée par quelques "sages" situés au-dessus de la mêlée.

L'éthique, affaire de tous

Pour reprendre ce que disait Lucas Bento [doctorant en droit et intervenant à la table-ronde], la liberté et à l’indépendance du chercheur qui sont autant mis en avant doivent avoir quelques contreparties. Il me semble que le sens de responsabilité en fait partie. Non pas pour "arrêter tout" (quoique…) mais pour prendre de la distance, recentrer les questions ou corriger les réponses.

L'histoire des sciences nous offre quelques exemples parlants :

  • dans les années 1950, les biologistes William Russell et Rex Burch formulent la règle des "3R" pour humaniser l'expérimentation animale : replace - reduce - refine
  • dans les années 1950, Norbert Wiener pressent l’importance des bouleversements sociaux induits par les développements de l’automatique théorique et de ses applications. Il pose alors les fondements de ce qu’il appelle la cybernétique du second ordre, qui étudie la dynamique de systèmes constitués eux-mêmes de systèmes cybernétiques, comme l’est la société.
  • en 1975, Paul Berg (futur prix Nobel) prend soudain conscience des risques du génie génétique et propose par une lettre à ses collègues biologistes de stopper les recherches. Quelques mois plus tard, il organise la conférence d'Asilomar pour réfléchir collectivement à une mitigation des risques, ce qui permit de lever le moratoire. (Au passage, le fait que de nombreux pionniers de la biologie moléculaire étaient d'anciens physiciens ayant participé au projet Manhattan, n'a pas été étranger à cette décision)

Dans son plan stratégique 2008-2012, l'Inria s'était donné pour objectif d'analyser le besoin et de trouver des solutions pour accompagner ses chercheurs confrontés à des questions éthiques. Puis en 2010, il a reconnu que toutes ses équipes de recherche peuvent "être confrontées à des questions éthiques" (source).

L'éthique en pratique dans les sciences et technologies du numérique

Voici les enjeux les plus sensibles en termes d'éthique selon le rapport du Comité d'éthique du CNRS :

  • protection de la vie privée (intrusion, traçabilité, cryptage et confidentialité, conservation des données, gestion des informations personnelles)
  • impact sur l'homme (nouvelles médecines, homme augmenté, manipulations mentales, addictions, saturation cognitive et nouveaux modes de pensée, informatique émotionnelle)
  • droits des robots (le robot comme une personne)
  • risques sanitaires (antennes relais), technologiques (défaillance des appareils) ou environnementaux (déchets électroniques)
  • formation et travail (accès au savoir, télétravail, harcèlement numérique…)
  • échanges économiques (droits de propriété, monnaies et modèles économiques, pratiques commerciales)
  • vie collective (fonctionnement démocratique et e-gouvernement, souveraineté et cyberterrorisme, communautés, gouvernance des réseaux, confiance et défiance)
  • information et connaissances (qualité des informations, mise à disposition d'informations, gestion de la connaissance)

Un comité d'éthique 2.0

Le comité d'éthique que j'appelle de mes vœux c'est celui qui ne se substitue pas à la parole des chercheurs mais qui les sensibilise et forme les chercheurs aux enjeux éthiques, qui soutien des projets de recherche ELSA ("Ethical, legal and social aspects")…

Pour conclure, j'aimerais vous lire un extrait de l'ouvrage collectif Les scientifiques jouent-ils aux dés ?, auquel j'ai participé : "la conscience éthique, tout comme la prise en compte des contraintes externes dans la détermination des champs de recherche, montre simplement que la science ne constitue pas une activité déconnectée du tissu économique et social de son époque. Le mythe du savant enfermé dans sa tour d'ivoire est définitivement révolu".

Je compte sur vous pour le démontrer au quotidien !

Ressources pour exercer sa vigilance