Tué par un robot dans une usine : faut-il avoir peur d’eux ?

Atlantico : Certains par exemple imaginent que l'essor de l'automatisation des tâches constitue une menace pour les ouvriers. Cette crainte est-elle vraiment fondée ?

Michel Volle : Certains reprochent aux robots de "supprimer des emplois", mais serait-il raisonnable de contraindre des êtres humains à accomplir des tâches qu'un automate peut faire ? C'est comme si l'on exigeait de remplacer les grues par des manœuvres qui devraient comme autrefois porter les fardeaux sur leur dos dans les ports et les chantiers.

L'accident survenu chez Volkswagen réveille la "peur des robots" qu'ont inspirée des romans de science-fiction où l'on suppose les robots animés d'intentions hostiles envers les êtres humains. Dans la réalité, un robot n'est qu'un automate qui exécute un programme informatique écrit par des êtres humains puis introduit dans sa mémoire.

Camille Pradel : L'automatisation des tâches constitue bien sûr un risque potentiel pour le travailleur. La question est de s’assurer que les mesures de sécurité et de contrôle sont parfaitement efficaces pour assurer la sécurité des personnes. Depuis plusieurs années, ce sujet fait l’objet d’une analyse scientifique puissante, notamment de l’INRS.Des robots sont parfois déployés pour éviter l’exposition de travailleurs à des risques professionnels, par exemple en présence de matières chimiques dangereuses.

L’accident absolument dramatique que vous évoquez - le décès accidentel d'un salarié d'une usine de Volkswagen - est tout à fait exceptionnel. Le monde industriel a pris depuis longtemps – heureusement - la mesure des dangers que représente pour les travailleurs l’automatisation. Les équipes QHSE mettent en œuvre des procédures extrêmement strictes. En outre, chaque situation anormale fait l’objet d’une analyse.Comme vous le savez, la loi et la jurisprudence font peser sur l’employeur une obligation de sécurité de résultat. A ce titre, l'employeur prend les mesures nécessaires pour assurer la sécurité et protéger la santé physique et mentale des travailleurs.

S’agissant des robots, la règlementation exige que les équipements de travail soient installés, disposés et utilisés de manière à réduire les risques pour les utilisateurs de ces équipements. La loi dispose que les machines mises en service dans les établissements destinés à recevoir des travailleurs sont équipées, installées, utilisées, réglées et maintenues de manière à préserver la santé et la sécurité des travailleurs, y compris en cas de modification de ces équipements de travail.

L’ensemble des règles que nous décrivons est contrôlé par la puissance publique, via l’Inspection du Travail et la CARSAT. La puissance publique est intransigeante à juste titre sur les règles. Les industriels agissent en coopération. Les ingénieurs CARSAT disposent d’une technicité opérationnelle et sont présents aux réunions du comité d'hygiène, de sécurité et des conditions de travail (CHSCT), qui se tiennent au moins tous les trimestres.

Le code du travail prévoit que l'employeur doit informer les travailleurs chargés de l'utilisation de machines comme des robots, de leurs conditions d'utilisation, des instructions ou consignes les concernant et de la conduite à tenir face aux situations anormales prévisibles. En outre, la représentation du personnel s’assure du respect des règles et normes. Le code du travail dispose expressément que le CHSCT est consulté lors de l'introduction de nouvelles technologies sur les conséquences de cette introduction sur la santé et la sécurité des travailleurs. (L’employeur doit réunir son CHSCT et lui soumettre son projet détaillé).

N'est-il pas étonnant de faire porter la responsabilisation de ces accidents à des machines qui par définition répondent à des critères définis par l'homme ?

Michel Volle : L'ouvrier qui a eu cet accident se trouvait dans la cage grillagée qui entoure le robot pour tenir les êtres humains à l'écart de ses mouvements. Il était en train de réaliser une opération de maintenance.

Je suppose qu'il a fait une fausse manœuvre et qu'elle a déclenché un mouvement brusque du robot : cet ouvrier serait ainsi le responsable immédiat de l'accident. Mais s'il a commis une fausse manœuvre, c'est qu'il a été mal formé ou mal encadré. La justice va donc sans doute rechercher les responsabilités dans son encadrement et dans l'organisation de l'entreprise.

Camille Pradel : In fine, bien entendu, seuls des hommes ou des organisations humaines peuvent éventuellement répondre d’un drame comme celui que vous évoquez. Un robot n’est pas un sujet de droit.

Au-delà de cette question qui ne soulève pas de difficulté, s’agissant de la responsabilité civile de l’employeur, la chambre sociale de la Cour de Cassation a posé dans un arrêt du 3 juin 1991 le principe que l’employeur ne peut s'affranchir de son obligation de sécurité. Autrement dit, l’employeur répond seul devant un tribunal des dommages subis par ses collaborateurs. Les industriels ont bien compris la règle et ont massivement investi dans la sécurité des équipes, pour des questions éthiques et juridiques.

Pour autant, comment l'innovation des robots pourrait-elle amener à "responsabiliser" les robots sur le plan juridique ? L'intelligence artificielle, largement utilisée par ailleurs a-t-elle une place à prendre dans les usines ?

Michel Volle : Faire porter une responsabilité quelconque à un robot, ce serait lui attribuer une intention alors qu'il ne peut pas en avoir : il n'est qu'un automate et il exécute le programme écrit par un être humain. La responsabilité doit donc être portée par ce dernier et par les personnes qui, comme c'est le cas dans cet accident, interviennent sur le robot en cours de fonctionnement.

L'expression "intelligence artificielle" est fallacieuse. Elle donne à croire que des robots peuvent être dotés d'une intelligence semblable à celle d'un être humain et donc d'intentions dont ils seraient responsables. On est, là encore, dans le domaine de la science-fiction et non dans la réalité, qui est d'ailleurs beaucoup plus intéressante et plus complexe qu'un roman.

Elle nous confronte en effet aux phénomènes que fait émerger le couple que forment l'être humain et l'automate programmable, couple aussi nouveau que ne le fut en son temps le bronze, alliage du cuivre et de l'étain. La réflexion sur les possibilités et les risques que fait naître ce couple est beaucoup plus subtile que celle qui, confondant ses deux composantes, postule chez l'automate la même intelligence que chez l'être humain.

Camille Pradel : Deux secteurs ont particulièrement recours aux robots : l’industrie et la logistique. Rappelons une évidence, les robots ne sont en aucun des collaborateurs : ce sont des machines. La présence d’un robot constitue d’abord un risque mécanique pour le travailleur. Ce risque doit être totalement maîtrisé et les responsables QHSE sont intraitables sur ces questions.De même l’analyse des risques portant sur le troubles musculo squelettiques (gestes répétitifs induits, ports de charges) est nécessairement abordée par les employeurs et la représentation du personnel (CHSCT).

Doit aussi à mon sens être envisagée une question plus délicate à définir, celle des risques psychosociaux liés à la charge mentale du travail du collaborateur, et à la valorisation sociale du travail. Encore une fois l'introduction de nouvelles technologies dans un site est soumise au préalable au CHSCT, c’est-à-dire à la représentation du personnel, qui se prononce sur les conséquences de cette introduction sur la santé et la sécurité des travailleurs. En outre, le CHSCT peut faire appel à un expert agréé en cas de projet modifiant les conditions de travail des équipes – comme l’introduction de robots (collaboratifs, humanoïdes etc.) pour le processus de production. Cet expert aide le CHSCT à mesurer les risques pour les travailleurs d’un tel recours à des machines.

Lors du déploiement de telles technologies, la priorité reste toujours le respect des collaborateurs et bien sûr de leur santé et les industriels ne lésinent pas sur les budgets.

De quelles natures ces accident impliquant des robots sont-elles dans la réalité ?

Michel Volle : Les mouvements d'un robot en action sont éventuellement brusques et ses bras sont de lourdes pièces de métal. Il faut donc se tenir à distance d'un robot qui travaille : c'est pour cela qu'ils sont entourés d'une cage. Les accidents qui impliquent un robot peuvent être causés par (1) un défaut dans son programme, (2) le non-respect de la distance de sécurité, (3) une erreur humaine lors d'une opération réalisée à proximité du robot, comme cela semble s'être produit chez Volkswagen.

Certaines armées envisagent de construire des robots tueurs, dotés de capteurs qui permettent à leur programme d'identifier l'ennemi. Dans ce cas la mort qu'inflige le robot n'est pas un accident : elle résulte de l'exécution de son programme. Cette arme pose un problème éthique semblable à ceux qu'ont posés en leur temps l'arbalète, l'artillerie, les gaz de combat, etc.

Certains robots sont dotés de capteurs qui leur permettent de détecter la présence d'un être humain et d'éviter les mouvements qui pourraient le blesser : on peut les faire travailler à côté des ouvriers sans protection spéciale. On devine cependant la complexité du programme qui est nécessaire pour permettre cela.

Camille Pradel : Ces accidents sont extrêmement rares.

Ces accidents sont extrêmement rares.