Responsabilité en matière d’intelligence artificielle

Nous vous proposons un bref commentaire du rapport du groupe d’experts près la Commission européenne Liability for artificial Intelligence and other emeginig digital technologies»(1) publié le 19/02/2020 dans le contexte suivant.

(1)En français : « responsabilité en matière d’intelligence artificielle et d’autres technologies numériques émergentes ».

  La réglementation concernant l’usage des nouvelles technologies et de l’intelligence artificielle est à venir en tant que réglementation spécifique et dédiée.

Pour l’instant c’est de manière « éparse » que se construisent les règles applicables à cet « écosystème » et toute codification ne peut s’envisager d’ailleurs qu’au niveau européen.

Dans cet esprit, la Commission Européenne a mis en place en mars 2018 un groupe d’experts avec une mission répartie sur 2 axes sur « la responsabilité » et les « nouvelles technologies ».

Les experts ont donc travaillé dans 2 formations différentes :

• La formation sur la directive relative à la responsabilité du fait des produits,

Et

• La formation sur les nouvelles technologies (NTF),

La formation (NTF) a réfléchi à l’évaluation des problématiques tenant à vérifier :

 Si et dans quelle mesure les régimes de responsabilité existants dans l’union européenne étaient adaptés aux réalités du marché émergeant issues du développement des nouvelles Technologies émergentes (Technologies numériques 2) issues de :

• L’Internet des objets et des services (Iot et IoS),
• L’IA (intelligence artificielle),
• Technologies de registres distribués (DLT) pour l’utilisation des blockchains,
• Sans oublier les questions de cybersécurité.

Tout le travail des experts a été de réfléchir à proposer toute solution pour d’abord vérifier si les régimes de responsabilité actuels étaient toujours adéquats pour faciliter l’utilisation des technologies numériques émergentes :

• Afin de favoriser la stabilité des investissements et la confiance des utilisateurs,
• Avec pour les utilisateurs l’organisation d’un système de protection efficace pour faire valoir leurs droits en justice en cas de responsabilité, conjuguée à la possibilité d’obtenir une juste indemnisation dans un système procédural adapté permettant aux utilisateurs des technologies de faire la preuve des non-conformités et/ou défaillance dans l’usage des technologies numériques de manière proportionnée et adaptée.

Le groupement de travail (GTN) a pu présenter ses conclusions focalisées sur 10 recommandations afin d’adapter les régimes légaux de responsabilité en garantissant la sécurité juridique et économique maximale pour les investisseurs au sens large de l’écosystème de l’IA et des Technologies numériques émergentes soit : (Les 10 points ci-dessous constituent une courte citation du rapport précité en pages 3 à 4)

• Une personne exploitant une technologie autorisée qui comporte néanmoins un risque accru de préjudice pour autrui, par exemple des robots pilotés par l’IA dans des espaces publics, devrait être soumise à une responsabilité stricte pour les dommages résultant de son exploitation.
• Dans les situations où un prestataire de services assurant le cadre technique nécessaire exerce un degré de contrôle plus élevé que le propriétaire ou l’utilisateur d’un produit ou d’un service réel équipé d’une IA, il convient d’en tenir compte pour déterminer qui exploite principalement la technologie.
• Une personne utilisant une technologie qui ne présente pas de risque accru de préjudice pour autrui devrait néanmoins être tenue de respecter les obligations de : sélectionner, d’utiliser, de surveiller et d’entretenir correctement la technologie utilisée et à défaut devrait être responsable de tout manquement à ces obligations en cas de faute.
• Une personne utilisant une technologie qui dispose d’un certain degré d’autonomie ne devrait pas être moins responsable des dommages qui en découlent que si ces dommages avaient été causés par un auxiliaire humain.
• Les fabricants de produits ou de contenu numérique intégrant une technologie numérique émergente devraient être responsables des dommages causés par les défauts de leurs produits, même si le défaut a été causé par des modifications apportées au produit sous le contrôle du producteur après sa mise sur le marché
• Pour les situations exposant des tiers à un risque accru de prejudice, l’assurance responsabilité civile obligatoire pourrait donner aux victimes un meilleur accès à l’indemnisation et protéger les acteurs potentiels contre le risque de responsabilité.
• Lorsqu’une technologie particulière accroît les difficultés de prouver l’existence d’un élément de responsabilité au-delà de ce que l’on peut raisonnablement attendre, les victimes devraient avoir droit à une facilitation de la preuve.
• Les technologies numériques émergentes devraient être dotées de fonctions d’enregistrement, lorsque les circonstances s’y prêtent, et absence d’enregistrement ou d’accès raisonnable aux données enregistrées devrait entraîner un renversement de la charge de la preuve afin de ne pas porter préjudice à la victime.
• La destruction des données de la victime doit être considérée comme un dommage indemnisable dans des conditions particulières.
• Il n’est pas nécessaire de conférer une personnalité juridique aux dispositifs ou aux systèmes autonomes, car le préjudice qu’ils peuvent causer peut et doit être imputable à des personnes ou à des organismes existants.

Il ne s’agit ici pour l’instant que de recommandations par ailleurs limitées aux questions de responsabilité extra contractuelle pour fixer et/ou adapter les futurs régimes légaux.

 Par contre le déploiement des technologies émergentes est actuellement en plein essor, et le droit applicable aux projets utilisant l’intelligence artificielle couplée à ces “Technologies 2” est pour beaucoup issu du respect de “normes” et/ou “référentiels métiers” couplés aux clauses contractuelles négociées au cas par cas.

Tout acteur de l’écosystème des “Technologies numériques émergentes” actuellement impliqué dans la mise en œuvre de projets utilisant ces technologies pourra avec intérêt profiter de la lecture du rapport précité ,pour l’instant publié en anglais, pour anticiper les nouvelles réglementations à venir, et envisager l’adaptation de ses contrats et pratiques, d’autant que les propositions des experts sont le fruit de l’étude des pratiques et usage  de l’écosystème actuel.

On reviendra donc par d’autres articles plus en détail sur le commentaire de ce rapport fort de 65 pages, mais il apparaît important d’anticiper que se dessine à terme:

• La necessaire distinction entre « l’opérateur » et « le producteur » de la technologie numérique avec pour chacun un régime de responsabilité different. (Recommandations ci dessus 2,3,4,5)
• Et s’esquisse un concept nouveau de « Responsabilité stricte », qui dans l’écosystème de ces technologies numériques émergentes devrait incomber à celui (opérateur et/ou producteur) qui a le plus de contrôle sur les risques de operation.

Ne serait ce donc pas une “invitation” à renouveller d’ores et déjà ses reflexes et “pratiques contractuelles” car s’ouvre définitivement l’ère de la « Documentation interne » par l’organisation de la « traçabilité » des moyens d’enregistrement des informations sur le fonctionnement de la technologie, que le rapport vise sous le vocable  « d’exploitation forestière à des fins spécifiques », dont devront être équipées toutes les technologies numériques dans un futur proche.

 L’absence “d’informations enregistrées” ou le fait de ne pas donner à la victime un accès raisonnable à ces “informations” devrait déclencher une “présomption réfutable” que la condition de responsabilité découle des informations manquantes.

Ainsi le « producteur” et/ou « opérateur” qui ne pourra pas justifier du comportement de la technologie pourra voir sa responsabilité engagée “a priori”.

A ce titre pour un exemple non exhaustif de la distinction qu’apportera la nouvelle réglementation à ces différents “opérateurs “de l’écosystème de l’utilisation des technologies émergentes on relève que:

        Les experts préconisent que lorsqu’un dommage est causé par une technologie autonome utilisée d’une manière fonctionnellement équivalente à l’emploi d’auxiliaire humain:

 La responsabilité de l’exploitant pour l’utilisation de la technologie devrait correspondre au régime de la responsabilité du fait d’autrui qui existe par ailleurs pour un commettant pour ses auxiliaires.

En attendant que le législateur européen légifère par une proposition de « Directive » ou « Règlement », même  pour les “projets actuels” en cours  le rapport des experts du 19/02/20 constitue un document de travail très intéressant et utile pour « auditer » les contrats en cours  afin d’en verifier le contenu au regard des principes actuels de « l’Ethique by design », mais surtout pour anticiper l’avenir et le cas échéant envisager des négociations adaptation .

Les rédacteurs des contrats actuels pour les “projets utilisant l’intelligence artificielle et les technologies numériques émergentes” connaissent d’ailleurs déjà tout les enjeux et  intérêts de savoir qualifier “l’opérateur” et le “producteur” de la technologie, ainsi que l’ importance de savoir « documenter » la traçabilité des fonctionnements des technologiesnotamment quand elles sont couplées à des traitements de données, RGPD oblige, et ou l’on rappellera que notamment:

Pour la technologie qui fonctionne avec l’intelligence artificielle et un traitement automatisé prédictif celui-ci doit entre autres respecter la réglementation “Informatique et libertés” (Loi Lil) en plus du RGPD, et le rapport rendu ces jours derniers préconise d’ores et déjà, l’etendue des bonne pratiques à avoir sous un angle visant à déterminer les éventuelles responsabilités dans l’utilisation de la technologie:

 mais la méthode proposée par les experts peut tout à fait compléter déjà les démarches en cours notamment en matière de fonctionnement de l’intelligence artificielle pour documenter « l’explicabilité de la technologie au sens large ».

Nous reviendrons vers vous régulièrement pour d’autres commentaires plus complets sur ce rapport notamment pour nous familiariser sur ces notions émergentes de:

• Exploitation forestière à des fins spécifiques,
• Unités commerciales et technologiques,
• ;

Rédigé à Marseille le :07 Mars 2020

Véronique RONDEAU Abouly

Avocat au barreau de Marseille et DPO externe.

La rédaction de cet article a été conçue et organisée pour vous soumettre des informations utiles, des axes de réflexion pour une utilisation personnelle ou à visée professionnelle.

Il est mis à jour régulièrement mais dans un contexte réglementaire et jurisprudentiel évoluant, nous soulignons que nous ne pouvons être responsable de toute péremption du contenu, ou de toute erreur juridique et/ou inexactitude qui pourrait se révéler en fonction de l’évolution,  le lecteur voudra bien considérer qu’en tout état de cause pour une application personnalisée chaque cas est unique et que bien sûr le cabinet reste à votre disposition si vous avez une question précise à poser en lien avec cet article, nous nous ferons un plaisir de collaborer avec vous, n’hésitez pas à prendre contact ou à nous téléphoner.  

Pour illustrer cet article : Image licence de Adobestock : 

• Mots-clefs: Intelligence artificielle- technologies numériques émergentes-producteur et opérateur de technologies- Exploitation forestière à des fins spécifiques, Unités commerciales et technologiques,

Retour