Skyrim – Ravages du deepfake et indifférence de Nexus

Le deepfake pornographique dans Skyrim rappelle la difficulté à lutter contre cette pratique dangereuse

C’est l’histoire d’un personnage outrageusement moddé qui rentre dans une auberge de Bordeciel et échange des banalités avec une PNJ jusqu’à ce que des dialogues n’existant pas dans le jeu de base, et connotés sexuellement, apparaissent et soient choisis par le joueur. L’histoire est déjà vue, vieille comme les communautés de modding, et elle pourrait simplement s’arrêter là. Sauf que le PNJ se met à prononcer ces lignes qui ne font pas partie du jeu, et, étrangement, la voix paraît même familière. Comme si c’était l’une des doubleuses des PNJ de Skyrim qui les prononçait sur le même ton que ses véritables lignes de script.

Nul n’ignore les progrès des IA ces dernières années, qu’il s’agisse de produire des visuels, de la musique, du code ou même de cloner une voix bien réelle. L’innovation engendre l’innovation, et les opportunités créent des opportunistes. C’est donc dans une bien curieuse situation que se retrouvent nombre d’acteurs ayant prêté leurs voix à des personnages de Skyrim : des imitations de leurs voix au sein de mods pornographiques, générées par l’intelligence artificielle, tellement proches de leurs performances originales au point que la distinction en devient difficilement possible.

C’est la problématique ô combien délicate, dangereuse et redoutable du « deepfake », nous portant aux confins de l’absence d’éthique, d’actes de malveillance sophistiqués et vers les frontières floues de la légalité.

Un post viral sur Twitter alerte les anciens doubleurs de **Skyrim** de l’imitation artificielle de leur voix au sein de mods pornographiques.

Si la mésaventure de ces doubleurs peut prêter à sourire, il s’agit ni plus ni moins que d’une pratique empiétant sur l’usurpation d’identité, le droit à la propriété intellectuelle vis-à-vis d’une performance, les droits individuels quant au consentement et un embarras incommensurable pour la victime, sa réputation et potentiellement sa vie privée. Cependant, les cadres législatifs actuels ne prennent que trop lentement la mesure de la dangerosité de ces outils et des dégâts qu’ils peuvent causer.

L’intelligence artificielle n’est pas la bienvenue sur Steam ?

Aux États-Unis, par exemple, il n’y a pas de législation au niveau fédéral combattant la production et l’usage de deepfakes, seulement des initiatives esseulées, et ciblées, de quelques États ainsi que des projets de loi érigeant la problématique comme un axe de recherche pour déterminer quelles sont les technologies utilisées et quels moyens pourraient avoir les législateurs contre les puissances étrangères produisant et diffusant des deepfakes à des fins de désinformation (on se souvient, par exemple, des deepfakes viraux de Donald Trump se faisant arrêter).

En France, un projet de loi sur la sécurisation et régularisation de l’espace numérique pourrait punir de 2 ans d’emprisonnement et de 45 000 euros d’amende quiconque reproduirait artificiellement l’image ou la voix de quelqu’un sans son consentement.

Si certains visuels sont assez facilement reconnaissables comme étant des fakes, c’est une technologie en constante amélioration.

Les deepfake à des fins de désinformation posent des problèmes de sécurité nationale.

De fait, pour revenir à Tamriel, les recours légaux étant encore limités ou délicatement applicables envers des moddeurs anonymes, c’est la bien connue plateforme Nexus qui est invitée à faire le ménage dans ses mods érotiques et, idéalement, bannir les créateurs de mods ayant recours au deepfake.

Les propriétaires du site se sont fendus d’une laconique mise au point en avril, dans laquelle, bien qu’ils constatent les usages pernicieux de l’intelligence artificielle dans la production de mods, ils sont également enchantés par les possibilités offertes par ces outils et ne comptent pas changer leurs règles d’admission de mods, préférant attendre d’éventuelles plaintes de la part d’un artiste qui pourrait trouver totalement par hasard une imitation de sa performance parmi les millions de mods disponibles sur le site.

Nexus n’étant pas contraint par la loi, pour l’instant, d’accéder à ces requêtes, The National Association of Voice Actors espère donc que le site sera poussé à réagir par des signalements massifs, voire par l’intervention de Bethesda Studios, détenteur des droits sur Skyrim. Il est important de garder à l’esprit que ces outils de création aidée par l’intelligence artificielle sont en constante amélioration et qu’il sera sans doute de plus en plus difficile de repérer les fakes à l’avenir, fussent-ils des reproductions de voix ou de photographies.