La poste du matin de la Chine du Sud (s’ouvre dans un nouvel onglet) rapporte que la police chinoise a arrêté un homme qui aurait utilisé ChatGPT pour créer une fausse nouvelle et la diffuser en ligne. Il s’agit peut-être du premier cas où une personne est détenue pour son utilisation de l’IA, mais ce ne sera certainement pas la dernière.
L’homme a été détenu dans la province du nord-ouest du Gansu et a été identifié par la police en utilisant uniquement son nom de famille, Hong. Dans un communiqué, la force a déclaré qu’il avait été détenu pour “avoir utilisé la technologie de l’intelligence artificielle pour concocter des informations fausses et fausses”.
L’article en question est paru le 25 avril et prétend à tort qu’il y a eu un accident de train local dans lequel neuf personnes ont été tuées. Les responsables de la cybersécurité ont découvert que l’article avait été publié simultanément sur plus de 20 comptes sur Baijiahao, une plateforme de microblogging gérée par le géant chinois des moteurs de recherche Baidu, et avait été lu par au moins 15 000 personnes.
Il s’agit de la première arrestation depuis que la Chine a introduit de nouvelles lois pour réglementer l’utilisation de l’IA et de la technologie “deepfake” en janvier. Les dispositions administratives sur la synthèse approfondie pour les services d’information sur Internet ciblent toutes les technologies qui génèrent du texte, des images, de l’audio ou de la vidéo, et mentionnent explicitement les modèles d’apprentissage en profondeur. Il n’interdit pas la création d’objets utilisant ces technologies, mais les oblige à être “clairement étiquetés” comme tels.
La police a retracé l’article jusqu’à une entreprise appartenant au suspect, et 10 jours après son apparition, la police a arrêté Hong, a pris son ordinateur et a fouillé sa maison. Le communiqué de la police indique que Hong a avoué avoir utilisé des éléments d’histoires à la mode passées en Chine pour entrer dans ChatGPT, produisant rapidement différentes versions de l’histoire, avant qu’elles ne soient téléchargées sur les comptes Baijiahao. Hong a affirmé qu’il l’avait fait après que des amis sur WeChat lui aient dit comment gagner de l’argent grâce aux clics.
Selon la police, le crime de Hong est de “se disputer et de provoquer des troubles”, ce qui est passible d’une peine maximale de cinq ans. Cependant, les autorités peuvent choisir de faire un exemple et, étant donné qu’il s’agit d’une première, Hong pourrait bien être dans l’eau très chaude.
Tout cela fait partie d’une répression technologique plus large et continue de Pékin, alors que le Parti communiste chinois autoritaire cherche à exercer son contrôle sur les technologies émergentes et sur la façon dont la population chinoise les utilise. La police chinoise a publié une déclaration en février avertissant le public de se méfier des rumeurs créées par ChatGPT.
Cette préoccupation particulière, bien sûr, s’étend bien au-delà de la Chine : le PCC n’est que l’un des premiers gouvernements nationaux à s’y attaquer explicitement. Les gouvernements britannique et américain se réveillent tardivement (s’ouvre dans un nouvel onglet) à certains des problèmes potentiels de l’IA, et récemment le “parrain de l’apprentissage en profondeur” Geoffrey Hinton a quitté son poste chez Google avec des avertissements plutôt terribles (s’ouvre dans un nouvel onglet) sur la façon dont nous contrôlons cette technologie (ou échouons à le faire). Les gens utilisant ce genre de choses pour générer de fausses nouvelles étaient toujours terriblement prévisibles mais, malheureusement, nous ne faisons que commencer.