La difficulté de distinguer est comparable à celle du « vrai et du faux Monkey King » et à celle du « changement de visage de l'IA + onomatopée de l'IA » difficile à empêcher.

La difficulté de distinguer est comparable au "vrai et faux Roi Singe" et à l'imprévisible "AI à changement de visage + onomatopée IA"

Image créative qui change le visage de l'IA selon CFP

Captures d'écran de nombreuses chansons interprétées par "AI Stefanie Sun" sur Internet

Changez votre apparence en une seconde - Sous la vague de l'IA, le « changement de visage » a également commencé à se concrétiser par des itérations technologiques. De nos jours, dans les salles de diffusion en direct et les courtes vidéos, les présentateurs ressemblent parfois à Dilmurat Dilraba, parfois à Yi Yang Qianxi. Les noms de célébrités que vous pouvez nommer, quels que soient les hommes, les femmes, les vieux ou les jeunes, les présentateurs qui agissent comme des stars à amener. les marchandises peuvent toutes être couvertes par leurs mains. Le visage derrière est mis en œuvre derrière l'écran.

Vidéo Le changement de visage par l'IA fait référence à l'utilisation de la technologie Big Data de l'intelligence artificielle pour remplacer le visage d'un personnage dans la vidéo par le visage d'une autre personne grâce à des moyens techniques basés sur les besoins de l'utilisateur. Actuellement, la technologie révolutionnaire de l'IA est largement utilisée dans de courtes vidéos, des publicités, des films et d'autres domaines, apportant de nombreux effets créatifs.

Cependant, cette technologie a également été utilisée par certains criminels pour des activités illégales et criminelles, notamment la fraude qui change le visage de l'IA. Face aux « onomatopées IA qui changent de visage + IA », c'est aussi difficile que de vous demander d'identifier le « vrai et le faux Roi Singe » devant l'écran. Vous ne pouvez pas facilement dire si Sun Dasheng est réel ou faux.

La « fraude à l'IA » est devenue un sujet tendance sur Weibo

Selon le compte public WeChat « Safe Baotou », récemment, le bureau d'enquête sur la cybercriminalité dans les télécommunications du bureau de sécurité publique de la ville de Baotou a annoncé un cas d'utilisation de la technologie intelligente de l'IA pour commettre une fraude dans les télécommunications. Dans les 10 minutes, M. Guo, le. représentant légal d'une entreprise technologique de la ville de Fuzhou, il a été escroqué de 4,3 millions de yuans, puis le sujet #AIFraud is burst# est devenu une recherche brûlante sur Weibo.

Comment l'IA qui change de visage et qui constitue déjà une menace pour les intérêts publics commet-elle des fraudes ?

Plus précisément, les criminels utiliseront la technologie de changement de visage de l'IA pour créer de fausses vidéos ou images afin de commettre des fraudes. Par exemple, en remplaçant le visage d'un certain personnage ou d'une célébrité dans une vidéo pornographique pour créer un faux événement, ou en remplaçant le visage de la victime dans certaines vidéos indécentes ou illégales à des fins d'extorsion. Ces activités frauduleuses violent non seulement la vie privée et les droits légaux des victimes, mais peuvent également causer d'énormes dommages mentaux et des pertes matérielles aux victimes.

En fait, la fraude à l'IA s'est déjà produite à plusieurs reprises dans notre pays. Selon des rapports d'enquête précédents du West China Metropolis Daily et des journalistes de couverture, le bureau de la sécurité publique de Wenzhou, dans la province du Zhejiang, a annoncé qu'en 2021, le poste de police de Gongchenqiao avait reçu un appel. La victime, Xiao Chen, a déclaré avoir été victime de chantage de la part de la femme. internaute après un chat vidéo. Selon l'enquête policière, l'autre partie a utilisé la technologie de changement de visage de l'intelligence artificielle pour synthétiser le visage de Xiao Chen dans une vidéo indécente, puis a utilisé cette vidéo pour le faire chanter.

En 2020, un dirigeant d'une entreprise de Shanghai a été escroqué de 1,5 million de yuans parce que l'autre partie a utilisé une technologie vocale de changement de visage et générée artificiellement pour faire le visage du chef de l'entreprise et a demandé au dirigeant de transférer de l'argent.

«Lorsque les utilisateurs utilisent la technologie de changement de visage de l'IA pour se déguiser, provoquant la violation des droits de portrait et d'autres droits de la personne déguisée, ou causant de nombreux dommages aux sentiments et aux biens d'autrui, la plate-forme ne parvient pas à remplir ses obligations de contrôle raisonnables et ne parvient pas à réglementer efficacement. Lorsque ce type de comportement se produit, vous devez assumer une certaine responsabilité légale pour avoir aidé à une contrefaçon ou même à une contrefaçon directe. " Liu Qing, avocat du cabinet d'avocats Tahota, a déclaré aux journalistes qu'à moins que la plateforme ne le fasse intentionnellement ou aide le fraudeur à commettre une fraude, il est difficile d'identifier la plateforme constitue le délit de fraude.

« Lorsqu'ils utilisent des logiciels ou des produits Internet impliquant la technologie de l'IA, d'une part, les utilisateurs doivent veiller à ne pas utiliser la technologie de l'IA de manière malveillante pour commettre des actes illégaux. D'autre part, ils doivent également veiller à identifier et à vérifier les informations. véritable identité de la partie communicante et ne vous fiez pas aux apparences. , réfléchissez bien lorsque vous devez transférer de l'argent ou effectuer des achats. " Liu Qing a souligné que si les gens sont confrontés à une fraude, ils devraient appeler la police et demander de l'aide à la police dès que possible. autant que possible, et veillez à conserver les documents pertinents afin que la police puisse saisir l'affaire le plus rapidement possible et punir sévèrement les criminels. « De plus, une fois que vous constatez que votre image a été volée ou « changée de visage », vous devez conserver les preuves dès que possible pour la protection ultérieure de vos droits ; vous pouvez également déposer une plainte auprès de l'opérateur de la plate-forme réseau et demander que les images contrefaites ou les vidéos doivent être supprimées ; enfin, vous pouvez également intenter une action en justice pour les droits de la personnalité et utiliser des armes juridiques pour protéger vos droits et intérêts légitimes. »

Récemment, l'Internet Society of China a publié une déclaration appelant le grand public à être plus vigilant et à renforcer les mesures préventives contre les nouvelles escroqueries utilisant la technologie de l'intelligence artificielle. À l'ère de l'IA, le texte, le son, les images et les vidéos peuvent tous être profondément synthétisés. Dans des scénarios typiques tels que les transferts, les envois de fonds et les échanges de capitaux, des méthodes de communication supplémentaires telles que le rappel du numéro de téléphone portable de l'autre partie doivent être utilisées pour la vérification. et confirmation. Ne comptez pas uniquement sur un seul canal de communication. Transférez de l’argent directement sans vérification, quelle que soit l’autre partie.

Les célébrités ne peuvent pas échapper à la « magie » de l’IA

Récemment, après que l'IA Stefanie Sun soit devenue populaire sur Internet, la chanteuse Stefanie Sun a publié un article « Mon IA » sur le site Web, répondant pour la première fois à son point de vue sur la technologie de l'IA. Stefanie Sun se décrit comme un public assis dans la meilleure place d'une salle de cinéma, dégustant du pop-corn, face à la puissante technologie de l'IA. "Dans cette mer sans limites de l'existence, tout est possible et tout n'a pas d'importance. Je pense qu'il suffit de penser purement et d'être soi-même

Mais en fait, si la technologie « IA » utilise les informations vocales de célébrités, elle peut violer leurs droits à la vie privée. Selon l'article 1034 du Code civil de mon pays, les informations personnelles des personnes physiques sont protégées par la loi. Les informations personnelles sont une variété d'informations enregistrées électroniquement ou autrement qui peuvent identifier une personne physique spécifique, seules ou en combinaison avec d'autres informations. Si la technologie de « changement de visage par l'IA » ou de « changement de voix par l'IA » est utilisée dans la salle de diffusion en direct d'une célébrité sans son consentement, ses droits à la vie privée peuvent être violés.

Certaines personnes ont publié sur Internet des didacticiels de « diffusion en direct qui changent de visage », affirmant que l'utilisation du logiciel correspondant peut mieux remplacer votre propre visage par celui d'une célébrité lors de la diffusion en direct. À cet égard, Liu Qing a déclaré que selon l'article 1024 du Code civil chinois, aucune organisation ou individu ne peut porter atteinte à la réputation d'autrui en insultant, en calomniant, etc. Ce type de comportement peut porter atteinte au droit au portrait et à la réputation de l'artiste et, s'il est utilisé à des fins commerciales, il peut également être soupçonné de fausse publicité.

Lorsque le journaliste a vérifié le Code civil, il a découvert que la technologie de l'IA qui change le visage implique de multiples droits, notamment le droit au portrait, le droit à la réputation et le droit à la vie privée. Selon l'article 1019 du Code civil de mon pays, aucune organisation ou individu ne peut créer, utiliser ou afficher le portrait d'une autre personne d'une manière qui diffame, dégrade ou utilise la technologie de l'information pour porter atteinte aux droits au portrait d'autrui. L’utilisation d’une technologie de changement de visage basée sur l’intelligence artificielle pour créer de faux portraits portera atteinte aux droits de portrait d’autrui et pourrait donner lieu à des litiges pour contrefaçon.

Qui a ouvert la boîte de Pandore du changement de visage de l’IA ?

L'histoire du développement de la diffusion en direct de l'IA qui change le visage remonte à 2018, lorsque la sortie d'outils tels que DeepFaceLab a lancé le développement de la technologie de l'IA qui change le visage. Les principales plates-formes de diffusion en direct ont commencé à appliquer une technologie de diffusion en direct qui change le visage de l'IA, et cette technologie est constamment optimisée et mise à niveau.

En 2020, la société américaine Genelec (Zoom) a lancé une fonction de remplacement de visage par l'IA, permettant aux utilisateurs de remplacer leur propre visage par celui des autres lors des vidéoconférences Zoom. Le développement et l’application de la technologie révolutionnaire de l’IA ont fait l’objet d’une attention et d’un débat généralisés, et cette fonction y contribue également.

En 2021, à mesure que la technologie qui change le visage de l'IA continue de mûrir et de s'améliorer, le champ d'application des diffusions en direct qui changent le visage de l'IA continuera également de s'étendre. De plus en plus de plateformes et d'entreprises ont lancé leurs propres services d'IA pour changer de visage en temps réel, tels que « Faceu » et « Perfect » de Douyin. Ces applications peuvent non seulement réaliser le remplacement de visages, mais également réaliser le remplacement et la synthèse de sons, de mouvements, d'expressions et d'autres dimensions, rendant les diffusions en direct de l'IA qui changent de visage plus réelles et plus vivantes.

Cependant, avec la popularité et l'application de la diffusion en direct de l'IA, de nombreuses controverses et problèmes ont également surgi. Certaines personnes pensent que les diffusions en direct de l’IA qui changent de visage peuvent porter atteinte à la vie privée et aux droits au portrait, tandis que d’autres craignent que les diffusions en direct de l’IA qui changent de visage puissent être utilisées à des fins illégales telles que la fausse propagande et le contenu pornographique. Par conséquent, de nombreux pays et régions ont commencé à formuler des politiques et des réglementations pertinentes pour réglementer l’application et le développement des diffusions en direct révolutionnaires de l’intelligence artificielle.

En 2021, une plate-forme de commerce électronique bien connue dans mon pays a commencé à utiliser la technologie de changement de visage de l'IA dans les diffusions en direct. Les utilisateurs peuvent utiliser cette fonction pour remplacer leurs propres visages par ceux de célébrités ou de célébrités Internet, obtenant ainsi un rendu plus vivant. et effet d'affichage réaliste. En outre, la plate-forme de commerce électronique a également lancé son propre service de diffusion en direct qui change le visage de l'IA, grâce auquel les marques peuvent utiliser des effets d'affichage plus réalistes et plus vivants dans les diffusions en direct.

L'avenir de la technologie révolutionnaire de l'IA sera influencé par de nombreuses parties

À l'heure actuelle, la diffusion en direct qui change le visage de l'IA est devenue une tendance dans l'industrie de la diffusion en direct de mon pays, et de plus en plus de plates-formes et d'entreprises ont commencé à appliquer la technologie qui change le visage de l'IA dans les diffusions en direct. Dans le même temps, avec le développement et l'application continus de la technologie, les perspectives d'application de la diffusion en direct de l'IA dans mon pays deviendront plus étendues et diversifiées, mais elles sont toujours affectées par de nombreux facteurs.

Zhang Lei (pseudonyme), membre du personnel d'une plateforme de diffusion en direct de premier plan, a révélé aux journalistes que, selon son expérience dans l'industrie, le développement de la technologie de l'IA favorisera le progrès des diffusions en direct qui changeront le visage de l'IA. Grâce à l'optimisation et à la mise à niveau continues des algorithmes d'IA, les diffusions en direct de l'IA seront plus précises et réalistes, répondant ainsi mieux aux besoins des marques. « La demande du marché et le comportement des consommateurs affecteront également le développement des diffusions en direct qui changent le visage de l'IA. Si la demande du marché continue d'augmenter, le développement des diffusions en direct qui changent le visage de l'IA sera plus fortement encouragé. les diffusions seront affectées par le comportement des consommateurs et par l’influence des préférences, telles que le type de contenu en direct que les consommateurs préfèrent regarder. »

En répondant aux journalistes sur l'impact des politiques et des réglementations sur le changement de visage de l'IA, Zhang Lei a admis que les politiques et les réglementations ont un grand impact sur le développement futur des diffusions en direct de changement de visage de l'IA. "Si les politiques et les réglementations ont une attitude positive à l'égard du développement de diffusions en direct d'IA qui changent de visage, alors le développement de diffusions en direct d'IA qui change de visage pourrait être plus rapide et plus répandu, mais tout est encore inconnu

West China Metropolis Daily - Bian Xue, journaliste en couverture de l'actualité

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!