Outil de détection d'images OpenAI exposé, CTO : 99 % des images générées par l'IA peuvent être reconnues

OpenAI va lancer la reconnaissance d'images AI.

Dernières nouvelles, leur entreprise développe un outil de détection.

Selon Mira Murat, directrice de la technologie :

Cet outil a une très grande précision, avec un taux de précision allant jusqu'à 99 %.

Il est actuellement en cours de test interne et sera bientôt rendu public.

Je dois dire que ce taux de précision est encore un peu excitant. Après tout, les efforts précédents d'OpenAI en matière de détection de texte par IA ont lamentablement échoué avec un « taux de précision de 26 % ».

La détection de contenu IA n'est pas simple

OpenAI a déjà eu une mise en page dans le domaine de la détection de contenu IA.

En janvier de cette année, ils ont lancé un détecteur de texte IA pour distinguer le contenu généré par l'IA et celui généré par l'homme afin d'empêcher toute utilisation abusive du texte IA.

Cependant, cet outil a malheureusement pris sa retraite en juillet : sans aucune annonce, la page directement 404.

La raison est que le taux de précision est trop faible, "presque comme si on devinait".

Selon les données publiées par OpenAI lui-même :

Il ne peut identifier correctement que 26 % du texte généré par l'IA, tout en identifiant incorrectement 9 % du texte écrit par l'homme.

Après cette fin précipitée, OpenAI a déclaré qu'il absorberait les commentaires des utilisateurs, s'efforcerait de s'améliorer et de rechercher une technologie de source de texte plus efficace.

Dans le même temps, ils ont également annoncé que des outils permettant de déterminer si les images, l'audio et la vidéo sont générés par l'IA seront également développés.

Maintenant, avec l'avènement de DALL-E 3 et l'itération continue d'outils similaires tels que Midjourney, les capacités de peinture de l'IA deviennent de plus en plus fortes.

La plus grande préoccupation est qu’elle est utilisée pour fabriquer de fausses images d’information dans le monde entier.

Par exemple, il existe une « scène » forgée par l'IA du « tremblement de terre et tsunami de Cascadia 9.1 en 2001 » sur Reddit, qui a été appréciée par plus de 1,2 000 internautes.

Par rapport aux outils de détection de texte IA, le développement d'outils de détection de dessins IA est évidemment plus urgent (probablement parce que "personne ne se soucie de savoir si le discours est écrit par lui-même ou par une secrétaire", mais "avec des images, il y a vérité" Il est difficile de ne pas croire le contenu).

Cependant, tout comme l'outil de détection de texte IA d'OpenAI était hors ligne, certains internautes ont souligné :

Développer simultanément des outils de génération et de détection est intrinsèquement contradictoire.

Si un côté va bien, cela signifie que l’autre ne va pas bien, et il peut aussi y avoir un conflit d’intérêts.

L'idée la plus simple est de le confier à un tiers.

Mais les performances des tiers sur le texte IA n'ont pas été bonnes auparavant.

En ce qui concerne la technologie elle-même, une autre méthode réalisable consiste à masquer le filigrane lorsque l'IA génère du contenu.

C'est ce que fait Google.

Il y a quelques jours (fin août de cette année), Google a lancé une technologie de détection d'images IA avant OpenAI :

SynthID.

Il coopère actuellement avec le modèle graphique Vincent de Google Imagen, de sorte que chaque image générée par le modèle soit intégrée avec un "identifiant de métadonnées généré par l'IA" -

Même si l'image est recadrée, des filtres ajoutés, une série de modifications, telles car le changement de couleur ou même la compression avec perte n'affecteront pas la reconnaissance.

Lors de tests internes, SynthID a identifié avec précision un grand nombre d'images d'IA modifiées, mais le taux de précision spécifique n'a pas été divulgué.

Je ne sais pas quelle technologie le prochain outil d’OpenAI utilisera et s’il sera celui avec la plus grande précision du marché.

Ultraman répond au "Core Building Plan"

Les nouvelles ci-dessus proviennent des discours prononcés par OpenAI CTO et Ultraman lors de la conférence Tech Live organisée par le Wall Street Journal cette semaine.

Lors de la réunion, les deux ont également révélé plus de nouvelles sur OpenAI.

Par exemple, la prochaine génération de grands modèles pourrait être lancée prochainement.

Le nom n'est pas divulgué, mais OpenAI a déposé une demande de marque GPT-5 en juillet de cette année.

Certaines personnes s'inquiètent de l'exactitude du « GPT-5 » et se demandent s'il ne peut plus produire d'erreurs ou de faux contenus.

À cet égard, le CTO s'est montré plus prudent et a simplement dit "peut-être".

Elle a expliqué :

Nous avons fait de grands progrès sur le problème des hallucinations dans GPT-4, mais nous n'en sommes pas encore là où nous devons en être.

Ultraman a parlé du "Core Building Plan".

À en juger par ses propos originaux, il n'y a pas de "confirmation", mais cela laisse aussi une place illimitée à l'imagination :

Si nous suivons le chemin par défaut, nous ne le ferons certainement pas, mais je n'exclurai jamais cette possibilité. .

Par rapport au "plan de fabrication de noyaux", Ultraman a répondu tout simplement aux rumeurs de fabrication de téléphones portables.

En septembre de cette année, l'ancien directeur de la conception d'Apple, Jony Ive (qui travaille chez Apple depuis 27 ans) a été exposé à être en contact avec OpenAI. Des sources ont déclaré qu'Altman souhaitait développer un périphérique matériel offrant une interface plus naturelle et plus intuitive. manière interactive d'interagir avec l'IA De manière intuitive, on peut l'appeler "l'iPhone du monde de l'IA".

Maintenant, il a dit à tout le monde :

Je ne suis pas encore sûr de ce que je veux faire, j'ai juste quelques vagues idées.

Et :

Aucun appareil d'IA ne fera d'ombre à la popularité de l'iPhone, et je n'ai aucun intérêt à rivaliser avec un smartphone.

Lien de référence :
[1]https://finance.yahoo.com/news/openai-claims-tool-detect-ai-051511179.html?guccounter=1.

[2]https://gizmodo.com/openais-sam-altman-says-he-has-no-interest-in-competing-1850937333.

Ce qui précède est le contenu détaillé de. pour plus d'informations, suivez d'autres articles connexes sur le site Web de PHP en chinois!