Heim > Technologie-Peripheriegeräte > KI > Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

PHPz
Freigeben: 2024-06-29 06:14:41
Original
526 Leute haben es durchsucht
Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University
Die AIxiv-Kolumne ist eine Kolumne, in der akademische und technische Inhalte auf dieser Website veröffentlicht werden. In den letzten Jahren sind in der AIxiv-Kolumne dieser Website mehr als 2.000 Berichte eingegangen, die Spitzenlabore großer Universitäten und Unternehmen auf der ganzen Welt abdecken und so den akademischen Austausch und die Verbreitung wirksam fördern. Wenn Sie hervorragende Arbeiten haben, die Sie teilen möchten, können Sie gerne einen Beitrag leisten oder uns für die Berichterstattung kontaktieren. E-Mail zur Einreichung: liyazhou@jiqizhixin.com; zhaoyunfeng@jiqizhixin.com

Shuai Xincheng, der erste Autor dieses Artikels, studiert derzeit im FVL-Labor der Fudan-Universität und schloss sein Studium an der Shanghai Jiao Tong University mit ab Bachelortitel. Zu seinen Forschungsschwerpunkten gehören Bild- und Videobearbeitung sowie multimodales Lernen.

Vorwort

Dieser Artikel schlägt einen einheitlichen Rahmen zur Lösung allgemeiner Bearbeitungsaufgaben vor! Kürzlich haben Forscher des FVL-Labors der Fudan-Universität und der Nanyang Technological University multimodale geführte Bildbearbeitungsalgorithmen zusammengefasst und überprüft, die auf großen Modellen mit vinzentinischen Graphen basieren. Die Überprüfung umfasst mehr als 300 relevante Studien, und das neueste untersuchte Modell stammt vom Juni dieses Jahres! Diese Rezension erweitert die Diskussion von Kontrollbedingungen (natürliche Sprache, Bilder, Benutzeroberflächen) und Bearbeitungsaufgaben (Objekt-/Attributmanipulation, räumliche Transformation, Inpainting, Stilübertragung, Bildübersetzung, Subjekt-/Attributanpassung) auf eine neuartigere und umfassendere Diskussion von Bearbeitungsmethoden aus einer allgemeineren Perspektive. Darüber hinaus schlägt dieser Aufsatz ein einheitliches Framework vor, das den Bearbeitungsprozess als Kombination verschiedener Algorithmenfamilien darstellt und die Merkmale verschiedener Kombinationen sowie Anpassungsszenarien durch umfassende qualitative und quantitative Experimente veranschaulicht. Das Framework bietet einen benutzerfreundlichen Designraum, um den unterschiedlichen Bedürfnissen der Benutzer gerecht zu werden, und bietet Forschern eine gewisse Referenz für die Entwicklung neuer Algorithmen.

Zusammenfassung

Die Bildbearbeitung dient dazu, ein bestimmtes synthetisches oder reales Bild gemäß den spezifischen Anforderungen des Benutzers zu bearbeiten. Als vielversprechender und herausfordernder Bereich im Bereich der durch künstliche Intelligenz generierten Inhalte (AIGC) wurde die Bildbearbeitung eingehend untersucht. In jüngster Zeit hat das groß angelegte Bild-zu-Infrarot-Diffusionsmodell (T2I) die Entwicklung der Bildbearbeitungstechnologie vorangetrieben. Diese Modelle generieren Bilder auf der Grundlage von Textaufforderungen, demonstrieren erstaunliche generative Fähigkeiten und werden zu einem gängigen Werkzeug für die Bildbearbeitung. Die T2I-basierte Bildbearbeitungsmethode verbessert die Bearbeitungsleistung erheblich und bietet Benutzern eine Schnittstelle zur Inhaltsänderung mithilfe multimodaler Bedingungsführung. Wir bieten einen umfassenden Überblick über multimodal geführte Bildbearbeitungstechniken basierend auf T2I-Diffusionsmodellen. Zunächst definieren wir den Umfang der Bildbearbeitungsaufgaben aus einer allgemeineren Perspektive und beschreiben verschiedene Steuersignale und Bearbeitungsszenarien im Detail. Anschließend schlagen wir ein einheitliches Framework zur Formalisierung des Bearbeitungsprozesses vor und stellen ihn als Kombination zweier Algorithmusfamilien dar. Dieses Framework bietet Benutzern einen Gestaltungsraum, um bestimmte Ziele zu erreichen. Als nächstes führten wir eine eingehende Analyse jeder Komponente innerhalb des Frameworks durch und untersuchten die Eigenschaften und anwendbaren Szenarien verschiedener Kombinationen. Da schulungsbasierte Methoden direkt lernen, Quellbilder Zielbildern zuzuordnen, diskutieren wir diese Methoden separat und stellen Quellbild-Injektionsschemata in verschiedenen Szenarien vor. Darüber hinaus untersuchen wir die Anwendung von 2D-Techniken bei der Videobearbeitung und konzentrieren uns dabei auf die Lösung von Inkonsistenzen zwischen Bildern. Abschließend diskutieren wir auch offene Herausforderungen auf diesem Gebiet und schlagen mögliche zukünftige Forschungsrichtungen vor.

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

  • Papiertitel: A Survey of Multimodal-Guided Image Editing with Text-to-Image Diffusion Models
  • Publikationseinheit: Fudan University FVL Laboratory, Nanyang Technological University
  • Papieradresse: https://arxiv . org/abs/2406.14555
  • Projektadresse: https://github.com/xinchengshuai/Awesome-Image-Editing

1. Forschungsmotivation

1.1 Im wirklichen Leben besteht ein zunehmender Bedarf an kontrollierbaren, hochwertigen intelligenten Bildbearbeitungswerkzeugen. Daher ist es notwendig, die Methoden und technischen Eigenschaften in dieser Richtung systematisch zusammenzufassen und zu vergleichen.
1.2, die aktuellen Bearbeitungsalgorithmen und zugehörigen Überprüfungen beschränken das Bearbeitungsszenario auf die Beibehaltung der meisten semantischen Informationen auf niedriger Ebene im Bild, die nicht mit der Bearbeitung zusammenhängen. Aus diesem Grund ist es notwendig, den Umfang der Bearbeitungsaufgabe zu erweitern und diskutieren Sie die Bearbeitung aus einer allgemeineren Perspektive.
1.3 Aufgrund der Vielfalt der Bedürfnisse und Szenarien ist es notwendig, den Bearbeitungsprozess in einem einheitlichen Rahmen zu formalisieren und den Benutzern einen Gestaltungsraum zur Anpassung an unterschiedliche Bearbeitungsziele zu bieten.

2. Wie unterscheiden sich die Rezensions-Highlights von der aktuellen redaktionellen Rezension?

2.1 Die Definition und der Umfang der Diskussion über Bearbeitungsaufgaben. Im Vergleich zu vorhandenen Algorithmen und früheren Bearbeitungsüberprüfungen definiert dieser Artikel die Bildbearbeitungsaufgabe umfassender. Konkret unterteilt dieser Artikel Bearbeitungsaufgaben in inhaltsbewusste und inhaltsfreie Szenengruppen. Die Szenen in der inhaltsbewussten Gruppe sind die Hauptaufgaben, die in der vorherigen Literatur diskutiert wurden. Ihre Gemeinsamkeit besteht darin, einige semantische Merkmale auf niedriger Ebene im Bild beizubehalten, z. B. die Bearbeitung des Pixelinhalts irrelevanter Bereiche oder der Bildstruktur. Darüber hinaus haben wir Pionierarbeit bei der Aufnahme von Anpassungsaufgaben in die inhaltsfreie Szenariogruppe geleistet und dabei diese Art von Aufgabe, die eine Semantik auf hoher Ebene (z. B. Subjektidentitätsinformationen oder andere feinkörnige Attribute) beibehält, als Ergänzung zu regulären Bearbeitungsszenarien verwendet . Auffüllen. V Abbildung 1. Die verschiedenen von Survey diskutierten Bearbeitungsszenen

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

2.2 Der einheitliche Rahmen allgemeiner Bearbeitungsalgorithmen. Aufgrund der Vielfalt der Bearbeitungsszenarien können bestehende Algorithmen nicht alle Anforderungen gut lösen. Daher formalisieren wir den bestehenden Bearbeitungsprozess in einem einheitlichen Rahmen, ausgedrückt als Kombination zweier Algorithmenfamilien. Darüber hinaus haben wir auch die Eigenschaften und Anpassungsszenarien verschiedener Kombinationen durch qualitative und quantitative Experimente analysiert und den Benutzern einen guten Gestaltungsspielraum für die Anpassung an unterschiedliche Bearbeitungsziele geboten. Gleichzeitig bietet dieses Framework den Forschern auch eine bessere Referenz zum Entwerfen von Algorithmen mit besserer Leistung.

2.3 Umfang der Diskussion. Wir haben mehr als 300 verwandte Artikel recherchiert und die Anwendung verschiedener Arten von Steuersignalen in verschiedenen Szenarien systematisch und umfassend erläutert. Für schulungsbasierte Bearbeitungsmethoden bietet dieser Artikel auch Strategien zum Einfügen von Quellbildern in T2I-Modelle in verschiedenen Szenarien. Darüber hinaus haben wir auch die Anwendung der Bildbearbeitungstechnologie im Videobereich besprochen, damit die Leser den Zusammenhang zwischen Bearbeitungsalgorithmen in verschiedenen Bereichen schnell verstehen können.

3. Ein einheitliches Framework für allgemeine Bearbeitungsalgorithmen

                                                                                                                                                    Abbildung 2. Einheitlicher Rahmen allgemeiner Bearbeitungsalgorithmen

Rahmenwerk umfasst zwei Algorithmusfamilien, Inversionsalgorithmus Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University und Bearbeitungsalgorithmus. Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University.

3.1 Inversionsalgorithmus. Der Inversionsalgorithmus Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University kodiert den Quellbildsatz Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University in einen bestimmten Merkmals- oder Parameterraum, erhält die entsprechende Darstellung Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University (Inversionshinweis) und verwendet die entsprechende Quelltextbeschreibung Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University als Kennung des Quellbilds. Einschließlich zwei Arten von Inversionsalgorithmen: stimmungsbasiertMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University und vorwärtsbasiertMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University. Es kann wie folgt formalisiert werden:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological UniversityTuning-basierte InversionMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological UniversityDer Quellbildsatz wird durch den ursprünglichen Diffusionstrainingsprozess in die Generationsverteilung des Diffusionsmodells implantiert. Der Formalisierungsprozess ist:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

wobei Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University der eingeführte lernbare Parameter ist und Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University.

Vorwärtsbasierte InversionMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University wird verwendet, um das Rauschen in einem bestimmten Vorwärtspfad (Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University) im umgekehrten Prozess (Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University) des Diffusionsmodells wiederherzustellen. Der Formalisierungsprozess ist:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

wobei Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University der in der Methode eingeführte Parameter ist, der zur Minimierung von Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University verwendet wird, wobei Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University.

3.2.Bearbeitungsalgorithmus. Der Bearbeitungsalgorithmus Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University generiert das endgültige Bearbeitungsergebnis Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University basierend auf Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University und dem multimodalen Führungssatz Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University. Bearbeitungsalgorithmen, einschließlich aufmerksamkeitsbasierterMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University, mischungsbasierterMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University, punktebasierterMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University und optimierungsbasierterMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University. Es kann wie folgt formalisiert werden:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Insbesondere führt Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University für jeden Schritt des umgekehrten Prozesses die folgenden Operationen aus:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

wobei die Operationen in Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University den Eingriff des Bearbeitungsalgorithmus in die Diffusionsmodellabtastung darstellen Prozess Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University, der verwendet wird, um die Konsistenz des bearbeiteten Bildes Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University mit dem Quellbildsatz Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University sicherzustellen und die visuelle Transformation widerzuspiegeln, die durch die Leitbedingungen in Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University festgelegt ist.

Konkret behandeln wir den eingriffsfreien Bearbeitungsprozess als eine normale Version des BearbeitungsalgorithmusMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University. Es ist formalisiert als:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Der formale Prozess der
Aufmerksamkeitsbasierten BearbeitungMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University: Der formale Prozess der

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Überblendungsbasierte BearbeitungMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University: Der formale Prozess der

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Ergebnisbasierte BearbeitungMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

Optimierungsbasierte Bearbeitung Der Formalisierungsprozess von Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

3.3 Trainingsbasierte Bearbeitungsmethode. Im Gegensatz zu trainingsfreien Methoden lernen trainingsbasierte Algorithmen direkt die Zuordnung von Quellbildsätzen zu bearbeiteten Bildern in aufgabenspezifischen Datensätzen. Diese Art von Algorithmus kann als Erweiterung der optimierungsbasierten Inversion angesehen werden, die das Quellbild durch zusätzliche eingeführte Parameter in eine generative Verteilung kodiert. Bei dieser Art von Algorithmus kommt es vor allem darauf an, wie das Quellbild in das T2I-Modell eingefügt wird. Im Folgenden finden Sie Injektionsschemata für verschiedene Bearbeitungsszenarien.

Inhaltsorientiertes Aufgabeninjektionsschema:                                                                                                                                                                                                                                                                                                     Abbildung 3. Injektionsschema inhaltsfreier Aufgaben

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

4. Anwendung des einheitlichen Frameworks bei multimodalen Bearbeitungsaufgaben

Dieser Artikel veranschaulicht die Anwendung jeder Kombination bei multimodalen Bearbeitungsaufgaben durch qualitative Experimente:

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

                                                                                                    Abbildung 4. Über aufmerksamkeitsbasierte Bearbeitungsanwendung der Algorithmuskombination von

                                                                            Anwendung der Algorithmuskombination

O Abbildung 6. Anwendung der Algorithmuskombination der punktuellen Bearbeitung
Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University Eine detaillierte Analyse finden Sie im Originalpapier.

Mehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University

5. Vergleich verschiedener Kombinationen in textgesteuerten BearbeitungsszenarienMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological UniversityFür gängige textgesteuerte Bearbeitungsaufgaben wurden in diesem Artikel mehrere anspruchsvolle qualitative Experimente entworfen, um die für verschiedene Kombinationen geeigneten Bearbeitungsszenarien zu veranschaulichen. Darüber hinaus werden in diesem Artikel auch hochwertige und schwierige Datensätze gesammelt, um die Leistung fortschrittlicher Algorithmen in verschiedenen Kombinationen in verschiedenen Szenarien quantitativ zu veranschaulichen.

Für inhaltsbewusste Aufgaben berücksichtigen wir hauptsächlich Objektoperationen (Hinzufügen/Löschen/Ersetzen), Attributänderungen und Stilmigration. Insbesondere berücksichtigen wir anspruchsvolle experimentelle Settings: 1. Multiobjektive Bearbeitung. 2. Anwendungsfälle, die einen größeren Einfluss auf das semantische Layout von Bildern haben. Wir sammeln auch hochwertige Bilder dieser komplexen Szenen und führen einen umfassenden quantitativen Vergleich modernster Algorithmen in verschiedenen Kombinationen durch. Abbildung 8. Der qualitative Vergleich jeder Kombination in der Content-AWARE-Mission. Von links nach rechts werden die Ergebnisse analysiert. Weitere experimentelle Ergebnisse finden Sie in den Originalarbeiten.

Bei inhaltsfreien Aufgaben berücksichtigen wir vor allem themenbezogene Individualaufgaben. Und berücksichtigt eine Vielzahl von Szenarien, wie z. B. sich ändernde Hintergründe, die Interaktion mit Objekten, Verhaltensänderungen und Stiländerungen. Wir haben außerdem eine große Anzahl von Textleitfadenvorlagen definiert und eine quantitative Analyse der Gesamtleistung jeder Methode durchgeführt.
Zu c Abbildung 9. Der qualitative Vergleich jeder Kombination in der Inhaltsfreie Mission Von links nach rechts werden die Ergebnisse analysiert und weitere experimentelle Ergebnisse finden Sie im Originalpapier.
6. Richtungen, die in Zukunft erforscht werden könnenMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University
Darüber hinaus bietet dieser Artikel auch einige Analysen zu zukünftigen Forschungsrichtungen. Als Beispiel nehmen wir hier die Herausforderungen, denen sich inhaltsbewusste Aufgaben und inhaltsfreie Aufgaben gegenübersehen.

6.1. Herausforderungen inhaltsbewusster Aufgaben. Für die Herausforderung inhaltsbewusster Bearbeitungsaufgaben können bestehende Methoden nicht mehrere Bearbeitungsszenarien und Steuersignale gleichzeitig bewältigen. Diese Einschränkung zwingt Anwendungen dazu, geeignete Backend-Algorithmen zwischen verschiedenen Aufgaben zu wechseln. Darüber hinaus sind einige fortgeschrittene Methoden nicht benutzerfreundlich. Bei einigen Methoden muss der Benutzer wichtige Parameter anpassen, um optimale Ergebnisse zu erzielen, während andere mühsame Eingaben wie Quell- und Zielhinweise oder Hilfsmasken erfordern.

6.2. Inhaltsfreie Aufgabenherausforderung. Für inhaltsfreie Bearbeitungsaufgaben erfordern bestehende Methoden beim Testen langwierige Abstimmungsprozesse und leiden unter Überanpassungsproblemen. Einige Studien zielen darauf ab, dieses Problem zu lindern, indem einige wenige Parameter optimiert oder Modelle von Grund auf trainiert werden. Allerdings gehen ihnen oft Details verloren, die das Thema individualisieren, oder sie zeigen eine schlechte Verallgemeinerungsfähigkeit. Darüber hinaus sind aktuelle Methoden auch nicht in der Lage, abstrakte Konzepte aus einer kleinen Anzahl von Bildern zu extrahieren, und sie können die gewünschten Konzepte nicht vollständig von anderen visuellen Elementen trennen.

Um mehr über die Forschungsrichtung zu erfahren, können Sie sich die Originalarbeit ansehen.

Das obige ist der detaillierte Inhalt vonMehr als 300 verwandte Studien, die neuesten Übersichtsartikel zur multimodalen Bildbearbeitung der Fudan-Universität und der Nanyang Technological University. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Verwandte Etiketten:
Quelle:jiqizhixin.com
Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn
Beliebte Tutorials
Mehr>
Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage