Inhaltsverzeichnis
4 Möglichkeiten, wie Bedrohungsakteure KI-Bildgeneratoren zu Waffen machen
Künstliche Intelligenz und Cybersicherheit: Komplexe Probleme, die wir lösen müssen
Heim Technologie-Peripheriegeräte KI AI Image Generator: Eine neue Bedrohung für die Cybersicherheit

AI Image Generator: Eine neue Bedrohung für die Cybersicherheit

Apr 11, 2023 pm 07:27 PM
Ai drohen

Künstliche Intelligenz (KI) hat das Potenzial, die Natur der Gesellschaft zu verändern. Obwohl die Tools der künstlichen Intelligenz große Erwartungen in uns wecken, müssen wir in vielerlei Hinsicht auch wachsam sein. Beispielsweise nutzen Cyberkriminelle und andere Bedrohungsakteure künstliche Intelligenz als Waffe, und selbst KI-Bildgeneratoren sind nicht vor Missbrauch gefeit.

Was ist ein KI-Bildgenerator? Wie funktionieren sie? Wenn Sie jemals einen KI-Bildgenerator verwendet haben, ist ziemlich klar, worum es dabei geht. Selbst wenn Sie noch nie eines verwendet haben, sind Sie wahrscheinlich in sozialen Medien und anderswo auf KI-generierte Bilder gestoßen. Heutzutage gängige Software funktioniert sehr einfach: Der Benutzer gibt Text ein und künstliche Intelligenz generiert auf Basis dieses Textes ein Bild.

AI Image Generator: Eine neue Bedrohung für die Cybersicherheit

In den letzten Jahren, mit der Entwicklung der Technologie der künstlichen Intelligenz, übernehmen die meisten Text-zu-Bild-Generatoren Diffusionsmodelle, was bedeutet, dass sie über einen langen Zeitraum auf eine große Menge an Text und Bildern „trainiert“ werden Warum sie Der Hauptgrund dafür ist, dass die Arbeit so beeindruckend und atemberaubend realistisch ist.

Was diese KI-Tools noch beeindruckender macht, ist, dass sie nicht nur bestehende Bilder modifizieren oder Tausende von Bildern zu einem zusammenführen, sondern auch neue Originalbilder von Grund auf erstellen. Je mehr Menschen diese Text-zu-Bild-Generatoren verwenden, desto mehr Informationen erhalten sie und desto besser werden ihre Kreationen.

Es gibt bereits viele berühmte KI-Bildgeneratoren: WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor und Craiyon. Tech-Giganten – darunter auch Google – bringen ihre eigenen auf den Markt, daher können wir nur spekulieren, dass in Zukunft noch mehr Wert entstehen wird.

4 Möglichkeiten, wie Bedrohungsakteure KI-Bildgeneratoren zu Waffen machen

Wie fast alle Technologien können KI-Bildgeneratoren von böswilligen Akteuren missbraucht werden. Tatsächlich wurden sie für alle möglichen schändlichen Zwecke verwendet. Doch welche Arten von Betrügereien können Kriminelle mit Hilfe von KI-Bildgeneratoren genau durchführen?

1. Social Engineering

Eine offensichtliche Sache, die Bedrohungsakteure mit KI-Bildgeneratoren machen können, ist beispielsweise die Erstellung gefälschter Social-Media-Profile. Einige dieser Programme können unglaublich realistische Bilder erstellen, die wie echte Fotos von echten Menschen aussehen, und Betrüger können diese gefälschten Social-Media-Profile für Phishing-Zwecke verwenden.

Anders als Fotos von echten Menschen können KI-generierte Fotos nicht durch umgekehrte Bildsuche entdeckt werden, und Cyberkriminelle müssen nicht eine begrenzte Anzahl von Fotos verwenden, um Ziele zu täuschen – mithilfe von KI können sie eine beliebige Anzahl von Fotos generieren, um eine zu erstellen Befehl von Grund auf. Eine überzeugende Online-Identität.

Im wirklichen Leben können Bedrohungsakteure jedoch KI-Bildgeneratoren verwenden, um Menschen auszutricksen. Im April 2022 erhielt der Tech Talk-Blogger Ben Dickinson eine E-Mail von einer Anwaltskanzlei, in der behauptet wurde, er habe ein Bild ohne Erlaubnis verwendet. Die Anwälte schickten eine DMCA-Urheberrechtsverletzungsbenachrichtigung per E-Mail und teilten Dickinson mit, dass er einen Link zu ihrem Mandanten herstellen oder das Bild entfernen müsse.

Dickinson hat die Anwaltskanzlei bei Google durchsucht und die offizielle Website gefunden. Es scheint alles völlig legal zu sein; die Website enthält sogar Fotos von 18 Anwälten, einschließlich ihrer Biografien und Referenzen. Aber nichts davon ist wahr. Die Fotos wurden alle mit künstlicher Intelligenz erstellt und die angebliche Urheberrechtsverletzungsmeldung wurde von jemandem gesendet, der darauf hoffte, Backlinks von ahnungslosen Bloggern zu erpressen.

2. Wohltätigkeitsbetrug

Als im Februar 2023 die Türkei und Syrien von verheerenden Erdbeben heimgesucht wurden, zeigten Millionen Menschen auf der ganzen Welt ihre Solidarität mit den Opfern, indem sie Kleidung, Lebensmittel und Geld spendeten.

Einem BBC-Bericht zufolge machen sich Betrüger dies zunutze, indem sie künstliche Intelligenz nutzen, um realistische Bilder zu erstellen und um Spenden zu werben. Ein Betrüger zeigte auf TikTok Live KI-generierte Bilder von Ruinen und bat seine Zuschauer um Spenden. Ein anderer postete ein KI-generiertes Bild eines griechischen Feuerwehrmanns, der ein verletztes Kind aus Trümmern rettet, und forderte seine Follower auf, zu spenden.

Man kann sich nur vorstellen, welche Arten von Wohltätigkeitsbetrug Kriminelle in Zukunft mithilfe künstlicher Intelligenz durchführen werden, aber eines ist sicher: Sie werden nur noch besser darin werden, die Software zu missbrauchen.

3. Deepfakes und Desinformation

Regierungen, Aktivistengruppen und Denkfabriken warnen seit langem vor den Gefahren von Deepfake-KI-Bildgeneratoren, und das liegt daran, dass Desinformationsagenten mithilfe von Bots Unwahrheiten erzeugen und diese weiter verbreiten können soziale Medien.

Im März 2022 kursierte laut NPR im Internet ein gefälschtes Video, in dem der ukrainische Präsident die Ukrainer zur Kapitulation auffordert. Obwohl dies nur ein Beispiel ist, sind die Möglichkeiten nahezu endlos und es gibt unzählige Möglichkeiten, wie Bedrohungsakteure mithilfe künstlicher Intelligenz den Ruf einer Person schädigen, falsche Narrative verbreiten oder Fake News verbreiten können.

4. Werbebetrug

Forscher von Trend Micro entdeckten im Jahr 2022, dass Betrüger KI-generierte Inhalte nutzen, um irreführende Anzeigen zu erstellen und zwielichtige Produkte zu bewerben. Sie erstellen Bilder, die beliebte Prominente auf die Verwendung bestimmter Produkte hinweisen, und führen auf der Grundlage dieser Bilder Werbekampagnen durch.

In einer Anzeige für „Financial Advice Opportunities“ ist beispielsweise der Gründer und CEO von Tesla zu sehen. Natürlich hat Musk das fragliche Produkt nie befürwortet, aber das von der KI generierte Filmmaterial ließ es so aussehen, vermutlich um ahnungslose Zuschauer zum Klicken auf die Anzeige zu verleiten.

Künstliche Intelligenz und Cybersicherheit: Komplexe Probleme, die wir lösen müssen

Mit Blick auf die Zukunft müssen staatliche Regulierungsbehörden und Cybersicherheitsexperten möglicherweise zusammenarbeiten, um der aufkommenden Bedrohung durch KI-gesteuerte Cyberkriminalität zu begegnen. Aber wie können wir KI regulieren und normale Menschen schützen, ohne Innovationen zu unterdrücken und die digitale Freiheit einzuschränken? Dieses Thema wird in den kommenden Jahren an Bedeutung gewinnen.

Bis Sie eine Antwort erhalten, tun Sie, was Sie können, um sich zu schützen: Überprüfen Sie alles, was Sie online sehen, meiden Sie fragwürdige Websites, verwenden Sie Sicherheitssoftware, halten Sie Ihre Geräte auf dem neuesten Stand und lernen Sie, künstliche Intelligenz optimal zu nutzen. Ihr Vorteil.

Originaltitel: AI Image Generators: An Emerging Cybersecurity Threat

Originalautor: DAMIR MUJEZINOVIC

Das obige ist der detaillierte Inhalt vonAI Image Generator: Eine neue Bedrohung für die Cybersicherheit. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!

Erklärung dieser Website
Der Inhalt dieses Artikels wird freiwillig von Internetnutzern beigesteuert und das Urheberrecht liegt beim ursprünglichen Autor. Diese Website übernimmt keine entsprechende rechtliche Verantwortung. Wenn Sie Inhalte finden, bei denen der Verdacht eines Plagiats oder einer Rechtsverletzung besteht, wenden Sie sich bitte an admin@php.cn

Heiße KI -Werkzeuge

Undress AI Tool

Undress AI Tool

Ausziehbilder kostenlos

Undresser.AI Undress

Undresser.AI Undress

KI-gestützte App zum Erstellen realistischer Aktfotos

AI Clothes Remover

AI Clothes Remover

Online-KI-Tool zum Entfernen von Kleidung aus Fotos.

Clothoff.io

Clothoff.io

KI-Kleiderentferner

Video Face Swap

Video Face Swap

Tauschen Sie Gesichter in jedem Video mühelos mit unserem völlig kostenlosen KI-Gesichtstausch-Tool aus!

Heiße Werkzeuge

Notepad++7.3.1

Notepad++7.3.1

Einfach zu bedienender und kostenloser Code-Editor

SublimeText3 chinesische Version

SublimeText3 chinesische Version

Chinesische Version, sehr einfach zu bedienen

Senden Sie Studio 13.0.1

Senden Sie Studio 13.0.1

Leistungsstarke integrierte PHP-Entwicklungsumgebung

Dreamweaver CS6

Dreamweaver CS6

Visuelle Webentwicklungstools

SublimeText3 Mac-Version

SublimeText3 Mac-Version

Codebearbeitungssoftware auf Gottesniveau (SublimeText3)

Bytedance Cutting führt SVIP-Supermitgliedschaft ein: 499 Yuan für ein fortlaufendes Jahresabonnement, das eine Vielzahl von KI-Funktionen bietet Bytedance Cutting führt SVIP-Supermitgliedschaft ein: 499 Yuan für ein fortlaufendes Jahresabonnement, das eine Vielzahl von KI-Funktionen bietet Jun 28, 2024 am 03:51 AM

Diese Seite berichtete am 27. Juni, dass Jianying eine von FaceMeng Technology, einer Tochtergesellschaft von ByteDance, entwickelte Videobearbeitungssoftware ist, die auf der Douyin-Plattform basiert und grundsätzlich kurze Videoinhalte für Benutzer der Plattform produziert Windows, MacOS und andere Betriebssysteme. Jianying kündigte offiziell die Aktualisierung seines Mitgliedschaftssystems an und führte ein neues SVIP ein, das eine Vielzahl von KI-Schwarztechnologien umfasst, wie z. B. intelligente Übersetzung, intelligente Hervorhebung, intelligente Verpackung, digitale menschliche Synthese usw. Preislich beträgt die monatliche Gebühr für das Clipping von SVIP 79 Yuan, die Jahresgebühr 599 Yuan (Hinweis auf dieser Website: entspricht 49,9 Yuan pro Monat), das fortlaufende Monatsabonnement beträgt 59 Yuan pro Monat und das fortlaufende Jahresabonnement beträgt 499 Yuan pro Jahr (entspricht 41,6 Yuan pro Monat). Darüber hinaus erklärte der Cut-Beamte auch, dass diejenigen, die den ursprünglichen VIP abonniert haben, das Benutzererlebnis verbessern sollen

Kontexterweiterter KI-Codierungsassistent mit Rag und Sem-Rag Kontexterweiterter KI-Codierungsassistent mit Rag und Sem-Rag Jun 10, 2024 am 11:08 AM

Verbessern Sie die Produktivität, Effizienz und Genauigkeit der Entwickler, indem Sie eine abrufgestützte Generierung und ein semantisches Gedächtnis in KI-Codierungsassistenten integrieren. Übersetzt aus EnhancingAICodingAssistantswithContextUsingRAGandSEM-RAG, Autor JanakiramMSV. Obwohl grundlegende KI-Programmierassistenten natürlich hilfreich sind, können sie oft nicht die relevantesten und korrektesten Codevorschläge liefern, da sie auf einem allgemeinen Verständnis der Softwaresprache und den gängigsten Mustern beim Schreiben von Software basieren. Der von diesen Coding-Assistenten generierte Code eignet sich zur Lösung der von ihnen zu lösenden Probleme, entspricht jedoch häufig nicht den Coding-Standards, -Konventionen und -Stilen der einzelnen Teams. Dabei entstehen häufig Vorschläge, die geändert oder verfeinert werden müssen, damit der Code in die Anwendung übernommen wird

Sieben coole technische Interviewfragen für GenAI und LLM Sieben coole technische Interviewfragen für GenAI und LLM Jun 07, 2024 am 10:06 AM

Um mehr über AIGC zu erfahren, besuchen Sie bitte: 51CTOAI.x Community https://www.51cto.com/aigc/Translator|Jingyan Reviewer|Chonglou unterscheidet sich von der traditionellen Fragendatenbank, die überall im Internet zu sehen ist erfordert einen Blick über den Tellerrand hinaus. Large Language Models (LLMs) gewinnen in den Bereichen Datenwissenschaft, generative künstliche Intelligenz (GenAI) und künstliche Intelligenz zunehmend an Bedeutung. Diese komplexen Algorithmen verbessern die menschlichen Fähigkeiten, treiben Effizienz und Innovation in vielen Branchen voran und werden zum Schlüssel für Unternehmen, um wettbewerbsfähig zu bleiben. LLM hat ein breites Anwendungsspektrum und kann in Bereichen wie der Verarbeitung natürlicher Sprache, der Textgenerierung, der Spracherkennung und Empfehlungssystemen eingesetzt werden. Durch das Lernen aus großen Datenmengen ist LLM in der Lage, Text zu generieren

Kann LLM durch Feinabstimmung wirklich neue Dinge lernen: Die Einführung neuen Wissens kann dazu führen, dass das Modell mehr Halluzinationen hervorruft Kann LLM durch Feinabstimmung wirklich neue Dinge lernen: Die Einführung neuen Wissens kann dazu führen, dass das Modell mehr Halluzinationen hervorruft Jun 11, 2024 pm 03:57 PM

Large Language Models (LLMs) werden auf riesigen Textdatenbanken trainiert und erwerben dort große Mengen an realem Wissen. Dieses Wissen wird in ihre Parameter eingebettet und kann dann bei Bedarf genutzt werden. Das Wissen über diese Modelle wird am Ende der Ausbildung „verdinglicht“. Am Ende des Vortrainings hört das Modell tatsächlich auf zu lernen. Richten Sie das Modell aus oder verfeinern Sie es, um zu erfahren, wie Sie dieses Wissen nutzen und natürlicher auf Benutzerfragen reagieren können. Aber manchmal reicht Modellwissen nicht aus, und obwohl das Modell über RAG auf externe Inhalte zugreifen kann, wird es als vorteilhaft angesehen, das Modell durch Feinabstimmung an neue Domänen anzupassen. Diese Feinabstimmung erfolgt mithilfe von Eingaben menschlicher Annotatoren oder anderer LLM-Kreationen, wobei das Modell auf zusätzliches Wissen aus der realen Welt trifft und dieses integriert

Fünf Schulen des maschinellen Lernens, die Sie nicht kennen Fünf Schulen des maschinellen Lernens, die Sie nicht kennen Jun 05, 2024 pm 08:51 PM

Maschinelles Lernen ist ein wichtiger Zweig der künstlichen Intelligenz, der Computern die Möglichkeit gibt, aus Daten zu lernen und ihre Fähigkeiten zu verbessern, ohne explizit programmiert zu werden. Maschinelles Lernen hat ein breites Anwendungsspektrum in verschiedenen Bereichen, von der Bilderkennung und der Verarbeitung natürlicher Sprache bis hin zu Empfehlungssystemen und Betrugserkennung, und es verändert unsere Lebensweise. Im Bereich des maschinellen Lernens gibt es viele verschiedene Methoden und Theorien, von denen die fünf einflussreichsten Methoden als „Fünf Schulen des maschinellen Lernens“ bezeichnet werden. Die fünf Hauptschulen sind die symbolische Schule, die konnektionistische Schule, die evolutionäre Schule, die Bayes'sche Schule und die Analogieschule. 1. Der Symbolismus, auch Symbolismus genannt, betont die Verwendung von Symbolen zum logischen Denken und zum Ausdruck von Wissen. Diese Denkrichtung glaubt, dass Lernen ein Prozess der umgekehrten Schlussfolgerung durch das Vorhandene ist

Um ein neues wissenschaftliches und komplexes Frage-Antwort-Benchmark- und Bewertungssystem für große Modelle bereitzustellen, haben UNSW, Argonne, die University of Chicago und andere Institutionen gemeinsam das SciQAG-Framework eingeführt Um ein neues wissenschaftliches und komplexes Frage-Antwort-Benchmark- und Bewertungssystem für große Modelle bereitzustellen, haben UNSW, Argonne, die University of Chicago und andere Institutionen gemeinsam das SciQAG-Framework eingeführt Jul 25, 2024 am 06:42 AM

Herausgeber | Der Frage-Antwort-Datensatz (QA) von ScienceAI spielt eine entscheidende Rolle bei der Förderung der Forschung zur Verarbeitung natürlicher Sprache (NLP). Hochwertige QS-Datensätze können nicht nur zur Feinabstimmung von Modellen verwendet werden, sondern auch effektiv die Fähigkeiten großer Sprachmodelle (LLMs) bewerten, insbesondere die Fähigkeit, wissenschaftliche Erkenntnisse zu verstehen und zu begründen. Obwohl es derzeit viele wissenschaftliche QS-Datensätze aus den Bereichen Medizin, Chemie, Biologie und anderen Bereichen gibt, weisen diese Datensätze immer noch einige Mängel auf. Erstens ist das Datenformular relativ einfach, die meisten davon sind Multiple-Choice-Fragen. Sie sind leicht auszuwerten, schränken jedoch den Antwortauswahlbereich des Modells ein und können die Fähigkeit des Modells zur Beantwortung wissenschaftlicher Fragen nicht vollständig testen. Im Gegensatz dazu offene Fragen und Antworten

Eine neue Ära der VSCode-Frontend-Entwicklung: 12 sehr empfehlenswerte KI-Code-Assistenten Eine neue Ära der VSCode-Frontend-Entwicklung: 12 sehr empfehlenswerte KI-Code-Assistenten Jun 11, 2024 pm 07:47 PM

In der Welt der Front-End-Entwicklung ist VSCode mit seinen leistungsstarken Funktionen und seinem umfangreichen Plug-in-Ökosystem für unzählige Entwickler zum Werkzeug der Wahl geworden. In den letzten Jahren sind mit der rasanten Entwicklung der Technologie der künstlichen Intelligenz KI-Code-Assistenten auf VSCode entstanden, die die Codierungseffizienz der Entwickler erheblich verbessert haben. KI-Code-Assistenten auf VSCode sind wie Pilze nach einem Regen aus dem Boden geschossen und haben die Codierungseffizienz der Entwickler erheblich verbessert. Es nutzt Technologie der künstlichen Intelligenz, um Code intelligent zu analysieren und eine präzise Code-Vervollständigung, automatische Fehlerkorrektur, Grammatikprüfung und andere Funktionen bereitzustellen, wodurch Entwicklerfehler und mühsame manuelle Arbeit während des Codierungsprozesses erheblich reduziert werden. Heute werde ich 12 KI-Code-Assistenten für die Frontend-Entwicklung von VSCode empfehlen, die Sie bei Ihrer Programmierreise unterstützen.

SK Hynix wird am 6. August neue KI-bezogene Produkte vorstellen: 12-Layer-HBM3E, 321-High-NAND usw. SK Hynix wird am 6. August neue KI-bezogene Produkte vorstellen: 12-Layer-HBM3E, 321-High-NAND usw. Aug 01, 2024 pm 09:40 PM

Laut Nachrichten dieser Website vom 1. August hat SK Hynix heute (1. August) einen Blogbeitrag veröffentlicht, in dem es ankündigt, dass es am Global Semiconductor Memory Summit FMS2024 teilnehmen wird, der vom 6. bis 8. August in Santa Clara, Kalifornien, USA, stattfindet viele neue Technologien Generation Produkt. Einführung des Future Memory and Storage Summit (FutureMemoryandStorage), früher Flash Memory Summit (FlashMemorySummit), hauptsächlich für NAND-Anbieter, im Zusammenhang mit der zunehmenden Aufmerksamkeit für die Technologie der künstlichen Intelligenz wurde dieses Jahr in Future Memory and Storage Summit (FutureMemoryandStorage) umbenannt Laden Sie DRAM- und Speicheranbieter und viele weitere Akteure ein. Neues Produkt SK Hynix wurde letztes Jahr auf den Markt gebracht

See all articles