Konstanz () – Forscher warnen vor einer nächsten Generation an Desinformation im Internet durch sogenannte „Künstliche Intelligenz„. Offensichtliche „Copy-and-Paste-Bots“ würden vermutlich ersetzt durch koordinierte Gemeinschaften von „KI-Schwärmen“, so ein internationales Forschungsteam, das seine Erkenntnisse nun in der Fachzeitschrift „Science“ veröffentlicht hat.
Gemeint seien KI-gesteuerte Flotten, die sich in Echtzeit anpassen, Gruppen infiltrieren und in großem Umfang einen Anschein von gemeinschaftlicher Meinung erwecken können. Ein Chor aus scheinbar unabhängigen Stimmen schaffe die Illusion eines breiten öffentlichen Konsenses, während er in Wirklichkeit Desinformation verbreitet.
Dabei würde es zu einer Verschmelzung von großen Sprachmodellen (LLMs) mit Multiagentensystemen zu „schädlichen KI-Schwärmen“ kommen, die soziale Dynamiken authentisch imitieren – und nach Ansicht der Forscher den demokratischen Diskurs bedrohen, indem sie falsche Tatsachen zementieren und Konsens suggerieren.
Das Forschungsteam zeigt in seiner Analyse auf, dass die zentrale Gefahr nicht nur in falschen Inhalten bestehe, sondern vor allem in einem „künstlichen Konsens“: Der falsche Eindruck, dass „ja jeder das sage“, könne Überzeugungen und Normen beeinflussen, selbst wenn einzelne Behauptungen umstritten sind. Dieser anhaltende Einfluss, so die Forscher, könne tiefgreifende kulturelle Veränderungen bewirken, die über Normenverschiebungen hinausgehen und die Sprache, Symbole und Identität einer Gemeinschaft auf subtile Weise verändern.
„Die Gefahr besteht nicht mehr nur in Fake News, sondern darin, dass die Grundlage des demokratischen Diskurses – unabhängige Stimmen – zusammenbricht, wenn ein einzelner Akteur Tausende von einzigartigen, KI-generierten Profilen kontrollieren kann“, sagte Jonas R. Kunst von der BI Norwegian Business School, einer der Hauptautoren des Science-Artikels.
Darüber hinaus können KI-Schwärme auch die Trainingsdaten von regulärer künstlicher Intelligenz verunreinigen, indem sie das Internet mit gefälschten Behauptungen überfluten. Auf diese Weise könnten sie ihren Einfluss auf etablierte KI-Plattformen ausweiten.
Die Forscher warnen, dass diese Bedrohung nicht nur theoretisch ist: Analysen legten nahe, dass derartige Taktiken bereits angewendet werden.
Die Forscher definieren einen schädlichen KI-Schwarm als eine Gruppe von KI-gesteuerten Akteuren, die dauerhafte Identitäten bewahren und ein Gedächtnis haben, sich auf gemeinsame Ziele koordinieren und dabei Ton und Inhalt variieren. Sie passen sich in Echtzeit an Interaktionen und menschliche Reaktionen an, benötigen nur minimale Aufsicht durch Menschen und können plattformübergreifend eingesetzt werden. Im Vergleich zu früheren Bot-Netzen könnten solche Schwärme schwieriger zu erkennen sein, da sie heterogene, kontextbezogene Inhalte generieren und sich dennoch in koordinierten Mustern bewegen.
„Über die Täuschungen oder die Sicherheit von einzelnen Chatbots hinaus müssen wir neue Gefahren erforschen, die sich aus der Interaktion von vielen KI-Akteuren ergeben“, sagte David Garcia, Professor an der Universität Konstanz, und ebenfalls an der Untersuchung beteiligt.
Statt einzelne Beiträge zu moderieren, plädieren die Forscher für Schutzmaßnahmen, die koordiniertes Verhalten und die Herkunft der Inhalte verfolgen: statistisch unwahrscheinliche Muster von Koordinierung aufdecken, Verifizierungsoptionen unter Wahrung des Datenschutzes anbieten und Hinweise auf KI-Einflussnahme über verteilte Beobachtungszentren weitergeben.
Gleichzeitig sollten Anreize verringert werden, indem die Monetarisierung von gefälschten Interaktionen eingeschränkt und die Rechenschaftspflicht erhöht werden, so die Empfehlung der Forscher.
Text-/Bildquelle:
Übermittelt durch www.dts-nachrichtenagentur.de
Bildhinweis:
Roboter (Archiv)
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Bist du ein guter Leser? 👍
Welcher Begriff kam im Artikel vor?
Studie: Unheimliche virtuelle Menschen lösen Immunantwort aus 26. August 2025 Studie: Unheimliche virtuelle Menschen lösen Immunantwort aus Hamburg () - Unheimliche virtuelle Menschen lösen aufgrund ihres abweichenden Aussehens eine Immunantwort aus. Zu diesem Ergebnis kommt eine am Dienstag vorgestellte Studie der Universität Hamburg.Der sogenannte "Uncanny Valley Effekt" beschreibt, dass Menschen nachempfundene Roboter oder digitale Charaktere, sogenannte "virtual agents" (VA), bei…
Studie vorgestellt: Immer mehr Senioren sind online 15. Januar 2026 Studie vorgestellt: Immer mehr Senioren sind online Berlin () - Immer mehr Senioren in Deutschland sind online. Das geht aus einer Studie hervor, die am Donnerstag in Berlin von Bundesbildungsministerin Karin Prien und dem IT-Branchenverband Bitkom vorgestellt wurde.Während vor fünf Jahren erst knapp die Hälfte (48 Prozent) der Senioren in…
Junge Social-Media-Nutzer kritisieren Instagram und Tiktok 29. November 2024 Berlin () - An Instagram, Tiktok und YouTube kommen die meisten jungen Menschen nicht vorbei: 91 Prozent der 16- bis 39-Jährigen nutzen regelmäßig mindestens eines der Netzwerke. Das ergab die dritte Mediennutzungsstudie des Marktforschungsinstituts Appinio im Auftrag der Influencer-Agentur WeCreate, über die der "Spiegel" berichtet.Doch die Plattformen haben ein Imageproblem:…
BND und BfV warnen vor russischen Cyberangriffen 31. Mai 2025 Berlin/Köln () - Die Chefs des Bundesnachrichtendienstes (BND) und des Bundesamtes für Verfassungsschutz (BfV) warnen vor einem großangelegten Cyberangriff einer Spezialeinheit des russischen Geheimdienstes GRU. Ziele sind danach Bahnstrecken und Grenzübergänge, Flug- und Seehäfen, wie die "Welt am Sonntag" berichtet."Bei Attacken auf die westliche Infrastruktur ist es mitunter schwierig, die…
Alabali Radovan beklagt "gezielte Desinformation" 20. September 2025 Alabali Radovan beklagt "gezielte Desinformation" Berlin () - Bundesentwicklungsministerin Reem Alabali Radovan beklagt, dass die internationale Entwicklungszusammenarbeit auch "Zielscheibe von gezielter Desinformation" werde. Als Beispiele nannte sie im "Tagesspiegel" (Samstagsausgabe) "Falschmeldungen", wie zum Beispiel die Höhe der deutschen Förderungen. Da seien "große Fantasiezahlen" verbreitet worden.Die SPD-Politikerin kritisierte in diesem Zusammenhang…
Studie: Menschen und KI reagieren ähnlich auf verwirrenden Code 27. November 2025 Studie: Menschen und KI reagieren ähnlich auf verwirrenden Code Saarbrücken () - Forscher der Universität des Saarlandes und des Max-Planck-Instituts für Softwaresysteme haben nachgewiesen, dass Menschen und große Sprachmodelle auf komplexen oder irreführenden Programmcode erstaunlich ähnlich reagieren. Wie die Universität am Donnerstag mitteilte, zeigten sowohl menschliche Testpersonen als auch KI-Systeme…
Nexperia: Industrie und Politik besorgt über Chip-Engpass 22. Oktober 2025 Nexperia: Industrie und Politik besorgt über Chip-Engpass Berlin () - Analysten, Politiker und Industrievertreter haben sich besorgt über die Turbulenzen beim niederländischen Chiphersteller Nexperia gezeigt.Bei weiten Teilen der deutschen und europäischen Industrie könnte die Chip-Knappheit für Probleme sorgen, wie aus einer Analyse hervorgeht, die Prewave für das "Handelsblatt" (Donnerstagausgabe) erstellt…
UN warnen vor Gefahren von KI für Indigene 9. August 2025 UN warnen vor Gefahren von KI für Indigene New York () - Die Vereinten Nationen (UN) haben anlässlich des Welttags der Indigenen vor den Gefahren Künstlicher Intelligenz für diese Bevölkerungsgruppen gewarnt. "Während KI die kulturelle Wiederbelebung, die Stärkung der Jugend und sogar die Anpassung an den Klimawandel unterstützen kann, verstärkt…
EU-Kommission unterstellt Tiktok Verstoß gegen EU-Recht 15. Mai 2025 Brüssel () - Die EU-Kommission geht vorläufig davon aus, dass Tiktok gegen das Gesetz über digitale Dienste (DSA) verstößt. So komme das Unternehmen seiner Verpflichtung nicht nach, ein verpflichtendes Verzeichnis für Werbung zu veröffentlichen, teilte die EU-Kommission am Donnerstag mit. Dieses "Repository" sei für Forscher und die Zivilgesellschaft von entscheidender…
Häufig gestellte Fragen (FAQ)
Welche Personen werden in dem Beitrag erwähnt?
Die vollständigen Namen der Personen, die im Artikel vorkommen, sind:
Jonas R. Kunst, David Garcia
Welche Institutionen oder Gruppen kommen im Text vor?
BI Norwegian Business School, Universität Konstanz, Fachzeitschrift "Science"
Zu welchem Zeitpunkt hat sich das Geschehen ereignet?
Nicht erwähnt
An welchem Ort spielt die Handlung?
Die Orte, an denen das beschriebene Ereignis stattfindet oder stattfand, sind:
Konstanz, BI Norwegian Business School (Norwegen) und die Universität Konstanz.
Wie lässt sich der Inhalt kurz zusammenfassen?
Forscher warnen in der Fachzeitschrift "Science" vor der Bedrohung durch KI-gesteuerte "Schwärme", die durch koordinierte Aktionen den Anschein von gemeinschaftlicher Meinung erzeugen und so Desinformation verbreiten sowie den demokratischen Diskurs gefährden können.
Was war der Auslöser des Geschehens?
Der Hintergrund für das beschriebene Ereignis ist die zunehmende Bedrohung durch KI-gesteuerte Systeme, die in der Lage sind, Desinformation im Internet zu verbreiten. Forscher warnen, dass diese "KI-Schwärme" koordinierte, täuschend echte Meinungsäußerungen erzeugen können, was die Grundlage des demokratischen Diskurses gefährdet. Dies beinhaltet die Erzeugung eines künstlichen Konsenses, der das Vertrauen in unabhängige Stimmen unterminiert und zu kulturellen Veränderungen führen könnte.
Welche Reaktionen gab es von Seiten der Politik oder Öffentlichkeit?
Im Artikel wird gewarnt, dass Politik, Öffentlichkeit und Medien auf die Bedrohung durch koordinierte KI-Schwärme reagieren müssen, da diese die Grundlage des demokratischen Diskurses gefährden. Forscher empfehlen Schutzmaßnahmen, um koordiniertes Verhalten und gefälschte Inhalte zu identifizieren und die Monetarisierung von Desinformation zu verringern.
Welche Folgen oder Auswirkungen werden thematisiert?
Die im Artikel erwähnten Folgen oder Konsequenzen sind:
Bedrohung des demokratischen Diskurses, Zementierung falscher Tatsachen, suggerierter Konsens, Beeinflussung von Überzeugungen und Normen, tiefgreifende kulturelle Veränderungen, Veränderung von Sprache, Symbolen und Identität, Zusammenbruch unabhängiger Stimmen, Verunreinigung der Trainingsdaten von KI, Verbreitung gefälschter Behauptungen, Schwierigkeiten bei der Erkennung von KI-Schwärmen.
Liegt bereits eine offizielle Reaktion oder Stellungnahme vor?
Ja, im Artikel wird eine Stellungnahme von Jonas R. Kunst, einem der Hauptautoren der Studie, zitiert. Er erklärte, dass die Gefahr nicht mehr nur in Fake News besteht, sondern darin, dass der demokratische Diskurs zusammenbricht, wenn ein einzelner Akteur Tausende von einzigartigen, KI-generierten Profilen kontrollieren kann.
