Instagram hat einen weiteren Schritt unternommen, um dem Aufstieg KI-generierter Influencer entgegenzuwirken . Die Meta-Plattform hat eine bedeutende Regeländerung angekündigt: Ab sofort müssen Accounts mit KI-generierten Persönlichkeiten sich klar kennzeichnen, sonst riskieren sie, in der App weniger sichtbar zu sein.
Dieser Schritt erfolgt nach monatelangen Tests und Beschwerden von Nutzern, die sich getäuscht fühlten, als sie feststellten, dass ein scheinbar menschliches Profil in Wirklichkeit ein synthetischer Charakter war. Instagram wird diese Art von Konten nicht verbieten, möchte aber, dass sie klar von den Profilen echter Personen unterscheidbar sind.
Vom „KI-Ersteller“ zum „KI-generierten Profil“
Die auffälligste Änderung ist die Ersetzung der alten Bezeichnung „KI-Ersteller“ durch den neuen Begriff „KI-generiertes Profil “. Bisher diente die Bezeichnung als Sammelbegriff für Konten, die KI-generierte Inhalte verwendeten, war aber mehrdeutig: Sie konnte sich auf einen menschlichen Ersteller beziehen, der KI als Unterstützung nutzt, oder auf einen fiktiven Avatar, der in der Realität nicht existiert.
Mit der neuen Formulierung möchte Instagram verdeutlichen, dass das Label Profilen vorbehalten ist, deren Hauptfigur vollständig von einer KI erstellt wurde . Es geht also nicht nur um retuschierte oder automatisch generierte Inhalte, sondern darum, dass die primäre Identität des Profils künstlich ist. Die App selbst beschreibt das Label als spezifische Kennzeichnung für Accounts mit einer „KI-generierten Persona“.
Konten, bei denen die alte Beschreibung bereits aktiviert war, werden automatisch in ein „KI-generiertes Profil“ umgewandelt. Anschließend können die Kontoverwalter überprüfen, ob die neue Beschreibung ihre Aktivitäten tatsächlich widerspiegelt, und entscheiden, ob sie diese beibehalten oder entfernen, falls sie nicht mehr zu ihren Inhalten passt.
In Profilen, die diese Funktion nutzen, erscheint das Label sowohl in der Kontoüberschrift als auch neben den Beiträgen, sofern der Inhalt keine andere Kennzeichnung aufweist, die darauf hinweist, dass er von künstlicher Intelligenz erstellt oder verändert wurde.
Strafe für Avatare, die sich nicht identifizieren
Der heikle Aspekt dieser Änderung liegt in den Konsequenzen für diejenigen, die ihre Marke nicht korrekt kennzeichnen. Instagram unterscheidet zwischen Accounts, die ihre Marke freiwillig aktivieren, und solchen, die sie eigentlich anzeigen sollten, es aber nicht tun . Im ersten Fall versichert das Unternehmen, dass sich die Reichweite des Profils nicht ändert: Accounts, die sich transparent kennzeichnen, werden weiterhin wie gewohnt in den Empfehlungen angezeigt.
Erkennt die Plattform jedoch ein Profil mit einer künstlichen Identität, das das entsprechende Label nicht verwendet, wird dessen Sichtbarkeit direkt eingeschränkt. Diese Accounts können nicht mehr in öffentlichen Bereichen wie dem Entdecken-Tab, den Empfohlenen Reels oder den Vorschlägen für Nutzer, die ihnen noch nicht folgen, angezeigt werden.
Instagram hat nicht angegeben, um welchen Prozentsatz die Reichweite reduziert wird oder wie lange, macht aber deutlich, dass es sich um eine Art „Sichtbarkeitsstrafe“ handelt: Das Konto existiert weiterhin, kann weiterhin Beiträge veröffentlichen und die aktuellen Follower werden die Inhalte weiterhin sehen, verliert aber die Möglichkeit, durch den Empfehlungsalgorithmus zu wachsen.
Die Plattform nutzt eigene Erkennungssysteme, um solche Fälle zu identifizieren. Dabei werden automatisierte Tools und interne Signale kombiniert , die darauf hinweisen, dass ein Konto eine KI-generierte Identität verwendet, ohne dies offenzulegen. In diesem Fall erhält der Verantwortliche eine Benachrichtigung, dass sein Profil nicht mehr anderen Nutzern empfohlen werden kann.
Wie man das Tag aktiviert und welche Optionen Ersteller haben
Für diejenigen, die solche Konten verwalten, ist die Identifizierung relativ einfach. Im Profilbearbeitungsbildschirm kann der Ersteller die Option „KI-generiertes Profil“ aktivieren . Nach der Auswahl ist das Label im Profil sichtbar und gilt auch für die Beiträge, sofern diese nicht bereits ein anderes Label für KI-generierte oder -veränderte Inhalte aufweisen.
Wenn Instagram ein Konto fälschlicherweise als potenziell manipulativ markiert, hat der Kontoinhaber zwei Möglichkeiten, wieder in den Empfehlungen angezeigt zu werden. Die erste ist die direkteste: Er kann das entsprechende Label hinzufügen , bestätigen, dass es sich um eine künstliche Identität handelt, und dies im Profil angeben. Anschließend kann das System die Anzeigeberechtigung für „Entdecken“ und „Reels“ wiederherstellen.
Die zweite Möglichkeit besteht darin, gegen die Entscheidung Einspruch einzulegen. Meta räumt ein, dass seine Erkennungssysteme „nicht immer perfekt“ sind und Fehlalarme auftreten können. Daher bietet die Plattform im Bereich „Kontostatus“ der Einstellungen einen Einspruchsmechanismus an. Wenn der Urheber der Ansicht ist, dass die Plattform einen Fehler gemacht hat – beispielsweise, weil das Profil eine reale Person darstellt, die lediglich KI zur Inhaltsbearbeitung nutzt –, kann er eine Überprüfung beantragen.
Wird dem Einspruch von Instagram stattgegeben, können sowohl das Profil als auch seine Beiträge wieder in den allgemeinen Empfehlungen des sozialen Netzwerks angezeigt werden. Damit versucht das Unternehmen, den Einsatz von Automatisierung mit einem gewissen Maß an menschlicher Kontrolle in Einklang zu bringen, um Fehler zu korrigieren, die einen Content-Ersteller ungerechtfertigt benachteiligen.
Welche Konten müssen markiert werden und welche sind ausgenommen?
Ein zentraler Aspekt der neuen Richtlinie ist die Unterscheidung zwischen der Nutzung von KI als Werkzeug und dem Aufbau einer vollständigen Identität um diese herum. Die Bezeichnung „KI-generiertes Profil“ ist nicht für jeden Nutzer gedacht, der künstliche Intelligenz gelegentlich einsetzt, sei es zur Bildbearbeitung, Erstellung von Begleitbildern, Textkorrektur oder Grafikgestaltung.
In diesen Fällen betrachtet Instagram die Person hinter dem Profil als real, selbst wenn KI im kreativen Prozess zum Einsatz kommt. Weder Fotografen, die aufwendige Filter verwenden, noch Content-Ersteller mit generativen Modellen oder Marken, die automatisierte Effekte testen, müssen ihr Konto mit dem neuen Identifikator kennzeichnen, solange die zentrale Person ein Mensch bleibt.
Im Fokus stehen sogenannte virtuelle Influencer, fiktive Charaktere und hyperrealistische Avatare, die als reale Personen präsentiert werden. Diese Profile zeigen ein künstliches Gesicht, ein erfundenes Leben und in vielen Fällen kommerzielle Kooperationen mit realen Marken, ohne deutlich zu machen, dass dahinter keine reale Person steckt.
Instagram betont, dass die Reichweite von Accounts, die das Label freiwillig verwenden, nicht beeinträchtigt wird. Offiziell soll die Transparenz erhöht werden, nicht die Nutzer bestraft werden, die offenlegen, dass ihr Protagonist eine digitale Figur ist. Konsequent wird Instagram jedoch einschreiten, wenn versucht wird, sich trotz einer KI-generierten Identität als Mensch auszugeben .
Diese Unterscheidung zieht eine Grenze zwischen künstlich generierten Inhalten und der Simulation menschlicher Identitäten. Die Plattform akzeptiert KI als kreative Ressource, verlangt aber, dass sie nicht dazu verwendet wird, den Nutzer darüber zu täuschen, wer – oder was – sich tatsächlich hinter einem Profil verbirgt.
Ein globales Problem mit Auswirkungen auch auf Europa
Die Verschärfung der Regulierungen folgt auf eine Phase, in der internationale Medien und Influencer-Marketing-Experten die rasante Verbreitung synthetischer Profile dokumentiert haben . Recherchen, beispielsweise von The Guardian und der New York Times, haben Netzwerke von KI-generierten „Influencern“ aufgedeckt, die Apps, Wellness-Marken oder Nahrungsergänzungsmittel bewerben und sich dabei mitunter fälschlicherweise als Angehörige der Gesundheitsberufe ausgeben.
In Europa ist dieses Phänomen besonders besorgniserregend, da es mit Werbevorschriften und der bevorstehenden europäischen KI-Verordnung vereinbar ist , die Transparenz im Umgang mit automatisierten Systemen fordert. Obwohl Instagrams Maßnahme nicht als direkte Reaktion auf die europäische Gesetzgebung dargestellt wurde, entspricht sie dem regulatorischen Trend auf dem Kontinent, der eine klare Unterscheidung zwischen künstlich generierten Inhalten und Identitäten anstrebt.
In Märkten wie Spanien, wo Influencer eine immer wichtigere Rolle in Marketingkampagnen und Markenkooperationen spielen, wirft die zunehmende Verbreitung synthetischer Avatare Fragen zum Vertrauen der Öffentlichkeit auf. Die neue Kennzeichnungspflicht ähnelt – wenngleich mit einigen Unterschieden – den Kennzeichnungen für gesponserte Inhalte , die die Werbebranche vor Jahren einführen musste, um den Vorgaben der Verbraucherschutzbehörden und den Selbstregulierungskodizes zu entsprechen.
Für europäische und spanische Marken, die bereits mit KI-generierten Personas arbeiten, bringt die Umstellung einen deutlichen Nachteil mit sich: Wird das Profil nicht als KI-generiert gekennzeichnet, ist seine Reichweite über den Algorithmus eingeschränkt. Jeder Werbetreibende muss daher entscheiden, ob es sich lohnt, den Eindruck einer „echten Person“ zu wahren oder ob er Transparenz priorisiert, um Reichweitenverluste zu vermeiden.
Ein ausgewogenes Verhältnis zwischen Transparenz, Wirtschaftlichkeit und Vertrauen.
Mit diesem Schritt versucht Instagram, einen Widerspruch aufzulösen. Einerseits propagiert Meta seit Langem künstliche Intelligenz als Chance für Kreative und Werbetreibende und bietet Tools zur Bildgenerierung, Textoptimierung und zum Experimentieren mit digitalen Avataren. Andererseits räumt das Unternehmen ein, dass die Verwirrung darüber, wer menschlich ist und wer nicht, das Vertrauen in den Feed selbst gefährdet – die Grundlage seines Werbegeschäfts.
Das soziale Netzwerk löscht keine KI-generierten Profile und verbietet auch nicht deren Monetarisierung; es verlangt lediglich, dass sich die Nutzer identifizieren, um im Empfehlungsalgorithmus gleichberechtigt berücksichtigt zu werden. Damit signalisiert es, dass synthetische Avatare willkommen sind, solange sie sich nicht als etwas ausgeben, was sie nicht sind.
Es bleiben einige Fragen offen: Wie schnell werden diese Regulierungen umgesetzt? Wie werden Agenturen und Marken, die stark in virtuelle Influencer investiert haben, reagieren ? Und werden andere Plattformen diesem Beispiel folgen? Es bleibt auch abzuwarten, ob die Maßnahme ausreicht, um das von vielen Nutzern geäußerte Gefühl der Übersättigung mit KI-generierten Inhalten einzudämmen, oder ob sie das Problem lediglich in andere, weniger regulierte Bereiche verlagert.
Die neue Kennzeichnung markiert in jedem Fall einen Wendepunkt im Umgang von Instagram mit künstlicher Intelligenz im Zusammenhang mit Online-Identitäten. Das soziale Netzwerk geht davon aus, dass synthetische Charaktere dauerhaft verfügbar sein werden, stellt aber eine Grundbedingung: Wenn ein Profil eine von KI erstellte Person zeigt, hat die Community das Recht, dies ohne langes Lesen des Kleingedruckten zu erfahren.