Ein Verstoß gegen die Kennzeichnungspflicht aus Art. 50 EU AI Act liegt praktisch dann vor, wenn ein KI-System – etwa ein Chat- oder Voice-Widget – direkt mit einer natürlichen Person interagiert, ohne dass diese klar, unterscheidbar und zugänglich darüber informiert wird, dass sie mit einer KI kommuniziert.
Typische Praxisbeispiele: Ein Chat-Widget, das nur mit einem Vornamen wie "Anna" beschriftet ist, ohne jeden weiteren Hinweis auf KI. Oder ein KI-Hinweis, der ausschließlich im Impressum steht, aber nicht am Chat-Widget selbst erscheint – dort, wo die Interaktion tatsächlich stattfindet. Auch ein Hinweis, der zwar kurz aufblitzt, aber nach wenigen Sekunden automatisch verschwindet, erfüllt die Anforderung in der Praxis meist nicht zuverlässig.
Der gemeinsame Nenner solcher Fälle: Der Hinweis existiert entweder gar nicht, oder er ist so platziert bzw. gestaltet, dass ein durchschnittlicher Nutzer ihn im Moment der Interaktion nicht wahrnimmt.
Verstöße gegen Art. 50 fallen unter das Bußgeldregime des Art. 99 AI Act. Details zum konkreten Bußgeldrahmen findest du im Eintrag Welche Bußgelder drohen bei AI-Act-Verstößen?
Wichtig: Ob im Einzelfall tatsächlich ein Verstoß vorliegt und wie er zu bewerten ist, hängt von der konkreten Ausgestaltung des jeweiligen Widgets ab – eine pauschale Einschätzung ist hier nicht seriös möglich. Wer selbst prüfen möchte, ob die eigene Website betroffen sein könnte, findet einen praktischen Selbsttest sowie Formulierungsbeispiele für eine korrekte Kennzeichnung im vollständigen Guide zur Chatbot-Kennzeichnungspflicht.
Dieser Guide ist eine allgemeine technische Einordnung, keine Rechtsberatung und keine rechtsverbindliche Prüfung im Sinne des Rechtsdienstleistungsgesetzes (RDG). Für eine verbindliche rechtliche Einordnung empfehlen wir eine anwaltliche Einzelfallprüfung.
EU AI Act: Chatbot-Kennzeichnungspflicht (vollständiger Guide)
Zum vollständigen Guide