Was der AI Act verlangt
Artikel 50 Absatz 1 des AI Act schreibt vor, dass KI-Systeme, die direkt mit Menschen sprechen, so gestaltet sein müssen, dass die Person spätestens beim ersten Kontakt erfährt, dass sie es mit einer KI zu tun hat. Das gilt für Chatbots genauso wie für Sprachassistenten am Telefon. Die Regel gilt seit dem 2. August 2026.
Das Änderungsgesetz zum AI Act, der sogenannte Digital Omnibus (Verordnung (EU) 2026/1744, seit dem 27. Juli 2026 in Kraft), hat einiges verschoben, zum Beispiel die Fristen für Hochrisiko-Systeme. Die Pflicht zur Offenlegung bei Gesprächen mit einer KI blieb laut IHK-Zusammenfassung davon unberührt.
Gibt es Ausnahmen?
Der Hinweis entfällt, wenn für einen durchschnittlich informierten und aufmerksamen Menschen offensichtlich ist, dass er mit einer Maschine spricht. Bei einer Telefonstimme, die natürlich klingt, würde ich mich darauf nicht stützen. Wer die Ausnahme dennoch nutzen will, sollte die Begründung schriftlich festhalten.
Auch ein Assistent, der nur nachts oder bei besetzter Leitung ans Telefon geht, fällt unter die Regel. Es kommt nicht auf die Größe Ihres Betriebs an. Es kommt darauf an, dass ein Mensch mit einer Maschine spricht, ohne es zu wissen. Eine Zahnarztpraxis, die Terminanrufe von einem Assistenten annehmen lässt, braucht den Hinweis genauso wie ein Dachdecker, der Rückrufwünsche aufnimmt.
Wer ist in der Pflicht
Der Wortlaut von Artikel 50 Absatz 1 richtet sich an den Anbieter des Systems, also an den, der es entwickelt oder unter eigenem Namen anbietet. In Ihrem Betrieb sind Sie meist Betreiber des Assistenten. In der Praxis lohnt es sich trotzdem, den Hinweis selbst zu prüfen, denn Ihre Kunden rufen bei Ihnen an und fragen bei Ihnen nach.
Für Verstöße gegen Artikel 50 nennt der AI Act Bußgelder von bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes. Zuständig soll in Deutschland die Bundesnetzagentur werden. Ein sauber eingebauter Hinweis kostet im Vergleich dazu fast nichts.
Die EU-Kommission hat nach Angaben der Kanzlei FGS am 20. Juli 2026 Leitlinien zu Artikel 50 veröffentlicht. Sie sind nicht bindend, prägen aber die Erwartungen der Aufsicht. Wer den Hinweis so einbaut, wie es die Leitlinien nahelegen, steht im Zweifel besser da.
So klingt ein freundlicher Hinweis
Der Hinweis gehört in den ersten Satz. Ein Beispiel: „Guten Tag, hier ist der digitale Assistent von Elektro Muster. Ich nehme Ihr Anliegen auf, und das Team ruft Sie heute noch zurück.“ Das dauert fünf Sekunden und klingt weder entschuldigend noch versteckt.
Gut ist, wenn der Assistent gleich sagt, was er kann. Er nimmt Termine auf, notiert Rückrufwünsche und beantwortet einfache Fragen zu Öffnungszeiten oder Anfahrt. Wer das weiß, bleibt entspannt dran. Wer überrumpelt wird, legt auf.
Sprechen Sie den Hinweis in normalem Tempo und nicht als Nuschelsatz vor der Begrüßung. Ein Anrufer, der den Satz nicht versteht, hat ihn nicht erhalten. Testen Sie die Ansage deshalb mit Menschen, die den Text nicht kennen, und fragen Sie, was sie behalten haben.
Den Weg zum Menschen offenhalten
Kein Gesetz zwingt Sie dazu, aber Ihre Kunden erwarten es. Bei Notfällen, etwa einem Wasserschaden oder einer Heizungsstörung im Winter, sollte der Anruf direkt auf ein Handy durchgestellt werden. Dasselbe gilt, wenn jemand ausdrücklich einen Menschen verlangt.
Alles andere kann der Assistent aufnehmen und als Nachricht an Sie weitergeben. Nichts davon geht ohne Ihr Okay nach außen. So behalten Sie die Kontrolle über Zusagen, Preise und Termine.
Aufzeichnung und Datenschutz
Von der Kennzeichnung ist die Frage getrennt, ob ein Gespräch aufgezeichnet oder als Text gespeichert wird. Dann greift die Datenschutz-Grundverordnung. Anrufer müssen informiert werden, und Ihre Datenschutzerklärung sollte den Einsatz beschreiben. Mehr dazu steht im Artikel Ist KI im Betrieb DSGVO-konform?.
Prüfen Sie außerdem, wo die Sprachdaten verarbeitet werden. Läuft die Technik auf Ihrem eigenen Server, bleiben die Daten in Ihrer Hand.
Was Sie jetzt tun können
Rufen Sie Ihren eigenen Assistenten an und hören Sie, ob der Hinweis im ersten Satz kommt. Fragen Sie Ihren Dienstleister schriftlich, wie die Pflicht aus Artikel 50 umgesetzt ist. Wie ein Telefonassistent grundsätzlich arbeitet, erklärt der Artikel Was kostet ein KI-Telefonassistent?.
Wenn Sie noch nicht wissen, ob ein Telefonassistent für Ihren Betrieb überhaupt der richtige erste Schritt ist, zeigt der Betriebs-Check in zwei Minuten, wo Ihre Zeit tatsächlich versickert. Dieser Artikel ist keine Rechtsberatung. Bei Zweifeln klären Sie die Umsetzung mit einem Fachanwalt.
Halten Sie in einer kurzen Notiz fest, welches System im Einsatz ist, wer es anbietet, wie der Hinweis lautet und wann Sie ihn zuletzt getestet haben. Diese eine Seite hilft Ihnen bei Rückfragen von Kunden, Versicherern oder Behörden.