Der AI Act in Kürze: Was die Verordnung regelt
Der EU AI Act ist die weltweit erste umfassende Regulierung für Künstliche Intelligenz. Er trat am 1. August 2024 in Kraft und gilt schrittweise: Die Verbote für inakzeptable Praktiken griffen ab Februar 2025, die Pflichten für Hochrisiko-Systeme und Transparenzanforderungen ab August 2026. Das Gesetz folgt einem risikobasierten Ansatz mit vier Stufen: unannehmbares Risiko (verboten), hohes Risiko (strenge Pflichten), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (kaum Pflichten). Ein KI-Telefonassistent, der Anrufe annimmt, qualifiziert und Termine bucht, fällt typischerweise in die Kategorie des begrenzten Risikos – also nicht in die Hochrisiko-Kategorie, solange er keine biometrische Fernidentifizierung, kein Profiling für Entscheidungen mit Rechtswirkung und keine sicherheitskritischen Funktionen übernimmt. Relevant sind für Telefon-KI vor allem die Transparenzpflichten aus Art. 50. Die Verstöße sind teuer: Bei Verstößen gegen Transparenzpflichten drohen Bußgelder von bis zu 15 Millionen Euro oder 3 % des weltweiten Jahresumsatzes, bei verbotenen Praktiken bis 35 Millionen Euro oder 7 %. Für den Mittelstand heißt das: Verstehen, was Art. 50 verlangt, und die Umsetzung als Qualitätsmerkmal begreifen.
Risikoeinstufung eines Telefonassistenten
Die Einstufung entscheidet über den Pflichtenumfang. Hochrisiko-Systeme nach Anhang III des AI Act sind etwa KI in kritischer Infrastruktur, in der Bildung, im Personalwesen oder in bestimmten Verwaltungs- und Justizbereichen. Ein Standard-KI-Telefonassistent für Terminbuchung und Anrufqualifizierung zählt nicht dazu – er fällt als System zur Interaktion mit natürlichen Personen unter die Transparenzpflichten des Art. 50. Entscheidend ist die Grenze zur Hochrisiko-Einstufung: Sobald der Assistent beispielsweise medizinische Diagnosen erstellt, über die Kreditwürdigkeit entscheidet oder Bewerber automatisiert bewertet, kippt die Einstufung und es greifen die deutlich strengeren Hochrisiko-Pflichten (Risikomanagement, Daten-Governance, Konformitätsbewertung, menschliche Aufsicht, Protokollierung). Deshalb gilt als Faustregel: Je mehr der Assistent nur informiert, qualifiziert und weiterleitet, desto unkomplizierter die Pflichten. Übernimmt er fachliche oder gar rechtsverbindliche Entscheidungen, wird es komplex. Der verantwortungsvolle Einsatz grenzt den Funktionsumfang klar ab: Ein Assistent, der sensible Entscheidungen – etwa Preisverbindlichkeit, Rechtsauskünfte oder medizinische Einschätzungen – konsequent an einen Menschen übergibt, bleibt sauber im begrenzten Risiko. Diese Abgrenzung ist zugleich ein Qualitäts- und Sicherheitsmerkmal.
Art. 50 Transparenz: Das Bot-Outing in der ersten Ansage
Art. 50 Abs. 1 AI Act verlangt: KI-Systeme, die zur Interaktion mit natürlichen Personen bestimmt sind, müssen so gestaltet sein, dass die betroffenen Personen darüber informiert werden, dass sie mit einem KI-System interagieren – es sei denn, dies ist für eine vernünftig informierte Person offensichtlich. Bei einem Telefonanruf ist das praktisch nie offensichtlich: Eine moderne Sprach-KI klingt für viele Anrufer nicht mehr eindeutig künstlich. Deshalb muss die Information aktiv erfolgen – und zwar am besten in der ersten Ansage, nicht versteckt in der Datenschutzerklärung oder im Footer. Eine konforme Ansage lautet sinngemäß: »Sie sprechen mit dem KI-Telefonassistenten von [Unternehmen].« Diese Ansage erfüllt gleichzeitig die DSGVO-Transparenz nach Art. 13. Wichtig ist der Zeitpunkt: Die Information muss vor oder zu Beginn der Interaktion erfolgen, nicht erst nachträglich. Zusätzlich sollte der Assistent die Möglichkeit bieten, mit einem Menschen verbunden zu werden. Wer diese Pflicht missachtet, riskiert die genannten Bußgelder – und verspielt zugleich Vertrauen. foncall setzt das Bot-Outing konsequent in der ersten Ansage um und nutzt die Transparenz aktiv als Verkaufsargument: Wer offen sagt, dass eine KI spricht, gewinnt Glaubwürdigkeit statt sie zu verlieren.
Grenzen bei medizinischen Anwendungen
Besondere Vorsicht gilt im medizinischen Umfeld. Sobald ein KI-System medizinische Diagnosen stellt, Therapien empfiehlt oder die Dringlichkeit eines Gesundheitszustands bewertet, kann es in den Hochrisiko-Bereich fallen – insbesondere wenn es als Medizinprodukt im Sinne der MDR (Verordnung (EU) 2017/745) gilt oder in Anhang III erfasst ist. Für Arzt- und Zahnarztpraxen bedeutet das: Ein KI-Telefonassistent darf Termine annehmen, Kontaktdaten aufnehmen und einfache organisatorische Fragen klären. Er darf aber keine medizinische Einschätzung abgeben, keine Symptome bewerten und keine Behandlungsempfehlung aussprechen. Bei allem, was den Gesundheitszustand betrifft, muss die Übergabe an medizinisches Fachpersonal erfolgen. Genau diese Abgrenzung – organisatorische Anrufannahme ja, medizinische Bewertung nein – hält das System im begrenzten Risiko und schützt sowohl Patienten als auch die Praxis vor Haftung. Anbieter, die sich an Praxen richten, müssen diese Grenze in ihren Gesprächsabläufen hart verdrahten: erkennt der Assistent ein medizinisches Anliegen, wird sofort priorisiert an einen Menschen weitergeleitet. Das ist nicht nur rechtlich geboten, sondern auch medizinisch sicherer.
Pflichten für Anbieter und Betreiber
Der AI Act unterscheidet zwischen Anbietern und Betreibern – in der Praxis sind beim KI-Telefonassistenten beide Rollen betroffen. Der Anbieter (der Hersteller der KI-Lösung) muss sein System so gestalten, dass die Transparenzpflichten erfüllt sind, und muss technische Dokumentation sowie Kennzeichnung sicherstellen. Der Betreiber (der Betrieb, der den Assistenten einsetzt) ist dafür verantwortlich, dass das System bestimmungsgemäß und konform eingesetzt wird – er darf beispielsweise die Bot-Ansage nicht abschalten oder den Assistenten in Hochrisiko-Bereichen zweckentfremden. Konkret für den Mittelstand: Prüfen Sie, ob Ihr Anbieter die Art. 50-Transparenz technisch umsetzt, und stellen Sie sicher, dass die Ansage im Betrieb aktiv bleibt. Fragen Sie nach der Risikoeinstufung des Systems und ob der Anbieter eine EU-Konformitätserklärung für seine relevanten Systeme vorhält. Halten Sie den Einsatzbereich eng: keine automatisierten Entscheidungen mit Rechtswirkung, keine medizinische Bewertung, keine biometrische Identifikation. Wer diese Grundsätze beachtet, bewegt sich im Bereich des begrenzten Risikos mit überschaubaren Pflichten. Die Transparenz ist dabei die wichtigste konkrete Einzelpflicht, die täglich greift – bei jedem einzelnen Anruf.
Was ab 2026 gilt: Der konkrete Zeitplan
Der AI Act tritt in Stufen in Kraft, und ab 2026 werden die für Telefon-KI relevanten Pflichten verbindlich. Der Überblick: Ab dem 2. Februar 2025 galten die Verbote für inakzeptable KI-Praktiken, etwa manipulative Techniken oder Social Scoring. Ab dem 2. August 2025 folgten die Governance- und Transparenzpflichten für GPAI-Modelle (General-Purpose-AI) mit systemischem Risiko. Ab dem 2. August 2026 greifen die Pflichten für Hochrisiko-Systeme aus Anhang III sowie die vollständige Anwendung der Transparenzpflichten des Art. 50 – das ist der Stichtag, der für KI-Telefonassistenten praktisch relevant ist. Ab August 2027 gelten zusätzlich die Pflichten für bestimmte Hochrisiko-Systeme, die in regulierte Produkte integriert sind. Für Betreiber eines KI-Telefonassistenten heißt das konkret: Spätestens ab August 2026 müssen Bot-Outing und Transparenz technisch und organisatorisch sauber umgesetzt sein. Wer schon heute einen Anbieter wählt, der die Pflichten vorwegnimmt, vermeidet Nachrüstungsdruck. Die gute Nachricht: Die Umsetzung der Transparenz ist technisch einfach – eine klare Eröffnungsansage – und kostet nichts. Es ist also keine Frage des Budgets, sondern der Konsequenz.
Konformität als Vertrauensbeweis nutzen
Die AI-Act-Konformität lässt sich aktiv in ein Verkaufsargument übersetzen. Kunden im Mittelstand – und erst recht Verbraucher – werden sensibler dafür, ob sie mit einer KI sprechen und ob diese offen damit umgeht. Ein Anbieter, der das Bot-Outing in der ersten Ansage konsequent umsetzt, signalisiert: Wir halten uns an die Regeln und gehen offen mit Technologie um. Das unterscheidet ihn von Anbietern, die die KI verschleiern oder die Transparenz in Kleingedrucktes verlagern. Für Betriebe, die den Assistenten einsetzen, bedeutet die Konformität zugleich Rechtssicherheit: Wer die Art. 50-Pflicht erfüllt, riskiert keine Bußgelder wegen fehlender Transparenz. Praktisch umsetzen lässt sich das mit drei Schritten: Erstens einen Anbieter wählen, der das Bot-Outing technisch fix verankert hat. Zweitens den Einsatzbereich dokumentieren – welche Anliegen die KI übernimmt und wo sie an Menschen übergibt. Drittens die Ansage regelmäßig testen, etwa mit einem Probeanruf. Damit ist die AI-Act-Compliance nicht nur erfüllt, sondern wird zu einem sichtbaren Qualitätsmerkmal, das Vertrauen aufbaut und im Wettbewerb differenziert. foncall macht genau diese Transparenz zum Kern seiner Positionierung.
Erreichbar, wenn es zählt
foncall.ai nimmt deine Anrufe rund um die Uhr an – ab 49 €/Monat.
Jetzt kostenlos testen