Die europäische Verordnung über künstliche Intelligenz (AI Act, Verordnung EU 2024/1689) ist seit 2024 in Kraft, ihre Transparenzpflichten gelten ab August 2026. Für alle, die einen automatischen Telefonassistenten nutzen, ist die Regel einfach: Anrufer müssen wissen, dass sie mit einer Maschine sprechen. Hier steht, was das in der Praxis bedeutet.
Die Transparenzpflicht
Artikel 50 des AI Act besagt, dass KI-Systeme, die für die Interaktion mit Menschen bestimmt sind, so gestaltet sein müssen, dass die Menschen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, das ist aus dem Zusammenhang offensichtlich.
Ein Telefonat mit einer natürlichen Stimme ist kein offensichtlicher Zusammenhang: Die Kundin könnte glauben, sie spreche mit einem Menschen. Deshalb muss die Assistentin es zu Beginn des Anrufs sagen.
Was die Assistentin sagt
Jeder Anruf beginnt mit einem Satz wie: 'Giulia Parrucchieri, guten Morgen! Ich bin die virtuelle Assistentin von Giulia Parrucchieri. Wie kann ich Ihnen helfen?'. Der Hinweis ist klar, kurz und schreckt niemanden ab: In unseren Testanrufen hat deswegen niemand aufgelegt.
Der Hinweis lässt sich nicht abschalten: Er ist Teil des Service, und unsere Nutzungsbedingungen sagen das ausdrücklich.
Wer verantwortlich ist
Der AI Act unterscheidet zwischen dem Anbieter des Systems (Rispondly) und dem Betreiber (deinem Betrieb). Rispondly garantiert, dass das System die Anrufer informiert; der Betrieb muss den Service bestimmungsgemäß nutzen und darf nicht versuchen, die Assistentin als Menschen auszugeben.
DSGVO und Gesprächsaufzeichnung
Die DSGVO gilt unabhängig vom AI Act. Der Anruf wird transkribiert, um die Buchung zu erstellen: Auch darüber müssen die Anrufer informiert werden, und die Datenschutzerklärung des Betriebs muss Rispondly als Auftragsverarbeiter nennen. Wir geben unseren Kunden einen fertigen Text zum Einfügen.
Die per Sprache erfassten Daten (Name, Telefon, Leistung, Uhrzeit) sind dieselben, die der Kunde einer Empfangskraft geben würde. Wir fragen keine Gesundheits- oder Zahlungsdaten ab.
Was in der Praxis zu tun ist
Nutze eine Assistentin, die sich immer als solche zu erkennen gibt. Ergänze deine Datenschutzerklärung um den Text, den wir liefern. Verlange nicht, den Eröffnungssatz zu entfernen. Bittet ein Kunde darum, mit einem Menschen zu sprechen, stellt die Assistentin den Anruf zu dir durch: Das ist schon eingebaut.