Contact Center Security und KI: Leitfaden für CIO & CISO

Das Contact Center ist längst nicht mehr nur eine Abteilung, die Anrufe beantwortet. Es ist das pulsierende Herz der Kundeninteraktion: der Ort, an dem Kundendaten ausgetauscht, Transaktionen abgewickelt und Vertrauen aufgebaut wird. Und genau deshalb ist es 2026 auch der verwundbarste Punkt in der digitalen Architektur großer Organisationen.

KI-Tools machen das Contact Center smarter, schneller und effizienter. Doch dieselbe KI führt neue Sicherheitsrisiken ein, die sich grundlegend von traditionellen Cyberbedrohungen unterscheiden. Contact-Center-Betrug durch KI-gesteuerte Angriffe wird für 2025 weltweit auf 12,5 Milliarden Dollar geschätzt (SEO-Schätzung auf Basis des Pindrop 2025 Voice Intelligence Report). Deepfake-Stimmen umgehen Verifizierungssysteme, die jahrelang zuverlässig waren. Prompt-Injection-Angriffe manipulieren KI-Chatbots zu nicht autorisierten Aktionen. Und Shadow AI schleicht sich über Agents ins Contact Center, die produktiv sein wollen, aber außerhalb des freigegebenen Tool-Stacks arbeiten.

In diesem Artikel lesen Sie, warum das Contact Center die neue Angriffsfläche ist, welche fünf KI-Sicherheitsrisiken am dringlichsten sind, wie Sie eine Sicherheitsarchitektur aufbauen, die Innovation ermöglicht, ohne die Kontrolle zu verlieren, und welche Rolle Five9 Genius AI als Enterprise-Plattform mit eingebauter Security-Governance spielt.

Wichtigste Erkenntnisse

• Das Contact Center ist die neue Angriffsfläche: Echtzeit-Kundeninteraktion, große Mengen personenbezogener Daten und KI-Integrationen machen es zu einem primären Ziel für Cyberkriminelle.
• Deepfake-Betrug wächst explosionsartig: KI-gesteuerte Betrugsversuche stiegen 2025 um mehr als 1.200% gegenüber dem Vorjahr. Contact Center stehen an vorderster Front dieser Bedrohungslandschaft.
• Prompt Injection ist ein strukturelles Risiko: in Kundenanfragen versteckte bösartige Anweisungen können KI-Agents manipulieren, nicht autorisierte Aktionen auszuführen oder sensible Daten offenzulegen.
• Die DSGVO verlangt Transparenz über den KI-Einsatz: Kunden müssen informiert werden, wenn sie mit einem KI-System interagieren. Über KI-Tools verarbeitete Kundendaten fallen vollständig unter die DSGVO.
• Security ist eine Architekturentscheidung: KI-Systeme nachträglich abzusichern, ist nicht wirksam. Guardrails, LLM-Observability und Data Governance müssen vor dem Go-live eingebaut werden.
• HR spielt eine Schlüsselrolle: Agents sind die menschliche Sicherheitsebene. Training in Deepfake-Erkennung und Sicherheitsbewusstsein ist ebenso essenziell wie technische Maßnahmen.

KI-Nutzung wächst schneller als Richtlinien. CIOs und CISOs müssen daher auf Sichtbarkeit, Governance und integrierte Security setzen. KI in Security und Contact Centern bietet Chancen, sofern kontrolliert implementiert.

Momentum EMEA

In diesem Artikel

Ein Überblick über alle Themen, die in diesem Artikel behandelt werden:

• Warum das Contact Center die neue Angriffsfläche ist
• Die fünf größten KI-Sicherheitsrisiken in Contact Centern
• DSGVO und Compliance in einem KI-gesteuerten Contact Center
• Eine Sicherheitsarchitektur für das moderne Contact Center
• Die Rolle von Five9 Genius AI: Sicherheit eingebaut
• HR und Change Management: die menschliche Sicherheitsebene
• FAQ: häufig gestellte Fragen zu Contact Center Security und KI

Warum das Contact Center die neue Angriffsfläche ist

Traditionelle Cybersecurity-Strategien konzentrieren sich auf Netzwerke, Endpoints und Identitäten. Das Contact Center blieb jahrelang außerhalb dieses Fokus, behandelt als operative Abteilung mit eigenem Tooling. Diese Zeit ist vorbei. Contact Center verarbeiten täglich große Mengen personenbezogener Kundendaten: Namen, Adressen, Zahlungsinformationen, Gesundheitsdaten, Vertragsdetails. Sie sind mit CRM-Systemen, ERP-Plattformen und internen Wissensdatenbanken verbunden. Und sie kommunizieren über Kanäle, die schwer zu überwachen sind: Sprache, Chat, E-Mail und Social Media zugleich.

Die Einführung generativer KI macht diese Angriffsfläche größer und komplexer. KI-Agents beantworten Fragen, verarbeiten Rückerstattungen, rufen Kundendossiers ab und eskalieren an menschliche Agents. Das sind alles Aktionen, bei denen Daten bewegt, Entscheidungen getroffen werden und Vertrauen eine Rolle spielt. Die ThreatLabz-Forschung von Zscaler zeigte einen starken Anstieg KI-gesteuerter Phishing- und Impersonation-Angriffe über Kundenkontaktkanäle (SEO-Schätzung auf Basis von Zscaler ThreatLabz 2025 Daten). Wenn KI eine zentrale Rolle in der Kundeninteraktion spielt, wird sie auch zum Ziel für Angreifer, die dieses Vertrauen missbrauchen wollen.

Für große Organisationen mit mehreren Contact Centern über Standorte in verschiedenen Ländern macht das die Herausforderung entsprechend komplexer. Unterschiedliche Rechtsrahmen, unterschiedliche Security-Reifegrade je Standort und eine verteilte Belegschaft von Agents, die von zu Hause, im Büro oder an externen Standorten arbeiten, schaffen eine Angriffsfläche, die sich mit traditioneller Perimeter-Sicherheit schwer überwachen lässt.

Die fünf größten KI-Sicherheitsrisiken in Contact Centern

Wer KI ins Contact Center integriert, ohne eine explizite Sicherheitsstrategie, erzeugt Risiken, die sich schnell in Datenpannen, Betrug und Compliance-Verstößen materialisieren können. Die fünf dringlichsten Risiken sind die folgenden.

1. Deepfake-Vishing und synthetischer Stimmbetrug. Deepfake-Technologie ermöglicht es, in Echtzeit die Stimme eines Kunden, Managers oder CEO zu klonen und für betrügerische Verifizierungsversuche oder Social-Engineering-Angriffe auf Agents zu nutzen. KI-gesteuerte Betrugsversuche stiegen 2025 um mehr als 1.200%, wobei synthetisches Audio einer der am schnellsten wachsenden Bedrohungsvektoren für Contact Center ist (SEO-Schätzung auf Basis des Pindrop 2025 AI Fraud Spike Report). Gartner prognostiziert, dass 2026 schätzungsweise 30% der Organisationen eigenständige Verifizierungssysteme ohne zusätzliche Ebenen nicht mehr als zuverlässig betrachten werden.

2. Prompt Injection in KI-Chatbots und virtuellen Agents. Prompt Injection ist das Einschleusen bösartiger Anweisungen in Kundenanfragen, um ein KI-System zu manipulieren. Im Contact-Center-Kontext bedeutet das, dass ein Angreifer über eine scheinbar normale Kundenanfrage einen KI-Agent anweisen kann, eine Rückerstattung zu autorisieren, Kontodetails freizugeben, Privilegien zu eskalieren oder Sicherheitseinstellungen zu umgehen. Dieses Risiko ist strukturell bei LLM-basierten Systemen, die mit Kundendaten und Backoffice-Systemen verbunden sind.

3. Datenabfluss über nicht freigegebene KI-Tools (Shadow AI). Agents suchen nach Wegen, schneller und besser zu arbeiten. Wenn die Organisation keine freigegebene KI-Plattform anbietet, oder wenn die freigegebene Plattform den tatsächlichen Bedürfnissen nicht genügt, greifen Agents zu öffentlichen KI-Diensten. Kundendaten, Gesprächsprotokolle und interne Verfahren landen so in externen Systemen ohne vertraglichen Schutz, außerhalb des Verarbeitungsverzeichnisses und ohne die Sicherheitskontrollen, die die DSGVO verlangt.

4. Unkontrollierte agentische KI. Contact Center arbeiten zunehmend mit autonomen KI-Agents, die selbstständig Aktionen ausführen: Rückerstattungen verarbeiten, Termine planen, Vertragsänderungen vornehmen. Ohne angemessene Guardrails, Audit-Trails und menschliche Aufsicht können diese Systeme unbeabsichtigt oder absichtlich manipuliert werden, um außerhalb ihrer autorisierten Befugnis zu handeln.

5. Overpermissive Access und API-Risiken. KI-Systeme im Contact Center sind über APIs mit CRM-Plattformen, Wissensdatenbanken und Kundendossiers verbunden. Wenn diese API-Verbindungen zu weitreichende Zugriffsrechte haben, oder wenn OAuth-Tokens nicht periodisch geprüft werden, entstehen persistente Datenexpositionen, die schwer zu erkennen sind und lange unbemerkt bleiben können.

Expert Insight

Security ist keine Eigenschaft eines KI-Tools. Sie ist eine Architekturentscheidung, die Sie treffen, bevor Sie live gehen.

Der häufigste Fehler bei KI-Implementierungen in Contact Centern ist, es rückwärts zu bauen: erst ein KI-Tool ausrollen, das Produktivität liefert, danach versuchen, Sicherheit und Compliance rückwirkend hinzuzufügen. Das funktioniert nicht. Guardrails, die einem bereits laufenden System auferlegt werden, brechen die Funktionalität. Governance, die nachträglich auferlegt wird, verfehlt den Kontext der Implementierung. Organisationen, die Security als Architekturprinzip behandeln, bauen sie ein: in die Vendor-Auswahl, in die Data Governance, in die Zugriffsrechte, in das Monitoring. Sie entdecken nicht nachträglich, dass ihre KI-Plattform Daten außerhalb der EU verarbeitet. Sie wissen es im Voraus, weil sie danach gefragt haben.

Momentum und Five9 besprechen am 4. Juni, wie sichere KI-Adoption im Contact Center in der Praxis aussieht. BMW Driving Experience, Zandvoort. 60 Plätze.

DSGVO und Compliance in einem KI-gesteuerten Contact Center

Jedes Kundengespräch, das ein Contact Center verarbeitet, enthält personenbezogene Daten. Name, Telefonnummer, Kundennummer, das Gesprächsthema: alles Daten, die unter die DSGVO fallen. Wenn KI-Systeme bei diesen Gesprächen eingesetzt werden, fügt die DSGVO zusätzliche Pflichten hinzu, die viele Organisationen noch unzureichend umgesetzt haben.

Die Datenschutzbehörde ist eindeutig beim Einsatz algorithmischer Systeme: Wenn KI für Entscheidungsfindung oder Analyse auf Basis personenbezogener Daten eingesetzt wird, müssen Transparenz, Rechtmäßigkeit und Sicherheit gewährleistet sein. Kunden müssen informiert werden, wenn sie mit einem KI-System statt einem menschlichen Agent interagieren. Dies ist ab August 2026 auch ausdrücklich unter dem EU AI Act für Systeme erforderlich, die darauf ausgelegt sind, mit Individuen zu kommunizieren.

Für KI-Systeme, die für Kundensegmentierung, Profilbildung oder automatisierte Entscheidungsfindung eingesetzt werden, ist eine Datenschutz-Folgenabschätzung (DSFA) nahezu immer verpflichtend. Das Verarbeitungsverzeichnis der Organisation muss alle KI-Verarbeitungen im Contact Center enthalten, inklusive der Datenflüsse zu Cloud-Plattformen wie CCaaS-Anbietern. Wenn eine Cloud-Contact-Center-Plattform Daten außerhalb der EU verarbeitet, erfordert dies einen aktuellen Übermittlungsmechanismus wie Standard Contractual Clauses, kombiniert mit einem Transfer Impact Assessment.

Für Organisationen, die PCI-bezogene Transaktionen über das Contact Center verarbeiten, gelten zusätzliche Anforderungen unter PCI-DSS. Zahlungsdaten dürfen niemals in ungesicherten KI-Modellen gespeichert oder in öffentliche LLM-Dienste eingegeben werden. Enterprise-Plattformen wie Five9 sind als Level 1 PCI-DSS Service Provider zertifiziert und bieten technischen Schutz speziell für dieses Risiko.

Eine Sicherheitsarchitektur für das moderne Contact Center

Eine effektive Sicherheitsarchitektur für KI-gesteuerte Contact Center arbeitet in vier Ebenen, die einander verstärken.

Ebene 1: Identity & Access Management. Jede Mitarbeitende, jeder KI-Agent und jede API-Verbindung hat minimale Zugriffsrechte auf Basis von Rolle und Notwendigkeit. Breite OAuth-Berechtigungen für KI-Tools werden periodisch geprüft und auf das strikt Notwendige zurückgeführt. Multi-Faktor-Authentifizierung gilt für alle Zugriffspunkte, inklusive Remote-Agents.

Ebene 2: Data Governance und Klassifizierung. Kundendaten werden nach Sensibilitätsstufe klassifiziert. Das bestimmt, welche Daten welchen KI-Systemen zur Verfügung stehen. Besondere Kategorien wie medizinische Daten, Finanzdaten und biometrische Stimmdaten dürfen ausschließlich von Systemen mit den richtigen Zertifizierungen und vertraglichen Garantien verarbeitet werden. Verarbeitungsverzeichnisse werden bei jeder Änderung an Tooling oder KI-Konfiguration aktuell gehalten.

Ebene 3: KI-Guardrails und LLM-Security. KI-Modelle, die im Contact Center eingesetzt werden, erhalten granulare Guardrails: welche Aktionen sie ausführen dürfen, welche Daten sie abrufen dürfen und welche Ausgabe vor dem Versand geprüft wird. LLM-Observability-Tools überwachen in Echtzeit auf Halluzinationen, abweichendes Verhalten und Security-Risiken. Prompt-Injection-Schutz wird in die Prompt-Architektur eingebaut.

Ebene 4: Echtzeit-Monitoring und Anomaly Detection. Abweichungen in Kundeninteraktionen, wie ungewöhnliche Rückerstattungsanfragen, schnelle Sequenzen von Kontoänderungen oder unbekannte Anrufmuster, werden über Verhaltensanalyse und KI-gesteuerte Betrugserkennung erkannt. Deepfake-Stimmerkennung wird in die Verifizierungsebene für Hochrisiko-Interaktionen eingebaut.

Die Rolle von Five9 Genius AI: Sicherheit eingebaut

Five9 ist Event-Partner von Momentum bei der BMW Driving Experience am 4. Juni 2026. Als führende Cloud-Contact-Center-Plattform bietet Five9 Enterprise-Organisationen eine einzigartige Kombination aus KI-Kraft und eingebauter Security-Governance über den Five9 AI Trust & Governance Layer, Teil der Genius-AI-Plattform.

Der AI Trust & Governance Layer bietet CIOs und CISOs eine Suite von Tools, um KI-Verhalten zu überwachen, zu konfigurieren und abzusichern. Granulare Guardrails versetzen Organisationen in die Lage, KI-Modelle, Outputs und Autonomiestufen je Kanal, Use Case und Kundensegment anzupassen. LLM-Observability-Funktionen überwachen das KI-System kontinuierlich auf Performance, Halluzinationen und Security-Risiken und liefern die Nachweislast, die Aufsichtsbehörden erwarten.

Five9 erfüllt die höchsten Enterprise-Sicherheitsnormen: SOC 2 Type 2 zertifiziert, Level 1 PCI-DSS Service Provider, HIPAA-konform und DSGVO-bereit. Kundendaten werden sowohl in transit als auch at rest verschlüsselt. Die Plattform läuft auf Cloud-Infrastruktur, die ISO 27001/27002 und NIST-Standards erfüllt. Für multinationale Organisationen bietet Five9 Data-Residency-Optionen, die an regionale Compliance-Anforderungen anschließen.

Das Ergebnis ist eine Contact-Center-Umgebung, in der KI-Innovation und Security nicht miteinander konkurrieren, sondern einander verstärken. Agents werden von KI unterstützt, die zuverlässig, nachvollziehbar und compliant ist. Supervisors erhalten Echtzeit-Einblick in das KI-Verhalten. Und CISOs können nachweisen, dass die KI-Systeme im Contact Center die Anforderungen von DSGVO, AI Act und PCI-DSS erfüllen.

HR und Change Management: die menschliche Sicherheitsebene

Technologie und Richtlinien sind notwendig. Aber der menschliche Faktor bleibt das verwundbarste Glied in der Sicherheit von Contact Centern. Agents sind die Ersten, die mit Deepfake-Stimmen, manipulierten Kundenanfragen und Social-Engineering-Angriffen in Kontakt kommen. Ohne angemessenes Training erkennen sie diese Angriffe nicht, schlicht weil die Angriffe immer überzeugender werden.

Effektives Security-Training für Contact-Center-Agents geht über ein jährliches E-Learning zu Phishing hinaus. Es umfasst spezifische Szenarien der Deepfake-Erkennung, Praxissimulationen von Prompt-Injection-Angriffen auf KI-Tools, klare Verfahren zur Meldung verdächtiger Interaktionen und rollenspezifische Richtlinien dazu, welche Daten niemals in KI-Tools eingegeben werden dürfen.

Change Management spielt eine kritische Rolle bei großen Organisationen mit Contact Centern in mehreren Ländern. Die Sicherheitsrichtlinie muss verständlich, anwendbar und am Arbeitsplatz in Amsterdam, Frankfurt und Singapur verankert sein. Das erfordert lokale Botschafter, mehrsprachige Trainingsprogramme und eine Sicherheitskultur, die nicht bestraft, sondern lehrt. HR und IT müssen hier zusammenarbeiten: HR für die Verhaltensänderung, IT für die technischen Rahmenbedingungen.

Möchten Sie wissen, wie Ihre Organisation die Sicherheit des Contact Centers mit KI und Governance auf ein höheres Niveau hebt? Am 4. Juni 2026 veranstaltet Momentum ein exklusives Event bei der BMW Driving Experience in Zandvoort. Five9 teilt als Partner konkrete Einblicke in KI-gesteuerten Kundenkontakt und die dafür erforderliche Sicherheitsarchitektur. Cato Networks bringt die Netzwerk-Security-Perspektive. Nur 60 Plätze verfügbar.

Beherrschen Sie KI in Ihrem Contact Center, bevor Angreifer es tun

Deepfakes, Prompt Injection, Shadow AI und agentische KI ohne Guardrails: Die Sicherheitsrisiken in modernen Contact Centern sind real und wachsend. Am 4. Juni 2026 bringt Momentum IT-Verantwortliche bei einer exklusiven Inspirationssession bei der BMW Driving Experience in Zandvoort zusammen. Five9 und Cato Networks präsentieren konkrete Governance-Modelle für sichere KI-Adoption im Kundenkontakt. Peer-Austausch und strategische Einblicke für CIOs, CISOs und IT-Direktoren. Nur 60 Plätze.

Melden Sie sich jetzt an und entdecken Sie, wie Sie KI und Security in Ihrem Contact Center zusammenarbeiten lassen.