So schützen Sie Ihr Unternehmen vor Phishing, Deepfakes und Ransomware.
Eine überzeugende E-Mail, ein Anruf mit der Stimme der Geschäftsführung oder eine gezielte Suche nach Sicherheitslücken: Cyberkriminelle nutzen künstliche Intelligenz, um Cyberangriffe schneller und glaubwürdiger zu machen. Für Unternehmen kommt es deshalb darauf an, sensible Entscheidungen abzusichern, Zugänge zu schützen und verdächtige Aktivitäten früh zu erkennen.
KI-gestützte Angriffe lassen sich mit einer mehrschichtigen Abwehr begrenzen: phishing-resistente Anmeldung, unabhängige Freigabeprozesse, zeitnah geschlossene Schwachstellen, wirksame Überwachung und getestete Notfallabläufe. Dieser Praxisleitfaden zeigt IT-Verantwortlichen und Geschäftsleitungen, wie sie ihre Cybersicherheit gezielt verbessern, Bedrohungen priorisieren und die Wirkung ihrer Maßnahmen prüfen.
KI-Cyberangriffe sind Angriffe, bei denen Cyberkriminelle oder staatliche Akteure künstliche Intelligenz zur Vorbereitung oder Durchführung einsetzen. Dazu gehören personalisierte Phishing-Nachrichten, gefälschte Stimmen und Videos, die Auswertung öffentlicher Informationen sowie Unterstützung bei der Analyse von Schwachstellen und der Entwicklung von Schadsoftware. Nicht jeder Schritt muss dabei automatisiert sein. [2]
Cyberkriminelle verfolgen häufig bekannte Ziele: Zugangsdaten stehlen, Zahlungen erschleichen, Daten abziehen oder den Geschäftsbetrieb durch Ransomware lahmlegen. Für die Abwehr ist deshalb die konkrete Angriffshandlung entscheidend. Ein gestohlenes Konto muss gesperrt werden, unabhängig davon, wer den Phishing-Text geschrieben hat.
Davon zu unterscheiden sind Angriffe auf unternehmenseigene KI-Systeme. Bei einer Prompt Injection schleusen Angreifer beispielsweise Anweisungen in ein Dokument ein, das ein KI-Assistent verarbeitet. Ob der Angreifer selbst KI verwendet, ist dafür unerheblich. Unternehmen mit KI-Assistenten oder Agenten müssen beide Risiken berücksichtigen. [3]
KI erleichtert es Cyberkriminellen, Informationen über Zielorganisationen und deren Beschäftigte auszuwerten, passende Täuschungen zu erstellen und Varianten eines Angriffs zu testen. Sprachliche Fehler verlieren als Warnsignal an Bedeutung. Auch kleinere Unternehmen sollten sich deshalb nicht auf die Annahme verlassen, dass ein gezielter Angriff für Täter zu aufwendig wäre. [11]
Hinzu kommt die Entwicklung leistungsfähiger KI-Agenten. Das britische National Cyber Security Centre beschreibt 2026 deutliche Fortschritte bei einzelnen Schritten komplexer Cyberoperationen. Die dort betrachteten Tests zeigen zugleich Grenzen bei vollständigen Angriffsketten. Daraus lässt sich weder eine Entwarnung noch die Behauptung ableiten, jeder Angriff laufe bereits vollständig autonom ab. [4]
Für Ihre Prioritäten bedeutet das: Schließen Sie bekannte Einfallstore und verkürzen Sie die Zeit zwischen einem Warnsignal und der Reaktion. Ob eine Nachricht tatsächlich KI-generiert ist, lässt sich aus ihrem Stil allein nicht zuverlässig feststellen.
OpenAI dokumentierte bereits 2024 gemeinsam mit Microsoft den Missbrauch seiner Dienste durch staatlich verbundene Akteure. Zu den beobachteten Anwendungen gehörten Recherche, Übersetzungen und Unterstützung bei Skripten. Das zeigt den praktischen Nutzen von Sprachmodellen für Angreifer, belegt aber keine Erfolgsquote für sämtliche KI-Cyberangriffe. [12]
Beim Spearphishing richten sich Nachrichten gezielt an bestimmte Personen. KI kann dabei helfen, öffentlich verfügbare Informationen in einen plausiblen Anlass zu übersetzen: einen Messekontakt, eine Bewerbung oder eine angebliche Projektfreigabe. Cyberkriminelle können solche Nachrichten per E-Mail, Messenger oder SMS versenden. [1]
Ein mögliches Szenario: Die Buchhaltung erhält eine professionell formulierte Nachricht über eine geänderte Bankverbindung eines Lieferanten. Namen und Projektbezug stimmen. Trotzdem ist die Zahlungsanweisung gefälscht. Für das Opfer wirkt die Nachricht wie ein gewöhnlicher Geschäftsvorgang. Ein gefährlicher Anhang ist für diesen Betrug nicht erforderlich.
Die wirksame Gegenmaßnahme liegt im Ablauf: Änderungen von Bankverbindungen werden über einen bereits hinterlegten Kontakt bestätigt und im Vier-Augen-Prinzip freigegeben. Eine Antwort im selben E-Mail-Verlauf ist kein unabhängiger Nachweis.
Synthetische Audio- und Videoinhalte können Personen imitieren. Beim CEO-Fraud geben Cyberkriminelle sich als Führungskraft aus und verlangen beispielsweise eine dringende Überweisung oder vertrauliche Unterlagen. Die vertraute Stimme soll eine Entscheidung beschleunigen. [1]
Das Praxisprinzip lautet: Stimme und Bild ersetzen keine Freigabe. Mitarbeitende dürfen sensible Anfragen unterbrechen und über eine bekannte Nummer zurückrufen. Nutzen Sie dafür das interne Verzeichnis oder geprüfte Kontaktdaten, nicht die Kontaktdaten aus der verdächtigen Nachricht.
Trainieren Sie besonders Buchhaltung, Assistenz, Personalabteilung und IT-Support. Ein Identitätsbetrug kann auch auf einen Passwort-Reset abzielen. Deepfake-Erkennung kann Hinweise liefern, sollte aber keine alleinige Grundlage für Zahlungen oder die Vergabe von Zugängen sein.
Cyberkriminelle und staatliche Akteure können KI zur Analyse von Informationen, zur Suche nach Schwachstellen und als Programmierhilfe einsetzen. Der Verfassungsschutz Baden-Württemberg beschreibt solche Einsatzmöglichkeiten auch für staatlich gesteuerte Akteure. [2]
Eine mit KI entwickelte Schadsoftware ist dadurch nicht automatisch unsichtbar. Für die Verteidigung bleiben unter anderem unerwartete Prozesse, verdächtige Skripte und ungewöhnliche Zugriffe relevant. Verhaltensbasierte Erkennung ergänzt den Schutz gegen bekannte Schadprogramme.
Auch ein Ransomware-Vorfall beweist keinen KI-Einsatz. Planen Sie Ihre Abwehr deshalb gegen den Schaden: unberechtigten Zugriff, Datenabfluss, Verschlüsselung und Betriebsunterbrechung. Diese Schutzmaßnahmen bleiben auch gegenüber KI-unterstützten Angriffen sinnvoll.
Starten Sie bei E-Mail, Fernzugriffen und administrativen Konten. Multi-Faktor-Authentifizierung erschwert die Übernahme eines Kontos mit einem gestohlenen Passwort. Phishing-resistente Verfahren auf Basis von FIDO2 beziehungsweise WebAuthn bieten zusätzlichen Schutz vor gefälschten Anmeldeseiten. CISA empfiehlt diese Verfahren ausdrücklich. [5]
Für die Umsetzung sollten Sie Konten mit erhöhten Rechten zuerst betrachten. Prüfen Sie anschließend Wiederherstellungswege: Wer darf einen verlorenen Sicherheitsfaktor ersetzen, und wie wird die Identität dabei überprüft? Ein sicherer Login hilft wenig, wenn der Helpdesk ihn auf telefonische Zurufe zurücksetzt.
MFA verhindert außerdem weder eine autorisierte Überweisung an Betrüger noch jeden Missbrauch einer bereits aktiven Sitzung. Sie braucht deshalb sichere Freigaben und eine Überwachung auffälliger Kontoaktivitäten.
Definieren Sie, welche Vorgänge eine zweite Prüfung verlangen: neue Zahlungsempfänger, geänderte Bankverbindungen, ungewöhnliche Überweisungen, vertrauliche Datenexporte und administrative Berechtigungen.
Ein praktikabler Ablauf besteht aus drei Schritten: Anfrage dokumentieren, Absender über einen unabhängigen bekannten Weg bestätigen, Freigabe durch eine zweite berechtigte Person einholen. Diese Regel gilt auch für die Geschäftsführung. Dringlichkeit darf die Prüfung nicht außer Kraft setzen.
Testfrage für Ihren Betrieb: Was passiert, wenn die angebliche Geschäftsführung kurz vor Feierabend eine vertrauliche Sofortüberweisung verlangt? Die richtige Antwort muss im Prozess stehen und darf nicht vom Mut einzelner Mitarbeitender abhängen.
Erfassen Sie öffentlich erreichbare Systeme, Fernzugänge und kritische Anwendungen. Ordnen Sie jedem System eine verantwortliche Person zu. Priorisieren Sie die Behebung nach tatsächlicher Gefährdung: Eine aktiv ausgenutzte Schwachstelle in einem Internetzugang kann dringlicher sein als ein höher bewerteter Fehler in einem isolierten System.
Entfernen Sie ungenutzte Konten und Dienste. Trennen Sie administrative Konten von Alltagskonten. Begrenzen Sie Berechtigungen auf die jeweilige Aufgabe und verhindern Sie, dass ein kompromittierter Arbeitsplatz unmittelbar alle Server oder Backups erreichen kann.
Für eine erste Prüfung eignen sich konkrete Fragen: Welche Systeme könnten wir bei einem Angriff sofort vom Netz nehmen? Welche Konten besitzen Zugriff auf besonders sensible Daten? Wer kontrolliert, ob Sicherheitsupdates tatsächlich installiert wurden?
Endpoint Detection and Response, kurz EDR, unterstützt die Erkennung und Untersuchung verdächtiger Aktivitäten auf Endgeräten. XDR kann Signale aus weiteren Bereichen wie Identitäten, E-Mail und Cloud zusammenführen. Welche Datenquellen tatsächlich eingebunden werden, hängt von Lösung und Konfiguration ab.
Cybersicherheit hängt hier von einem verlässlichen Betrieb ab. Prüfen Sie, ob die relevanten Endgeräte und Konten erfasst werden. Legen Sie fest, wer einen Alarm bewertet, wann ein Endgerät isoliert werden darf und wer außerhalb der Bürozeiten erreichbar ist. Für Unternehmen ohne eigenes Sicherheitsteam kann ein betreuter Erkennungs- und Reaktionsdienst, etwa Managed Detection and Response, eine geeignete Betriebsform sein.
Unser Vorschlag für einen Abnahmetest: Simulieren Sie in einer abgestimmten Testumgebung eine verdächtige Anmeldung oder eine ungefährliche auffällige Prozesskette. Messen Sie, wann der Alarm entsteht, wer ihn sieht und wann eine Entscheidung fällt. Erst das Zusammenspiel aus Technik und Zuständigkeit macht Überwachung wirksam.
Awareness-Schulungen sollten Anfragen behandeln, die sprachlich korrekt sind und zum Arbeitsalltag passen. Als redaktionelle Empfehlung für die Trainingsplanung eignen sich eine gefälschte Lieferantenanweisung, ein angeblicher IT-Support-Anruf und eine dringende Sprachnachricht aus der Geschäftsführung.
Vermitteln Sie eine einfache Routine: bei sensiblen Handlungen stoppen, unabhängig prüfen und einen Verdacht melden. Machen Sie den Meldeweg sichtbar, beispielsweise im E-Mail-Programm und im internen Verzeichnis. Eine schnelle Meldung sollte ausdrücklich erwünscht sein, auch nach einem bereits erfolgten Klick.
Bewerten Sie Trainings nicht allein anhand der Klickquote. Aussagekräftig ist auch, ob Beschäftigte ungewöhnliche Anfragen melden und ob die Organisation darauf reagieren kann. Aus einem Test sollte eine Verbesserung des Ablaufs folgen.
Ein Backup ist erst dann eine belastbare Hilfe, wenn die Wiederherstellung funktioniert. Schützen Sie Sicherungen vor Veränderung durch kompromittierte Produktivkonten und testen Sie die Rücksicherung wichtiger Anwendungen. CISA führt geschützte Backups und Wiederherstellungstests als Maßnahmen gegen Ransomware auf. [6]
Definieren Sie für kritische Prozesse, wie lange ein Ausfall tragbar ist und wie viel Datenverlust akzeptiert werden kann. Berücksichtigen Sie dabei Abhängigkeiten: Ein wiederhergestelltes ERP-System hilft wenig, wenn Anmeldung oder Netzwerk fehlen.
Halten Sie einen Notfallplan auch außerhalb der üblichen IT-Systeme verfügbar. Er braucht erreichbare Kontakte, Entscheidungskompetenzen und Abläufe für Kontoübernahme, Zahlungsbetrug und Ransomware. Prüfen Sie diese gemeinsam mit Geschäftsführung, IT und den betroffenen Fachbereichen.
KI kann Sicherheitsteams bei der Auswertung von Protokollen, der Priorisierung von Warnmeldungen und der Untersuchung von Schwachstellen unterstützen. Das NCSC beschreibt solche Einsatzfelder und weist zugleich auf Risiken automatisierter Reaktionen hin: Eine falsche Sperrung kann den Betrieb selbst beeinträchtigen. [4]
Beurteilen Sie deshalb eine Lösung anhand Ihrer eigenen Anforderungen. Welche Systeme sieht sie? Welche Ereignisse erkennt sie im Test? Wie erklärt sie einen Alarm? Welche Aktionen erfolgen automatisch, welche erst nach Freigabe? Wo werden die Daten verarbeitet?
Ein zusätzlicher KI-Baustein lohnt sich dort, wo er die Erkennung konkreter Bedrohungen verbessert oder das Sicherheitsteam bei einer klar definierten Aufgabe entlastet. Ein Produktversprechen ersetzt keine überprüfbare Wirkung. Stimmen Sie automatische Eingriffe für kritische Anwendungen vorab ab und halten Sie einen Weg zur Rücknahme bereit.
Wenn ein KI-Assistent Dokumente, Webseiten oder E-Mails liest, verarbeitet er Inhalte, die ein Angreifer beeinflussen könnte. Bei indirekter Prompt Injection können darin enthaltene Anweisungen das Verhalten des Assistenten manipulieren. OWASP nennt unter anderem Datenoffenlegung und unberechtigte Funktionsaufrufe als mögliche Folgen. [3]
Begrenzen Sie daher den Zugriff auf Daten und angebundene Werkzeuge. Erzwingen Sie Berechtigungsprüfungen in der Anwendung, unabhängig von einer Entscheidung des Sprachmodells. Sensible Aktionen benötigen eine überprüfbare Freigabe. Ein Systemprompt allein ist keine belastbare Sicherheitsgrenze. [3]
Für Ihren Testplan: Lassen Sie prüfen, wie der Assistent mit manipulierten Dokumenten umgeht. Kann er Daten an externe Empfänger senden? Darf er Dateien verändern oder Konten anlegen? Wird nachvollziehbar protokolliert, welche Aktion er ausgelöst hat? Sichere Entwicklung und sicherer Betrieb gehören über den gesamten Lebenszyklus zusammen. [7]
Eine aktuelle Risikoanalyse schafft die Grundlage für gezielte Cybersicherheit. Ergänzen Sie Ihre bestehenden Szenarien um gefälschte Kommunikationsinhalte, schneller skalierbare Angriffsvorbereitung und Risiken eigener KI-Anwendungen. Überprüfen Sie die Bewertung bei neuen Bedrohungsinformationen, geänderten Prozessen oder neuen Integrationen.
Als Arbeitsfragen eignen sich: Welche Freigaben vertrauen auf Stimme oder Bild? Welche Konten können große Datenbestände exportieren? Wie schnell erkennen wir eine Kontoübernahme? Welche Leistung fällt aus, wenn ein Dienstleister betroffen ist? Beurteilen Sie Eintrittswahrscheinlichkeit, Auswirkungen und vorhandene Kontrollen gemeinsam.
Für besonders wichtige und wichtige Einrichtungen verlangt § 30 BSIG geeignete, verhältnismäßige und wirksame Risikomanagementmaßnahmen. Dazu zählen unter anderem Risikoanalyse, Vorfallbewältigung, Betriebskontinuität, Lieferkettensicherheit, Schulungen und Zugriffskontrolle. Ob Ihr Unternehmen erfasst ist, muss anhand des Anwendungsbereichs geprüft werden. [8]
§ 38 BSIG verpflichtet die Geschäftsleitungen dieser Einrichtungen zur Umsetzung und Überwachung der Maßnahmen sowie zu regelmäßigen Pflichtschulungen. Benennen Sie zusätzlich eine zuständige Person für Cybersicherheit und regeln Sie die Vertretung. So ist auch bei Abwesenheit klar, wer einen Cybervorfall koordiniert. [9]
Bei erheblichen Sicherheitsvorfällen sieht § 32 BSIG grundsätzlich eine frühe Erstmeldung unverzüglich, spätestens innerhalb von 24 Stunden nach Kenntniserlangung, und eine weitere Meldung spätestens innerhalb von 72 Stunden vor. Die Abschlussmeldung folgt grundsätzlich spätestens einen Monat nach der zweiten Meldung; für fortdauernde Vorfälle bestehen besondere Regeln. Diese Pflichten gelten für die erfassten Einrichtungen und sind von zusätzlichen Meldepflichten getrennt zu prüfen. [10]
Die folgende Reihenfolge ist ein Vorschlag für Unternehmen, die ihre Abwehr strukturieren wollen. Ein akuter Vorfall oder eine aktiv ausgenutzte Sicherheitslücke hat Vorrang. Ordnen Sie jeder Aufgabe eine verantwortliche Person und einen überprüfbaren Nachweis zu.
Das sind Angriffe, bei denen künstliche Intelligenz einzelne Aufgaben unterstützt oder automatisiert, etwa Recherche, Täuschung oder Codeentwicklung. Der Begriff beschreibt keine einheitliche Angriffsmethode. Entscheidend ist, welcher Zugangsweg genutzt wird und welcher Schaden droht.
KI kann den Aufwand für personalisierte Täuschungen reduzieren und bestimmte Angriffsschritte beschleunigen. Das erhöht den Druck auf Prüfung, Erkennung und Reaktion. Es bedeutet jedoch nicht, dass jeder KI-unterstützte Angriff erfolgreich ist oder bestehende Schutzmaßnahmen wirkungslos werden.
Ja. Unternehmen können Einfallstore reduzieren, sensible Vorgänge absichern und Angriffe früh eindämmen. Eine Garantie bietet keine einzelne Maßnahme. Besonders wichtig ist, dass Anmeldung, Berechtigungen, Monitoring, Freigaben und Wiederherstellung zusammen funktionieren.
Ein Virenscanner ist eine Schutzschicht für Endgeräte. Eine gefälschte Zahlungsanweisung ohne Schadsoftware kann er nicht durch einen sicheren Freigabeprozess ersetzen. Auch kompromittierte Cloudkonten erfordern eigene Kontrollen. Planen Sie daher nach Angriffsszenarien und nicht nur nach Produktkategorien.
Der KI-Ursprung ist aus einer E-Mail nicht zuverlässig ablesbar. Prüfen Sie stattdessen die verlangte Handlung: neue Kontodaten, unerwartete Anmeldung, Geheimhaltung oder Druck zur schnellen Freigabe. Öffnen Sie bekannte Dienste direkt und bestätigen Sie sensible Anfragen unabhängig.
Beginnen Sie mit sicheren Konten, zeitnahen Updates, geregelten Zahlungsfreigaben, geschützten Backups und einem erreichbaren Notfallkontakt. Danach prüfen Sie, welche Überwachung intern zuverlässig betrieben werden kann und wo externe Unterstützung nötig ist.
Ein verdächtiger Anruf, eine unerwartete Kontofreigabe oder ein Alarm kann auf einen Cybervorfall hindeuten. Beschäftigte sollten den Verdacht sofort über den festgelegten Meldeweg weitergeben. Das Sicherheitsteam entscheidet über die nächsten Schritte und dokumentiert Zeitpunkt, betroffene Systeme und bisherige Beobachtungen.
Als Ablauf für Ihren Notfallplan empfehlen wir:
Warten Sie nicht auf den Nachweis, dass Cyberkriminelle KI verwendet haben. Für die Eindämmung zählt, welche Systeme, Konten oder Zahlungen betroffen sind.
In Baden-Württemberg bietet die Cybersicherheitsagentur Baden-Württemberg, kurz CSBW, mit der Cyber-Ersthilfe BW eine erste Beratung zu Cybersicherheitsvorfällen an. Weitergehende Leistungen externer Dienstleister müssen gegebenenfalls gesondert vereinbart werden. Die CSBW ist damit eine regionale Anlaufstelle und ersetzt nicht den eigenen Notfallprozess. [13]
Das Cyber-Sicherheitsnetzwerk des BSI bietet eine Unterstützungsstruktur unter anderem für kleine und mittlere Unternehmen. Klären Sie vorab, welche Hilfe zu Ihrem Bedarf passt, und hinterlegen Sie die entsprechenden Kontakte. Eine Beratung oder Unterstützungsanfrage ersetzt keine gesetzlich erforderliche Vorfallmeldung. [14]
Wenn intern Zeit oder Fachwissen fehlen, formulieren Sie einen konkreten Auftrag: beispielsweise Fernzugänge absichern, Kontoübernahmen erkennen, einen Wiederherstellungstest durchführen oder Notfallprozesse aufsetzen. Fragen Sie Anbieter nach Reaktionszeiten, Zuständigkeiten, nachvollziehbaren Tests und Erfahrung mit vergleichbaren Umgebungen.
Sie suchen Unterstützung für Ihr Cybersecurity-Projekt? Beschreiben Sie IT-Dock Ihre Ausgangslage und die Maßnahmen, die Sie umsetzen möchten. So beginnt die Anbietersuche mit einem klaren Bedarf.
Verbessern Sie Ihre Cybersicherheit zuerst dort, wo ein Fehler den größten Schaden verursachen könnte: bei einer riskanten Freigabe, einem kritischen Konto oder einer ungetesteten Datensicherung. Machen Sie aus dem Leitfaden eine Aufgabenliste mit Verantwortlichen und Terminen. So wird die Abwehr KI-gestützter Angriffe im Betrieb überprüfbar.
Stand der Prüfung: 2. Oktober 2026.
Das NIS2UmsuCG ist das NIS-2-Umsetzungs- und Cybersicherheitsstärkungsgesetz, mit dem Deutschland die europäische NIS-2-Richtlinie in nationales Recht überführt hat.
TISAX steht für Trusted Information Security Assessment Exchange. Das Verfahren ermöglicht Unternehmen, ihre Informationssicherheit nach einheitlichen Anforderungen prüfen zu lassen und die Ergebnisse mit Geschäftspartnern zu teilen.
Auffällige Nummern prüfen, Anrufe auf iPhone und Android blockieren und Betrugsversuche melden.
Wer Fehler vermeiden will, braucht einen strukturierten Auswahlprozess, der auf klaren Kriterien basiert.
Viele Unternehmen in Deutschland stehen vor der gleichen Frage: Wie läuft eine ISO-27001-Zertifizierung eigentlich ab?
Wer als KMU an Ausschreibungen größerer Unternehmen teilnehmen will, kommt an dem Thema schlicht nicht mehr vorbei.
EDR überwacht Endgeräte, XDR erweitert das Prinzip auf Netzwerk, Identitäten und Cloud. Was die Technik erkennt und was Ihre Organisation damit anfangen kann.
Was ein MDR-Service leistet, wo die Grenze zu EDR, SIEM und SOC verläuft und worauf es bei der Anbieterauswahl ankommt.
Smishing ist Phishing per SMS. Angreifer verschicken Textnachrichten im Namen eines vertrauenswürdigen Absenders wie Paketdienst, Bank, Behörde oder Vorgesetzte.
Was ist Whaling? Wie diese gezielte Phishing-Attacke auf Führungskräfte funktioniert, woran Sie sie erkennen und wie Sie Ihr Unternehmen schützen.
Informiert bleiben
Erhalten Sie wöchentlich die wichtigsten Tech-Trends, exklusive Analysen und Experteninterviews – speziell für IT-Entscheider.
Kommentare (0)
Noch keine Kommentare vorhanden.