Risiken und Chancen Generativer KI für die IT-Security (Teil 6/6)
IT-Sicherheit zwischen Datenschutz und Risiko
In unserer sechsteiligen Blogreihe haben wir die Gefahren und Risiken beleuchtet, die der zunehmende Einsatz von Künstlicher Intelligenz für die IT-Sicherheit mit sich bringt - ebenso wie die Chancen, die sich daraus für den Schutz von Unternehmen und Systemen ergeben.
Im letzten Teil richten wir den Blick auf die Herausforderungen beim sicheren Einsatz von Künstlicher Intelligenz, betrachten das Spannungsfeld zwischen IT-Sicherheit und Datenschutz und ziehen ein abschließendes Fazit.
Die Absicherung von KI-Anwendungen
Wie bereits in den vorherigen Teilen deutlich wurde, ist generative KI selbst ein potenzielles Angriffsziel. Modelle können manipuliert, Daten vergiftet oder durch gezielte Eingaben fehlgeleitet werden. Genau deshalb reicht es nicht aus, Sie nur als Werkzeug zur Verteidigung zu betrachten - sie muss selbst Teil der Sicherheitsstrategie sein.
Die Angriffsflächen sind dabei vielfältig: Sie reichen von der eigentlichen Modellarchitektur über die zugrunde liegenden Trainingsdaten bis hin zu Schnittstellen, Cloud-Infrastrukturen und Nutzerinteraktionen. Entsprechend ganzheitlich muss auch der Schutzansatz sein. Dazu gehören unter anderem eine saubere Trennung sensibler und allgemeiner Datenbestände, der Einsatz von Prompt- und Output-Filtern sowie die Isolation kritischer Systeme durch Sandboxing. Ergänzend sind kontinuierliches Monitoring und klare Nutzungsrichtlinien notwendig, um Missbrauch frühzeitig zu erkennen und einzugrenzen.
IT-Sicherheit und Datenschutz
Ein weiterer zentraler Aspekt beim Einsatz von Künstlicher Intelligenz in der IT-Sicherheit ist der Datenschutz. Mit dem EU AI Act existiert erstmals ein umfassender regulatorischer Rahmen, der den Umgang mit Systemen solcher Art in Europa verbindlich regelt.
Die Umsetzung erfolgt schrittweise: Während erste Regelungen bereits seit 2024 gelten, greifen strengere Anforderungen für Hochrisiko-Systeme ab 2026 vollständig. Unternehmen müssen dann unter anderem nachweisen, dass ihre Systeme transparent arbeiten, qualitativ hochwertige Daten nutzen und unter menschlicher Aufsicht stehen. Besonders relevant ist dies für Einsatzbereiche wie kritische Infrastrukturen oder Personalentscheidungen.
Parallel dazu bleiben die Anforderungen der DSGVO bestehen - etwa in Bezug auf Datenminimierung, Zweckbindung und den Umgang mit personenbezogenen Informationen. Gerade beim Training von den Modellen entsteht hier ein Spannungsfeld: Einerseits benötigen Systeme große Datenmengen, andererseits müssen diese rechtlich sauber und nachvollziehbar verarbeitet werden.
Ein oft unterschätzter Punkt ist zudem die sogenannte „AI Literacy": Unternehmen müssen sicherstellen, dass Mitarbeitende den Umgang mit Künstlicehr Intelligenz verstehen und Risiken einschätzen können. Gerade beim Thema Datenschutz ist dieses Wissen entscheidend - denn der korrekte Umgang mit personenbezogenen Daten gehört zu den größten Herausforderungen im Arbeitsalltag. Um hier Sicherheit zu schaffen, sollten Mitarbeitende gezielt geschult werden.
Künstliche Intelligenz ist nicht alles - der Mensch bleibt entscheidend
So leistungsfähig Künstliche Intelligenz in der Cyberabwehr auch ist: Eine vollständige Sicherheit kann sie nicht gewährleisten. In vielen Fällen bleibt der Mensch das schwächste Glied in der Sicherheitskette - insbesondere bei Angriffen wie Phishing, Social Engineering oder Deepfakes, die gezielt auf menschliche Schwächen abzielen.
Tatsächlich basiert ein Großteil erfolgreicher Cyberangriffe weiterhin auf menschlichem Fehlverhalten oder gezielter Manipulation. Selbst hochentwickelte Systeme können nicht verhindern, dass Zugangsdaten preisgegeben, Sicherheitsrichtlinien umgangen oder verdächtige Inhalte falsch eingeschätzt werden. Gerade im hektischen Arbeitsalltag reicht oft ein einziger unbedachter Klick, um weitreichende Schäden zu verursachen.
Deshalb ist ein ganzheitlicher Ansatz entscheidend. Neben technischen Schutzmaßnahmen braucht es vor allem sensibilisierte Mitarbeitende, die Risiken erkennen und entsprechend handeln. Regelmäßige Schulungen, praxisnahe Trainings und ein gelebtes Sicherheitsbewusstsein im Unternehmen sind hierfür unerlässlich. Nur wenn Technologie und Mensch sinnvoll zusammenspielen, entsteht eine wirklich belastbare und nachhaltige Sicherheitsarchitektur.
Risiken der KI in der Cybersecurity
Neben ihren Vorteilen bringt die Sie auch neue Risiken mit sich. Durch ihre Integration entstehen zusätzliche Angriffsflächen - etwa durch Data Poisoning, Model Inversion oder Prompt-Injection-Angriffe, bei denen gezielt versucht wird, die Systeme zu manipulieren oder auszunutzen. Gleichzeitig kann Sie, zu empfindlich konfiguriert, zu einer Flut von Fehlalarmen führen, die Sicherheitsteams langfristig abstumpfen lässt und wichtige Warnsignale übersehen werden.
Ein weiteres Problem ist die zunehmende Abhängigkeit von automatisierten Systemen. Verlassen sich Unternehmen zu stark auf Künstliche Intelligenz, besteht die Gefahr, dass menschliche Analysefähigkeiten nachlassen. Dieses sogenannte „De-Skilling" kann im Ernstfall dazu führen, dass komplexe Angriffe nicht mehr eigenständig erkannt oder bewertet werden können, wenn die Systeme versagen oder falsche Einschätzungen liefern.
Hinzu kommen technische Grenzen: Die Sprachmodelle - insbesondere Große - neigen zu sogenannten Halluzinationen, also zur Generierung plausibel klingender, aber falscher Informationen. In sicherheitskritischen Kontexten, etwa bei der Analyse von Schwachstellen oder der Generierung von Code, kann das erhebliche Folgen haben. Auch datenschutzrechtliche Risiken bleiben bestehen, wenn sensible Informationen in Trainings- oder Verarbeitungsprozesse einfließen und nicht ausreichend geschützt werden.
Fazit: Ein zweischneidiges Schwert
Der Einsatz von Künstlicher Intelligenz in der IT-Sicherheit ist weder reine Chance noch ausschließlich Risiko - sondern beides zugleich. Richtig eingesetzt, ermöglicht sie eine neue Qualität der Bedrohungserkennung, beschleunigt Reaktionsprozesse und entlastet Sicherheitsteams erheblich. Gleichzeitig schafft sie neue Angriffsvektoren und stellt Unternehmen vor zusätzliche regulatorische und organisatorische Herausforderungen.
Entscheidend ist daher ein bewusster und reflektierter Umgang mit der Technologie. Künstliche Intelligenz sollte nicht als Ersatz für menschliche Expertise verstanden werden, sondern als leistungsfähiges Werkzeug, das den Menschen unterstützt. Der „Human-in-the-loop" bleibt unverzichtbar - als Kontrollinstanz, als strategischer Entscheider und als letzte Verteidigungslinie.
Damit schließt sich der Kreis dieser Blogreihe: Die Zukunft der IT-Sicherheit wird maßgeblich von der Frage bestimmt, wie gut es gelingt, die Stärken der Künstlichen Intelligenz zu nutzen, ohne ihre Risiken aus dem Blick zu verlieren. Unternehmen, die diesen Balanceakt beherrschen, werden langfristig einen entscheidenden Sicherheitsvorteil haben.
Lieber hören statt lesen?
