Agenda des IT-Security Days

Ziel des Events ist es, die Cybersicherheit für Unternehmen zu verbessern. Es werden praktische und rechtliche Tipps in den Bereichen Cybersicherheit, KI und NIS-2 gegeben sowie Möglichkeiten zur Vernetzung mit Experten geboten. In drei Sessions können Sie aus zehn Themenwelten auswählen, die für Ihr Unternehmen von Bedeutung sind:

• IT-Sicherheitsmanagement Systeme
• Hardware-Security Toolbox-Grundausstattung für IT-Sicherheitsmaßnahmen
• Cyber-Sicher-Check nach DIN SPEC 27076
• Rechtsgrundlagen- erst IT-Sicherheitsgesetz 2.0 jetzt NIS 2 Cyberversicherung
• ChatBots und KI-Tools- Rechtliche Aspekte und Datenschutz
• Good Practices- Insider-Berichte und Fallstudien
• Hacker-Abwehr, Fremdsteuerung durch Hacker
• Outsourcing- Tipps zur Wahl eines IT-Dienstleisters
• Krisenkommunikation im Havariefal

Greifen Sie zu maßgeschneiderten Lösungen und praxisorientierten Empfehlungen, die genau auf die Anforderungen und Herausforderungen Ihrer Branche zugeschnitten sind. Nutzen Sie sie Gelegenheit, Ihr Unternehmen zukunftssicher zu machen.

Anmeldungen sind ab sofort möglich unter: https://thueringen40.de/it-security-day

In den vergangenen Monaten hat KI viele Unternehmen im Sturm erobert, aber auch die Cyberbedrohungslage weiter verschärft. Die vielen neuen KI-basierten Tools vergrößern nicht nur die Angriffsfläche, sondern sind auch für Cyberkriminelle wertvolle Helfer bei der Vorbereitung und Durchführung von Attacken. Welche Gefahren bestehen durch neue bösartige KI-Tools?

Dafür müssen wir erst einmal festlegen, was wir unter „bösartig“ verstehen. Wie bei allen anderen Werkzeugen kann künstliche Intelligenz sowohl sinnstiftend als auch schadhaft eingesetzt werden. Mit einem Hammer kann ich ein Baumhaus für mein Kind bauen oder mutwillig eine Vase zerstören, mit Word einen Liebes- aber auch einen Drohbrief schreiben. Und mit einer Bild-KI kann ich eben entweder meine Präsentationen optisch aufwerten, oder Deepfakes erzeugen. Die Frage, die man sich in erster Linie also stellen muss, ist, ob und inwiefern KI zu bösartigen Zwecken eingesetzt werden kann.

Besonders generative KI bietet die Möglichkeit, fehlendes Know-how bis zu einem gewissen Grad auszugleichen oder Einstiege in bestimmte Themen leichter zu machen. Leider trifft das aber auch auf den schadhaften Gebrauch zu. So wird beispielsweise digitales social Engineering – also die Manipulation von Menschen über digitale Kanäle – deutlich leichter, weil sich unseriöse Mailings nicht mehr durch offensichtliche Rechtschreibfehler oder holprige Übersetzungen auszeichnen. Dies senkt die Einstiegsbarrieren für ausgeklügelte Phishing-Kampagnen, die kaum von legitimer Kommunikation zu unterscheiden sind.

Wenn wir hingegen spezifisch von „bösartigen KI-Tools“ sprechen, meinen wir Programme, die explizit für schadhafte Zwecke wie Betrug, Datendiebstahl oder Sabotage konzipiert wurden. Ein Beispiel hierfür ist die Nutzung von KI in Ransomware, die ihre Verschlüsselungsmethoden dynamisch anpasst, um Entdeckung zu vermeiden. Die Gefahr bestand allerdings auch schon vor der weiten Verbreitung von KI. Die besondere Herausforderung liegt jetzt allerdings in der Geschwindigkeit und Anpassungsfähigkeit, mit der solche Tools beziehungsweise Menschen mit solchen Tools agieren können.

Angriff und Verteidigung sind immer ein gegenseitiges Wettrüsten, meist durch den Angreifer initialisiert. Sich dagegen absichern zu wollen, heißt, sich selbst mit dem Thema beschäftigen zu müssen. Es erfordert eine Anpassung der Sicherheitsstrategien, die nicht nur reaktiv, sondern proaktiv und adaptiv sein müssen, um mit der sich ständig weiterentwickelnden Bedrohungslandschaft Schritt zu halten. Bei fehlender Zeit und Expertise können hierbei spezialisierte Firmen unterstützen.

Die KI lebt durch die Trainingsdaten. Welche Gefahren bestehen durch die Manipulation dieser Daten und wie lassen sich mögliche Manipulationen erkennen?

Das Risiko und die Motivation zur Datenmanipulation variieren je nach Einsatzgebiet der KI. Beispielsweise könnten in der medizinischen Diagnostik manipulierte Daten Forschungsergebnisse verfälschen, während in einem Online Shop manipulierte Nutzerinteraktionen die KI-gestützten Empfehlungen verzerren könnten. Man muss allerdings beachten, dass KI-Modelle an sich eine große Menge an Daten benötigen, um zuverlässig zu funktionieren. Der Anteil an verzerrten Daten müsste im Verhältnis dazu signifikant sein, um eine spürbare Auswirkung zu haben. Solch ein „Data Poisoning“ ist zwar grundsätzlich möglich, erfordert aber Kenntnis über die Funktionsweise des konkreten KI-Modells.

Ein realistisches Beispiel für Data Poisoning bietet das Tool „Nightshade“. Mit diesem werden Bilder für menschliche Augen unsichtbar entfremdet. Infolgedessen passen das Bild und die Label nicht mehr zueinander und ein KI-Modell, das mit diesen Bildern trainiert wird, lässt zunehmend deutlich fehlerhafte Bilder entstehen. Dieses Tool ist allerdings zum Schutz von Kunstschaffenden gedacht, deren Bilder ohne Genehmigung zum Training verwendet werden,
und weniger als direkter Angriff. Im Umkehrschluss ergibt sich, dass der beste Schutz vor manipulierten Trainingsdaten in der Sicherung der Datenqualität und der Etablierung von Standards für die Datenakquise liegt.

Geht man aber von vorsätzlichen Manipulationsangriffen aus, wird man nur schwer ohne technische Gegenmaßnahmen auskommen. Im medizinischen Bereich könnten Anomalie- Erkennungssysteme ungewöhnliche Muster in Diagnosedaten aufspüren, die auf manipulierte Trainingsdaten hindeuten. Für Online-Shops, wo KI von Nutzerinteraktionen lernt, könnten Web-Analytics und Captcha- Systeme Bot-Aktivitäten identifizieren, die KI-Empfehlungen verzerren. Wichtig ist dabei, ein Gleichgewicht zu finden, um echte Bedrohungen zu identifizieren, ohne zu viele falsch positive Ergebnisse zu produzieren.

Sobald wir aber in den Bereich der generativen KI voranschreiten, müssen wir beachten, dass nur die wenigsten Unternehmen oder Institutionen ihre KI von Grund auf selbst trainieren. Stattdessen wird auf Foundation-Models zurückgegriffen, die dann mit den eigenen Daten angepasst werden. Ab diesem Punkt kann man allerdings noch immer indirekt die Trainingsdaten beeinflussen, im neutralen Sinne:

Wenn ich beispielsweise für einen Chatbot Regeln festlege, wie mit welchen Anfragen umzugehen ist, dann manipuliere ich das Foundation-Model, um dem ganzen einen Rahmen zu geben. Dahinter kann auch ein guter Grund stehen. ChatGPT beispielsweise ist so instruiert, dass keine Erklärungen für illegale Aktivitäten gegeben werden. Das Modell ist dazu aber im Prinzip in der Lage. Neben den berechtigten Gründen für solch eine Einschränkung ergeben sich daraus auch Probleme. So ist etwa die Entscheidung, was die KI von sich geben darf und was nicht, durchaus kulturell geprägt und kommt von Einzelpersonen. Damit betrifft Manipulation nicht die Trainingsdaten, sondern deren Darstellung. Um den Output von KI reflektiert zu betrachten, muss ich mir als User dessen bewusst sein.

Wie kann man solche Manipulationen verhindern? Kann man das überhaupt?

Genau wie bei den Gefahren durch Manipulation richten sich auch die Methoden, diese zu verhindern, nach den spezifischen Anwendungsfällen. Häufig liegt der erste Schritt in der Erkennung von Unregelmäßigkeiten mit Hilfe technischer Maßnahmen. Für solche technischen Gegenmaßnahmen ist eine zwingende Voraussetzung, dass ein Bewusstsein für die Manipulationsmöglichkeiten vorherrscht.

Die wohl zielführendste Präventionsmaßnahme liegt schon vorher bei der Sicherung der Datenqualität durch die ausschließliche Verwendung von legitimen und verifizierten Datenquellen. Das erfordert streng einzuhaltende Richtlinien für die Datenakquise und -verwendung. Die Einhaltung derer kann innerhalb eines Unternehmens etwa dadurch unterstützt werden, dass die verwendeten Systeme zur Datenspeicherung durch Rollen- und Rechtemanagement nur ausgewählten Personen zur Verfügung stehen.

Bei der Nutzung von KI Tools, die mit natürlicher Sprache instruiert werden, wäre es natürlich von Vorteil, sowohl die Trainingsdatenbasis zu kennen als auch den Systemprompt. Insbesondere proprietäre Modelle sind dahingehend aber wenig transparent. Kritisches Denken ist gefragt: Nicht jeden KI Output darf man für bare Münze nehmen.

In jüngster Zeit war viel von Regulierung im Bereich KI zu lesen. Sowohl die EU als auch die USA sind hier auf dem Weg. Welches Ziel steckt dahinter?

Das Spannende ist, dass der AI Act der EU bereits 2019 angekündigt und ein erster Entwurf in der EU-Kommission 2021 veröffentlicht wurde. Die meisten wurden auf das Gesetzgebungsverfahren aber erst nach dem Livegang von ChatGPT im November 2022 aufmerksam. Spätestens ab diesem Punkt wurde es dringend notwendig, eine Gesetzesgrundlage zu entwickeln.

Zudem hat erst OpenAI generative KI für jede Person zugänglich gemacht. Viel mehr Menschen als vorher haben nun Ideen dazu, wie diese Technologie zukünftig eingesetzt werden könnte. Dieses Innovationspotenzial ist beeindruckend, birgt bei fehlender Regulierung allerdings auch das Risiko der unbedachten und damit potenziell schädlichen Verwendungen. Regulierungen sollten daher so gestaltet sein, dass sie nicht nur potenzielle Risiken minimieren, sondern auch die Innovation und den kreativen Einsatz von KI fördern.

Was es braucht, ist Rechtssicherheit. Der AI Act, obwohl nicht perfekt, stellt einen wichtigen Schritt in diese Richtung dar, indem er einen rechtlichen Rahmen bietet, der es Unternehmen ermöglicht, zu planen und zu agieren. Es ist begrüßenswert, dass dazu unter anderem gehört, dass Betreiber einer KI-Anwendung eine Risikobewertung in Bezug auf den potenziellen Einfluss auf die Grundrechte der Nutzergruppen durchführen müssen. Das Ziel sollte sein, dass sich aktiv und weitsichtig mit potenziellen Risiken auseinandergesetzt wird, um konkrete KI-Leitlinien auf Basis der gesetzlichen Vorgaben aufzustellen. Dazu gehört es auch, Transparenz bei der Entscheidungsfindung von KI-Systemen zu ermöglichen, denn jede letzte Entscheidung muss beim Menschen liegen.

Viele Unternehmen glauben, sie müssten KI möglichst schnell einsetzen, um im Wettbewerb nicht zurückzufallen. Nach meiner Auffassung sollte es dabei aber nicht nur um Geschwindigkeit gehen, sondern auch Risikominimierung, sprich: Regeln, die den Abfluss sensibler Daten verhindern. Welche Regeln sollten Unternehmen beachten, die mit KI experimentieren beziehungsweise KI-Tools einführen wollen?

Die Einführung von KI-Tools bringt viel Bewegung und Veränderung in Unternehmen mit sich. Ein effizienter KI-Einsatz sorgt für Automatisierung. Automatisierung verlangt und fördert die Standardisierung von Prozessen – dabei können Expertenteams unterstützen. Eine weitere Herausforderung kann darin bestehen, die Mitarbeitenden vom Thema zu überzeugen. Es ist sinnvoll, Mitarbeitende in den Entscheidungsprozess einzubeziehen und Raum für Feedback und weitere Ideen zu schaffen. Dies fördert nicht nur die Akzeptanz, sondern nutzt auch das kollektive Wissen und die Erfahrungen der Belegschaft, um potenzielle Risiken frühzeitig zu identifizieren und zu adressieren. Gleichzeitig besteht meist aus Unkenntnis heraus die Angst, dass die eigene Arbeit durch KI ersetzt wird. Aus vermeintlichem Selbstschutz werden dann die bereitgestellten Tools nicht oder nur unzureichend genutzt, der erhoffte Mehrwert bleibt aus. Es ist daher wichtig, sich den Sorgen und Bedürfnissen derjenigen Mitarbeitenden anzunehmen, die dem Einsatz von KI kritisch gegenüberstehen. Durch Schulungen, Weiterbildungen und Ausprobieren wird meistens deutlich, dass die menschliche Expertise nicht nur weiterhin gebraucht wird, sondern sogar notwendig ist, damit KI-gestützte Prozesse weiterhin die Qualitätsansprüche erfüllen.

Ein solcher Change-Management-Prozess ist in mehrere Phasen aufgeteilt, die gleichzeitig auch zur Risikominimierung beitragen. Nachdem die Dringlichkeit erkannt wurde, ist es hilfreich, einzelne Personen im Unternehmen zu identifizieren, die in der richtigen Handhabung aufgeklärt und geschult werden und die sich durch ihre intrinsische Motivation mit dem Thema auseinandersetzen wollen. Sie werden damit zu Vorreitern und Ansprechpartnern.

Der Markt an KI-Tools ist über das letzte Jahr hinweg wenig überraschend stark angewachsen. Davon sollte man sich allerdings nicht einschüchtern lassen. Neben einer rechtlichen Prüfung, gerade hinsichtlich aller DSGVO-Belange, sollte man sich bei der Auswahl eines KI-Tools vor allem im Klaren darüber sein, welche Pain Points eigentlich bestehen. Bei der Einführung von neuen Systemen ist es wichtig, konkrete KPIs aufzustellen, anhand derer nach einer Test-Phase evaluiert werden kann, ob die jeweilige Anwendung das gesetzte Ziel erfüllt. Darüber hinaus sollten Unternehmen bereit sein, ihre KI-Strategien und -Ziele regelmäßig zu überprüfen und basierend auf den gesammelten Daten und Rückmeldungen anzupassen. Dies ermöglicht eine agile Herangehensweise, die es Unternehmen erlaubt, schnell auf Veränderungen zu reagieren. Das setzt voraus, dass im Unternehmen das Wissen darum vorhanden ist, was überhaupt möglich ist. Fällt der Einstieg dafür schwer, ist es auch durchaus legitim, Beratungsangebote in Anspruch zu nehmen.

Was kann ich versichern beziehungs­weise wogegen kann ich mich absichern? Was bekomme ich ersetzt?

Eine Cyber-Versi­cherung schützt bei Verlet­zungen der Infor­mations­sicher­heit, genauer gesagt Verlet­zungen der Vertrau­lichkeit von Daten und IT-Systemen. Ebenso greift sie, wenn Daten oder IT-Systeme nicht verfügbar sind. Voraus­setzung für den Schutz ist, dass der Schaden durch eine der im Versi­cherungs­vertrag konkret benannten Gefah­ren verursacht wurde. Versi­cherungs­gesell­schaften und -makler entwickeln dazu jeweils eigene Versi­cherungs­lösun­gen. Wir bieten beispiels­weise die Funk CyberSecure an. Diese sichert nicht nur die Sabotage durch Dritte oder das eigene Personal ab, sondern auch Bedien- und Programmier­fehler und technische Probleme.

Die versi­cherten Gefahren im Überblick:

• Netzwerk­sicherheits­verlet­zungen
• Hacker, Viren, Trojaner
• Denial-of-Service-Attacken
• Daten­schutz-/Vertrau­lichkeits­verlet­zungen
• Rechts­widrige Kommu­nikation
• Fehl­bedie­nungen und Sabo­tage durch Mitar­bei­tende
• Technische Probleme
• Überspannung, Spannungs­abfall, Aus­fall der Strom­versor­gung am Ort
• Interne Netzwerk­fehler, Hardware­fehler (inklu­sive Über­hitzung der Hardware), Programmier­fehler

Je nach Art des Schadens können dabei die fol­genden Leistungs­bau­steine zum Tragen kommen:

• Dritt­schaden
• Abwehr/Befriedung von Ansprüchen Dritter
• Entschädi­gungen mit Straf­charakter oder Gebühren
• Vertrags­strafen und Bußgelder
• Eigenschäden
• Dienst­leistungs-, Beratungs-, Über­wachungs-, Infor­mations-, Monitoring­kosten
• Kosten für die Wahrung und Wieder­herstellung der Reputation, Krisen­beratung
• Betriebs­unterbrechungs­schäden
• Fortlau­fende Kosten und Betriebs­gewinn
• Definierte Mehr­kosten
• Sonstige Deckungs­bau­steine
• Cyber-Krimi­nalität (zum Beispiel Fehl­leiten von Geldern)
• Löse­geld­zahlungen
• Sach­eigen­schäden

Erfah­rene Versicherungs­experten beraten dabei jedes Unter­nehmen indi­viduell zum passen­den Versiche­rungs­schutz und even­tuell not­wendigen Ergän­zungen, wie beispiels­weise einer Vertrauens­schaden-Versicherung.

Kann ich Produktions­ausfälle absichern? Gibt es hier Karenz­zeiten, Selbst­behalte und wei­tere wichtige Aspekte?

Schä­den durch Betriebs­unter­brech­ungen sind inklu­sive Mehr­kosten versichert. Diese Mehrkosten umfassen beispielsweise Überstunden von Mitarbeitenden, die Nutzung fremder Anlagen und ähnliche Maßnahmen. Dabei gibt es generell entweder Wartefristen oder zeitliche Selbstbehalte und Haftzeiten von üblicherweise 180 Tagen.

Welche Risikogruppen und Zielgruppen gibt es aus Sicht des Versicherers und warum?

Eine klassische Zielgruppe oder spezielle Risikogruppen gibt es in der Cyber-Versicherung nicht, denn jeder Versicherer beurteilt Risikosituationen anders. Trotzdem können bestimmte Branchen natürlich als besonders kritisch beurteilt werden. Hier zu gehören beispielsweise die Rüstungsindustrie, Stadtwerke und Versorgungsbetriebe oder Medienunternehmen.
Dies liegt zum einen an speziellen Compliance-Regelungen sowie an vergangenen Erfahrungen der Versicherer, zum anderen am sogenannten Exposure, also der Frage, wie hoch das Risiko für bestimmte Unternehmen ist. So sind Stadtwerke in Sachen ITSicherheit häufig schlecht aufgestellt. Gleichzeitig stehen sie, gemeinsam mit Universitäten und Medienunternehmen, oft im Fokus der Angreifer.

Welche Voraussetzungen bestehen zum Abschluss einer Cyber-Versicherung?

Die Voraussetzungen für den Abschluss einer Cyber-Deckung sind aktuell sehr hoch. Die Fachwelt nimmt derzeit einen stetigen Anstieg der Anforderungen der Versicherer an Art, Umfang und Komplexität der technischen und organisatorischen IT Sicherheitsmaßnahmen wahr. Maßgeblich hierfür verantwortlich sind die stark angestiegenen Schadenzahlen und -höhen. Zudem sind die Ver sicherer inzwischen nicht mehr darauf angewiesen, Neugeschäft zu generieren, so dass inzwischen ein deutlich selektiveres und zurückhaltenderes Zeichnungsverhalten zu beobachten ist. Vor diesem Hintergrund ist die Erfüllung von Mindestanforderungen durch Unternehmen inzwischen ausschlaggebend: um einen für die Bereitschaft der Versicherer zur Deckung von Risiken, zum anderen bei der Verlängerung bestehender Verträge.

Gibt es Mindestanforderungen der Versicherer?

Ja. Die Mindestanforderungen sind sehr umfangreich und abhängig vom Umsatz der Unternehmen. Zu den wichtigsten Punkten gehören jedoch jährliche Schulungen für Mitarbeitende, ein einheitliches Sicherheitskonzept für alle mitversicherten Unternehmen, klare Richtlinien für die Vergabe von Passwörtern und Rechten, die Einhaltung der DSGVO, die Einrichtung bestimmter technischer Funktionen rund um IT-Systeme und Netzwerke sowie ein ganzheitliches Back-up- und Notfallmanagement. Fast alle Versicherer führen eigene Penetrationstests vor Vertragsabschluss durch, das heißt, dass sie das Sicherheitsniveau der Kunden durch Experten einem Stresstest aussetzen.

Es gibt im Bereich Cyber-Sicherheit ganz unterschiedliche Zertifizierungen. Diese geben den Versicherern aber nur erste Anhaltspunkte bezüglich der Qualität der IT Sicherheit: Zwar lassen sich anhand der Anforderungen für die Zertifizierungen Rückschlüsse auf das Vorhandensein bestimmter Sicherheitsmaßnahmen ziehen. Trotzdem ist eine Zertifizierung keine Voraussetzung für die Versicherbarkeit und führt in der Regel auch nicht dazu, dass Versicherungsschutz leichter eingekauft werden kann.

Interview: Torsten Laudien