Wie hoch sind die Sicherheitsrisiken durch die KI?

Ein Gastbeitrag von Dino Bozzi

Die Dynamik rund um die Künstliche Intelligenz - die KI - lässt die IT-Branche boomen. Der Blick auf die aktuelle Hiscox-IT Studie zeigt ganz klar, wie stark die Technologie den Markt bereits verändert hat und welche Unsicherheiten sich daraus ergeben. Während viele Unternehmen die KI schon fest in ihre Abläufe integriert haben, wird von Seiten der Branche ein klarer Rechtsrahmen gefordert. Schließlich entstehen mit der KI auch neue Risiken, die nicht unterschätzt werden sollten.

Zwischen Wachstumsschub und wachsender Vorsicht

Statista hat im Auftrag des Versicherers Hiscox im September 2025 200 Führungskräfte aus IT-Dienstleistungsunternehmen befragt. Die Verantwortlichen, die an der Umfrage teilgenommen haben, verfügten über Entscheidungskompetenz und waren in der Lage, präzise Auskunft über Risiken, Marktveränderungen und den Einfluss von KI in ihrem Tagesgeschäft geben zu können.

Dabei wurde schnell klar, dass bereits in vielen deutschen IT-Unternehmen der Einsatz lernender Systeme inzwischen zum Arbeitsalltag gehört. Einerseits intern, andererseits auch im Leistungsportfolio für Kunden. Doch die Euphorie wird gedämpft, weil immer mehr Fragen rund um die Themen Datensicherheit, Haftung und gesetzliche Vorgaben auftauchen. Fehlende Antworten sorgen für Zurückhaltung. Obwohl die Auftragslage vieler Anbieter glänzend ist, wünscht sich die Branche Orientierungspunkte in einem Umfeld, das sich rasant weiterentwickelt.

KI als Wachstumsmotor der Branche

Intelligente Systeme sorgen dafür, dass die Geschäfte angetrieben werden. 77 Prozent der befragten Unternehmen setzen die KI häufig oder nahezu ständig ein. Das ist eine klare Steigerung gegenüber dem Vorjahr. Vor allem sind es die größeren Anbieter, die stark in den Ausbau ihrer KI-Strategien investieren, während kleinere Dienstleister noch vorsichtiger sind. Tatsächlich sind es gerade einmal 6 Prozent, die aktuell auf entsprechende Tools verzichten.

Der Markt für KI-nahe Dienstleistungen wächst übrigens rasant. Bereits 57 Prozent der Firmen bieten heute Services an, die direkt auf dieser Technologie basieren. Sieht man sich den Wert aus dem Vorjahr an, so ist das eine klare Steigerung. Drei Viertel der Befragten gehen auch davon aus, dass sich die Nachfrage im Jahr 2026 nochmals erhöhen wird. Gefragt sind vor allem die Entwicklung maßgeschneiderter Anwendungen sowie strategische Beratung. Danach folgen Bereiche wie Softwareentwicklung, Unterstützung im Backoffice, IT-Engineering oder Projektmanagement.

Risiken liegen auf der Hand

Trotz einer breiten Zustimmung bleibt die KI aber ein zweischneidiges Werkzeug. Fast alle Umfrageteilnehmer haben die Technologie als hilfreiche Entlastung bezeichnet, gleichzeitig aber sind 46 Prozent der Meinung, die KI würde mit einem deutlichen Sicherheitsrisiko einhergehen. Rund ein Drittel zweifelt zudem an der Qualität der generierten Ergebnisse. Mehr als die Hälfte der Befragten hat zudem Angst vor Schäden im eigenen Unternehmen, weitere 60 Prozent haben Bedenken zwecks Komplikationen, wenn den Kunden KI-basierte Lösungen bereitgestellt werden sollen.

Besonders gravierend erscheinen die Risiken rund um Datenmissbrauch, wenn es um das Thema Datenschutz geht und auch um mögliche Verletzungen geistiger Eigentumsrechte. Hinzu kommt die Unsicherheit über rechtliche Rahmenbedingungen: 84 Prozent sind für eindeutige Vorgaben, die den verantwortungsvollen Einsatz intelligenter Systeme klar definieren. Die Studie zeigt auch auf, dass selbst die Kunden zum Teil unsicher sind, wenn es darum geht, was überhaupt erlaubt ist.

Mehr als die Hälfte der Unternehmen hat zugegeben, selbst nicht immer genau zu wissen, wie die Technologie korrekt angewendet werden soll oder welche regulatorischen Regeln bindend sind.

Hier ist natürlich auch die Politik gefragt, die sich intensiv mit dem Thema auseinandersetzen muss. Es sind Gesetze notwendig, die sich auch um das Thema KI drehen. Dabei muss die deutsche Politik aber zukunftsorientiert arbeiten und nicht denselben Fehler wie beim Glücksspielgesetz machen. Wer in einem Online Casino mit deutscher Lizenz ein Konto hat, muss sich an eine Mindesteinzahlungssumme von 1.000 Euro pro Monat (plattformübergreifend) halten, darf pro Spin nur 1 Euro setzen, muss nach jedem Dreh eine fünf Sekunden lange Pause abwarten und hat keinen Zugriff auf ein Live Casino Angebot. International lizenzierte Anbieter sind hier wesentlich attraktiver. Legales Glücksspiel in Deutschland ist auch über Plattformen möglich, sofern sie eine Glücksspiellizenz von einer Glücksspielbehörde haben, die von der EU anerkannt ist. Denn in diesem Fall greift die EU-Dienstleistungsfreiheit. Wer also ein attraktives Angebot in Anspruch nehmen will, sollte sich auf international lizenzierte Anbieter konzentrieren.

Haftungsfragen und steigender Druck durch Kundenforderungen

Zudem gibt es mit der Zunahme an Schadenersatzforderungen einen weiteren Faktor, der für mehr Unsicherheit sorgt. Nur rund ein Viertel der Dienstleister ist im vergangenen Jahr verschont geblieben. Mehr als die Hälfte sieht sich häufiger als früher mit dem Vorwurf konfrontiert, dass Leistungen angeblich nicht wie vereinbart erbracht worden sind. Auch in Zusammenhang mit Ergebnissen, die mit KI generiert wurden.

Gleichzeitig ist zudem die Gefahr von Cyberangriffen gestiegen. 64 Prozent der befragten Firmen haben innerhalb des vergangenen Jahres mehrere Attacken erlebt. Besonders häufig geraten interne Systeme ins Visier. Das beginnt beim Server, geht über mobile Endgeräte bis hin zu Cloud-Diensten oder IoT-Komponenten. Darüber hinaus spielen auch Sicherheitslücken bei Zulieferern und manipulierte E-Mails eine große Rolle.

„Mit dem breiten Einsatz Künstlicher Intelligenz bei IT-Dienstleistern gehen komplexe Risiken einher“, so Marc Thamm, Product Head Technology & General Liability bei Hiscox. „Fehler in KI-Systemen, Datenschutzverstöße oder Haftungsfragen können schnell zu erheblichen Schäden führen.“ Genau deshalb wird auch der Wunsch nach erweiterten Versicherungsangeboten größer. 85 Prozent der Unternehmen halten es für sinnvoll, dass im Rahmen ihrer Haftpflichtversicherung eindeutig festgelegt ist, welche KI-Anwendungen abgedeckt sind und welche Schäden im Versicherungsfall abgesichert werden.

Thamm weiter: „Hiscox hat die Risiken Künstlicher Intelligenz explizit in die IT-Haftpflicht aufgenommen. Nur wenn Unternehmen wissen, dass sie im Ernstfall abgesichert sind, können sie das Potenzial dieser Technologie ausschöpfen.“

Inhalt des Gastbeitrages wird von BRN AG nicht verantwortet und muss daher nicht zwingend mit der Meinung der BRN-Redaktion übereinstimmen. Jegliche Haftung und Ansprüche werden daher von BRN AG ausdrücklich ausgeschlossen!