29. Juli 2025 News
KI im Unternehmen: Zwischen Regulierung und Risiko – Der AI Act und was jetzt zu tun ist
Der AI-Act zündet die zweite Stufe – welche Regelungen ab dem 2. August gelten.
Mehr Informationen +
Künstliche Intelligenz (KI) ist längst kein Zukunftsthema mehr. Die Technologie hat aber erst in den letzten Jahren durch frei verfügbare Anwendungen wie ChatGPT eine breite unternehmerische Relevanz erlangt. Heute ist sie bereits in vielen Branchen ein entscheidender Faktor für die Wettbewerbsfähigkeit. Doch mit den wachsenden Möglichkeiten steigen auch die regulatorischen Anforderungen.
Am 2. August 2025 tritt nämlich die zweite Welle des EU AI Acts in Kraft und bringt weitere Verpflichtungen mit sich. Unternehmen, die KI nutzen oder anbieten, müssen jetzt handeln, um die Chancen sicher zu nutzen und die Risiken zu umschiffen.
Der AI Act – Was auf Unternehmen zukommt
Der AI Act verfolgt einen risikobasierten Ansatz und klassifiziert KI-Systeme in vier Stufen, von denen sich die Pflichten ableiten:
- Inakzeptables Risiko: Systeme, die als Bedrohung für Menschen gelten (z. B. Social Scoring), sind verboten.
- Hohes Risiko: KI in kritischen Bereichen wie medizinischen Geräten, kritischer Infrastruktur oder Personalverwaltung unterliegt strengen Auflagen.
- Begrenztes Risiko: Generative KI wie Chatbots muss transparent als solche gekennzeichnet werden.
- Minimales Risiko: Für die meisten anderen Anwendungen (z. B. KI-gestützte Videospiele) gibt es keine zusätzlichen Auflagen.
Mit der zweiten Stufe, die am 2. August 2025 in Kraft tritt, gewinnt der AI Act erheblich an Schärfe. Für Unternehmen sind besonders folgende Punkte relevant:
- Transparenzpflichten für Allzweck-KI (GPAI): Anbieter von Basismodellen (z. B. OpenAI, Meta) müssen umfassende technische Dokumentationen führen und Informationen zu ihren Trainingsdaten offenlegen. Das EU-Urheberrecht ist dabei strikt zu beachten.
- Governance und empfindliche Strafen: Der AI Act schreibt neue interne Regelungen für den Umgang mit Daten und die Vertraulichkeit vor. Bei Verstößen drohen empfindliche Strafen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes.
- Meldepflichten und Verhaltenskodizes: Schwerwiegende Vorfälle durch KI müssen den Behörden gemeldet werden. Zudem müssen sich Anbieter an einen EU-weiten Verhaltenskodex (Code of Practice) halten – dieser behandelt im wesentlichen drei Themen – Transparenz, Urheberrecht und Sicherheit.
- Zentrale EU-Behörden: Das neu geschaffene „European AI Office“ und das „AI Board“ überwachen die Einhaltung der Regeln. In Deutschland wird die Bundesnetzagentur als zentrale Marktüberwachungsbehörde fungieren – in Österreich übernimmt diese Aufgabe die Rundfunk und Telekom Regulierung-GmbH (RTR) bei der die KI-Servicestelle angesiedelt ist und durch den KI-Beirat unterstützt wird.
Praktische Empfehlungen für den sicheren KI-Einsatz
Neben der reinen Gesetzeskonformität sollten Unternehmen proaktiv weitere Maßnahmen ergreifen, um Risiken zu minimieren und die Potenziale von KI sicher zu nutzen.
1. KI-Nutzung im Unternehmen: Datenschutz und Kontrolle als oberste Priorität
Der Einsatz von KI birgt erhebliche Haftungs- und Datenschutzrisiken. Eine aktuelle Hiscox-Studie zeigt eine gefährliche Lücke: Während 76 % der Entscheider angeben, bereits KI zu nutzen, geben auch 64 % der Befragten an, dass die Mitarbeiter noch keine oder keine guten Kenntnisse im Umgang mit KI-Nutzung haben und damit noch nicht ausreichend geschult wurden.
Schon heute haften Unternehmen für die von einer KI generierten Inhalte, als wären es ihre eigenen. Ein Urteil des Landgerichts Kiel machte dies deutlich: Ein Unternehmen wurde zur Unterlassung verurteilt, weil eine KI fälschlicherweise eine Insolvenz gemeldet hatte. Der Einwand, der Prozess sei vollautomatisiert, zählte nicht. Disclaimer wie „Für KI-generierte Inhalte wird keine Haftung übernommen“ sind rechtlich unwirksam.
Unsere Empfehlung:
- Erlassen Sie klare interne Richtlinien: Legen Sie fest, welche KI-Tools für welche Zwecke erlaubt sind. Sensibilisieren Sie Ihr Team dafür, dass personenbezogene und vertrauliche Geschäftsinformationen niemals in öffentliche KI-Tools eingegeben werden dürfen.
- Implementieren Sie den „Human-in-the-Loop“-Ansatz: Kein KI-Output sollte ohne menschliche Prüfung und Kontrolle externe Prozesse anstoßen oder veröffentlicht werden. Dies ist ein entscheidender Mechanismus zur Qualitätssicherung und Fehlervermeidung.
- Schaffen Sie KI-Kompetenz: Der AI Act fordert explizit, dass Mitarbeiter über ausreichende Kenntnisse im Umgang mit KI verfügen. Investieren Sie in Schulungen zu technischen Grundlagen, rechtlichen Rahmenbedingungen und ethischen Überlegungen.
Die WKO stellt dazu auch entsprechende Guidelines zur Verfügung.
2. KI als Produktfeature: Sorgen Sie für Versicherungsschutz
Wenn Ihr Unternehmen selbst Produkte anbietet, die KI-Komponenten enthalten, tragen Sie eine besondere Verantwortung. Die Hiscox-Studie zeigt auch hier eine alarmierende Diskrepanz: Nur 25 % der befragten Entscheider gaben an, eine Versicherung für KI-Risiken zu haben.
Die EU-Produkthaftungsrichtlinie, die bis 2027 in nationales Recht umgesetzt wird, verschärft die Lage weiter. Sie stellt klar, dass Software und KI als „Produkt“ gelten. Das bedeutet, dass Hersteller zukünftig verschuldensunabhängig haften können, beispielsweise für Schäden durch fehlerhafte Updates oder mangelnde Cybersicherheit.
Fazit
Der EU AI Act und die wachsende Verbreitung von KI sind ein Weckruf. Die Technologie bietet enorme Chancen zur Effizienzsteigerung und Innovation, wie sie bereits heute im IT-Sektor, im Marketing und in beratenden Berufen genutzt wird. Doch die Risiken sind real. Eine proaktive Auseinandersetzung mit den rechtlichen Pflichten, dem Datenschutz und dem Risikomanagement ist unerlässlich. Unternehmen, die jetzt auf klare interne Richtlinien, menschliche Kontrolle und einen soliden Versicherungsschutz setzen, werden die Potenziale der Künstlichen Intelligenz nachhaltig und sicher für sich nutzen können.
TEILEN SIE DEN ARTIKEL
Unsere Produkte
D&O
Für Unternehmen, Stiftungen, Vereine, einzelne Personen & D&O mit Strafrechtschutz
CYBER
Für Dienstleister & Gewerbe, Versicherungs-Vermitttler, Produktions-Unternehmen etc.
SPEZIAL STRAF-RECHTSSCHUTZ
Strafrechtsschutz, Manager-Rechtsschutz, Steuerberater & Wirtschaftsprüfer
CRIME
Finanzinstitutionen,
Kommerzielle Kunden
VERMÖGENSSCHADEN-HAFTPFLICHT
Finanzinstitute, Private Equity, Werbung & Medien etc.
Lesen Sie hier weiter
News
Data Protection Lösungen – zeitgemäßer Datenschutz
Unternehmen müssen stets im Blick behalten, wer auf welche Daten zugreifen kann, wie diese verwendet werden und wohin sie möglicherweise transferiert werden.
WEITERLESEN
News
Wirecard-Rechtsprechung und D&O-Versicherung: Experte Dr. Fabian Herdter klärt auf
„Wenn es zu millionenschweren Fehlern kommt, kann es sich heute kein Unternehmen mehr leisten, Ansprüche gegen die Verantwortlichen liegen zu lassen.“ (Fabian Herdter)
WEITERLESEN
News
Mit militärischer Präzision durch die Krise: Impulse von Dr. Markus Reisner
Professionelle Risiken beherrschen, anstatt von ihnen beherrscht zu werden – das ist der rote Faden, der sich durch die Karriere von Oberst des Generalstabs Dr. Markus Reisner zieht. Bei seinem Vortrag auf dem Financial Lines Dialog 2025 wird er zeigen, wie Unternehmen von militärischen Strategien lernen können.
WEITERLESEN← ZURÜCK ZUR ÜBERSICHT
INFINCO FINANCIAL
LINES BROKERS
