- Innovation & Umwelt
- Künstliche Intelligenz
Menü ausblenden
Künstliche Intelligenz
So nutzen Sie sie für Ihr Unternehmen
© Patrick Daxenbichler | Getty Images | Canva.com
Die digitale Revolution hat eine Technologie an die Spitze gebracht, die unser Leben in fast allen Bereichen verändern könnte: Künstliche Intelligenz (KI). Aber was genau bedeutet das eigentlich, und warum ist es gerade jetzt so ein großes Thema?
Inhaltsnavigation
- Was ist Künstliche Intelligenz?
- Warum ist KI so wichtig?
- Einsatzmöglichkeiten von KI für Ihr Unternehmen
- Unser Beratungsangebot
- Unser Weiterbildungsangebot
- EU-Verordnung zur KI / AI Act
- Links zum AI Act / KI-Verordnung
- KI Wissensspeicher
- FAQ: Wie finde ich als Unternehmer wo, welche Lösung zum AI Act?
- Checklisten der Datenschutzaufsichtsbehörden zu KI
- Weitere hilfreiche Informationen und Links zu KI
Was ist Künstliche Intelligenz?
Künstliche Intelligenz (KI) klingt kompliziert, oder? Im Grunde genommen geht es darum, Maschinen so zu programmieren, dass sie Aufgaben erledigen können, für die normalerweise menschliches Denken nötig wäre. Dazu gehören Dinge wie das Lernen aus Erfahrungen, das Anpassen an neue Situationen und das eigenständige Lösen von Problemen.
Warum ist KI so wichtig?
Wir leben in einer Welt, in der Daten eine immer größere Rolle spielen. Hier kommt KI ins Spiel: Sie hilft Unternehmen, effizienter zu arbeiten, neue Ideen zu entwickeln und sogar komplett neue Geschäftsfelder zu entdecken.
Wie kann KI Ihr Unternehmen unterstützen?
Die Einsatzmöglichkeiten von KI sind riesig. Hier ein paar Beispiele, wie KI Ihre Arbeit leichter und effektiver machen kann:
Routineaufgaben automatisieren:
Routineaufgaben automatisieren:
In Bereichen wie der Fertigung und Logistik können smarte Systeme wiederkehrende Aufgaben übernehmen. Das spart Zeit und Geld.
Kundeninteraktionen verbessern:
Kundeninteraktionen verbessern:
Ob im Einzelhandel oder in der Dienstleistungsbranche – Chatbots und personalisierte Empfehlungen sorgen dafür, dass sich Ihre Kunden gut aufgehoben fühlen und gerne wiederkommen.
Betriebsabläufe optimieren:
Betriebsabläufe optimieren:
Vom Energieverbrauch bis hin zur Produktion – KI-Tools helfen dabei, den Betrieb effizienter zu gestalten und Ressourcen besser zu nutzen.
Finanzdienstleistungen:
Finanzdienstleistungen:
In der Finanzwelt erkennen smarte Algorithmen Betrug, bewerten Risiken und machen Transaktionen sicherer und schneller.
Marketing und Vertrieb:
Marketing und Vertrieb:
Mit KI-gestützten Analysetools verstehen Sie Ihre Kunden besser und können Ihre Marketingstrategien gezielter und effektiver gestalten.
Personalwesen:
Personalwesen:
Ob bei der Suche nach neuen Talenten oder der Mitarbeiterbindung – intelligente Lösungen unterstützen Sie dabei, die besten Leute für Ihr Team zu finden und zu halten.
Das Fazit?
KI verändert nicht nur, wie wir arbeiten, sondern auch, wie Unternehmen wachsen und Innovationen vorantreiben. Wenn Sie jetzt neugierig geworden sind, könnte es an der Zeit sein, KI in Ihrem Unternehmen auszuprobieren.

Sie möchten mehr zum Thema erfahren?
Falls Sie Fragen zum Thema KI haben oder sich informieren möchten, wie wie Sie beraten können, kontaktieren Sie uns gerne unter: innovation(at)offenbach.ihk.de oder nutzen Sie unser konstenfreies Beratungsangebot.
Ihr Ansprechpartner:
Robin Hillesheim
Tel.: 069 / 8207-351
Unser Beratungsangebot
Unser Weiterbildungsangebot
Unsere praxisorientierten Kurse vermitteln Ihnen das Wissen, das Sie benötigen, um in der digitalen Ära erfolgreich zu sein.
EU-Verordnung zur Künstlichen Intelligenz
Worum geht es?
Die neue EU-Verordnung zur Künstlichen Intelligenz (KI-VO) legt fest, wie Künstliche Intelligenz in der EU reguliert wird. Ein „KI-System“ ist ein maschinengestütztes System, das autonom arbeiten und aus Daten lernen kann. Diese Systeme sind anpassungsfähig und treffen auf Basis von Algorithmen Entscheidungen, Vorhersagen oder Empfehlungen, die sowohl physische als auch virtuelle Umgebungen beeinflussen können.
Ein wichtiger Punkt der Verordnung ist die Abgrenzung zwischen einfachen, algorithmenbasierten IT-Systemen und echten KI-Systemen. Nur Systeme, die aus Daten lernen und ihre Leistung verbessern können, gelten als KI im Sinne der Verordnung.
Was ist der Stand?
Die Einführung der KI-VO erfolgt schrittweise. Hier ein tabellarischer Überblick:
| Jahr | Ereignis |
|---|---|
| 2024 | 12. Juli: Veröffentlichung der KI-Verordnung im Amtsblatt der EU. 1. August: Inkrafttreten der KI-Verordnung. |
| 2025 | 2. Februar: Anwendbarkeit der Regelungen zu verbotenen KI-Praktiken sowie zur KI-Kompetenz. 2. August: Anwendbarkeit der Regelungen zu GPAI-Modellen, Governance und Sanktionen. |
| 2026 | 2. August: Allgemeiner Geltungsbeginn der KI-VO. Ab diesem Datum gelten insbesondere Transparenzpflichten für KI-Systeme mit direkter Interaktion, Emotionserkennung/biometrische Kategorisierung sowie Offenlegungspflichten für Deepfakes und KI-generierte Texte zur Information der Öffentlichkeit. 2. Dezember: Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen die Outputs maschinenlesbar kennzeichnen, z. B. durch Metadaten oder Wasserzeichen. Zusätzlich: bestimmte KI-Praktiken im Zusammenhang mit nicht einvernehmlichen sexualisierten oder intimen Deepfake-Inhalten sind verboten. Unternehmen müssen ihre Systeme bis dahin entsprechend überprüfen und anpassen. |
| 2027 | 2. August: Anwendbarkeit der Bestimmungen über GPAI-Modelle, die vor dem 02.08.2025 in den Verkehr gebracht wurden, neue Hochrisiko-KI-Systeme gemäß Anhang I und Hochrisiko-KI-Systeme gemäß Anhang I, die nach dem 02.08.2026 wesentlich geändert werden |
| 2028 | 2. August: Nach der Omnibus-Anpassung sollen Regelungen für Hochrisiko-KI-Systeme nach Art. 6 Abs. 1 / Anhang I gelten. |
| 2030 | 31. Dezember: Vollständige Anwendbarkeit auf bestimmte KI-Systeme, die Teil eines IT-Großsystems nach Anhang X sind und vor dem 2. August 2027 in Verkehr gebracht oder in Betrieb genommen wurden. |
Wie betrifft mich das als Unternehmen?
Wie betrifft mich das als Unternehmen?
Wenn Sie z.B. ein Geschäftsführer eines Start-ups oder KMU in der EU sind, betrifft Sie der AI Act direkt, sobald Sie mit Künstlicher Intelligenz arbeiten oder ein KI-gestütztes Produkt auf den Markt bringen möchten.
Die Verordnung unterscheidet zwischen verschiedene Rollen bzw. Akteuren, die dann spezifische Pflichten aber auch Rechte haben.
Folgende Rollen werden unterschieden, dabei sind Mehrfachrollen möglich:
- Anbieter (Provider) als Entwickler und Inverkehrbringer der KI
- Betreiber (Deployer) als Verwender der KI
- Hersteller (Product Manufacturer)
- Einführer (Importer)
- Händler (Distributor) oder
- Bevollmächtigter (Authorised Representative).
Neben der Rollenbestimmung ist die Risikoklassifizierung der KI von besonderer Bedeutung, denn hieraus ergeben sich weitere konkretisierte Pflichten als Verknüpfung. Hierunter versteht man den sogenannten „Risikobasierten Ansatz“. Zum Beispiel müssen Sie, wenn Sie ein Hochrisiko-KI-System entwickeln oder nutzen, bestimmte Transparenz- Dokumentations-, Kontroll- und Sicherheitsanforderungen erfüllen, um die gesetzlichen Vorgaben einzuhalten. Je höher das Risiko für das System eingestuft werden muss, desto mehr Verpflichtungen gibt es.
Die vier Risikoklassen der Künstlichen Intelligenz sind:
- Verbotene/Inakzeptable KI: Technologien, die gegen ethische Grundsätze verstoßen, sind vollständig verboten.
Beispiele: Social Scoring, Biometrische Identifizierung - Hochrisiko-KI: Systeme, die in kritischen Bereichen eingesetzt werden (z. B. Gesundheitswesen, Justiz), unterliegen strengen Vorschriften.
Beispiele: Medizinische Diagnose-KI, KI im Bereich der Justiz, Autonome Fahrzeuge, kritische Infrastrukturen (z. B. Verkehr und Versorgungsunternehmen). - KI-Systeme mit begrenztem Risiko
Beispiel: Chatbot - Niedriges Risiko
Beispiele: Spamfilter, Computerspiele.
Zusammengefasst formuliert der AI Act / KI-VO Mindeststands für
- Risikomanagement
- Datenqualität und Daten-Governance
- Dokumentation
- Transparenz
- Möglichkeit der menschlichen Aufsicht
- Protokollierung
- Genauigkeit
- Robustheit und
- Cybersicherheit.
Hier werden demnach Neuerungen oder Anpassungen in Systemen, Prozessen, Governance und Zuständigkeiten angesprochen.
Weiterführende Links zum AI Act / KI-Verordnung
- BayLDA
- BfDI
- bitkom
- CNIL
- DSK
- DSK
- DSK
- EU Kommission
- EU Kommission
BayLDA
Artikel: KI & Datenschutz
BfDI
Artikel: Die KI-Verordnung der EU
bitkom
Dokument: Generative KI im Unternehmen
CNIL
Dokument: Self-assessment guide for artificial intelligence (AI) systems
DSK
Dokument: Künstliche Intelligenz und Datenschutz
DSK
Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist
DSK
Positionspapier der DSK zu empfohlenen technischen und organisatorischen Maßnahmen bei der Entwicklung und dem Betrieb von KI-Systemen
EU Kommission
AI Act Service Desk FAQ
EU Kommission
Artikel: KI-Gesetz
KI Wissensspeicher
Wie finde ich als Unternehmer wo, welche Lösung zum AI Act / KI-VO (FAQ)?
Was muss ich als Start-up beachten, wenn ich eine KI entwickeln möchte?
Was muss ich als Start-up beachten, wenn ich eine KI entwickeln möchte?
Prüfen Sie zunächst, ob Ihr System unter die Definition eines KI-Systems fällt und welcher Rolle (Akteur) Sie zugeordnet werden. Danach stellen Sie sicher, dass Sie alle Anforderungen der Risikoklassifizierung, z.B. KI mit begrenzten Risiko, beachten, etwa Transparenzpflichten oder Sicherheitsanforderungen
Welche Vorschriften und Pflichten gelten für wen?
Welche Vorschriften und Pflichten gelten für wen?
Hier wird immer nach der Rolle und der KI-Klassifizierung unterschieden.
Rollen sind: Anbieter, Betreiber, Hersteller, Einführer, Händler, bevollmächtigter Vertreter oder betroffene Person in der EU.
Klassifizierung der KI: Verbotene KI (Art. 5 KI-VO), Hochrisiko-KI-Systeme (Art. 6 – 49 KI-VO – Transparenzvorschriften, Art. 13 KI-VO), Codes of Conduct (Art. 95 KI-VO), GPAI Model – Transparenzvorschriften (Art. 53 KI-VO) und GPAI Model mit systemischen Risiko – Transparenzvorschriften (Art. 55 KI-VO).
Müssen KI-Inhalte gekennzeichnet werden?
Müssen KI-Inhalte gekennzeichnet werden?
Ja, aber nicht jede KI-Nutzung muss pauschal gekennzeichnet werden. Entscheidend ist, wer die KI nutzt, welcher Inhalt entsteht und ob dieser Inhalt veröffentlicht oder gegenüber Personen eingesetzt wird.
Ab 2. August 2026 gelten für Unternehmen vor allem sichtbare Transparenzpflichten: Wer z. B. Chatbots einsetzt, muss Nutzer erkennen lassen, dass sie mit einer KI kommunizieren. Auch der Einsatz von Emotionserkennung oder biometrischer Kategorisierung muss gegenüber betroffenen Personen offengelegt werden. Deepfakes müssen als künstlich erzeugt oder verändert kenntlich gemacht werden, wenn sie realistisch wirken und als echt verstanden werden könnten. KI-generierte Texte zur Information der Öffentlichkeit sind ebenfalls zu kennzeichnen, wenn sie ohne echte redaktionelle Kontrolle veröffentlicht werden.
Ab 2. Dezember 2026 kommt eine zusätzliche technische Pflicht hinzu: Anbieter von KI-Systemen, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, müssen diese Inhalte maschinenlesbar kennzeichnen, z. B. durch Metadaten oder Wasserzeichen. Diese Pflicht richtet sich vor allem an Anbieter solcher KI-Systeme; Unternehmen, die fremde KI-Tools nutzen und Inhalte veröffentlichen, müssen daneben ihre eigenen Offenlegungspflichten beachten.
Neu ist das Verbot bestimmter Deepfake-Praktiken: KI-Systeme dürfen nicht für die Erzeugung nicht einvernehmlicher sexualisierter oder intimer Deepfake-Inhalte eingesetzt oder in Verkehr gebracht werden. Unternehmen sollten prüfen, ob eingesetzte Bild-, Video- oder Audio-KI entsprechende Funktionen enthält oder ermöglicht.
Transparenzpflichten- Mini-Merkliste:
Ab 2. August 2026 beachten
- Chatbots und KI-Assistenten: Nutzer müssen erkennen können, dass sie mit einem KI-System kommunizieren, z. B. durch den Hinweis „Sie kommunizieren mit einem KI-System“.
- Emotionserkennung und biometrische Kategorisierung: Betroffene Personen müssen über den Einsatz solcher Systeme informiert werden.
- Deepfakes: Realistisch wirkende KI-Bilder, -Videos oder -Audios müssen als künstlich erzeugt oder verändert offengelegt werden.
- KI-Texte zur Öffentlichkeitsinformation: Werden KI-generierte Texte ohne echte redaktionelle Prüfung veröffentlicht, müssen sie als KI-generiert kenntlich gemacht werden.
Ab 2. Dezember 2026 zusätzlich beachten
- Maschinenlesbare Kennzeichnung: Anbieter generativer KI-Systeme müssen synthetische Inhalte technisch kennzeichnen, etwa über Metadaten, Wasserzeichen oder vergleichbare Mechanismen.
- Nicht verwechseln: Die sichtbare Kennzeichnung gegenüber Menschen und die maschinenlesbare technische Kennzeichnung sind zwei unterschiedliche Pflichten mit unterschiedlichen Startzeitpunkten.
- Wichtig: Neben Kennzeichnungspflichten gibt es auch echte Verbote. Bestimmte KI-Praktiken zur Erzeugung nicht einvernehmlicher sexualisierter oder intimer Deepfake-Inhalte sind tabu und keine bloße Kennzeichnungspflicht, sondern ein echtes Verbot.
Formulierungsmöglichkeiten für Kennzeichnungshinweise als Beispiele:
- Chatbot: „Sie kommunizieren mit einem KI-System.“
- KI-generierter Inhalt allgemein: „Dieser Inhalt wurde mithilfe künstlicher Intelligenz erstellt.“
- Bearbeiteter KI-Inhalt: „Dieser Inhalt wurde mithilfe künstlicher Intelligenz erzeugt oder verändert.“
- Deepfake / realistisch wirkender Inhalt: „Dieser Inhalt ist KI-generiert und stellt keine echte Aufnahme dar.“
Wann ist keine Kennzeichnung erforderlich?
Wann ist keine Kennzeichnung erforderlich?
- Wenn ein KI-Text redaktionell geprüft und überarbeitet wurde.
- Wenn KI nur als Hilfsmittel dient, z. B. zur Rechtschreibprüfung.
- Wenn es sich um künstlerische Inhalte ohne Täuschungsabsicht handelt.
Unternehmen sollten außerdem sicherstellen, dass vorhandene technische Kennzeichnungen (Wasserzeichen, Metadaten) nicht entfernt werden. Verstöße gegen die Vorschriften können mit hohen Bußgeldern geahndet werden.
Welche Schulungen müssen meine Mitarbeiter durchlaufen?
Welche Schulungen müssen meine Mitarbeiter durchlaufen?
Bereits seit dem 02.02.2025 ist Artikel 4 des AI Act umzusetzen. Durch die Digital-Omnibus-Verordnung zur KI (EU 2026/1744 vom 08.07.2026) kommt es ab dem 27. Juli 2026 zu einer Ausweitung der Erleichterungen für KMU auf „kleine Midcap-Unternehmen“. Dies beinhaltet auch eine Lockerung der Schulungspflicht.
In Bezug auf die Schulungen von Mitarbeitenden ist nun zu beachten:
Anbieter und Betreiber von KI-Systemen müssen die KI-Kompetenz der Beschäftigten fördern, die in ihrem Auftrag mit diesen Systemen arbeiten. Sie sind daher verpflichtet, geeignete Maßnahmen zu ergreifen. Das bedeutet jedoch nicht, dass zwingend eine bestimmte Schulung durchgeführt oder ein bestimmtes Kompetenzniveau erreicht werden muss.
Wann muss ich die Anforderungen des AI Acts / KI-VO umsetzen?
Wann muss ich die Anforderungen des AI Acts / KI-VO umsetzen?
Die Umsetzungspflichten sind gestaffelt. Je nachdem, welche Art von KI-System Sie entwickeln oder betreiben, gelten die Vorschriften zu unterschiedlichen Zeitpunkten, die bis 2030 reichen. Nutzen Sie dazu unsere tabellarische Aufstellung.
Wann liegt ein KI-System vor?
Wann liegt ein KI-System vor?
Ausgehend von der gesetzlichen Definition (Art. 3 Nr. 1 KI-VO) werden Systeme immer dann als KI-Systeme einzustufen sein, wenn Maschinen durch Künstliche Intelligenz die Fähigkeit entwickeln, autonom Aufgaben auf der Basis von Algorithmen auszuführen und dabei Lösungen für Probleme und Empfehlungen oder Entscheidungen vorzuschlagen.
Wie ist die DSGVO mit den KI-Vorschriften verknüpft?
Wie ist die DSGVO mit den KI-Vorschriften verknüpft?
Sie stehen nicht in Konkurrenz, sie ergänzen sich. Beim Einsatz von KI sind bereits jetzt die Datenschutzgesetze einzuhalten. Voraussetzung ist, dass der Anwendungsbereich der Datenschutzgesetze eröffnet ist, d. h. mit der KI personenbezogene Daten verarbeitet (z. B. eingegeben, ausgewertet oder in sonstiger Weise verarbeitet) werden. Die Grundsätze der DSGVO wie Rechtmäßigkeit, Zweckbindung, Transparenz, Datenminimierung, Richtigkeit müssen beachtet werden.
Welche Strafen drohen bei Nichteinhaltung?
Welche Strafen drohen bei Nichteinhaltung?
Die Verordnung sieht empfindliche Sanktionen vor (Art. 99 KI-VO), insbesondere bei Verstößen gegen die Vorschriften für Hochrisiko-KI-Systeme oder verbotene KI-Technologien. Die Bußgelder sind auf 35 Mio. Euro bzw. 7 % des gesamten weltweiten Jahresumsatzes des Unternehmens im vorangegangenen Geschäftsjahr begrenzt. Andere Verstöße werden mit bis zu 15 Mio. Euro oder 3 % des Umsatzes des Unternehmens sanktioniert. Bei einer Übermittlung falscher Informationen an die Behörden drohen Bußgelder von bis zu 7,5 Mio. Euro oder 1 % des Jahresumsatzes.
Gibt es Unterstützungen oder Erleichterungen für KMU?
Gibt es Unterstützungen oder Erleichterungen für KMU?
Um europäische Start-ups und KMU bei der Entwicklung von KI-VO konformen KI-System zu unterstützen, sollen sog. KI-Reallaboren entstehen. Sie sollen eine Möglichkeit bieten, KI-Systeme unabhängig und unter Regulierungsaufsicht zu entwickeln und zu testen, bevor sie auf den Markt kommen. Die KI-Reallabore sollen alle relevanten Akteure – öffentliche und private, einschließlich notifizierter Stellen, Normungsorganisationen und Forschungseinrichtungen – einbeziehen und für KMU und Startups grundsätzlich kostenfrei sein. Auf Basis des in der KI-VO verankerten Verhältnismäßigkeitsprinzips, das sicherstellt, dass die Anforderungen an die Größe und Kapazität des Unternehmens angepasst werden, soll es für KMU weniger strenge Auflagen geben, insbesondere in Bezug auf Dokumentations- und Berichtspflichten. Zudem sollen sie von erleichterten Verfahren zur Konformitätsbewertung profitieren, es soll beispielsweise möglich sein, bestimmte Prüfungen und Kontrollen in vereinfachter Form durchzuführen. Dies hilft, die Kosten und den bürokratischen Aufwand zu senken. Hier muss sich noch eine Praxis durchsetzen.
Was ist das Ziel des AI Acts / KI-VO?
Was ist das Ziel des AI Acts / KI-VO?
KI hat das Potenzial vielfältige Vorteile für Wirtschaft und Gesellschaft hervorzubringen, etwa die Effizienzgewinne im Alltag durch Verbesserung von Prognosen, die Optimierung der Ressourcennutzung und die Personalisierung von Dienstleistungen. Gleichzeitig, bergen aber auch neue Gefahren und Nachteile für unsere Gesellschaft. Beispielsweise neigen KI-Systeme, die auf unzureichenden Trainingsdaten basieren, Vorurteile zu übernehmen und dadurch diskriminierende Entscheidungen zu treffen. Die EU möchte deshalb sicherzustellen, dass KI immer im Einklang mit den Werten, Grundrechten und Prinzipien der EU entwickelt wird. Erklärte Position zum AI-Act des EU-Parlaments:
„Die Vorschriften sollen die Entwicklung, den Einsatz und die Nutzung von menschenzentrierten, vertrauenswürdigen KI-Systemen in der EU regeln und Gesundheit, Umwelt, Sicherheit, Grundrechte und Demokratie vor schädlichen Folgen schützen.“
Gibt es bereits „Best Practices“, wie man den AI Act / KI-VO im Unternehmen abbilden kann?
Gibt es bereits „Best Practices“, wie man den AI Act / KI-VO im Unternehmen abbilden kann?
Das Thema KI entwickelt sich täglich weiter. Es gibt aber einige Aspekte, die sich herausdeuten. Diese sind:
- Bereiten Sie auf die KI-Verordnung vor, indem Sie ein Grundverständnis entwickeln und sich auf den Weg machen. Bleiben Sie am Ball!
- Verschaffen Sie sich einen Überblick über KI-Einsatz und KI-Planung („IST-SOLL): Was ist schon im Einsatz und was soll noch kommen? So wird Ihnen klar, welche Regelungen der KI-Verordnung Sie überhaupt betreffen.
- Verständnis über Ihre Rolle: Sind Sie Nutzer und damit Betreiber oder lassen Sie durch einen externen Dienstleister eine KI für Ihr Unternehmen entwickeln und sind damit Entwickler und gleichzeitig Betreiber?
- Klassifizierung der KI-Systeme: Ordnen Sie die von Ihnen verwendeten KI-Systeme bestmöglich den Kategorien (minimales, geringes, hohes Risiko) der KI-VO zu. Falls Sie vermuten oder erkennen, dass Sie KI-Systeme verwenden, die zukünftig als Hochrisiko-KI-Systeme eingestuft werden, sollten Sie diese gesondert bearbeiten, da hier absehbar umfangreiche Pflichten auf Sie zukommen.
- Intern Knowhow und Bewusstsein schaffen: Machen Sie sich über die gesamte Organisation gemeinsam fit (Schulungen, Workshops) und bieten Sie einen Rahmen für die Nutzung der KI an (z.B. Guidelines, Anweisungen). Dies ist nicht nur ein „nice-to-have“, sondern wird zum „must-have“ nach Art. 4 KI-VO.
- Kennzeichnungspflichten für KI-generierte Inhalte erkennen und festlegen: Erstellen oder planen Sie, redaktionelle Inhalte und Texte nur noch über die KI erstellen zu lassen und sind diese für die Öffentlichkeit bestimmt, um über Angelegenheiten von öffentlichem Interesse zu informieren? Dann müssen Sie Art. 50 KI-VO beachten.
- KI-Botschafter oder Verantwortlichen einsetzen: Je nach Umfang des KI-Einsatzes kann es sinnvoll sein, eine verantwortliche Stelle für die genutzten KI-Systeme einzurichten, um die Compliance mit den verbundenen Verpflichtungen nachzuhalten. Hier sind Geschäftsführer besonders gefragt und im Fokus, die Organisation nachhaltig weiterzuentwickeln.
- Datenschutz: Sie müssen im Rahmen des Einsatzes von KI-Systemen den Datenschutz sicherstellen (z.B. Privacy by Design). Darüber hinaus sollten Sie darauf achten, dass das von Ihnen verwendete KI-System auf zuverlässigen und richtigen Daten beruht.
- Verträge überprüfen und mit Blick auf die KI-VO abschließen und erneuern.
Wie ist die KI-VO aufgebaut und wie passt sie in den gesetzgeberischen Kontext?
Wie ist die KI-VO aufgebaut und wie passt sie in den gesetzgeberischen Kontext?
Die KI-Verordnung besteht aus 180 Erwägungsgründen, 113 Artikeln und dreizehn Anhängen. Es gibt viele neu definierte Begriffe, wie etwa „Deepfakes“ oder GPAI (General Purpose AI Models). Die Erwägungsgründe geben weitere Hintergrundinformationen zu den Artikeln (gesetzgeberischen Motivation) und sollen deren Anwendung in der Praxis erleichtern. Die KI-VO (AI-Act) folgt dem Regelungskonzept des (EU-) Produktsicherheitsrechts und ergänzt und harmonisiert Gesetze dort, wo das digitale Zeitalter nicht abschließend abgebildet war, etwa der Verordnung über die allgemeine Produktsicherheit (GPSR). Hier trifft KI-spezifisches Produktrecht auf Bereiche wie Industrieanwendungen, Optimierung von Lieferketten und der Produktion (z.B. Maschinen mit selbst entwickelnder Logik) oder den Gesundheitssektor (z.B. Diagnosen). Es werden Brücken zu Gesetzen wie dem Produktsicherheitsgesetz (ProdSG/GPSR) oder der Datenschutzgrundverordnung (DSGVO) geschlagen. Das Urheberrecht spielt ebenso eine Rolle (Transparenz der Datenquelle). Die Strahlwirkung der KI-VO wird sich über die Zeit entfalten und darf nun dem Praxistest unterzogen werden.
Worum handelt es sich beim „KI Service Desk“?
Worum handelt es sich beim „KI Service Desk“?
Der „KI Service Desk“ der Bundesnetzagentur ist ein Beratungsservice für Unternehmen und Behörden, die beim Einsatz Künstlicher Intelligenz die Vorgaben der europäischen KI-Verordnung beachten müssen. Der „KI Service Desk“ soll vor allem kleine und mittlere Unternehmen sowie Start-ups bei der praktischen Umsetzung der seit August 2024 geltenden Regeln unterstützen und der bestehenden Verunsicherung im Markt entgegenwirken.
Weitere Informationen finden Sie hier.
Gibt es Checklisten, um alles im Blick zu behalten?
Gibt es Checklisten, um alles im Blick zu behalten?
Die gibt es und es werden viele weitere über die Zeit folgen. Wir stellen Ihnen einige ausgewählte Links zur Verfügung. Aber auch hier ist es wichtig, den Überblick zu behalten. Welches Ziel und in welcher Rolle verfolgen Sie genau? Was möchten Sie mit der Checkliste genau abarbeiten? Bei besonderen Bedarfen können Sie uns gerne gesondert ansprechen.
KI-generierte Inhalte kennzeichnen
Was regelt die EU-KI-Verordnung?
Was regelt die EU-KI-Verordnung?
Die EU-KI-Verordnung, auch EU AI Act genannt, verpflichtet Anbieter und Betreiber bestimmter Systeme mit künstlicher Intelligenz zu mehr Transparenz. Menschen sollen erkennen können, ob sie mit einem solchen System kommunizieren oder künstlich erzeugte beziehungsweise veränderte Inhalte sehen.
Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich seit dem 2. August 2026. Sie betreffen nicht jede Anwendung künstlicher Intelligenz. Maßgeblich sind bestimmte Systeme und Einsatzsituationen.
Bei Verstößen können Bußgelder von bis zu 15 Millionen Euro oder bis zu drei Prozent des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres drohen.
Welche Kennzeichnungspflichten gibt es?
Welche Kennzeichnungspflichten gibt es?
Hinweis bei direkter Kommunikation mit einem KI-System
Kommunizieren Menschen direkt mit einem System künstlicher Intelligenz, sollen sie grundsätzlich darüber informiert werden. Das betrifft zum Beispiel Chatbots, digitale Assistenten oder digitale Avatare.
Die Information sollte:
- von Beginn der Kommunikation an sichtbar sein,
- klar und verständlich formuliert sein,
- deutlich erkennbar und leicht zugänglich sein.
Eine Ausnahme kann gelten, wenn für eine durchschnittlich informierte Person offensichtlich ist, dass sie mit einem System künstlicher Intelligenz kommuniziert. Unternehmen sollten diese Ausnahme zurückhaltend anwenden.
Technische Kennzeichnung durch Anbieter
Anbieter bestimmter Systeme, die künstlich erzeugte oder veränderte Bild-, Ton-, Video- oder Textinhalte erstellen, müssen diese Ausgaben grundsätzlich technisch kennzeichnen. Die Kennzeichnung muss maschinenlesbar sein. Das bedeutet: Andere technische Systeme können erkennen, dass der Inhalt künstlich erzeugt oder verändert wurde.
Die Kennzeichnung muss nicht zwingend als sichtbarer Hinweis im veröffentlichten Inhalt stehen. Möglich sind zum Beispiel:
- technische Metadaten,
- digitale Wasserzeichen,
- Angaben zur Herkunft des Inhalts,
- andere maschinenlesbare Verfahren.
Die technische Kennzeichnung soll wirksam, zwischen unterschiedlichen Systemen nutzbar, belastbar und zuverlässig sein.
Für Unternehmen bedeutet das: Prüfen Sie bei der Auswahl eines KI-Tools, ob der Anbieter geeignete Kennzeichnungs- und Nachweisverfahren unterstützt. Diese Pflicht trifft grundsätzlich den Anbieter des Systems. Ein Unternehmen, das ein bestehendes KI-Tool nutzt, wird dadurch nicht automatisch selbst zum Anbieter.
Sichtbare Kennzeichnung von Deepfakes
Veröffentlichen Betreiber künstlich erzeugte oder veränderte Bild-, Ton- oder Videoinhalte, müssen sie offenlegen, dass diese Inhalte künstlich erzeugt oder verändert wurden, wenn es sich um einen Deepfake handelt.
Ein Deepfake kann vorliegen, wenn ein Inhalt einer realen Person, einem realen Gegenstand, Ort, Ereignis oder einer Einrichtung täuschend ähnlich ist. Der Inhalt kann dadurch fälschlich als echt oder wahrheitsgemäß erscheinen.
Eine vollständig künstlich erzeugte Person, die nicht existiert, ist nicht automatisch ein Deepfake. Trotzdem darf die Darstellung nicht irreführend sein. Entsteht der Eindruck, eine reale Mitarbeiterin oder ein realer Mitarbeiter habe ein Produkt präsentiert, können zusätzlich Fragen des Wettbewerbs-, Verbraucher- oder Werberechts entstehen.
Mögliche Hinweise sind:
- "Dieser Inhalt wurde künstlich erzeugt."
- "Dieses Bild wurde mit Unterstützung künstlicher Intelligenz erstellt."
Der Hinweis sollte beim ersten Kontakt mit dem Inhalt gut wahrnehmbar sein. Ein Hinweis an einer schwer auffindbaren Stelle der Internetseite reicht nicht aus.
Für offensichtlich künstlerische, kreative, satirische oder fiktionale Inhalte können erleichterte Anforderungen gelten. Auch dann muss in geeigneter Weise offengelegt werden, dass künstlich erzeugte oder veränderte Inhalte vorhanden sind.
Künstlich erzeugte Texte zu Angelegenheiten von öffentlichem Interesse
Veröffentlichen Betreiber künstlich erzeugte oder veränderte Texte zu Angelegenheiten von öffentlichem Interesse, müssen sie grundsätzlich auf den Einsatz künstlicher Intelligenz hinweisen. Das kann zum Beispiel Texte zu folgenden Themen betreffen:
- politische Entscheidungen,
- Wahlen,
- öffentliche Krisen,
- gesellschaftlich bedeutsame Ereignisse,
- andere Themen von erheblichem öffentlichem Interesse.
Die Kennzeichnungspflicht kann entfallen, wenn ein Mensch den Text vor der Veröffentlichung geprüft oder redaktionell bearbeitet hat. Außerdem muss eine natürliche oder juristische Person die redaktionelle Verantwortung übernehmen. Ein ungeprüftes Weiterleiten oder Veröffentlichen eines KI-Ergebnisses reicht nicht aus.
Was ist für Unternehmen besonders wichtig?
Was ist für Unternehmen besonders wichtig?
Die Pflichten richten sich an unterschiedliche Akteure.
Anbieter entwickeln ein System künstlicher Intelligenz oder bringen es unter ihrem eigenen Namen oder ihrer eigenen Marke auf den Markt.
Betreiber setzen ein System unter eigener Verantwortung ein. Das kann zum Beispiel im Kundenservice, Marketing, in der Kommunikation, Personalverwaltung oder bei der Analyse von Kunden- und Zugangsdaten geschehen.
Ein Unternehmen, das ein bestehendes KI-Tool nutzt, ist in der Regel nicht automatisch dessen Anbieter. Als Betreiber kann es dennoch eigene Informations- und Kennzeichnungspflichten haben. Das gilt besonders bei:
- der Veröffentlichung von Deepfakes,
- bestimmten Texten zu Angelegenheiten von öffentlichem Interesse,
- dem Einsatz von Emotionserkennung,
- biometrischer Kategorisierung.
Handlungsempfehlungen für die Praxis
Handlungsempfehlungen für die Praxis
KI-Anwendungen und Einsatzbereiche erfassen
Erstellen Sie eine Übersicht über alle eingesetzten Systeme künstlicher Intelligenz. Halten Sie fest, wofür die Systeme genutzt werden, welche Inhalte sie erzeugen und wer diese Inhalte veröffentlicht oder verantwortet.
- Welche KI-Tools werden im Unternehmen verwendet?
- Wer nutzt sie?
- Werden Inhalte veröffentlicht oder nur intern verarbeitet?
- Werden Chatbots, Bildgeneratoren, Sprachgeneratoren oder Video-Tools eingesetzt?
- Werden personenbezogene oder biometrische Daten verarbeitet?
- Werden Inhalte für die Öffentlichkeit oder nur für interne Zwecke erzeugt?
Anbieterinformationen prüfen
Prüfen Sie bei eingesetzten KI-Tools insbesondere:
- Unterstützt der Anbieter maschinenlesbare Kennzeichnungen?
- Verwendet das Tool Metadaten oder digitale Wasserzeichen?
- Welche Angaben enthält die technische Dokumentation?
- Gibt es Funktionen, die Herkunft oder Erzeugung von KI-Inhalten kenntlich machen?
- Welche Ausnahmen und Einschränkungen nennt der Anbieter?
- Gelten Übergangs- oder Anpassungsregeln für ältere Systemversionen?
Anbieter von Systemen künstlicher Intelligenz sollten technische Informationen und Nachweise bereitstellen.
Mitarbeitende sensibilisieren
Mitarbeitende sollten wissen:
- wann ein KI-Inhalt nach Artikel 50 gekennzeichnet werden muss,
- wann ein Inhalt ein Deepfake sein kann,
- wie sie künstlich erzeugte Inhalte prüfen,
- welche Inhalte sie nicht ungeprüft veröffentlichen dürfen,
- wann eine redaktionelle Kontrolle erforderlich ist,
- dass zusätzlich interne Vorgaben und Datenschutzbestimmungen gelten können.
Übergangsregelungen und aktuelle Änderungen
Übergangsregelungen und aktuelle Änderungen
Die EU hat die KI-Verordnung durch die Verordnung (EU) 2026/1744, den "Digital Omnibus on AI", geändert. Die Transparenzpflichten nach Artikel 50 gelten grundsätzlich weiterhin ab dem 2. August 2026.
Für bestimmte Systeme künstlicher Intelligenz, die bereits vor dem 2. August 2026 in Verkehr gebracht wurden, kann es eine begrenzte Übergangsfrist für technische Anpassungen geben. Unternehmen sollten deshalb prüfen, ob eine Übergangsregelung für das konkret eingesetzte System gilt.
Eine Übergangsregelung ersetzt nicht die Prüfung der Pflichten für Betreiber bei bereits veröffentlichten Inhalten.
Weiterführende Informationen
Weiterführende Informationen
Für die fachliche Prüfung und weiterführende Informationen eignen sich insbesondere:
- Leitlinien der Europäischen Kommission zu den Transparenzpflichten nach Artikel 50 der EU-KI-Verordnung,
- Informationen der Bundesnetzagentur zu den Transparenzpflichten nach Artikel 50,
- Artikel 3 und Artikel 50 der EU-KI-Verordnung,
- Fragen und Antworten der Europäischen Kommission zu den Transparenzpflichten nach Artikel 50,
- Verordnung (EU) 2026/1744 zum "Digital Omnibus on AI",
- von der Europäischen Union bereitgestellte Symbole zur Kennzeichnung.
Checklisten der Datenschutzaufsichtsbehörden zu KI
- BayLDA (2024): Datenschutzkonforme Künstliche Intelligenz – Checkliste mit Prüfkriterien nach der DSGVO, 24. Januar 2024
- LfDI Baden-Württemberg (2023): „Diskussionspapier: Rechtsgrundlagen im Datenschutz beim Einsatz von Künstlicher Intelligenz“, 07.11.2023
- LfDI Hamburg (2023): Checkliste zum Einsatz LLM-basierter Chatbots, Herausgeber, 13.11.2023
Weitere hilfreiche Informationen und Links zu KI
- hessian.AI
- Europäisches Amt für künstliche Intelligenz
- NIS-2-Richtlinie
- Kwintum
hessian.AI
hessian.AI hat das Ziel, die Spitzenforschung, die die dritte Welle der KI prägt, weiter voranzutreiben, konzentriert sich auf konkrete praktische Anwendungen, um Antworten auf die wichtigen Herausforderungen unserer Zeit zu finden und transferiert Wissen in Wirtschaft und Gesellschaft.
Europäisches Amt für künstliche Intelligenz
Das Europäische Amt für KI ist das Kompetenzzentrum für KI in der gesamten EU. Es spielt eine Schlüsselrolle bei der Umsetzung des KI-Gesetzes - insbesondere für allgemeine KI - und fördert die Entwicklung und den Einsatz vertrauenswürdiger KI sowie die internationale Zusammenarbeit.
NIS-2-Richtlinie
Erste Informationen für voraussichtlich betroffene Unternehmen
Kwintum
Kwintum ist Ihr Wegweiser im digitalen Zeitalter, der Orientierung und Aufklärung in einer immer komplexeren Welt bietet - ein Raum, in dem technische Innovationen und Geschäftsmodelle auf faktenbasierte Analysen und kritischen Dialog treffen. Entdecken Sie ein breites Spektrum an hochwertigen Informationen zu globalen Trends, wirtschaftlichen Anwendungen und den neuesten Entwicklungen in Forschung und Technologie.
Hotline: Wir sind für Sie da!
Erreichbarkeit unserer Hotline:
Montag - Donnerstag: 09:00 - 16:00 Uhr
Freitag: 09:00 - 14:00 Uhr








