KI/AI-Recht
Vorreiter im Recht der Künstlichen Intelligenz – von der KI-Verordnung bis zum sicheren Markteintritt
Künstliche Intelligenz ist in der Unternehmenspraxis angekommen – und mit ihr ein eigenes Rechtsgebiet. Die KI-Verordnung (EU) 2024/1689 greift gestaffelt bis 2028, seit Ende Juli 2026 überwacht die Bundesnetzagentur den deutschen Markt, und die ersten Grundsatzurteile zum KI-Training sind gesprochen. KALER hat KI/AI-Recht als eine der ersten deutschen Wirtschaftskanzleien zum Kerngebiet gemacht und begleitet Unternehmen, die KI einsetzen, anbieten oder selbst entwickeln – mit Compliance, Datenschutz, Urheberrecht, Vertragsgestaltung und Haftungsvorsorge aus einer Hand.
Auf einen Blick
Wann welche Pflicht greift
Die Stufen der KI-Verordnung auf einen Blick – damit Sie wissen, was heute gilt und wofür jetzt vorgearbeitet werden muss.
- Februar 2025Verbote & KI-KompetenzUnannehmbare KI-Praktiken sind verboten; Art. 4 KI-VO verlangt KI-Kompetenz im Unternehmen.in Kraft
- August 2025Anbieterpflichten GPAIPflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck greifen.in Kraft
- 29. Juli 2026Marktaufsicht in DeutschlandDie Bundesnetzagentur ist zentrale KI-Marktüberwachungsbehörde (KI-Durchführungsgesetz).in Kraft
- 2. August 2026TransparenzpflichtenArt. 50 KI-VO: Chatbots, Deepfakes und synthetische Inhalte müssen gekennzeichnet werden.in Kraft
- 2. Dezember 2027Hochrisiko-PflichtenAnhang III greift nach dem Digital Omnibus – ein Aufschub, kein Erlass.ab dann
KI-Compliance
- KI-Bestandsaufnahme und Risikoklassifizierung nach der KI-VO
- Markteintritts-Check für selbst entwickelte Produkte (auch Vibe-Coding)
- KI-Governance und interne KI-Richtlinien
- KI-Kompetenz-Schulungskonzepte (Art. 4 KI-VO)
- Transparenz- und Kennzeichnungspflichten (Art. 50 KI-VO)
- Vertretung gegenüber BNetzA und Marktüberwachung
Verträge & IP
- AI-as-a-Service- und KI-Projektverträge
- AGB und Nutzungsbedingungen für eigene Software- und KI-Produkte
- Trainingsdaten- und Datenlizenzverträge
- Urheberrecht und TDM-Opt-out-Strategien
- Schutz von Geschäftsgeheimnissen beim KI-Einsatz
- Open-Source- und Modell-Lizenzprüfung
Datenschutz & Haftung
- DSGVO-Konformität von KI-Anwendungen
- Datenschutz-Folgenabschätzung für KI-Systeme
- Haftungsanalyse und Produkthaftung (RL (EU) 2024/2853)
- KI im Arbeitsverhältnis und Mitbestimmung
- KI-Due-Diligence bei Transaktionen
KI-Verordnung und KI-Compliance
Die Pflichten greifen gestaffelt – wer den eigenen KI-Bestand jetzt nicht einordnet, gerät bis Dezember 2027 unter Zeitdruck.
- KI-Bestandsaufnahme: jede Anwendung erfassen, Risikoklasse und Rolle (Anbieter oder Betreiber) bestimmen
- KI-Governance und interne Richtlinien aufbauen, die der Marktüberwachung standhalten
- Transparenz- und Kennzeichnungspflichten nach Art. 50 KI-VO umsetzen
- Nachweis der KI-Kompetenz im Unternehmen (Art. 4 KI-VO) organisieren
- Vertretung gegenüber der Bundesnetzagentur als Marktüberwachungsbehörde
Vom eigenen Produkt zum sicheren Markteintritt
Selbst entwickelt – klassisch programmiert, mit KI-Unterstützung oder per „Vibe-Coding“? Vor dem Launch entscheidet das rechtliche Fundament.
- Risikoklassifizierung des Produkts nach der KI-Verordnung
- Open-Source- und Modell-Lizenzen im (KI-generierten) Code prüfen
- Rechte am Output klären – wem gehört, was das System erzeugt?
- AGB, Nutzungsbedingungen sowie Kennzeichnungs- und Informationspflichten
- Datenschutzkonzept und Produkthaftung absichern
- Bereits am Markt? Bestandsprüfung nach denselben Maßstäben, bevor Lücken zu Bußgeldern werden
KI und Datenschutz
Die DSGVO gilt neben der KI-Verordnung uneingeschränkt weiter – beim Training eigener Modelle wie beim Einsatz fremder Dienste.
- Rechtsgrundlagen für Training und Betrieb belastbar herleiten
- Auftragsverarbeitungsverträge mit KI-Anbietern gestalten
- Datenschutz-Folgenabschätzung für KI-Systeme durchführen
- Automatisierte Einzelentscheidungen (Art. 22 DSGVO) – von der Kreditvergabe bis zum KI-Recruiting
- Beschäftigtendaten und die Frage, wann eine menschliche Letztentscheidung wirklich trägt
Urheberrecht, geistiges Eigentum und Daten
Das LG München I hat im Verfahren GEMA gegen OpenAI erstmals in Europa entschieden, dass KI-Training und Output Urheberrechte verletzen können.
- Für Rechteinhaber: Schutz- und Lizenzstrategien entwickeln
- Maschinenlesbaren Nutzungsvorbehalt nach § 44b UrhG (TDM-Opt-out) umsetzen
- Für KI-Nutzer: Rechtekette am Output klären
- Freistellungszusagen der KI-Anbieter prüfen und nachverhandeln
- Geschäftsgeheimnisse gegen Abfluss über öffentliche KI-Dienste sichern (GeschGehG)
KI-Verträge und Haftung
KI-Leistungen passen in kein klassisches Vertragsmuster – und die neue Produkthaftungsrichtlinie behandelt Software und KI ausdrücklich als Produkt.
- AI-as-a-Service-, Entwicklungs- und Datenlizenzverträge gestalten
- Belastbare Leistungsbeschreibungen und Service Levels für probabilistische Systeme
- Haftungsregime für Modelle, die sich im laufenden Betrieb verändern
- Produkthaftung nach RL (EU) 2024/2853 einordnen und absichern
- Verteidigung bei Schäden, Bußgeldern und Streit über die Verantwortung
Darius Kaler
Founder & Managing Partner
Dr. Michael Radtke
Of Counsel
Ihr Kanzleiteam
Elisa Ohm
Kim Rachel Friebe, LLB.
Kirsten Just
Noushin DuBose
Svenja Johannig
Andreas Frank
Nick Bakhshi
Elke Sittig
Sarah Mulaj
Josephine Vu
Neda Bruno
Das begleiten wir konkret
Wir begleiten Unternehmen seit Inkrafttreten der KI-Verordnung – branchenübergreifend, auf Anbieter- wie auf Betreiberseite.
Mandats-AnfrageKI/AI-Recht — was Mandant:innen fragen.
Welche Pflichten aus der KI-Verordnung gelten schon 2026?
Seit Februar 2025 gelten die Verbote unannehmbarer KI-Praktiken und die Pflicht zur KI-Kompetenz (Art. 4 KI-VO), seit August 2025 die Pflichten für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Ab dem 2. August 2026 kommen die allgemeinen Regeln einschließlich der Transparenzpflichten (Art. 50 KI-VO) hinzu. Die Hochrisiko-Pflichten nach Anhang III greifen nach dem Digital Omnibus erst am 2. Dezember 2027.
Ist mein Unternehmen Anbieter oder Betreiber im Sinne der KI-VO?
Anbieter ist, wer ein KI-System entwickelt oder unter eigenem Namen in Verkehr bringt; Betreiber ist, wer es in eigener Verantwortung verwendet. Die meisten Unternehmen sind Betreiber – schon der Einsatz von ChatGPT, Copilot oder KI-Funktionen in Standardsoftware genügt. Wer ein fremdes System wesentlich verändert oder umbenennt, kann allerdings selbst zum Anbieter werden.
Darf ich KI-generierte Inhalte kommerziell nutzen?
Grundsätzlich ja, aber mit Prüfpflichten: Rein KI-generierte Inhalte genießen mangels persönlicher geistiger Schöpfung keinen Urheberrechtsschutz, können aber Rechte Dritter verletzen, wenn das Modell geschützte Werke wiedergibt. Nach dem Urteil des LG München I in Sachen GEMA gegen OpenAI ist das kein theoretisches Risiko. Output-Kontrolle und vertragliche Freistellungen des Anbieters sind daher Pflicht.
Ich habe mein Produkt selbst entwickelt („Vibe-Coding“) – wie sichere ich den Markteintritt rechtlich ab?
Mit einer vollständigen rechtlichen Einordnung: Risikoklassifizierung nach der KI-Verordnung, Prüfung der Lizenzen im (KI-generierten) Code, Klärung der Rechte am Output, DSGVO-Konzept, AGB und Nutzungsbedingungen sowie Produkthaftung. Das funktioniert vor dem Launch ebenso wie nachträglich für Produkte, die bereits am Markt sind.
Brauchen meine Beschäftigten wirklich KI-Schulungen?
Ja. Art. 4 KI-VO verpflichtet Anbieter und Betreiber seit Februar 2025, ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen – rollen- und kontextbezogen. Die Norm ist zwar nicht unmittelbar bußgeldbewehrt, wirkt aber auf die Organisationspflichten der Geschäftsleitung und die Haftungsverteilung im Schadensfall.
Insights zu KI/AI-Recht.
Vibe-Coding und Recht: Wie Sie ein selbst entwickeltes Produkt sicher an den Markt bringen
Mit KI-Assistenten entstehen Produkte in Wochen statt Monaten – die rechtlichen Anforderungen sinken dabei nicht mit. Der Beitrag zeigt, wem KI-generierter Code gehört, welche Open-Source-Lizenzen unbemerkt mitkommen, wann die KI-Verordnung Anbieterpflichten auslöst, was die neue Produkthaftung für Software bedeutet und in welcher Reihenfolge sich der Markteintritt absichern lässt – Stand 2026.
Die KI-Verordnung ab August 2026: Was nach dem Digital Omnibus wirklich gilt
Am 2. August 2026 erreicht die Verordnung (EU) 2024/1689 ihre allgemeine Geltung, während der Digital Omnibus vom 29.6.2026 die Hochrisiko-Pflichten der Anhänge III und I auf 2027 und 2028 verschiebt. Der Beitrag ordnet Zeitschiene, die Rollen von Anbieter und Betreiber, das deutsche KI-Durchführungsgesetz und den Sanktionsrahmen des Art. 99 KI-VO ein – Stand 2026.
Hochrisiko-KI nach Anhang III: Einstufung, Betreiberpflichten und die neuen Fristen
Ob Personalauswahl, Kreditwürdigkeitsprüfung oder kritische Infrastruktur: Die Einstufung als Hochrisiko-KI nach Art. 6 i.V.m. Anhang III KI-VO löst dichte Pflichten für Anbieter und Betreiber aus (Art. 26, 27 KI-VO). Der Digital Omnibus verschiebt deren Geltung auf den 2.12.2027 – ein Aufschub, keine Entwarnung. – Stand 2026.
KI-Kompetenz nach Art. 4 KI-VO: Die unterschätzte Pflicht, die längst gilt
Seit dem 2. Februar 2025 verpflichtet Art. 4 KI-VO Anbieter und Betreiber, ein ausreichendes Maß an KI-Kompetenz ihres Personals sicherzustellen – das trifft praktisch jedes Unternehmen, das KI-Werkzeuge einsetzt. Der Beitrag erläutert Reichweite, Haftungsrelevanz über § 43 GmbHG und § 93 AktG sowie den Aufbau eines Schulungskonzepts. – Stand 2026.
Sprechen Sie mit unseren Experten
Jeder Fall ist einzigartig. Wir analysieren Ihre Situation und entwickeln eine maßgeschneiderte Strategie.