KI im Alltag der Rechtsabteilung: Nina Kurre, ARAG im Gespräch

Business Circle: Sehr geehrte Frau Kurre, Sie beschäftigen sich seit Jahren mit Legal Tech und arbeiten an der Schnittstelle von regulatorischen Fragestellungen rund um Digitalisierung und KI. Was waren in den vergangenen zwei Jahren die größten Entwicklungsschübe?

Nina Kurre: In den letzten zwei Jahren haben sich vor allem personalisierte und unternehmensspezifische LLMs stark weiterentwickelt, während mit der KI-VO erstmals ein verbindlicher regulatorischer Rahmen entstanden ist. Gleichzeitig hat sich KI von einem Hype-Thema zu einem selbstverständlichen Arbeitswerkzeug entwickelt – sowohl beruflich als auch privat. Parallel dazu beobachten wir den Aufbau von KI-Governance-Strukturen, aber auch erste strukturelle Veränderungen am Arbeitsmarkt, etwa für Berufseinsteiger.

BC: Kaum ein Bereich arbeitet mit sensibleren Informationen als die Rechtsabteilung. Wo liegen die größten Risiken, wenn vertrauliche Verträge, Compliance-Fälle oder Personaldaten mit KI-Tools bearbeitet und in KI-Systeme eingegeben werden?

Kurre: Damit keine Missverständnisse aufkommen: Ich arbeite nicht in der ARAG Rechtsabteilung. Grundsätzlich gilt aber: Die größten Risiken liegen in möglichen Verstößen gegen DSGVO und Verschwiegenheitspflichten, insbesondere wenn vertrauliche Inhalte in externe KI-Systeme eingegeben werden. Problematisch ist dabei vor allem der Kontrollverlust über Datenflüsse und die Frage, ob zugesicherte Sicherheits- und Schutzmechanismen tatsächlich eingehalten werden. Deshalb sind klare vertragliche, technische und organisatorische Rahmenbedingungen essenziell.

BC: Viele Mitarbeiter nutzen KI eigenständig. Wo liegen die größten Risiken der „Shadow AI“?

Kurre: Das größte Risiko besteht meiner Meinung nach darin, dass durch scheinbar banale Nutzung erhebliche Schäden entstehen können, oft unbemerkt und außerhalb etablierter Kontrollmechanismen.

KI ist ein Werkzeug, Ergebnisse nicht einfach unkontrolliert übernehmen

BC: Welche Schulungsformate funktionieren erfahrungsgemäß am besten: E-Learnings, klassische Workshops oder praktische Anwendungsfälle? Und wie vermittelt man am besten, dass KI weder ein Wundermittel noch eine Bedrohung, sondern ein neues Werkzeug ist?

Kurre: Am effektivsten ist aus meiner Erfahrung eine Kombination aus kompakten E-Learnings für die Grundlagen und praxisnahen Anwendungsfällen im Arbeitskontext – also „Learning by Doing“. Wichtig ist, Schulungen nicht nur einmalig, sondern bedarfsorientiert und entlang konkreter Nutzungssituationen anzubieten. Gleichzeitig sollte immer vermittelt werden, dass KI ein Werkzeug ist, dessen Ergebnisse kritisch hinterfragt werden müssen.

BC: „Computer sagt ja“ reicht nicht aus. Welche Kontrollmechanismen braucht es, damit der im Rechtsbereich nicht KI-abhängig wird?

Kurre: Wichtig ist, dass die Verantwortung immer beim Menschen verbleibt und Ergebnisse der KI nicht ungeprüft übernommen werden. Gleichzeitig ist eine gewisse Form der Abhängigkeit im Sinne von Effizienzgewinnen und Qualitätssteigerungen unproblematisch, solange die eigene Fähigkeit erhalten bleibt oder zumindest wieder hergestellt werden kann, im Sinne von „Wie habe ich das sonst nochmal gemacht?“

BC: Zum Schluss etwas Persönliches: Sie werden das erste Mal bei uns auftreten – Glückwunsch dazu! Worauf freuen Sie sich am meisten?

Kurre: Vielen Dank für die Einladung! Ich freue mich vor allem auf den Austausch mit Menschen aus unterschiedlichen Bereichen, die an denselben Themen arbeiten und auf viele spannende Impulse, die ich mitnehmen werde.

BC: Sehr geehrte Frau Kurre, herzlichen Dank für Ihre Einschätzungen über Legal Teams im Wandel. Wir freuen uns auf die Diskussionen bei der RuSt.

‍