KI-Audit

KI-Audit – das Audit kommt auch wegen des EU AI Act

Künstliche Intelligenz ist kein Buzzword sondern hält Einzug in die Unternehmenswelt. Egal ob maschinelles Lernen, neuronale Netzwerke oder LargeLanguage Modelle, sie verändern die Art und Weise wie Unternehmen ihr Geschäft machen und in der Zukunft machen.

Vor diesem Hintergrund beginnen die Governance Abteilungen der Unternehmen sich zunehmend mit Fragestellungen zu beschäftigen wie:

· Wie geben wir Lösungen frei?

· Was sind Qualitätssicherungsaktivitäten im Umfeld von KI?

· Was müssen Unternehmen beachten – Anwender, Distributor oder Anbieter?

· Wie können Systeme nachhaltig evaluiert werden?

Das KI-Audit kann hier eine essentielle Rolle einnehmen und Einblicke in den aktuellen Stand im Unternehmen geben. Unternehmer können hierzu ihre Auditabteilung damit beauftragen das Thema künstliche Intelligenz aus verschiedenen Perspektiven zu beleuchten. Das Problem von Audits wird hier weiter verstärkt, denn in vielen Fällen ist es nicht klar, wofür man künstliche Intelligenz Audits einsetzen soll und welcher Mehrwert dadurch entsteht.

Beleuchten wir also die verschiedenen Punkte, welche im Umfeld von KI Compliance relevant sein können. Zu beginn gilt es eine Unterscheidung zwischen den Feldern Systemaudit und KI-Audit zu machen, weitere Auditarten haben wir im Artikel “Auditarten im Vergleich“ beleuchtet. Ein Systemaudit zielt auf die Einhaltung von Normen vor dem Hintergrund eines Managementsystems ab, das Audit für künstliche Intelligenz untersucht, wie KI im Unternehmen zum Einsatz kommt und ob Regelungen wie z.B. der EU AI Act berücksichtigt sind.

Aspekt	Systemaudit	KI-Status-Audit
Zielsetzung	Überprüfung des gesamten Managementsystems auf Konformität mit Normen wie ISO 9001.	Bewertung des aktuellen Stands von KI-Systemen hinsichtlich Ethik, Transparenz und Compliance.
Fokus	Ganzheitliche Betrachtung von Prozessen, Strukturen und Verantwortlichkeiten.	Analyse spezifischer KI-Anwendungen und deren Auswirkungen auf Geschäftsprozesse.
Methodik	Dokumentenprüfung, Interviews und Prozessbeobachtungen.	Technische Analysen, Datenüberprüfungen und ethische Bewertungen.
Häufigkeit	Regelmäßig, z.B. jährlich oder gemäß Zertifizierungsanforderungen.	Bei Einführung neuer KI-Systeme oder bei Änderungen bestehender Anwendungen.
Ergebnisse	Auditbericht mit Feststellungen, Abweichungen und Verbesserungsvorschlägen.	Bewertung der KI-Systeme mit Empfehlungen zur Optimierung und Risikominimierung.
Beispielhafte Normen	ISO 9001, ISO 14001, ISO 27001.	EU-KI-Verordnung, Ethik-Leitlinien für vertrauenswürdige KI.
Verantwortliche	Qualitätsmanagementbeauftragte oder externe Auditoren.	KI-Experten, Datenethiker und interdisziplinäre Teams.

Was machen mit dem KI-Audit?

Nun da wir das KI-Audit eingeordnet haben stellt sich als nächstes die Frage nach dem WIE und WAS.

WIE

Die Durchführung des Audits erfolgt mit gezielten Fragestellungen zum Thema KI im eigenen Unternehmen. Hierzu sollten sich die Auditoren spezifische und abgestimmte Fokusfragen überlegen und diese ggf. mit gesetzesrelevanten Fragen ergänzen. Einige Beispiele für Fokusbereiche nennen wir später im Artikel. Aktuell empfehlen wir das KI-Audit im Rahmen der strategischen Planung einzusetzen.

WAS

Das Ergebnis eines KI-Audit wird mit Experten, Auditoren und den leitenden Funktionen wie CEO, CTO und CFO besprochen. Es liefert einen essentiellen Einblick in den unternehmerischen Alltag und schafft Transparenz.

PRAXIS BEISPIEL

Nehmen wir an, dass die Unternehmensführung das Audit Team damit beauftragt hat, zu untersuchen wie LLM’s durch die Mitarbeiter genutzt werden und welche Risiken im Zusammenhang mit der Nutzung entstehen können. Die Ergebnisse sollen genutzt werden, um gemeinsam mit der IT Abteilung die notwendigen Schritte für eine KI Startegie abzuleiten und Good Practices im Unternehmen zu sammeln. Das Audit Team erstellt hierzu einen Fragebogen, der die verschiedenen Perspektiven der Nutzung im Unternehmen beleuchten soll. Owlytic bietet hierzu einen bereits etablierten Fragenkatalog innerhalb unserer Software auf dem internen Marktplatz an. Hier kannst du diesen für die Nutzung in Owlytic herunterladen:

Ergebnisse und jetzt?

In diesem Beispiel zeigt das Audits folgende Ergebnisse auf:

Diversität – die MA nutzen verschiedene externe LLM’s im Rahmen ihrer täglichen Arbeit. Hierbei ist zu erwähnen, dass die Mitarbeiter sich über die öffentlichen Zugänge von Anbietern wie OpenAI und Google unterstützen lassen.
Wissenslücke – nicht jeder Mitarbeiter hat bereits künstliche Intelligenz im Rahmen seiner Arbeit eingesetzt oder sich mit dem Thema beschäftigt. Die Risiken im Umgang mit Tools wie ChatGPT sind nicht durchgängig bekannt.
Insellösungen – die Abteilungen schaffen sich, auf Grund einer fehlenden Definition von Vorgaben, eigene Lösungen auf diversen Cloud Plattformen.
Qualitätsstandards – es besteht keine Richtlinie bezüglich der Freigabe und Überwachung von Lösungen die KI enthalten oder mit KI erstellt wurden.
Risiko – es bestehen verschiedene Risiken durch die Nutzung von OpenSource Software, Datenverwendung, Halluzinationen und mehr.

Das Management Team kann sich, durch diese gezielte Analyse, die strategischen Gedanken machen, wie die zukünftige Nutzung von KI im Unternehmen erfolgen soll. Hierzu werden typischerweise strategische Ziele z.B. mit Hilfe einer OKR Systematik abgeleitet. In derselben Manier können weitere Überlegungen angestellt werden, wie KI-Audits im Unternehmen unterstützen können.

Auditart	Anwendungsbeispiel 1	Anwendungsbeispiel 2 (Industrie)	Referenz
Bias- und Fairness-Audit	Überprüfung eines KI-gestützten Recruiting-Tools auf Altersdiskriminierung.	Analyse eines KI-Systems zur Kreditvergabe in einer Bank auf Benachteiligung bestimmter Bevölkerungsgruppen.	IBM – Beispiele für KI-Verzerrungen
Sicherheits- und Robustheits-Audit	Bewertung der Widerstandsfähigkeit eines KI-Systems gegen adversariale Angriffe.	Einsatz von KI zur Schallemissionsprüfung bei Druckbehältern durch TÜV Austria.	Plattform Industrie 4.0 – KI in der Produktion
Regulatorisches Compliance-Audit	Überprüfung eines KI-Systems auf Einhaltung der DSGVO bei der Verarbeitung personenbezogener Daten.	Audit eines KI-gestützten Systems in der Pharmaindustrie zur Sicherstellung der Konformität mit regulatorischen Anforderungen.	Fraunhofer IPA – KI-Audit
Transparenz- und Erklärbarkeits-Audit	Bewertung der Nachvollziehbarkeit von Entscheidungen eines KI-Systems im medizinischen Diagnostikbereich.	Analyse eines KI-Systems in der Finanzbranche auf die Verständlichkeit seiner Kreditentscheidungen.	GI – ExamAI Framework
Ethik-Audit	Untersuchung eines KI-Systems im sozialen Netzwerk auf die Förderung von Hassrede.	Bewertung eines KI-gestützten Überwachungssystems in der Industrie auf ethische Implikationen.	sieber&partners – KI Audit
Daten- und Modell-Audit	Analyse der Trainingsdaten eines KI-Modells zur Erkennung von medizinischen Bildern auf Qualität.	Überprüfung eines KI-Systems in der Fertigungsindustrie auf die Qualität der Eingangsdaten und die Validität des Modells.	Vertrauenswürdigkeit.com – KI-Audit
Governance- und Compliance-Audit	Bewertung der internen Richtlinien und Verfahren eines Unternehmens zur Entwicklung von KI-Systemen.	Audit eines Unternehmens im Finanzsektor auf die Einhaltung von Governance-Standards bei der Nutzung von KI.	IBM – Was ist KI-Governance?
Technisches Audit	Überprüfung der technischen Infrastruktur eines KI-Systems auf Skalierbarkeit.	Analyse eines KI-gestützten Systems in der Logistikbranche auf technische Leistungsfähigkeit.	DQS – KI im Unternehmen

AI Audit Framework

Die strategische Ausrichtung des Unternehmens kann durch die Einbeziehung der KI-Audits unterstützt werden. Das Audit kann hierbei Stichproben nehmen, die den Fortschritt der Bestrebungen des Unternehmens widerspiegeln und als Pulscheck agieren.

Durch die systematische Bewertung der Integration von KI-Lösungen in den einzelnen Abteilungen, im Rahmen eines Audits, können Unternehmen sicherstellen, dass die Umsetzung mit den übergeordneten Unternehmenszielen und ethischen Standards übereinstimmen. Ein solches Audit ermöglicht die frühzeitige Identifikation potenzieller Risiken, wie etwa das Preisgeben von unternehmensinternen Daten oder mangelnde Cyber-Security. Auch Chancen im Umfeld des Unternehmens können sichtbar werden, etwa die Anzahl an neuen Produkten mit KI-Integration oder kürzere Entwicklungszyklen durch die Nutzung von künstlicher Intelligenz.

In diesem Kontext wird ersichtlich, dass ein effektives Risikomanagement im Kontext von KI erforderlich wird. Dies umfasst unter anderem die kontinuierliche Überwachung der KI-Systeme, die Bewertung ihrer Leistung anhand definierter Metriken und die Sicherstellung der Einhaltung regulatorischer Anforderungen.

Was verändert sich für Auditoren?

Die Schnelllebigkeit von KI benötigt ein umfassendes Wissen von Auditoren, die zum aktuellen Stand 05/25, noch auf keinen freigegeben ISO-Standard zurückgreifen können. Ob dies im schnelllebigen Umfeld von KI sinnvoll erscheint, ist eine andere Frage, die wir hier nicht näher erörtern möchten.

Für Auditoren bedeutet dies, dass Sie sich für die Durchführung der Audits einen Spezialisten an die Seite nehmen sollten, der als Co-Auditot auftritt. Das Team aus Auditor und KI-Spezialist kann effizient und qualitativ hochwertig die Überprüfung von Details durchführen und eine gezielte Rückmeldung an die Unternehmensleitung geben.

Das bedeutet aber auch, dass die klassische Rolle des Auditors sich verändert und das Co-Audit wie es mit Owlytic möglich ist eine zentrale Rolle im Umfeld von KI-Audit einnimmt.

Wenn du mehr erfahren möchtest, wie ein KI Audit in Unternehmen umgesetzt werden kann, dann kontaktiere einen unserer Spezialisten.

Triff Manuel – Dein Experte für künstliche Intelligenz bei Owlytic!

Gemeinsam können wir Dein Unternehmen auf das nächste Level bringen. Kontaktiere mich direkt und ich zeige dir, wie Owlytic Deine Prozesse optimieren kann.

Telefon: +49 7264 2080054
E-Mail:

Jetzt einen Termin mit mir buchen

Bereit für das KI-Zeitalter?

Die Umsetzung des EU AI Act steht bevor – höchste Zeit, Ihre KI-Systeme auf Herz und Nieren zu prüfen!

Ein KI-Audit schafft Transparenz, minimiert Risiken und macht Ihre Organisation fit für die Zukunft.

Jetzt handeln statt abwarten:

👉 Lassen Sie sich von unseren Experten begleiten – vom ersten Audit bis zur strategischen Verankerung von KI-Governance.

🔍 Jetzt KI-Audit starten und compliant bleiben!

📞 +49 7264 2080054 oder direkt deine Audit Software sichern und loslegen.

Audit Software kennenlernen

Vertrieb kontaktieren: +49 7264 2080054