Die rasante technologische Entwicklung führt zu einem enormen Anstieg des Einsatzes künstlicher Intelligenz (KI). Die Nutzung von KI-Systemen bietet viele Chancen, es entstehen aber auch neue Risiken.
Ihre Ansprechpartner
Besonders die Frage nach der Beurteilung der Verlässlichkeit der KI steht im Fokus. Auf Basis des IDW-Prüfungsstandards PS 861 zur Prüfung von KI-Systemen unterstützen wir Sie bei der Qualitätssicherung Ihres KI-Systems.
Vorteile der Qualitätssicherung von KI-Systemen
Wir von PKF Fasselt verfügen über tiefgreifendes Fachwissen in Bezug auf Finanz- und Compliance-Angelegenheiten. Dieses Wissen ist entscheidend, um sicherzustellen, dass die Anforderungen an ein KI-System den Regularien entsprechen. Als externe Fachleute bringen wir eine objektive Perspektive in den Prozess ein und können als neutrale Instanz die Qualität Ihres KI-Systems sicherstellen. Dies kann das Vertrauen von Kunden, Geschäftspartnern und Aufsichtsbehörden stärken. Risiken im Zusammenhang mit Ihrem KI-System können so frühzeitig identifiziert und Strategien zur Risikominimierung entwickeln werden, sodass finanzielle Risiken und potenzielle Sanktionen vermieden werden können.
Unsere Prüfung beruht auf den folgenden Kriterien
Ethische und rechtliche Anforderungen für KI
Das Kriterium zielt darauf ab, die Entwicklung, Einführung und Nutzung von KI so zu gestalten, dass sie mit ethisch unabdingbaren Werten des Unternehmens sowie gesetzlichen und regulatorischen Vorschriften im Einklang steht.
Nachvollziehbarkeit
Hierbei geht es darum, die Entscheidungen des KI-Systems nachvollziehbar durch das Unternehmen darzulegen. Hierzu gehören die Transparenz und Erklärbarkeit der genutzten Daten und KI-Algorithmen bzw. KI-Modelle. Transparenz bezieht sich auf die Bereitstellung von Informationen, d. h., die Datensätze und Prozessschritte, die zu der Entscheidung geführt haben, müssen nachvollziehbar dokumentiert werden. Erklärbarkeit bezieht sich auf die Möglichkeit, sowohl die Daten und die Modelle eines KI-Systems als auch die darauf basierenden Entscheidungen für den Anwender verständlich zu machen.
IT-Sicherheit
KI-Systeme haben Anforderungen an die IT-Sicherheit einzuhalten. Hierzu gehören Vertraulichkeit, Integrität, Verfügbarkeit, Autorisierung, Authentizität und Verbindlichkeit. Darüber hinaus gilt es besondere Spezifika von KI-Systemen zu berücksichtigen.
Leistungsfähigkeit
Das KI-System soll aufgrund interner Betriebspraktiken oder der Technologie in der Lage sein, den vom Unternehmen definierten Anforderungen zu entsprechen.