Zum Hauptinhalt springen

Ein Post getaggt mit "csv"

Alle Tags anzeigen

Der Leiter der IT im CRO-Team: Was regulierte Systeme über das AI-Governance lehren

· 6 Minuten Lesezeit

Eine Methode, die diese Aufgabe bereits seit dreißig Jahren erledigt​

Schon lange bevor „KI-Governance“ auf der Agenda der Vorstände stand, gab es einen Bereich, in dem dasselbe Problem bereits gelöst, dokumentiert, geprüft und zu einer festen Vorgehensweise weiterentwickelt worden war. Dieser Bereich hieß computergestützte Systemvalidierung. In Pharma- und Medizinproduktunternehmen ist dies die Disziplin, die die Frage zufriedenstellend beantwortet - sowohl für die FDA als auch für die EMA: Wie weiß man, dass ein Computersystem tatsächlich das tut, wofür es konzipiert wurde - und wie lässt sich das beweisen, nachdem die Entwickler das Unternehmen verlassen haben?

Die Antwort in Kürze: Man darf weder den Angaben noch dem Selbstvertrauen des Entwicklers trauen. Die Qualifizierung erfolgt in mehreren Stufen.

Installation: Ist das System gemäß den Vorgaben installiert und konfiguriert? Es geht dabei nicht darum, ob es läuft, sondern ob es in der tatsächlichen Einsatzumgebung so konfiguriert ist, wie in der Dokumentation beschrieben.

Durchführung. Überprüft man im Rahmen eines Schnellchecks, ob jede Funktion gemäß ihrer Spezifikation einwandfrei arbeitet - und zwar einzeln? Nachvollziehbar ist dabei, dass jede Anforderung einem Test zugeordnet ist, jeder Test ein Ergebnis liefert, und jedes Ergebnis mit einer Unterschrift sowie einem Datum versehen ist.

Leistung. Hält das Gesamtsystem unter echter Last und unter realen Bedingungen stand? Nicht in einer Demo - sondern an einem typischen, problematischen Tag.

Und um all diese Ebenen herum gilt die Regel, die sicherstellt, dass das System bei Audits besteht: Die Dokumentation ist das System selbst. Wenn etwas nicht dokumentiert ist, hat es nicht stattgefunden. Falls die Dokumentation nachträglich verfasst und mit einem früheren Datum versehen wird, handelt es sich dabei um einen Betrugsfall - und nicht um eine Prozessverbesserung. Die Datenintegrität ist kein „Feature“; sie bildet vielmehr die Grundvoraussetzung.

Warum die regulierte Welt so gewachsen ist​

Ich verbrachte mehr als zehn Jahre in dieser Welt - auf der verantwortungsvollen Seite: als IT-Leiter, der die Unterlagen unterschreibt, und nicht als Berater, der Ratschläge gibt. Die strengen Prüfungen gemäß FDA- und EMA-Standards waren die „Normalität“, nicht das Projekt selbst. Wenn man lange genug in dieser „Normalität“ lebt, verändert sich die Sichtweise auf jedes Computersystem - überall auf der Welt.

Man hört auf zu fragen: „Ist es gut?“ Stattdessen fragt man: Gut gemäß welcher Anforderung, getestet anhand welcher Belege, dokumentiert wo - und in fünf Jahren von wem lesbar?

Man lernt, dass die gefährlichen Systeme niemals die offensichtlich fehlerhaften sind - es sind vielmehr die Systeme, an die alle glauben. Glaube ist jedoch kein Qualifizierungsprotokoll.

Man lernt den teuersten Satz im Unternehmens-IT-Bereich: „Es funktioniert auf meinem Rechner.“ In der regulierten Welt gibt es dafür die Bezeichnung „nicht überprüft“. Alles andere lässt sich problemlos bearbeiten.

Das Migrationsproblem, das niemand eingeplant hatte​

Der Grund, warum dieses Produkt weit über die Pharmaindustrie hinaus wertvoll ist: Fast jedes Unternehmen hat die Probleme geerbt, gegen die die Validierung computergestützter Systeme ursprünglich entwickelt wurde - ohne dabei die entsprechenden Verfahren zu übernehmen.

Übersetzen Sie diesen Text ins Deutsche für eine hochwertige Beratungswebsite. Achten Sie darauf, die Fachbegriffe sowie Markennamen und gesetzliche Bezeichnungen exakt beizubehalten. Bevorzugen Sie natürliche, muttersprachliche Ausdrücke statt einer wörtlichen Übersetzung. Der Tonfall soll sachlich, selbstbewusst und professionell sein.

Im Grunde genommen ähnelt die heutige Einführung von KI der Situation eines regulierten Unternehmens, das im Jahr 1995 noch nicht validierte Systeme einführte. Das Budget wurde bereits genehmigt, bevor ein geeignetes Prüfverfahren existierte. Anbieter präsentieren in ihren Präsentationen selbstbewusste Aussagen. Zudem kommt es zu heimlichen Implementierungen außerhalb des offiziellen Kontrollbereichs. Von Aufsichtsbehörden, Versicherungen sowie Großkunden erhält das Unternehmen Prüfaufträge - doch es vermag auf keine dieser Anforderungen angemessen zu reagieren. Die äußeren Umstände haben sich geändert; das eigentliche Problem bleibt jedoch dasselbe.

Der Unterschied liegt darin, was Unternehmen dagegen unternehmen. Das Pharmaunternehmen vor dreißig Jahren hatte klare Richtlinien: Qualifizierungsstufen, Nachverfolgbarkeitsmatrizen, Änderungskontrolle sowie die ALCOA-Regeln zur Datenintegrität. Das typische Unternehmen von heute verfügt hingegen lediglich über eine Chat-Richtlinie sowie ein Pilotkomitee.

Die übertragbaren Bestandteile sind nicht die Papiere. Für den Betrieb eines mittelgroßen Unternehmens benötigen Sie keine GAMP-Formulare. Was Sie brauchen, ist der „Rahmen“ - also die Grundstruktur.

  1. Anforderungen, die vor der Auswahl des Systems in Begriffen formuliert werden, die für das Unternehmen verständlich sind.
  2. Qualifizierungsebenen: Die Installation erfolgte gemäß Spezifikation; jede Funktion wurde getestet und das gesamte System einer Lastprüfung unterzogen.
  3. Nachverfolgbarkeit: Jede Anforderung muss bis hin zu einem Test, dem Testergebnis, der Unterschrift sowie dem Datum nachvollziehbar sein.
  4. Änderungskontrolle: Das System, das gestern die Prüfung bestanden hat, gilt heute nur dann als vertrauenswürdig, wenn die Unterschiede zwischen dem gestrigen und heutigen Zustand bekannt sind.
  5. Das Protokoll wird sorgfältig geführt - schließlich ist es am Tag, an dem es in Frage gestellt wird, das Einzige, was überhaupt existiert hat.

Setzen Sie dieses „Skelett“ in Ihre KI-Struktur ein - dann wird das EU-KI-Gesetz kein unüberwindbares Hindernis mehr sein, sondern lediglich eine Checkliste, erstellt von Personen, die genau jene Fragen stellen werden, auf die Sie bereits geantwortet haben. Ebenso verhält es sich, wenn Sie es in den Kontext von NIS2 einbinden. Vorschriften dieser Art basieren alle auf denselben Prinzipien: Nachweis erbringen, dokumentieren und sicherstellen, dass alles ordnungsgemäß funktioniert.

Der skeptische Blickwinkel - ehrlich gesagt​

Zwei Einwände verdienen ehrliche Antworten - schließlich soll dieser Beitrag keineswegs dazu dienen, jedes Unternehmen in eine Pharmafabrik zu verwandeln.

„Das ist für uns übertrieben.“ Die vollständige Zeremonie ist es; der „Skelett-Aufbau“ jedoch nicht. Jedes Unternehmen verfügt über ein System, in dem ein unentdeckter Ausfall die Karriere, den Kunden oder die Presseberichterstattung gefährden kann. Genau dieses System benötigt den „Skelett-Aufbau“. Nicht mehr und nicht weniger. Auch die Triage gehört zu dieser Methode; regulierte Unternehmen werden nach ihrer Kritisitätsklasse bewertet - nicht nach ihrem Enthusiasmus.

"Wir können kein Validierungsteam einstellen." Das ist zwar richtig, doch der eigentliche Punkt ist, dass diese Methode existiert, öffentlich zugänglich ist, unter den strengsten Prüfungen weltweit bewährt wurde und im Rahmen eines Mandats angewandt werden kann, sobald ein Auslöser vorliegt. Sie benötigen dazu kein eigenes Team - lediglich die nötige Disziplin zu dem entscheidenden Zeitpunkt, geleistet von jemandem, der bereits früher die Verantwortung getragen hat.

Das ist meine Aufgabe: Ich betrachte die schwierigsten Szenarien aus der regulierten Welt als „Linse“, durch die man die Systeme analysieren kann, die Ihr Vorstand derzeit ohne ein solches Qualifizierungsgutachten genehmigt. Das „CRO“ im Namen ist kein bloßer Zusatz - es ist die Quelle sowohl der Methode als auch der Erfahrungen, die ich dabei gesammelt habe; beides begleitet mich stets.


Falls Ihre KI-Infrastruktur, Ihre Sicherheitsmaßnahmen oder der Übergabeprozess keine nachweisbare Grundlage aufweisen, ist das ein Warnsignal. Beschreiben Sie Ihre Situation; Sie erhalten rasch eine Rückmeldung, ob dies ein Mandat für unser Büro darstellt.