Der Einsatz künstlicher Intelligenz in der Life-Sciences-Branche verändert nicht nur die Art und Weise, wie Forschung, Diagnostik und Arzneimittelentwicklung durchgeführt werden, sondern auch die regulatorischen Standards für Genauigkeit, Sicherheit und Compliance. Während sich die traditionelle menschliche Validierung auf Fachwissen und klinische Tests zur Sicherstellung der Genauigkeit stützt, bringt die Einführung von KI- und Automatisierungstools, die auf trainierten Daten basieren, neue Herausforderungen mit sich – nicht nur für Unternehmen, sondern auch für Aufsichtsbehörden, die ihre Überwachungsrahmen nun anpassen müssen, um algorithmische Verzerrungen und Datenbeschränkungen zu berücksichtigen. Die Europäische Union hat sich in Bezug auf künstliche Intelligenz eine proaktive Rolle eingenommen und bereits 2019 einen „Ethik-Leitfaden” ausgearbeitet, um festzulegen, was als „vertrauenswürdige KI” gilt und was nicht.
Laut der Hochrangigen Expertengruppe für KI der Europäischen Kommission muss vertrauenswürdige KI rechtmäßig, ethisch und robust sein, dabei regulatorische Anforderungen erfüllen und ethische Werte wahren, um sowohl technische Zuverlässigkeit als auch die Berücksichtigung ihrer gesellschaftlichen Auswirkungen sicherzustellen.