Prüfpflicht für KI: TÜV fordert Abnahme von Chatbots vor Marktstart

heute 14:57 Uhr, dts-nachrichtenagentur.de

Der TÜV drängt auf verpflichtende Sicherheitsprüfungen für große KI-Sprachmodelle, bevor sie veröffentlicht werden. Zugleich nimmt in Berlin das neue KI-Sicherheitsinstitut AISI der Bundesregierung seine Arbeit auf.

Der TÜV fordert verpflichtende, unabhängige Sicherheitsprüfungen für große KI-Sprachmodelle wie ChatGPT, bevor diese auf den Markt kommen.

Ein neu entwickelter Chatbot solle nach Vorstellung des TÜV erst nach einer solchen Abnahme veröffentlicht werden.TÜV AI Lab drängt auf klare PrüfprozesseEs reiche nicht aus, Prüfer nur während des Entwicklungsprozesses einzubeziehen, sagte Franziska Weindauer, Chefin des TÜV AI Lab, dem Magazin „Focus“. Stattdessen plädiert sie dafür, dass Sprachmodelle und Chatbots vor ihrer Markteinführung einer verbindlichen Sicherheitsprüfung unterzogen werden.Solche Prüfungen sollen sicherstellen, dass die Modelle Risiken wie falsche oder gefährliche Empfehlungen, diskriminierende Antworten oder den Missbrauch für strafbare Inhalte besser begrenzen.

Der TÜV sieht darin einen Baustein, um das Vertrauen von Unternehmen und Nutzern in KI-Anwendungen zu stärken.Bundesregierung baut KI-Sicherheitsinstitut AISI in Berlin aufAuch die Bundesregierung arbeitet an einer Stärkung der KI-Aufsicht. Seit Ende August entsteht in Berlin das neue KI-Sicherheitsinstitut AISI, das sich mit Sicherheitsfragen rund um künstliche Intelligenz beschäftigen soll. Weindauer betonte, es seien eigene deutsche Fähigkeiten notwendig, um komplexe KI-Systeme angemessen prüfen zu können.Entscheidend sei aus ihrer Sicht, ob es gelinge, das AISI pragmatisch und zügig aufzubauen, die passenden Fachleute zu gewinnen und den Auftrag klar zu definieren.

Der Aufbau eines solchen Instituts sei erfahrungsgemäß anspruchsvoll, insbesondere solange die Organisationsstruktur noch nicht abschließend geklärt ist.Digitalminister Wildberger wirbt für starke KI-Rolle EuropasDigitalminister Karsten Wildberger (CDU) verband die Sicherheitsdebatte mit einem Appell, die KI-Entwicklung in Europa entschlossen voranzutreiben.

Wenn Europa eigene KI-Modelle entwickle, seien Fragen nach Werten und Sicherheit besser beeinflussbar, sagte er dem Nachrichtenmagazin.Deutschland müsse dabei künftig eine deutlich aktivere Rolle übernehmen, so Wildberger. Darin sieht er eine Chance, Wohlstand und Wettbewerbsfähigkeit des Landes in den kommenden Jahrzehnten zu sichern, ohne auf ausländische Anbieter angewiesen zu sein.
Mit der Forderung nach verpflichtenden Sicherheitsprüfungen für große KI-Sprachmodelle wie ChatGPT greift der TÜV eine zentrale Debatte der europäischen Digitalpolitik auf. Im Kern geht es darum, wie Risiken wie Falschinformationen, Diskriminierung oder sicherheitsrelevante Fehlberatungen kontrolliert werden können, bevor solche Systeme breit eingesetzt werden.Regulatorischer Rahmen und Rolle des AISIParallel arbeitet die Bundesregierung mit dem neuen KI-Sicherheitsinstitut AISI in Berlin an eigenen Prüf- und Bewertungsfähigkeiten.

Das fügt sich in den EU AI Act ein, der je nach Risikoklasse strenge Vorgaben zu Transparenz, Datenqualität und Sicherheit vorsieht. Nationale Institute wie das AISI könnten künftig Referenztests entwickeln, Behörden beraten und Zertifizierungen vorbereiten.Die von Franziska Weindauer angesprochenen offenen Fragen zur Organisationsstruktur und zur Gewinnung qualifizierter Fachleute sind typisch für neue Bundesinstitutionen: Ohne klare Zuständigkeiten und ausreichend Expertise droht eine Lücke zwischen ambitionierter Regulierung und praktischer Aufsicht. Für Unternehmen entsteht erst dann Planungssicherheit, wenn Prüfkriterien und Verfahren transparent definiert sind.Bedeutung für Wirtschaft und NutzerFür die deutsche und europäische Wirtschaft ist die Doppelbotschaft entscheidend: Strenge Sicherheitsstandards sollen Vertrauen schaffen, gleichzeitig dringt Digitalminister Karsten Wildberger darauf, KI-Entwicklung in Europa aktiv voranzutreiben.

Gelingt dieser Spagat, könnten geprüfte, verlässliche KI-Systeme zu einem Standortvorteil werden – ähnlich wie bei technischen Sicherheitsnormen im Maschinenbau.Für Nutzer hätte eine Pflichtprüfung zur Folge, dass sie sich eher darauf verlassen können, dass große Sprachmodelle definierte Mindeststandards einhalten.

Zugleich dürfte sie die Zeit bis zur Markteinführung verlängern und die Entwicklung verteuern. Ob Deutschland hier ein ausgewogenes Modell findet, wird mit darüber entscheiden, ob der Einsatz generativer KI als Chance für Wettbewerbsfähigkeit und Wohlstand genutzt werden kann, ohne zentrale Sicherheitsanforderungen zu vernachlässigen.