Model Card

Was ist Model Card?

Eine Model Card ist ein strukturiertes Offenlegungsdokument, das zusammen mit einem KI-Modell veröffentlicht wird und beschreibt, was das Modell ist, wie es trainiert wurde, worin es gut ist, wo es versagt, und welche Sicherheitsevaluationen es bestanden hat. Sie gibt Ingenieuren die Information, die sie brauchen, um zu entscheiden, ob ein Modell zu ihrem Anwendungsfall passt.

Die wichtigsten Punkte

• Model Cards sind das Datenblatt der KI-Welt: beabsichtigte Nutzung, Zusammenfassung der Trainingsdaten, Benchmark-Ergebnisse, bekannte Einschränkungen und Ergebnisse von Sicherheitsevaluationen in einem Dokument.
• Jedes große Lab veröffentlicht inzwischen eine mit jedem Frontier-Release, und Beschaffungsteams verlangen sie zunehmend, bevor ein Modell für den Produktionseinsatz freigegeben werden kann.
• Eine Model Card beschreibt das Modell, wie es von seinem Entwickler getestet wurde. Sie sagt nichts darüber aus, wie sich das Modell in Ihrem Produkt verhält, mit Ihren Prompts, auf Ihren Daten.
• Den Einschränkungsabschnitt zu lesen sind die zehn wertvollsten Minuten in jedem Modellauswahlprozess, denn dort sagt Ihnen der Entwickler genau, wo das Modell versagt.

So funktioniert es

Das Format geht auf einen Forschungsvorschlag von 2019 zurück, der argumentierte, Modelle sollten mit standardisierter Berichterstattung ausgeliefert werden, so wie elektronische Bauteile mit Datenblättern ausgeliefert werden. Eine typische Card deckt die Architekturfamilie und Größenklasse des Modells ab, das Cutoff-Datum und die allgemeine Zusammensetzung seiner Trainingsdaten, Evaluationsergebnisse auf öffentlichen Benchmarks, Sicherheitstests wie Red-Team-Übungen und Ablehnungsraten-Messungen, sowie explizite Aussagen zu beabsichtigten und nicht vorgesehenen Nutzungen. Wie vollständig diese Abschnitte ausgefüllt werden, variiert stark: Eine Stanford-Analyse von 2024 mit über 32.000 Model Cards auf Hugging Face fand, dass die Abschnitte zu Einschränkungen, Evaluation und Umweltauswirkungen die niedrigsten Vervollständigungsraten haben, während Trainingsdetails am konsistentesten ausgefüllt werden [1].

Bei Frontier-Modellen ist die Card zu etwas gewachsen, das eher einem technischen Bericht ähnelt. Entwickler veröffentlichen Scores zu Coding, Reasoning und agentischen Benchmarks, beschreiben, wie sich das Modell unter adversariellem Prompting verhält, und dokumentieren Fähigkeitsschwellen, die für Sicherheitsrichtlinien relevant sind, etwa ob das Modell materiell bei gefährlichen Aufgaben hilft. Manche Anbieter teilen das in eine kurze Card plus eine längere System Card auf, die das vollständige deployte System abdeckt, einschließlich Guardrails und Filtern, die über das rohe Foundation Model gelegt werden. Die Offenlegung verbessert sich unter öffentlichem Druck: Der durchschnittliche Transparenz-Score großer Foundation-Model-Entwickler stieg von 37 von 100 im Oktober 2023 auf 58 von 100 im Mai 2024 auf Stanfords Foundation Model Transparency Index [2].

In der Praxis nutzen Engineering-Teams Model Cards zu zwei Zeitpunkten. Während der Auswahl ist die Card die primäre Evidenz, um Kandidaten zu vergleichen, bevor interne Evals laufen. Nach dem Deployment wird sie zu einem Governance-Artefakt: dem Protokoll dessen, was über das Modell bekannt war, als es freigegeben wurde, worauf Auditoren und Risk-Teams später verweisen.

Beispiel

Ein CTO wählt ein Modell, um einen internen Coding-Agenten anzutreiben. Zwei Kandidaten liegen auf einem öffentlichen LLM-Benchmark innerhalb eines Punkts voneinander, also zieht das Team beide Model Cards. Eine Card legt offen, dass agentische Tool-Use-Evaluationen mit einem bestimmten Scaffold durchgeführt wurden, und listet verschlechterte Leistung bei langen mehrstufigen Aufgaben auf. Die andere Card zeigt stärkere Ergebnisse bei anhaltenden Aufgaben, markiert aber eine höhere Rate fabrizierter Dateipfade in ihrem Einschränkungsabschnitt. Das Team wählt das erste Modell, fügt trotzdem eine Pfad-Verifikationsprüfung zu seiner Pipeline hinzu, und heftet beide Cards an den Architektur-Entscheidungsdatensatz, damit die Überlegung die Personen überlebt, die sie getroffen haben.

Häufige Missverständnisse

Der häufige Fehler ist, eine Model Card als Zertifizierung zu behandeln. Es ist eine selbstberichtete Offenlegung, geschrieben vom Anbieter, kein unabhängiges Audit, und die beschriebenen Evaluationen liefen unter Bedingungen, die Sie nicht vollständig reproduzieren können. Eine starke Card ist ein Grund, ein Modell in die engere Auswahl zu nehmen, nie ein Grund, eigene Evals auf eigenen Aufgaben zu überspringen.

FAQ

Wer schreibt eine Model Card? Die Organisation, die das Modell trainiert und veröffentlicht hat. Manche werden von externen Red Teams oder Sicherheitsinstituten geprüft, und diese Prüfungen werden meist in der Card vermerkt, aber Autorenschaft und finaler Inhalt bleiben beim Entwickler.

Ist eine Model Card gesetzlich vorgeschrieben? In den meisten Rechtsräumen nicht unter diesem Namen. Transparenzregeln wie der EU AI Act verlangen Dokumentation für General-Purpose-Modelle, die sich stark mit Model-Card-Inhalten überschneidet, sodass die Card in der Praxis zum Standardvehikel wird, um diese Pflichten zu erfüllen.

Was unterscheidet eine Model Card von einer System Card? Eine Model Card beschreibt das trainierte Modell selbst. Eine System Card beschreibt das vollständige deployte Produkt drumherum: die Sicherheitsfilter, Moderationsschichten und Tool-Integrationen. Ein Modell kann in vielen Systemen erscheinen, jedes mit anderem Verhalten.

Quellen

1. Liang et al., Stanford. "Analyse von über 32.000 Hugging-Face-Model-Cards: Die Abschnitte zu Einschränkungen, Evaluation und Umweltauswirkungen haben die niedrigsten Vervollständigungsraten." https://arxiv.org/abs/2402.05160. Abgerufen im August 2026.
2. Stanford CRFM. "Foundation Model Transparency Index: durchschnittlicher Transparenz-Score der Entwickler stieg von 37/100 (Oktober 2023) auf 58/100 (Mai 2024)." https://crfm.stanford.edu/fmti/May-2024/index.html. Abgerufen im August 2026.