Wer ist verantwortlich, wenn die KI entscheidet?

Eine KI schlägt vor, die Wandstärke eines Bauteils zu reduzieren. Der Vorschlag wird übernommen, das Teil gefertigt, später gibt es eine Reklamation. Wer hat entschieden? Die KI hat einen Text erzeugt, der Konstrukteur hat ihn gelesen, und die Freigabe lief über den Dienstweg. Wenn die Antwort auf die Verantwortungsfrage erst nach dem Schaden gesucht wird, ist es zu spät.

KI kann vorschlagen, aber nicht verantworten

Verantwortung kann nur tragen, wer entscheidet und zur Rechenschaft gezogen werden kann. Ein Sprachmodell kann beides nicht. Es liefert Vorschläge, und für das, was daraus wird, stehen Menschen und das Unternehmen ein. Im Konstruktionsalltag ist deshalb weniger die Frage, ob KI eingesetzt wird, sondern wie dafür gesorgt wird, dass Entscheidungen beim Menschen bleiben und nachvollziehbar sind. Rechtliche Einzelfragen sollten Sie mit Fachleuten klären, dieser Beitrag ersetzt keine Rechtsberatung.

Drei Mechanismen, die Verantwortung sichtbar halten

• Freigabe durch Menschen: Was die KI vorschlägt, gilt nicht automatisch. Erst wenn eine Person eine Regel geprüft und freigegeben hat, wird sie verbindlich. Damit gibt es für jede geltende Regel einen Verantwortlichen.
• Klare Rollen: Wer darf Regeln vorschlagen, wer prüfen, wer freigeben? Wenn das festgelegt ist, muss niemand im Nachhinein klären, wer zuständig war.
• Belegpflicht: Jede Antwort verweist auf die Regel dahinter. So lässt sich nachvollziehen, woher eine Aussage stammt (mehr dazu in KI und Halluzinationen).

Wie konstruktionsrichtlinie.de das unterstützt

Die Plattform trennt Vorschlag und Verbindlichkeit. Aus Dokumenten erzeugte Regelvorschläge werden erst im Regel-Freigabe-Workflow geprüft und von Menschen freigegeben. Wer welche Aufgaben übernehmen darf, steuern Sie über Rollen und Rechte. Der freigegebene Stand bleibt als Version erhalten, sodass sich später nachvollziehen lässt, welche Regel zu welchem Zeitpunkt galt. Wie eine Regel aufgebaut sein sollte, damit sie eindeutig prüfbar ist, beschreibt Was ist eine gute Konstruktionsregel?.

Was das Werkzeug nicht ersetzt

Konstruktionsrichtlinie.de stellt die Informationen bereit, damit Produkte konform zum hinterlegten Regelwerk entwickelt werden können. Es ist kein automatischer Konformitätsnachweis im Sinne einer CE-Kennzeichnung und nimmt dem Hersteller weder die Risikobeurteilung noch die Verantwortung ab. Regulatorische Anforderungen wie die neue Maschinenverordnung bleiben bestehen (siehe Maschinenverordnung 2027). Nachvollziehbar dokumentierte interne Regeln können aber helfen, Entscheidungen später zu begründen.

Fünf Fragen für Ihr Unternehmen

• Wer gibt bei uns Regeln verbindlich frei?
• Ist festgelegt, wer KI-Vorschläge prüft?
• Lässt sich nachvollziehen, welche Regel zum Zeitpunkt einer Konstruktion galt?
• Nennt jede KI-Antwort ihre Quelle?
• Gibt es ein Verfahren für den Fall, dass eine Regel falsch war?

Kann ein Unternehmen diese Fragen beantworten, bleibt die Verantwortung dort, wo sie hingehört. Testen Sie konstruktionsrichtlinie.de kostenlos und bilden Sie Ihren Freigabeprozess ab.