NEWS

Wer haftet, wenn KI einen Fehler macht?

Bitkom-Leitfaden zeigt, wie Unternehmen KI-Risiken erkennen, steuern und absichern können

Eine Künstliche Intelligenz erstellt eine falsche Prognose, stößt eine fehlerhafte Zahlung an oder trifft eine automatisierte Entscheidung mit teuren Folgen. Wie Unternehmen solchen Risiken beim KI-Einsatz erkennen und vermeiden können, zeigt der neue Bitkom-Leitfaden „Verantwortungsvoller KI-Einsatz: Risiken verstehen, steuern und versichern“.

Denn je stärker KI in Geschäftsprozesse einzieht, desto wichtiger wird auch die Frage, wie Unternehmen mögliche Schäden begrenzen können. Bereits 57 Prozent der Unternehmen in Deutschland setzen KI ein, weitere 38 Prozent planen oder diskutieren den Einsatz.

„KI kann vorhandene Prozesse deutlich schneller und effizienter machen, zugleich besteht aber die Gefahr, dass sie bestehende Risiken deutlich verstärkt: Fehler können sich schneller verbreiten, größere Auswirkungen haben und im Nachhinein schwieriger nachvollziehbar sein“, so Lukas Spohr, Experte für Digital Insurance und InsurTech beim Bitkom.

„Besonders relevant wird das bei KI-Agenten, die eigenständig Aufgaben planen und Aktionen ausführen können. Mit wachsendem Handlungsspielraum steigen die Anforderungen an Zugriffsrechte, Freigabeprozesse, Monitoring und menschliche Kontrolle.“

Der Leitfaden richtet sich an Unternehmen, aber insbesondere auch an Versicherer, InsurTechs und Makler sowie an Fach- und Führungskräfte aus Underwriting, Risikomanagement und IT-Sicherheit. Er zeigt Voraussetzungen für einen verantwortungsvollen und kontrollierten KI-Einsatz auf und geht dabei insbesondere auf Qualitätsfaktoren der KI-Governance und -Security ein.

Zudem ordnet er typische Schadenfälle ein – etwa Schäden im eigenen Unternehmen, bei Dritten oder am Ruf des Unternehmens, zum Beispiel durch fehlerhaft eingesetzte KI oder sogenanntes AI-Washing. Abschließend zeigt er auf, welche KI-Risiken bereits versicherbar sind und wo noch Lücken bestehen.

Der Leitfaden steht hier kostenlos zum Download bereit:
https://www.bitkom.org/Bitkom/Publikationen/Verantwortungsvoller-KI-Einsatz