Der VOTUM Verband hat eine Anfrage an die Bundesanstalt für Finanzdienstleistungsaufsicht (Bafin) sowie die Deutsche Industrie- und Handelskammer (DIHK) gerichtet. Anlass sind Versicherungsempfehlungen von KI-Chatbots wie ChatGPT von OpenAI oder Claude von Anthropic. In konkreten Konversationen sollen von den Chatbots individuelle Versicherungsempfehlungen erfolgt sein – ohne über die dafür erforderliche Erlaubnis nach § 34d GewO. Es geht dem Verband um Verbraucherschutz sowie Zulassungs- und Haftungsfragen bei KI-basierter Versicherungsberatung.
Laut VOTUM haben die KI-Systeme in dokumentierten Dialogen konkrete Versicherungsprodukte existierender Anbieter empfohlen – inklusive Tarifbezeichnung und Begründung auf Grundlage einer vermeintlichen Bedarfsanalyse.
„Sobald ein System nicht mehr nur allgemeine Hinweise gibt, sondern eine individuelle Produktempfehlung ausspricht, bewegt es sich im Bereich der erlaubnispflichtigen Versicherungsberatung“, sagt Martin Klein, Geschäftsführender Vorstand des VOTUM Verbands. Die entscheidende Frage laute, wer haftet, wenn der Verbraucher auf Basis einer fehlerhaften KI-Empfehlung eine ungeeignete Versicherung abschließt, so Klein weiter.
Verband fürchtet Gefahren für Verbraucher
Der VOTUM Verband sieht erhebliche Risiken für Verbraucher. Während zugelassene Versicherungsvermittler einer gesetzlich geregelten Beratungs- und Dokumentationspflicht unterliegen und für Beratungsfehler haften würden, gebe es bei den KI-Anbietern weder eine berufsrechtliche Zulassung noch eine entsprechende Haftungsabsicherung, argumentiert der Verband. Wenn sich Verbraucher auf eine fehlerhafte Empfehlung verlassen würden, drohe im Schadenfall ein Haftungsvakuum. Die Empfehlungen von KI-Systemen würden sich weder auf eine qualifizierte Risikoanalyse stützen noch würden sie eine Angabe enthalten, auf welcher Markterhebung sie erteilt wurden. Fehlerhafte oder veraltete Datengrundlagen würden für den Nutzer unsichtbar bleiben.
VOTUM fordert klare regulatorische Einordnung
„Die Frage ist nicht, ob wir technologischen Fortschritt wollen. Die Frage ist, ob wir zulassen, dass bewährte Verbraucherschutzstandards durch die Hintertür ausgehebelt werden, nur weil der Berater diesmal kein Mensch, sondern ein Algorithmus ist“, unterstreicht Klein. VOTUM appelliert an die zuständigen Aufsichtsbehörden, zeitnah eine klare regulatorische Einordnung vorzunehmen und gegebenenfalls aufsichtsrechtliche Maßnahmen zu prüfen. Entscheidend sei, dass gleiche rechtliche Rahmenbedingungen gelten würden und der gesetzlich verankerte Verbraucherschutz gewahrt bleibe. „Verbindliche Versicherungsempfehlungen dürfen ausschließlich von Personen und Unternehmen ausgesprochen werden, die über die entsprechende Erlaubnis und Haftungsabsicherung verfügen – nur so lassen sich Verbraucher vor ungeprüften Empfehlungen mit potenziell weitreichenden finanziellen Folgen schützen“, so Klein. (tik)
Lesen Sie auch:
- Anmelden, um Kommentare verfassen zu können
