Freie Presse auf Google News folgen
Kurz sagen, was man sich vorstellt, den Rest vom Shopping erledigt ein autonomer Agent? Klingt gut. Doch die Realität ist anders: Kauf-KI birgt Risiken. Was man wissen und zukünftig beachten sollte.
KI-gestützte Beratung per Chat ist beim Onlineshopping schon relativ häufig anzutreffen. Die Anbieter bauen ihre Agenten aber immer weiter aus, bis hin zum Recherchieren, Vergleichen und Bestellen - alles nach Vorgaben der Kunden, aber letztlich autonom.
Amazon ist beispielsweise mit Alexa for Shopping (vormals Rufus) auf dem Weg dorthin. Und Google hat gerade auf seiner Entwicklerkonferenz I/0 einen KI-Agenten angekündigt, der Produkte nicht nur plattformübergreifend in einem Einkaufskorb parken, sondern im Auftrag des Nutzers auch selbst bezahlen können soll.
Ist das alles überhaupt erlaubt?
Wenn KI-gesteuerte Softwareagenten aber eigenständig im Namen von Menschen oder Unternehmen handeln, Entscheidungen treffen
und sogar Käufe und Zahlungen abwickeln, wirft das eine Menge Fragen auf. Zum Beispiel: Ist das überhaupt erlaubt?
Auch wenn sich die ersten Pilotversuche zum vollständigen autonomen KI-Shoppen bis hin zur Bezahlung derzeit noch auf die USA beschränken: Rechtlich möglich sei sogenanntes Agentic Commerce in Deutschland wohl jetzt schon, trotz vieler noch offener und juristisch teils kniffliger Fragen rund um Haftung, Vertrags- und Verbraucherrecht oder Zahlungen, berichtet das IT-Fachmagazin "c't" (Heft 11/26).
Je mehr Rechte und Autonomie, desto problematischer
Fest stehe aber: Je mehr Rechte und Autonomie KI-Assistenten beim Einkaufen erhalten, desto problematischer werde die Nutzung. Deshalb forderten Kritiker, dass Entscheidungen immer beim Menschen verbleiben müssen.
Folgende 3 Gefahrenfelder identifizieren die "c't"-Experten rund um KI-Shopping-Agenten:
1. Ungeklärte Rechtsfragen
Wer haftet, wenn die KI das falsche Produkt bestellt oder auf betrügerische Shops hereinfällt?
2. Manipulationsanfällige Technologie
Besonders problematisch sind die weitreichenden Berechtigungen, die Agenten benötigen, etwa den Zugriff auf E-Mails, Zahlungssysteme, Kalender oder Onlinespeicher. Sind die Berechtigungen zu weit gefasst, kann ein manipulierter Agent etwa durch ungewollte Einkäufe großen Schaden anrichten oder versteckten Kaufanweisungen auf präparierten Webseiten, etwa von Fake-Shops, folgen.
3. Datenschutzrechtliche Probleme
Um sinnvoll arbeiten zu können, benötigen KI-Agenten umfangreiche Informationen über Präferenzen, Kontext und Kaufhistorie. Damit lassen sich aber DSGVO-Prinzipien wie Datensparsamkeit, Transparenz und Zweckbindung schwer vereinbaren. Außerdem könnten Händler aus den Daten psychologische Nutzerprofile erstellen und diese zur Preisdiskriminierung nutzen.
KI kritisch beäugen und diese Grundsätze einhalten
Verbraucher sollten bei KI-Shopping-Assistenten kritisch bleiben und folgende Grundsätze befolgen, rät die "c't":
- Käufe stets manuell bestätigen.
- Niemals Vollzugriff auf Bankkonten gewähren.
- Ausgabenlimits festlegen.
(dpa)
