Das Energieunternehmen enercity ermöglicht Kunden, Zählerstände und andere Vertragsdaten in ChatGPT abzufragen und zu verwalten.
Der Energieversorger sieht als mögliche Zielgruppen Early Adopters sowie Menschen, denen eine App eine zu große Hürde ist, die mit LLMs aber vertraut sind.
Das Risiko, dass ChatGPT bei der Antwort an den Kunden halluziniert, haben die Entwickler laut eigener Aussage zu minimieren versucht. Ganz ausschließen lässt es sich nicht, dass ChatGPT in seiner Antwort Zählerstände, Verträge oder Ähnliches erfindet oder falsch wiedergibt.
Was, es wurden nur 2 euro für die Stromrechnung überwiesen? Sorry da muss meine Banking App wohl halluziniert haben.
Ganz ausschließen lässt es sich nicht, dass ChatGPT in seiner Antwort Zählerstände, Verträge oder Ähnliches erfindet oder falsch wiedergibt.
Sind die sich nicht bewusst, dass Unternehmen für Aussagen automatisierter Systeme, vulgo “KI”, haften? Bzw daraus gültige Verträge werden?
Enercity bietet ja nicht den Chatbot selbst an, sondern nur einen MCP, also eine Schnittstelle über die beliebige Chatbots Daten abrufen können. Diese dürften prinzipiell deterministisch korrekt sein, was Claude oder ChatGPT damit machen liegt dann rechtlich gesehen vermutlich nicht mehr in deren Verantwortungsbereich
Ich denke es wird ihnen demnächst bewusst werden :)
Menschen, denen eine App eine zu große Hürde ist, die mit LLMs aber vertraut sind.
Versteh ich das Falsch? Leute die mit ner App nicht zurechtkommen aber mit ChatGPT? Gibt es solche Menschen wirklich?
Das war auch mein Verständnis und deshalb habe ich es auch hier gepostet. Ich kann mir nicht einen solchen Menschen nicht vorstellen.
EDIT: Ich hätte die zugehörige “Begründung” vielleicht vollständig mit in den Superkommentar schreiben sollen, beachte bitte den zweiten Teil:
Der Energieversorger sieht als mögliche Zielgruppen Early Adopters sowie Menschen, denen eine App eine zu große Hürde ist, die mit LLMs aber vertraut sind. In ihrem Umfeld gäbe es viele solcher Leute, erzählten die Entwickler in einem Telefonat mit heise online.
Da brauch ich nicht weiter zu gucken als bis zu meinem Opa 🤷 Hat sich nie mit Handys beschäftigt, und ihm jetzt noch den Umgang mit zig Apps zu erklären wäre von vornherein zum scheitern verurteilt. Aber zu sagen “drück auf den Knopf und sag dem Computer was er tun soll” könnte noch drin sein. Rein prinzipiell ist eine freie Unterhaltung zu führen halt viel natürlicher als die UI moderner Computer zu bedienen, die sich mittlerweile ja auch jedes Skeuomorphismus entledigt hat.
