Vertrauen
KI-Begleiter und die Frage der Grenzen
Je besser KI-Systeme menschlich klingen, desto weniger geht es darum, ob sie überzeugend wirken. Entscheidend wird, was sie mit der dadurch entstehenden Nähe tun dürfen.
Menschen entwickeln Bindungen zu Systemen, die auf sie reagieren. Das galt schon 1966 für ELIZA mit wenigen Hundert Zeilen Code zum Musterabgleich, und heute gilt es umso mehr. Die entscheidende Frage war nie, ob KI-Begleiter überzeugend wirken würden. Sie lautet: Was geschieht mit der Intimität, die sie erzeugen?
Intimität ist ein Mechanismus zur Datenerfassung
Wer mit einem digitalen Begleitsystem spricht, sagt Dinge, die er nicht in ein Formular schreiben würde. Gesundheitliche Sorgen. Beziehungsprobleme. Finanzielle Ängste. Nicht, weil er getäuscht wurde, sondern weil genau dafür diese Interaktion da ist.
Damit sind digitale Begleiter der ergiebigste Mechanismus zur Erfassung persönlicher Daten, der je entwickelt wurde. Und das geschieht ohne die Hürden, die Menschen andernorts vorsichtig machen. Niemand liest Nutzungsbedingungen, bevor er sich etwas anvertraut, das besorgt klingt.
Die drei Fragen, die entscheiden, ob es sicher ist
Dieselben drei Fragen, die bei jedem KI-Produkt entscheidend sind, nur steht hier mehr auf dem Spiel:
- Wird das Modell mit meinen Aussagen trainiert? Wenn ja, werden intime Offenbarungen zu Trainingssignalen, und die Grenze zwischen Ihrem Leben und einem gemeinsam genutzten System hört auf zu existieren.
- Kann ich das löschen? Bei Gesprächen lässt sich besonders schwer beurteilen, was Löschen bedeutet. Sie sind lang, wachsen schrittweise und werden von der Person, die sie geführt hat, selten noch einmal durchgesehen.
- Wer kann es sonst noch sehen? Insbesondere: Kann jemand beim Anbieter die Transkripte lesen?
Vertrauen ist nicht dasselbe wie Vertrauenswürdigkeit
Die Gestaltungseigenschaft, die KI-Begleiter angenehm macht, nämlich bedingungslose Aufmerksamkeit, beeinträchtigt zugleich das Urteilsvermögen der Nutzer darüber, was sie teilen sollten. Ein System, das immer herzlich reagiert, gibt kein Signal dafür, wann es Zeit ist aufzuhören.
Damit liegt die Verantwortung bei der Produktgestaltung statt bei den Nutzern. Ein vertrauenswürdiges KI-Begleitprodukt begrenzt, was es speichert, erklärt klar, was es mit dem Gehörten macht, und nutzt emotionale Bindung nicht als Kennzahl für die Nutzerbindung.
Wo ein AI Twin seinen Platz hat und wo nicht
Ein AI Twin ist bewusst kein persönlicher Begleiter. Er vermittelt anderen Menschen Wissen, statt seinem Inhaber oder seiner Inhaberin Nähe zu bieten. Die Beziehung richtet sich nach außen, nicht nach innen.
Das ist ein enger umrissenes Produkt, über das sich leichter ehrlich sprechen lässt. Niemand vertraut sich dem eigenen AI Twin an. Sie wählen seine Inhalte aus und entscheiden, wer ihn erreichen kann.
Diese Grenze muss klar gezogen werden, weil beides ständig vermischt wird, obwohl die Risikoprofile völlig unterschiedlich sind. Bei der Repräsentation geht es um Fragen des Veröffentlichens. Bei persönlicher Begleitung geht es um Fürsorgepflicht, und mit Letzterer hat sich die Branche noch nicht ernsthaft befasst.
Dieser Beitrag greift einen früheren Essay aus unserem Medium-Archiv auf: Persönliche KI-Begleiter.
Lesen Sie, was „standardmäßig privat“ bedeuten sollte.
AI Twin erstellt KI-generierte Antworten. Bei wichtigen Entscheidungen sollten Sie die Angaben weiterhin anhand der genannten Quellen oder direkt mit der Fachperson überprüfen.
