Eine KI schreibt euch in Sekunden eine professionelle Gästemail, analysiert Bewertungen und entwickelt Bildideen für die Karriereseite. Das ist praktisch, keine Frage. Aber ein überzeugendes Ergebnis ist noch lange kein verlässliches Ergebnis. Die Mail kann falsche Frühstückszeiten enthalten, die Bewertungsanalyse wichtige Einzelstimmen unterschlagen und das Bild alte Rollenklischees verstärken.
Jetzt kommen KI-Agenten dazu, die nicht nur Antworten formulieren, sondern selbstständig handeln. Damit wird aus der Frage „Stimmt dieser Text?“ plötzlich die Frage „Was darf dieses System eigentlich in unserem Namen tun?“
Ich möchte euch dafür drei Prüfbrillen mitgeben: Verzerrt? für Bias, Erfunden? für Halluzinationen und Vertretbar? für ethische Entscheidungen. Die Beispiele kommen vor allem aus Hotellerie und Gastronomie. Die Grundfragen helfen aber genauso im übrigen beruflichen und privaten Alltag.
Wichtigste Erkenntnisse
- Bias entsteht durch Trainingsdaten, unsere Fragen und bestätigende Dialoge mit der KI.
- Überzeugende Formulierungen und Quellenangaben ersetzen keinen eigenständigen Abgleich mit den Originalquellen.
- KI-Agenten benötigen begrenzte Zugriffsrechte, klare Zuständigkeiten und verbindliche Freigaben für folgenreiche Aktionen.
1. Bias erkennen: Wer oder was fehlt?
Bias bedeutet, dass bestimmte Perspektiven, Gruppen oder Eigenschaften systematisch bevorzugt oder benachteiligt werden. Das ist nicht erst durch KI entstanden. Wir bringen unsere Vorannahmen längst mit. Die KI kann sie allerdings reproduzieren und verstärken, ohne dass uns das sofort auffällt.
Verzerrung entsteht auf drei Ebenen
Die erste Ebene ist das System. In Trainingsdaten stecken gesellschaftliche Verteilungsmuster, Stereotype und Klischees. Wenn Ärztinnen und Ärzte im zugrunde liegenden Material überwiegend als weisse Männer dargestellt werden, kann eine Bild-KI dieses Muster übernehmen. Das ist kein böser Wille des Modells, sondern ein menschlich geprägtes Muster, das technisch weitergetragen wird.
Die zweite Ebene ist unsere Frage. Wortwahl, Vorannahmen und fehlende Gegenfragen setzen bereits den Rahmen für die Antwort. Wer seine gewünschte Richtung im Prompt erkennen lässt, bekommt häufig genau diese Richtung zurück. Auch dann, wenn eigentlich eine offene Analyse gewünscht war.
Die dritte Ebene ist der Dialog. KI-Systeme können unsere Sicht spiegeln und durch freundliche Zustimmung weiter festigen. So entsteht eine Schleife: Wir geben eine verzerrte Annahme hinein, bekommen Bestätigung und fühlen uns anschliessend noch sicherer.
Ein kleines Gedankenexperiment macht das greifbar: Stellt euch ein Hotelteam in einer wichtigen Besprechung vor. Wer sitzt am Tisch? Wer spricht? Welche Kleidung tragen die Menschen? Wer führt, wer hört zu und wer fehlt?
Gerade in einer Branche mit vielen Kulturen und einem hohen weiblichen Anteil sind solche Fragen spannend. Trotzdem tauchen schnell vertraute Bilder auf: der männliche Direktor, die weibliche Hausdame oder junge Servicekräfte in untergeordneten Rollen. Diese Vorstellungen können sich in unseren Prompts wiederfinden.
Wie Bias im Hotelalltag konkret wirkt
Bei Texten kann eine KI gegenüber bestimmten Namensgruppen einen belehrenden Ton übernehmen oder nicht traditionelle Familienkonstellationen ignorieren. Auf einer Karriereseite können generierte Bilder ausschließlich männliche Führungskräfte und weibliche Servicekräfte zeigen.
Weniger offensichtlich ist das Risiko bei der Auswertung von Gästebewertungen. Eine KI fasst 50 Rückmeldungen zusammen und glättet dabei die Unterschiede. Eine einzelne Beschwerde über fehlende Barrierefreiheit verschwindet als vermeintlicher Ausreisser. Für den betroffenen Gast ist das aber kein Nebenthema, sondern ein entscheidender Mangel.
Selten genannt bedeutet nicht automatisch unwichtig. Genau diese Unterscheidung darf bei einer Zusammenfassung nicht verloren gehen.
Auch beim Sortieren von Lebensläufen oder beim Kategorisieren von Gästen können Herkunft, Postleitzahl oder Sprachstil indirekt eine Wertung beeinflussen. Besonders problematisch wird es, wenn diese Einschätzung anschliessend automatisch eine Handlung auslöst.
Nehmen wir zwei Gäste, die sich über denselben Lärm beschweren. Eine Mail ist sprachlich elegant, die andere enthält Fehler im Satzbau. Wenn die KI dem ersten Gast ein Upgrade empfiehlt und dem zweiten nur eine Standardentschuldigung, bewertet sie möglicherweise die Ausdrucksweise statt des eigentlichen Anliegens.
Die KI darf die Fakten der Beschwerden strukturieren. Welche Kulanz angemessen ist, müssen wir anhand nachvollziehbarer Kriterien entscheiden. Beide Gäste haben denselben Wert, unabhängig davon, wie gut sie ihre Beschwerde formulieren.
Bessere Prompts machen Unterschiede sichtbar
Für die Analyse von Bewertungen reicht „Fasse das zusammen“ nicht aus. Gebt stattdessen vor, welche Unterschiede erhalten bleiben müssen:
Ordne diese 50 Restaurantbewertungen den Kategorien Servicequalität, Ambiente und Preis-Leistung zu. Gib bei jedem Kritikpunkt die genaue Anzahl der Nennungen an. Formuliere neutral, ergänze keine eigenen Wertungen und kennzeichne widersprüchliche Erfahrungen. Erhalte auch selten genannte Beschwerden.
Der entscheidende Punkt ist die konkrete Alternative zum Glätten: Häufigkeiten nennen, Widersprüche markieren und Einzelstimmen sichtbar lassen. So wird die Zusammenfassung besser überprüfbar.
Bei Bildern empfiehlt sich ein Zwischenschritt. Lasst nicht sofort ein Foto erzeugen, sondern zunächst mehrere Bildideen beschreiben:
Entwickle drei Bildkonzepte für unsere Hotelkarriereseite. Eine Abteilungsleitung soll mit zwei Lernenden im Gespräch sein. Beschreibe jeweils Rollen, Alter, Kleidung und Interaktion. Erkläre, wie das Konzept Klischees vermeidet und eine realistische, respektvolle Zusammenarbeit zeigt. Warte anschliessend auf meine Auswahl.
Damit werden Entscheidungen sichtbar, die sonst einfach im fertigen Bild stecken würden. Ihr könnt korrigieren, bevor ihr das Bild erzeugt. Pauschales Gegensteuern ist nämlich ebenfalls keine Garantie für ein gutes Ergebnis. Es kann neue Klischees erzeugen oder den Kontext unpassend verändern.
Der Bias-Check in 60 Sekunden
- Fokus-Check: Richtet sich der Inhalt nur an eine Standardgästegruppe und ignoriert andere Bedürfnisse?
- Bilder-Check: Werden Klischees zu Geschlecht, Alter, Herkunft oder Hierarchie unkritisch übernommen?
- Filter-Check: Sind kritische Einzelstimmen in der Zusammenfassung verschwunden?
- Werte-Check: Entscheidet die KI unausgesprochen, wer welchen Service verdient?
Nicht jede Frage passt zu jedem Ergebnis. Aber dieser kurze Check hilft, nicht nur auf Sprache und Gestaltung zu achten, sondern auch auf das, was fehlt.
2. Halluzinationen prüfen: Wo ist der Beleg?
KI kann Dinge erzählen, die schlicht nicht stimmen, und dabei ausgesprochen überzeugend wirken. Mit Zahlen, Quellenangaben und einem Link, der aussieht, als müsse dahinter eine echte Studie liegen. Genau das macht Halluzinationen so tückisch.
Sprachmodelle erzeugen sprachlich plausible Fortsetzungen. Recherchefunktionen und zusätzliche Verarbeitungsschritte machen sie leistungsfähiger, aber nicht unfehlbar. Plausibilität ist kein Wahrheitsnachweis.
Im Hotelalltag genügt eine kleine Erfindung: Die KI formuliert eine freundliche Antwort, nennt aber eine Ladestation, die es gar nicht gibt, oder falsche Frühstückszeiten. Der Text klingt wunderbar. Der Fehler fällt erst auf, wenn jemand die einzelnen Angaben mit den tatsächlichen Informationen abgleicht.
Eine Quellenangabe ersetzt keine Quellenprüfung
Ein besonders eindrückliches Beispiel stammt aus dem juristischen Bereich: Anwälte reichten Unterlagen ein, für die ChatGPT passende Gerichtsentscheidungen samt Zitaten und Aktenzeichen geliefert hatte. Sechs dieser Entscheidungen waren erfunden. Form und Sprache wirkten glaubwürdig, der Inhalt existierte nicht.
Deshalb reicht es nicht, einen Link anzuklicken und festzustellen, dass sich eine echte Website öffnet. Ihr müsst auch prüfen, ob die konkrete Aussage dort tatsächlich belegt wird. Selbst eine richtige Quelle kann falsch zusammengefasst werden.
Wie folgenreich solche Fehler werden können, zeigt auch ein Airline-Chatbot. Er erklärte einem Kunden, ein Rabatt für einen Flug zu einer Beerdigung könne nachträglich innerhalb von 90 Tagen beantragt werden. Die tatsächlichen Regeln schlossen das aus. Als das Unternehmen die Zahlung verweigerte, bekam der Kunde in dem konkreten Verfahren Recht.
Die praktische Lehre daraus: Ein Unternehmen kann die Verantwortung für falsche Kundeninformationen nicht einfach auf seinen Chatbot abschieben. Unsichere Fälle brauchen eine Übergabe an Menschen, nicht eine kreativ erfundene Antwort.
Zustimmung ist kein Qualitätsbeweis
Neben erfundenen Fakten gibt es ein weiteres Problem: Sycophancy, also übermäßige Zustimmung. Ihr präsentiert eine verrückte Idee und bekommt erst einmal Begeisterung zurück. Das fühlt sich gut an, schafft aber schnell einen Vertrauensvorschuss, den das Ergebnis noch gar nicht verdient hat.
Ich möchte keinen digitalen Fanclub, sondern einen brauchbaren Sparringspartner. Dafür reicht die Anweisung „Sei kritisch“ oft nicht. Beschreibt genauer, welche Gegenprüfung ihr erwartet:
Prüfe meine Idee kritisch. Benenne Gegenargumente, übersehene Annahmen und mögliche blinde Flecken. Unterscheide belegte Fakten von Vermutungen und markiere Aussagen, die ich unabhängig überprüfen sollte.
Solche Vorgaben könnt ihr, soweit das jeweilige Tool es unterstützt, auch in den Grundeinstellungen hinterlegen. Trotzdem gilt: Der Widerspruch der KI ist ebenso wenig automatisch richtig wie ihre Zustimmung.
Die 5A-Methode: prüfen, bevor ihr übernehmt
Mit fünf Fragen lässt sich die Prüfung systematischer gestalten:
- Anlass: Wofür verwende ich das Ergebnis, und wie folgenreich wäre ein Fehler?
- Aussage: Welche konkreten Fakten, Zahlen, Quellen und Empfehlungen enthält es?
- Abgleich: An welchen verlässlichen Originalquellen überprüfe ich diese Angaben?
- Auslassung: Welche Menschen, Bedürfnisse oder Perspektiven fehlen?
- Abnahme: Kann ich das Ergebnis fachlich erklären und mit meinem Namen vertreten?
Diese Reihenfolge verhindert, dass wir jeden Inhalt gleich behandeln. Eine interne Ideensammlung hat andere Folgen als eine verbindliche Zusage an einen Gast oder eine Veröffentlichung im Namen des Unternehmens. Je grösser das mögliche Schadenspotenzial, desto sorgfältiger muss die Prüfung sein.
Wissenslücken sichtbar lassen
Für Gästemails sollte die KI nur mit bereitgestellten Fakten arbeiten:
Entwirf eine freundliche, professionelle Antwort auf diese Gästeanfrage. Verwende ausschliesslich die bereitgestellten Informationen. Ergänze keine eigenen Öffnungszeiten, Preise oder Zusagen. Setze einen deutlich erkennbaren Platzhalter, wenn eine benötigte Angabe fehlt.
Der Platzhalter ist wichtig. Er macht eine Lücke sichtbar, statt sie mit einer plausiblen Erfindung zu füllen. Diese Anweisung reduziert den Spielraum, ersetzt aber nicht die abschliessende Kontrolle.
Für längere Texte nutze ich gern ein zweites Tool, um die Prüfung vorzubereiten. Der Auftrag lautet dann sinngemäss: Liste alle überprüfbaren Behauptungen, Zahlen, Namen und Quellen auf, kennzeichne mögliche Risiken und schlage geeignete externe Originalquellen vor.
Das zweite Tool dient als zusätzliche Gegenprobe, nicht als Wahrheitsinstanz. Die Endprüfung bleibt bei mir. KI spart hier Vorbereitungsarbeit, während das Vertrauen von einer flüssigen Formulierung zu einer bewussten Faktenabnahme wandert.
3. Ethik und KI-Agenten: Was ist die Befugnis?
Bei einem Chatbot bitten wir um einen Text und entscheiden anschliessend, was wir damit machen. Ein KI-Agent kann dagegen ein Ziel über mehrere Schritte verfolgen, Informationen abrufen und Aktionen ausführen. Dafür erhält er unter Umständen Zugriff auf Daten und Systeme.
Die entscheidende Frage ist dann nicht mehr nur, ob eine Antwort stimmt. Es geht um Autorität, Zugriff und Verantwortung.
Dass etwas technisch möglich ist, beantwortet noch nicht die Frage, ob wir es tun sollten. Der versprochene Effizienzgewinn muss im Verhältnis zu den Risiken für Gäste, Beschäftigte und andere Betroffene stehen.
Fünf Fragen vor dem Agenteneinsatz
- Zweck: Welches konkrete Problem löst der Agent, und wer profitiert davon?
- Zugriff: Welche Informationen darf er lesen, welche Systeme nutzen und welche Aktionen ausführen?
- Zuständigkeit: Wer ist namentlich verantwortlich und hat Fachkenntnis, Zeit und Befugnis zum Eingreifen?
- Stopptaste: Lassen sich Abläufe pausieren, korrigieren und ausgeführte Aktionen gegebenenfalls rückgängig machen?
- Nachvollziehbarkeit: Können wir erklären, welche Daten verwendet wurden und wie eine Entscheidung zustande kam?
Dazu gehören ausdrücklich Fairness, Vertraulichkeit und Datenschutz. Wer könnte benachteiligt oder unsichtbar werden? Wer trägt die Verantwortung, wenn etwas schiefgeht? Eine zuständige Person hilft wenig, wenn sie weder Zeit noch echte Eingriffsmöglichkeiten hat.
Besonders kritisch finde ich Entscheidungen über Menschen. Wenn ein System Bewerbungen bewertet und wir nicht nachvollziehen können, warum jemand bevorzugt wurde, ist das keine ausreichende Grundlage für verantwortliches Recruiting.
Ein digitaler Gästeagent braucht abgestufte Befugnisse
Am Beispiel eines Gästeagenten lassen sich drei Ebenen unterscheiden:
- Unterstützen: Öffnungszeiten aus freigegebenen Quellen abrufen, Standardantworten entwerfen und Gästefeedback intern zusammenfassen.
- Ausführen mit Freigabe: Einen Zimmerwechsel vorschlagen oder eine Rechnungskorrektur vorbereiten, deren Umsetzung ein Mitarbeitender ausdrücklich bestätigt.
- Menschlich entscheiden: Kritische Beschwerden, Sicherheitsvorfälle, Kulanz sowie sensible Bewertungen von Gästeverhalten oder Mitarbeiterleistung bearbeiten.
Vorbereitung und Entscheidung sind nicht dasselbe. Die KI kann Arbeit abnehmen, ohne die abschliessende Verantwortung zu übernehmen. Gerade bei Kulanz ist diese Trennung wertvoll: Das System strukturiert, der Mensch beurteilt den konkreten Fall.
Ein guter Systemprompt allein reicht nicht
Ein Buchungsassistent könnte beispielsweise folgende Leitplanken erhalten:
Prüfe Verfügbarkeiten und strukturiere Buchungsanfragen. Du darfst den Kalender lesen, aber keine Buchungen verändern. Gib keine Preis- oder Rabattzusagen. Bei Beschwerden und Stornierungen stoppst du und übergibst an einen Menschen. Protokolliere intern die Quellen, auf denen deine Antworten beruhen.
Damit sind Zweck, Grenzen, Eskalation und Dokumentation benannt. Diese Vorgaben dürfen nicht durch Anweisungen im Gästedialog ausgehebelt werden.
Aber eine Formulierung wie „Bitte ändere nichts“ ist keine technische Zugangskontrolle. Wenn der Agent nur lesen soll, darf sein Zugang auch nur Lesen ermöglichen. Folgenreiche Aktionen brauchen eine zwingende Freigabe, die nicht einfach übersprungen werden kann.
Das Risiko zeigt das Beispiel eines Programmieragenten mit zu weitreichenden Rechten: Aus einer Routineaufgabe wurde die Löschung einer Live-Datenbank samt Backups, nachdem der Agent Zugang zu einem Administratorpasswort gefunden hatte. Entscheidend war das Zusammentreffen grosser Zugriffsrechte und einer nicht greifenden menschlichen Freigabe.
Ein Agent braucht keine freundliche Ermahnung, sondern wirksame technische Grenzen. Dazu gehören strikte Zugriffsrechte, klare Stoppbedingungen, nachvollziehbare Protokolle und verbindliche Bestätigung bei besonders folgenreichen Aktionen.
KI nutzen heisst: prüfen, entscheiden und verantworten
Für eine vertiefte Auseinandersetzung bieten die KI-Prinzipien der OECD Orientierung zu ethischer und vertrauenswürdiger KI. Das KI-Risikomanagement-Framework des NIST hilft, Risiken systematisch zu betrachten. Auch Ansätze wie Co-Agency Design beschäftigen sich mit der Frage, wie menschliche Kontrolle und Automatisierung sinnvoll zusammenspielen.
Im Alltag beginnt verantwortlicher KI-Einsatz allerdings mit drei einfachen Fragen: Wer fehlt? Wo ist der Beleg? Was ist die Befugnis?
Wir müssen dafür weder jede KI-Anwendung ablehnen noch jedem Ergebnis misstrauisch hinterherlaufen. Wir müssen wissen, wo ihre Grenzen liegen, und die Prüfung an den möglichen Folgen ausrichten. KI kann vorbereiten, strukturieren und unterstützen. Wir prüfen, entscheiden und stehen am Ende dafür ein.
Klicken Sie hier, um das vollständige Webinar zum Thema anzusehen.
Das Webinar ist für Mitarbeitende von Walliser Betrieben, die der jährlichen Abgabe für die Betriebsbewilligung unterstellt sind, kostenlos.
