Donnerstag, 17:12 Uhr: Der schnelle KI-Moment kurz vor Feierabend

Ein Mitarbeitender im Vertrieb kopiert ein paar Inhalte aus einem internen Angebotsdokument in ein KI-Tool. Er möchte daraus eine professionelle, schön formatierte Kundenfassung machen. Zwei Minuten später ist der Text fertig: sauber formuliert, überzeugend in der Darstellung, versandfertig. Er überfliegt das Ergebnis, passt zwei Sätze an und schickt es weiter an den Kunden.

Was niemand merkt: Im Text steckt eine ungenaue Aussage. Eine weitere Formulierung ist rechtlich heikel. Und die Informationen, die in das KI-Tool eingespielt wurden, hätten dort gar nicht landen dürfen, es handelte sich um vertrauliche Geschäftszahlen.

So sieht KI-Nutzung in Unternehmen heute oft aus. Nicht spektakulär. Sehr operativ. Nicht böswillig. Praktisch, effizient und scheinbar harmlos.

Genau das macht den KI-Einsatz so riskant.

Denn die größte KI-Gefahr im Unternehmen kommt nicht vom Tool, es ist die beiläufige Nutzung im Arbeitsalltag. Der schnelle Prompt. Der Abfluss von Daten. Die nur flüchtige Prüfung. Das gedankenlose „mal eben“. KI-Nutzung wird zur Gewohnheit, ohne viel eigenes Nachzudenken.

Die eigentliche Frage lautet deshalb heute nicht, ob Menschen KI nutzen, sondern ob sie verstehen, was sie dabei eigentlich tun.

KI bewusster nutzen. KI Training hilft

Künstliche Intelligenz ist Teil des Arbeitsalltags — oft schneller, als Regeln, Kompetenzen und Sicherheitsbewusstsein im Unternehmen mitwachsen. Genau darin liegt das Risiko. Wer KI im Unternehmen sinnvoll nutzen will, darf nicht nur an Effizienz denken, sondern muss die Mitarbeitenden auch hinsichtlich Datenschutz, Halluzinationen, Urheberrechten, etc. schulen sowie klare KI-Leitplanken (AI Literacy bzw. KI Compliance) formulieren.

KI Normalisierung

Die erste Phase der KI-Debatte war geprägt von Staunen. Die Leistunsgfähigkeit insbesondere bei der Textgenerierung hat alles verblüfft. Inzwischen wird KI nicht mehr nur bestaunt, sondern genutzt — in Marketing, HR, Kommunikation, Vertrieb, Projektmanagement, Assistenz und im Management.

Genau mit dieser Normalisierung verschiebt sich aber auch das Risiko. Denn sobald ein Werkzeug selbstverständlich wird, sinkt die Hemmschwelle beim Einsatz. Dann wird aus einer zuvor bewussten Entscheidung eine Routine. Es gibt kaum mehr eine Risikoprüfung, vielmehr ein schneller Klick, „wird schon passen“.

Es besteht eine große Gefahr, wenn KI genutzt wird, ohne sie hinreichend zu verstehen. Damit avanciert die KI-Nutzung als zweitgrößtes Risiko für Unternehmen, direkt nach Cyber-Risiken Allianz Risk Barometer 2026 | Allianz Commercial

Das unvorbereitete KI-Nutzung wirtschaftliche Folgen haben kann, zeigt eine recht aktuelle EY-Umfrage: Demnach verzeichneten nahezu alle großen Unternehmen, die KI eingeführt hatten, zunächst finanzielle Verluste — unter anderem wegen Compliance-Verstößen, fehlerhafter Outputs, Bias oder Störungen bei Nachhaltigkeitszielen Reuters.

Das ist keine Absage an KI. Es ist vielmehr ein klarer Hinweis, dass der Nutzen von KI nicht automatisch mit ihrer Einführung kommt. Man muss etwas tun, es begleiten, die KI Nutzung im Unternehmen etablieren.

Das Risiko beginnt mit einem harmlosen Prompt

Viele KI-Probleme beginnen mit einem Satz wie:

„Ich habe da nur kurz etwas reinkopiert.“

Ein Vertragsauszug.
Eine interne Präsentation.
Eine Kundenmail.
Ein Bewerberprofil.
Ein Meeting-Protokoll.
Eine vertrauliche Notiz.

Was auf Nutzerebene wie ein harmloser Produktivitätsschritt erscheint, kann auf Unternehmensebene unmittelbar mehrere sensible Bereiche berühren: Datenschutz, Vertraulichkeit, Geheimnisschutz, geistiges Eigentum, Compliance oder Dokumentationspflichten.

Dass diese Risiken nicht theoretisch sind, zeigte ein Artikel über DeepSeek. Laut Reuters fand die Sicherheitsfirma Wiz dort mehr als eine Million ungesichert zugängliche Datenzeilen, darunter Software-Schlüssel und Chat-Protokolle, die offenbar Nutzereingaben an den KI-Assistenten enthielten Reuters.

Dieser Fall zeigt deutlich: Was in ein KI-System eingegeben wird, ist selten bloß harmloser Text. Schnell handelt es sich geschäftskritische, vertrauliche Informationen. Wo ist die Grenze? Wer beachtet sie?

KI klingt oft klüger, als sie ist

Ein zweites Risiko ist weniger sichtbar, aber mindestens genauso relevant: KI wirkt oft verlässlicher, als sie tatsächlich ist.

Die Antworten sind flüssig. Immer. Die Formulierungen sind professionell. Der Ton ist selbstbewusst, es gibt keinen Zweifel. Genau das macht generative KI so attraktiv — und gleichzeitig so tückisch. Denn auch falsche, unvollständige oder frei erfundene Inhalte können in perfekter Business-Sprache daherkommen. Es klingt alles plausibel. Umso mehr, wenn man vom Thema selbst keine Ahnung hat.

Die New York Times berichtete im Mai 2025, dass Tests unabhängiger Unternehmen und Forschender darauf hindeuteten, dass Halluzinationsraten auch bei neueren Reasoning-Modellen steigen könnten The New York Times. D.h. auch neuere, grössere, bessere Large Language Modelle (LLM) können diesen Makel nicht heilen.

Ein Text, der gut klingt, ist noch kein stimmiger Text.  Eine Zusammenfassung, die sauber formuliert ist, ist noch keine belastbare Entscheidungsgrundlage. Und eine KI-Antwort, die überzeugend wirkt, ersetzt keine fachliche Prüfung.

„Human in the loop“ ist die gängige Antwort.

Human in the loop vs. Human Washing: Wenn menschliche Kontrolle doch nur Kulisse ist

Die Verlässlichkeit der KI-Texte  ist und bleibt für professionelle Nutzer ein zentrales Thema. „Human in the loop“ strebt echte menschliche Verifikation und eine verlässliche Quellenprüfung an.  Zusätzliche klare Guardrails (Schutzmaßnahmen, die KI-Systeme sicher, ethisch und fehlerfrei machen sollen) helfen, um Halluzinationen und ungestützte Ergebnisse zu entdecken.  Thomson Reuters: Accuracy in A....

Aber zwischen „jemand hat drübergeschaut“ und „ein Experte hat es belastbar geprüft“ liegt ein gewaltiger Unterschied.

Eines der unterschätztesten Probleme im KI-Alltag ist daher ein Phänomen, das als Human Washing aktuell auf Kongressen diskutiert wird.

Die menschliche Prüfung ist in Wahrheit viel zu oberflächlich. Der KI-User schaut kurz über das Ergebnis, ändert zwei Formulierungen und nickt es ab. Der falsche KI Inhalt wird fahrlässig legitimiert. Die Verantwortung  liegt beim Menschen, er wird dieser aber nicht gerecht, die Fehler der KI werden schlichtweg nicht erkannt.

Human Washing ist gefährlich, weil es zwei Illusionen gleichzeitig erzeugt:

1. Die Illusion der Kontrolle
   Unternehmen glauben, dass ein „Human in the Loop“ automatisch Sicherheit schafft.
2. Die Illusion der Qualität
   KI-Inhalte wirken belastbarer, weil sie vor der Freigabe durch Experten angeschaut wurden.

Doch ein flüchtiger Blick ist keine echte Prüfung. Wer ein KI-generiertes Ergebnis nur auf Tonalität, Lesbarkeit oder Oberflächenfehler überprüft, erkennt oft nicht:

• sachliche Fehler,
• fehlende Kontexte,
• erfundene Quellen,
• irreführende Verkürzungen,
• rechtlich problematische Aussagen,
• oder sensible Informationen, die gar nicht erst hätten verarbeitet werden dürfen.
  
  

Gerade hier ist der Unterschied zwischen echter menschlicher Kontrolle und symbolischer menschlicher Kontrolle entscheidend. Menschliche Aufsicht funktioniert nur dann als Sicherheitsmechanismus, wenn sie substanziell ist.

EU AI Act:  AI Literacy wird zum Organisationsthema

Lange wurde KI-Kompetenz vor allem technisch verstanden: Wer gute Prompts schreiben kann, ist fit für die neue Arbeitswelt. Das greift zu kurz.

Mit dem EU AI Act (Verordnung (EU) 2024/1689) rückt ein anderer Begriff in den Vordergrund: AI Literacy (KI-Compliance). Artikel 4 verlangt, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um ein ausreichendes Maß an KI-Kompetenz bei Beschäftigten und anderen mit der Nutzung befassten Personen sicherzustellen EU Artificial Intelligence Act...

Das ist bemerkenswert, weil es eine klare Richtung vorgibt: KI-Kompetenz ist nicht nur ein Bonus, sondern zunehmend Teil verantwortungsvoller Unternehmenspraxis. 

Auch mybreev greift diesen Gedanken in einen Blog zum EU AI Act auf. Dort wird beschrieben, dass sich Schulungsanforderungen je nach Risikoklasse eingesetzter KI-Systeme unterscheiden und insbesondere Themen wie Transparenz, Bias, Datennutzung, Datensicherheit und Verantwortlichkeit in den Fokus rücken mybreev Blog: AI Act reguliert....

Wer KI im Unternehmen nutzt, muss nicht nur wissen, wie ein Tool funktioniert, sondern auch, wo seine Grenzen liegen.

Exkurs: KI im Recruiting

Besonders sensibel ist der Einsatz von KI im HR-Bereich, speziell im Recruiting. Denn sobald KI-Systeme weitgehend selbständig Bewerbungen vorsortieren, Profile bewerten oder Auswahlprozesse entscheiden, berühren sie unmittelbar Fragen wie Datenschutz, Fairness, Diskriminierung und Gleichbehandlung sowie betriebsverfassungsrechtliche Mitbestimmungsrechte.

Der rechtliche Rahmen für den Einsatz von KI im Recruiting ist der EU AI Act. Viele KI-Systeme im Recruiting werden als Hochrisiko-Systeme eingestuft. Das wird oft falsch interpretiert: „Hochrisiko KI“ bedeutet nicht Verbot, sondern es geht mit besonderen Anforderungen an Transparenz, Dokumentation und menschliche Aufsicht einher.

Für HR-Entscheider im Unternehmen heißt das: KI kann Abläufe effizienter machen, entbindet aber nicht von der Verantwortung für ein rechtssicheres Verfahren. Wenn Bewerbende den Eindruck gewinnen, benachteiligt worden zu sein, entsteht schnell Erklärungsbedarf für das Unternehmen, im Extremfall vor Gericht.

KI darf im Recruiting nicht als Blackbox eingesetzt werden. Notwendig sind klare Leitplanken, eine bewusste manuelle Prüfung möglicher Verzerrungen und eine erkennbare menschliche Verantwortung im Verfahren. KI kann Personalprozesse sinnvoll unterstützen — aber nur dann, wenn Transparenz und Sorgfalt mitgedacht werden. Passend dazu greift mybreev dieses Themenfeld mit einem spezifischen eLearning zu KI & Recruiting (HR) gezielt auf.

KI Awareness mit Trainings und eLearnings

Die Debatte über KI wird oft eindimensional geführt. Entweder Euphorie: schneller, smarter, effizienter. Oder Alarmismus: Kontrollverlust, Datenschutzprobleme, Halluzinationen, Desinformation. Beide Seiten der Medaille sind zu berücksichtigen.

Für Unternehmen heisst das:

• Chancen erkennen, ohne Risiken zu verharmlosen,
• Produktivität nutzen, ohne Verantwortlichkeit aufzuweichen,
• Mitarbeitende ermutigen, ohne sie mit Unsicherheiten allein zu lassen,
• KI-Technologie in klare Regeln, Rollen und Prozesse einzubetten.
  
  

Was Unternehmen jetzt konkret brauchen

• klare Vorgaben zu erlaubten Tools,
• Regeln für den Umgang mit sensiblen Daten,
• Orientierung zu Halluzinationen und Vorgehen bzgl. der Quellenprüfung,
• Bewusstsein für Human Washing und Scheinkontrolle,
• Hinweise zu Transparenz und Kennzeichnung,
• Schulungen, die nicht theoretisch bleiben, sondern alltagstaugliche Handlungssicherheit vermitteln.

Genau hier liegt auch der Wert von eLearning und Awareness: nicht Menschen verunsichern, sondern sie aufmerksam machen, sie befähigen.

Der Erfolg von KI im Unternehmen tritt ein, wenn Mitarbeitende gelernt haben, KI klug, sicher und verantwortungsvoll zu nutzen.

Denn KI ist ein starker Hebel. Aber ein Hebel verstärkt auch Fehlgriffe.

Wer Mitarbeitende mit KI alleinlässt, produziert Grauzonen.
Wer sie sensibilisiert, schafft Souveränität.

Jetzt starten: Demo

Genau dabei unterstützen unsere KI-Trainings von mybreev. Sie helfen Unternehmen, eine sichere, verantwortungsvolle und praxistaugliche KI-Kompetenz zu entwickeln — für Mitarbeitende, Fachbereiche und Führungskräfte. Wir greifen die Fragen auf, die im Alltag relevant werden: Datenschutz, Halluzinationen, Human Washing, Transparenz, Cyberrisiken, Urheberrecht, Geheimnisschutz und regulatorische Anforderungen wie den EU AI Act. Wenn Sie KI in Ihrer Organisation belastbar verankern möchten, zeigen wir Ihnen gern, welche Trainingsformate zu Ihrem Bedarf passen.

Fordern Sie gerne eine Demo zu beliebigen Themen an. 14 Tage kostenfrei

Quellen: 

https://www.reuters.com/business/most-companies-suffer-some-risk-related-financial-loss-deploying-ai-ey-survey-2025-10-08/, abgerufen am 1. April 2026

https://www.reuters.com/technology/artificial-intelligence/sensitive-deepseek-data-exposed-web-israeli-cyber-firm-says-2025-01-29/, abgerufen am 1. April 2026

https://www.nytimes.com/2025/05/05/technology/ai-hallucinations-chatgpt-google.html, abgerufen am 1. April 2026

https://www.thomsonreuters.com/en/insights/articles/accuracy-in-ai, abgerufen am 1. April 2026

Article 4: AI literacy | EU Artificial Intelligence Act, abgerufen am 1. April 2026

https://commercial.allianz.com/news-and-insights/news/allianz-risk-barometer-2026.html, abgerufen am 1. April 2026