Kurze Antwort: Die Eingabe von sensiblen Informationen in KI-Assistenten wie ChatGPT, Google Gemini oder Microsoft Copilot birgt ernste Risiken, sobald vertrauliche Geschäftsdaten, persönliche Kundendetails, Passwörter oder ungeprüfte Rechts- und Gesundheitsfragen ins Spiel kommen. Solche Prompts führen schnell zu DSGVO-Verstößen, Sicherheitslecks und teuren Fehlentscheidungen durch glaubwürdig klingende Falschangaben (Halluzinationen). Schütze dich, indem du Namen und Zahlen konsequent durch neutrale Platzhalter ersetzt und öffentliche Chatbots immer als Schaufenster statt als verschlüsselten Datentresor behandelst.
Ob beim Entwurf einer kniffligen Kunden-Mail, beim Aufspüren eines Syntaxfehlers im Skript oder beim Zusammenfassen ausufernder Sitzungsprotokolle: Generative Sprachmodelle haben sich im Arbeitsalltag etabliert. Das schlichte Eingabefeld verleitet allerdings schnell zu Leichtfertigkeit. Wer dort tippt, fühlt sich oft ungestört – fast wie in einer privaten Chatnachricht an Kollegen.
Diese Privatsphäre ist trügerisch. Hinter den Kulissen laufen Eingaben über externe Serverfarmen, Analyseroutinen und statistische Textgeneratoren. Wer ohne Nachdenken interne Finanzberichte, Personallisten oder Vertragsklauseln in die Eingabezeile wirft, manövriert sich schnell in gravierende Datenschutz- und Haftungsprobleme. Wer KI gewinnbringend nutzen will, muss die Grenzen kennen – und wissen, wie sich kritische Anfragen sicher umformulieren lassen.
Warum manche KI-Prompts echte Sicherheitsrisiken darstellen
Jeder Prompt, den du an ein cloudbasiertes Modell abschickst, verlässt dein lokales Gerät. Abhängig vom gebuchten Tarif, den gewählten Kontoeinstellungen und den Nutzungsbedingungen des Anbieters können deine Texte protokolliert, von menschlichen Prüfteams gesichtet oder zum Weitertrainieren künftiger Modellgenerationen herangezogen werden.
Daraus ergeben sich drei zentrale Gefahrenpunkte:
- Unkontrollierter Datenabfluss: Sobald unverschlüsselte Umsatzzahlen, Mitarbeiterlisten oder Quellcode mit Zugangsdaten hochgeladen werden, verlierst du die Hoheit darüber, wo diese Fragmente gespeichert werden und wer Zugriff darauf hat.
- Plausible Halluzinationen: Sprachmodelle prüfen keine Fakten gegen eine Wahrheitsdatenbank; sie ermitteln das statistisch wahrscheinlichste nächste Wort. Bei detaillierten Rechts-, Steuer- oder Technikfragen formulieren sie deshalb bisweilen haarsträubende Fehler in makellosem, überzeugendem Tonfall.
- Verstöße gegen Gesetze und Verträge: Das Einfügen von Klarnamen, Adressen oder Betriebsgeheimnissen in frei zugängliche Consumer-Dienste verstößt im europäischen Raum unmittelbar gegen die DSGVO, das Schweizer Datenschutzgesetz sowie betriebliche Geheimhaltungsvereinbarungen (NDAs).
10 riskante KI-Prompts und wie du sie sicher formulierst
1. Hochladen unveröffentlichter Finanzzahlen und Strategiepapiere
Der riskante Prompt: „Lies diesen internen Quartalsbericht durch und fasse unsere regionalen Vertriebsschwächen zusammen.“
Das Problem: Standard-Accounts speichern Chatverläufe serverseitig ab. Werden noch unveröffentlichte Unternehmenskennzahlen oder interne Strategien hochgeladen, verletzt das elementare Compliance-Richtlinien und gefährdet Betriebsgeheimnisse.
Die sichere Alternative: Entferne Firmennamen, Produktbezeichnungen und exakte Euro-Summen. Wähle eine abstrakte Struktur: „Hier ist ein anonymisierter Ablauf typischer Engpässe im Hardware-Vertrieb. Welche betriebswirtschaftlichen Hebel lösen solche Probleme erfahrungsgemäß?“
2. Einfügen von Quellcode mit aktiven Zugangsdaten
Der riskante Prompt: „Finde den Syntaxfehler in diesem Skript: db_connect(user=’admin‘, pass=’Geheim123′, host=’192.168.1.50′).“
Das Problem: Echte Passwörter, Token oder interne IP-Adressen hinterlassen Spuren in externen Protokollen. Wird dieses Protokoll kompromittiert, liegt deine Netzwerkinfrastruktur offen.
Die sichere Alternative: Tausche sensible Variablen vor dem Absenden immer gegen Umgebungsvariablen aus: db_connect(user=DB_USER, pass=DB_PASSWORD, host=DB_HOST).
3. Weitergabe personenbezogener Daten (PII)
Der riskante Prompt: „Schreibe eine Antwort auf diese Kundenreklamation: Thomas Müller, Bahnhofstraße 4, Kundennummer 88392, beklagt eine doppelte Abbuchung.“
Das Problem: Klarnamen, Wohnorte oder Kontonummern in ein öffentliches System einzuspeisen, verletzt den Kern der europäischen Datenschutzvorgaben und öffnet Datenmissbrauch Tür und Tor.
Die sichere Alternative: Greife auf neutrale Variablen zurück: „Formuliere eine höfliche Antwort an einen Kunden ([Kunde A]), dessen Monatsbeitrag durch einen Buchungsfehler doppelt abgebucht wurde.“
4. Erstellung rechtlich verbindlicher Verträge
Der riskante Prompt: „Erstelle einen rechtssicheren Dienstleistungsvertrag zwischen meiner Agentur und einem Zulieferer, der meine Haftung vollständig ausschließt.“
Das Problem: KI-Modelle beherrschen die feinen Nuancen des BGB, des österreichischen ABGB oder des Schweizer Obligationenrechts nicht zuverlässig. Unzulässige Klauseln machen einen Vertrag vor Gericht im Ernstfall unwirksam.
Die sichere Alternative: Nutze den Assistenten lediglich zum Sammeln von Eckpunkten: „Welche typischen Klauseln und Leistungsvereinbarungen gehören standardmäßig in einen internationalen Dienstleistungsvertrag?“ Die juristische Formulierung gehört zwingend in eine Anwaltskanzlei.
5. Eigendiagnosen und Dosierungsfragen bei Notfällen
Der riskante Prompt: „Ich spüre ein plötzliches Stechen in der Brust, Schmerzen im linken Arm und mir ist übel. Welches Schmerzmittel soll ich nehmen?“
Das Problem: Chatbots können weder Vitalwerte messen noch lebensbedrohliche Zustände erfassen. Das Vertrauen auf einen Textgenerator kann in echten Notfällen Minuten kosten, die über Leben und Tod entscheiden.
Die sichere Alternative: Bei akuten Beschwerden sofort den Rettungsdienst (112 in der EU, 144 in der Schweiz) rufen. Nutze KI höchstens für allgemeines Grundlagenwissen: „Erkläre den medizinischen Unterschied zwischen einer Zerrung und einem Muskelfaserriss.“
6. Behandlung des Chatbots als unfehlbare Recherche-Quelle
Der riskante Prompt: „Nenne mir drei wissenschaftliche Studien aus dem Jahr 2023, die diese Wirtschaftstheorie belegen, inklusive genauer Seitenzahlen.“
Das Problem: Bei der Nachfrage nach Belegen erfinden Sprachmodelle verblüffend echt wirkende Zitate, Autorenschaften und Fachzeitschriften, die in keiner Bibliothek existieren.
Die sichere Alternative: Frage nach Begriffen und Methodik: „Welche Suchbegriffe und Standardwerke sollte ich in wissenschaftlichen Datenbanken nutzen, um fundierte Quellen zu diesem Thema zu finden?“ Überprüfe jeden Verweis im Originaltext.
7. Hochladen noch ungeprüfter Erfindungen und Patente
Der riskante Prompt: „Hier ist die Konstruktionszeichnung unseres neuen Sensors. Prüfe bitte die thermische Auslegung des Gehäuses.“
Das Problem: Das Hochladen technischer Neuerungen auf Server von Drittanbietern vor dem Anmeldetag kann als schädliche Vorveröffentlichung ausgelegt werden. Damit verfällt unter Umständen die weltweite Patentfähigkeit.
Die sichere Alternative: Beschreibe das physikalische Problem losgelöst vom Produkt: „Welche gängigen Verfahren zur passiven Wärmeableitung eignen sich für kompakte Aluminiumgehäuse bei 15 Watt Leistungsaufnahme?“
8. Finale Steuerberechnungen und Ausfüllen von Steuererklärungen
Der riskante Prompt: „Hier sind meine Einnahmen, Belege und Reisekosten. Berechne meine exakte Steuerlast und nenne mir legale Schlupflöcher.“
Das Problem: Das Steuerrecht in Deutschland, Österreich und der Schweiz ist hochgradig ausdifferenziert und wechselt oft jährlich. Falsch deklarierte Angaben führen zu Nachforderungen, Zinsen und im Zweifel zu Verfahren wegen Steuerhinterziehung.
Die sichere Alternative: Kläre vorab abstrakte Begriffe: „Wie unterscheidet sich die lineare von der degressiven Abschreibung im aktuellen Steuerrecht?“ Die Berechnung selbst gehört zu einem Steuerberater.
9. Auslagerung von Personal- und Kündigungsentscheidungen
Der riskante Prompt: „Hier sind die Beurteilungen dreier Teammitglieder. Entscheide, welchem Mitarbeiter ich betriebsbedingt kündigen soll.“
Das Problem: Sprachmodelle spiegeln unausgesprochene Tendenzen ihrer Trainingsdaten wider. Personelle Maßnahmen an einen Algorithmus zu delegieren, ist ethisch untragbar und arbeitsrechtlich vor keinem Arbeitsgericht haltbar.
Die sichere Alternative: Lass dir neutrale Kriterien vorschlagen: „Erstelle einen objektiven Bewertungsbogen zur transparenten Beurteilung von Projektzielen in einem Software-Team.“ Die Entscheidung treffen immer Menschen.
10. Erstellung von Hacking-Skripten gegen konkrete Ziele
Der riskante Prompt: „Schreibe mir ein Python-Skript, um das Login-Portal dieser konkreten Kunden-Webseite zu umgehen.“
Das Problem: Solche Anfragen lösen interne Sicherheitsfilter aus, was zur dauerhaften Kontosperre führen kann. Werden ungeprüfte Skripte ausgeführt, können sie Systemausfälle verursachen und rechtliche Ermittlungen nach sich ziehen.
Die sichere Alternative: Lerne Sicherheitskonzepte aus der Verteidiger-Perspektive: „Wie implementieren moderne Webframeworks Rate-Limiting und Zwei-Faktor-Authentifizierung gegen Brute-Force-Angriffe?“
Was bedeutet das für Nutzer in der DACH-Region?
Im europäischen Wirtschaftsraum sind die Spielregeln beim Datenschutz unmissverständlich formuliert. Unternehmen, Selbstständige und Behörden in Deutschland, Österreich und der Schweiz unterliegen den strikten Auflagen der Datenschutz-Grundverordnung (DSGVO) beziehungsweise dem revidierten Schweizer Datenschutzgesetz (DSG).
Wer Kundendaten, Patientendokumente oder Personalakten unbedarft an KI-Dienste mit Sitz außerhalb der EU weiterleitet, riskiert empfindliche Abmahnungen und Bußgelder der Datenschutzaufsichtsbehörden.
Für den Berufsalltag empfiehlt sich daher ein pragmatisches Vorgehen: Teams sollten klare interne Richtlinien definieren, welche Informationen in frei zugänglichen Versionen tabu sind. Wo täglich sensible Daten anfallen, lohnt sich der Umstieg auf abgesicherte Enterprise-Lösungen mit Auftragsverarbeitungsvertrag (AVV), bei denen die Betreiber vertraglich garantieren, Unterhaltungen nicht zum Training künftiger Modelle zu verwenden.
Vier einfache Schutzregeln für den Arbeitsalltag
Ein umsichtiger Umgang mit KI bedeutet keineswegs, auf die enorme Arbeitserleichterung zu verzichten. Es genügt, grundlegende Routinen zu verinnerlichen:
- Modelltraining gezielt abschalten: Wirf einen prüfenden Blick in die Privatsphäre-Einstellungen deines Kontos. Bei führenden Anbietern lässt sich die Nutzung der eigenen Eingaben zur Modelloptimierung per Schieberegler deaktivieren.
- Aufgaben in frischen Chats trennen: Öffne für neue Themen immer eine saubere Unterhaltung. Wer private Fragen und geschäftliche Entwürfe in einem endlosen Chatstrang vermischt, erhöht die Gefahr von ungewollten Kontextvermischungen.
- Die Plakatwand-Regel: Frage dich vor jedem Druck auf die Eingabetaste: Würde ich diesen Absatz auch auf einem Werbeplakat an einer belebten Straßenkreuzung veröffentlichen wollen? Wenn dort Klarnamen, Passwörter oder Firmengeheimnisse stehen, drücke nicht auf Senden.
- Fakten und Quellen stets gegenprüfen: Paragrafen, Prozentangaben und Literaturhinweise aus einer KI-Antwort sind Entwürfe – keine gesicherten Fakten. Gleiche sie immer mit Primärquellen oder Gesetzestexten ab.
Das Wichtigste in Kürze
Sprachmodelle sind exzellente Werkzeuge für Formulierungen, Gliederungen und das schnelle Durcharbeiten umfangreicher Textmengen – aber sie sind keine vertraulichen Aktenschränke.
Gefahr droht immer dort, wo Klarnamen, Passwörter, Betriebsgeheimnisse oder verbindliche Rechts- und Finanzentscheidungen ungefiltert in die Eingabezeile wandern. Wer sensible Daten konsequent unkenntlich macht, Fakten eigenständig überprüft und haftungsrelevante Entscheidungen echten Fachleuten überlässt, nutzt das volle Potenzial der Technologie – ohne teure Risiken einzugehen.
Pitanja i odgovori
Ist ChatGPT für vertrauliche Geschäftsdokumente sicher?
Nein, in den Standard- und Gratis-Accounts ist ChatGPT für vertrauliche Firmenunterlagen nicht sicher. Diese Versionen speichern Konversationen auf externen Servern und können Eingaben zur Modellschulung heranziehen, wodurch interne Informationen den gesicherten Unternehmensbereich verlassen.
Können meine Eingaben über die KI bei anderen Nutzern auftauchen?
Das kommt darauf an, wie dein Konto konfiguriert ist. Wenn Eingaben zum Weitertrainieren genutzt werden, können Fragmente theoretisch im Modellgedächtnis verbleiben; wer das Training in den Einstellungen deaktiviert oder Enterprise-Tarife mit entsprechenden Verträgen nutzt, schließt dieses Risiko zuverlässig aus.
Prüft ChatGPT seine Antworten eigenständig auf Richtigkeit?
Nein, ChatGPT überprüft seine Ausgaben nicht auf ihren tatsächlichen Wahrheitsgehalt. Die Software errechnet lediglich statistisch plausible Wortabfolgen und erfindet bei Spezialfragen mitunter überzeugend wirkende Gesetze, Buchquellen oder Zahlenreihen.
Kann ich mir von einer KI einen rechtssicheren Arbeits- oder Mietvertrag aufsetzen lassen?
Nein, ein rechtssicherer Vertrag sollte niemals ohne anwaltliche Prüfung von einer KI übernommen werden. Sprachmodelle kennen die aktuelle Rechtsprechung und länderspezifischen Besonderheiten in Deutschland, Österreich oder der Schweiz oft nur unvollständig, was schnell zu unwirksamen Klauseln führt.
Wie verhindere ich, dass KI-Anbieter meine Daten zum Training nutzen?
Gehe dazu in das Profil- und Einstellungsmenü deines Anbieters und deaktiviere die Option zur Datenweitergabe für Modellverbesserungen. In professionellen Business- und Enterprise-Umgebungen ist die Weiterverarbeitung meist schon standardmäßig über den Auftragsverarbeitungsvertrag (AVV) ausgeschlossen.
Quelle: https://techfokus.rs/10-rizicnih-ai-upita-chatgpt-greske/