Durchstarten mit dem Informatik-Journal

Datenschutz und Deepfakes: So wird der Umgang mit KI sicher

von IBAW / Maher Hamid, Dr. Cand., 14. August 2025

Interview mit Maher Hamid, Dr. Cand., Lehrperson KI

Maher Hamid ist Experte für Geschäftsprozessautomatisierung mit Machine Learning und Kl. Hauptberuflich entwickelt er für grosse mittelständische Unternehmen individuelle Softwarelösungen, die Kl- und ML-Modelle nutzen, um betriebsinterne Prozesse zu automatisieren.

Seit über acht Jahren lehrt er praxisnahe IT-Themen wie Database Management, Data Science und Applied Programming und prägt dabei sowohl die Geschäftswelt als auch die akademische Lehre. Seit Ende 2024 profitieren auch IBAW-Teilnehmende von seinem Wissen.

KI ist faszinierend – doch wissen wir eigentlich, was mit unseren Daten passiert, wenn wir ChatGPT & Co. nutzen? Lehrperson und KI-Experte Dr. cand. Maher Hamid erklärt im Interview, wie wir uns schützen und warum wir trotzdem keine Angst vor der KI haben sollten.

Sicherer Umgang mit KI

Herr Hamid, warum ist das Thema KI-Sicherheit so wichtig?

Weil KI inzwischen fast überall präsent ist – vom Smartphone, übers Tablet bis ins Büro. Wenn wir KI-Tools nutzen, landen unsere Eingaben auf zentralen Servern grosser Anbieter. Jeder sollte wissen, was mit diesen Daten passiert und welche Risiken dabei entstehen.

Was passiert denn genau mit meinen Eingaben bei KI-Tools wie ChatGPT?

Ihre Eingaben werden zunächst in eine Art Zahlenwährung, sogenannte Tokens, umgerechnet und an zentrale Server wie etwa von Microsoft oder Google geschickt. Dort berechnet ein neuronales Netz die passende Antwort und schickt diese zurück – ebenfalls als Zahlen, die dann wieder in Wörter umgewandelt werden. Man muss sich bewusst sein, dass alles zentral verarbeitet wird. Nicht lokal auf dem PC, sondern auf den Servern der jeweiligen KI-Anbieter.

Trainiere ich mit meinen Eingaben also die KI?

Bedingt. Bei anonymer, nicht eingeloggter Nutzung ist keine Kontrolle über die Datenverwendung möglich. Registrierte Accounts, auch im kostenlosen Bereich, bieten in der Regel eine Opt-Out-Möglichkeit für Trainingsdaten. Die Nutzer können also die Funktion ausschalten, dass die Daten zum Training genutzt werden können. Generell gilt: Kostenlose Accounts sind riskanter für den Datenschutz, aber auch da werden nicht alle Daten für Trainingszwecke verwendet.

Empfehlen Sie deshalb kostenpflichtige Versionen?

Definitiv. Ein bezahlter Account bietet deutlich mehr Kontrolle über die Daten. Das schützt die Privatsphäre besser. Wer keine bezahlte Version möchte, sollte sich zumindest registrieren.

Welche Risiken entstehen speziell für Unternehmen beim Einsatz von KI-Tools?

Besonders kritisch ist es, urheberrechtlich geschützte oder sensible Daten wie persönliche Informationen einzugeben. Auch bei bezahlten Accounts besteht immer die Gefahr, gehackt zu werden. Firmen sollten also hochsensible Daten, die der eigenen IT-Infrastruktur oder dem Unternehmen schaden können, niemals auf externen KI-Servern speichern.

Deepfakes – Manipulationen von Medieninhalten

Deepfakes sind ein weiteres Thema. Können Sie erklären, was das genau ist?

Deepfakes sind täuschend echte KI-generierte Bilder, Videos oder Stimmen, die reale Menschen imitieren. Ein bekanntes Beispiel war Papst Franziskus in einer modischen Montclair-Jacke. Ein Fake, der um die Welt ging. Solche Fälschungen sind inzwischen kaum noch zu erkennen. Man muss sich aber bewusst sein, dass Menschen, die in der Öffentlichkeit stehen, ein Recht an ihrem eigenen Bild haben. Das sollte man nicht verletzen, indem man selber solche Fakes erzeugt. Zumindest muss man darauf hinweisen, dass es eine durch KI generierte Fälschung ist.

Gibt es Gesetze, die uns künftig besser vor Deepfakes schützen könnten?

Der AI Act der EU (gültig seit August 2024) enthält klare Kennzeichnungspflichten für KI-generierte Inhalte, insbesondere für Deepfakes (siehe Artikel 50). In der Schweiz hingegen wurde eine gesetzliche Regelung speziell für Deepfakes im Mai 2025 abgelehnt. Es gelten weiterhin die allgemeinen Datenschutz- und Strafrechtsbestimmungen. Ich setze mich persönlich stark für eine Kennzeichnungspflicht ein, denn schon bald könnten wir vollständig die Grenze zwischen Realität und KI-generierten Inhalten verlieren. Bereits heute gibt es täuschend echte Inhalte, etwa vermeintliche Geheimgespräche unter Politikern, die selbst Experten nur schwer erkennen können.

Wie kann man sich als Privatperson vor Deepfakes schützen?

Das Wichtigste ist, so wenig Fotos wie möglich öffentlich zu posten. Je mehr Bilder online sind, desto besser lassen sich Deepfakes erzeugen. Auf Social Media empfehle ich, den Account auf privat zu stellen. Auch sollte man einer Person, die man gerade erst kennengelernt hat, keine Fotos von sich schicken.

Phishing – der Versuch an sensible Daten zu kommen

Und wie schützt man sich konkret vor KI-gestütztem Phishing?

Nutzen Sie mindestens zwei E-Mail-Adressen: eine private für wichtige Kontakte, die nie öffentlich angegeben wird, und eine zweite für Online-Dienste wie Zalando und soziale Netzwerke. Und stellen Sie Spamfilter scharf ein – so lernen Ihre Mail-Accounts, Spam und Phishing zuverlässig abzuwehren. Bei verdächtigen Telefonaten gilt besondere Vorsicht: Nummer genau prüfen und auch bei Schweizer Vorwahl misstrauisch bleiben. Anfragen, die mit Geld oder einem grossen Gefallen verbunden sind, sollte man grundsätzlich ablehnen. Verdächtige SMSs oder Anrufe immer blockieren und melden.

Könnte KI tatsächlich die Gesellschaft manipulieren?

Ja, leider schon. Einige KI-Systeme haben keine ethischen Filter und verbreiten gezielt kontroverse Inhalte. Grok, die KI von xAI (ehemals Twitter), stand im Juli 2025 in der Kritik, weil sie antisemitische Inhalte generierte. Ausgelöst wurde dies durch eine systemweite Änderung des Prompt-Kontexts („maximally based“), was aggressive und extremistische Antworten begünstigte. Bot-Farms beeinflussen bereits heute Meinungen und Wahlen. Das sollten wir kritisch sehen und wachsam bleiben.

KI-Agents – Softwareprogramme, die selbstständig Aufgaben erledigen

Was genau sind eigentlich KI-Agenten?

Das sind automatisierte KI-Systeme, die eigenständig Aufgaben erledigen – etwa Reservierungen in Restaurants vornehmen, Termine vereinbaren oder Flüge buchen. Der erste KI-Agent wird gerade von OpenAI ausgerollt und steht bald allen zur Verfügung.

Welche Spielregeln empfehlen Sie Unternehmen für den sicheren Einsatz von KI – und wer haftet, wenn die KI Fehler macht?

Das kommt immer auf den Vertrag an. OpenAI etwa hat öffentlich erklärt: Nutzt ein Unternehmen ChatGPT kommerziell mit einer bezahlten Lizenz und es kommt dabei versehentlich zu Copyright-Verstössen, übernimmt OpenAI die Haftung. Aber wenn man vorsätzlich gegen Lizenzbedingungen verstösst, weil man zum Beispiel urheberrechtlich geschützte Inhalte verändert und nicht richtig kennzeichnet, trägt man die Verantwortung selbst.

Fünf Regeln für einen sicheren Umgang mit KI

Ihre fünf goldenen Regeln für einen sicheren KI-Umgang?

Keine hochsensiblen Daten eingeben,
KI-Antworten kritisch prüfen,
nie die erstbeste Antwort übernehmen,
möglichst einen bezahlten Account nutzen und
stets die Verantwortung selbst tragen - denn verantwortlich ist letztlich der Mensch, nicht die KI.

Was liegt Ihnen abschliessend am Herzen?

Keine Angst vor der KI haben! Sie ist ein Werkzeug, das wir verantwortungsbewusst nutzen sollten. Technologieoffenheit ist der Schlüssel zur Zukunft.

Möchten Sie tiefer ins Thema KI eintauchen?

Besuchen Sie eine unserer Weiterbildungen:

Grundlagen-Seminare

Fachliche Vertiefung

Lehrgänge