„Ich habe Angst, dass ich die KI nicht mehr kontrollieren kann.“ Das hat mir vor Kurzem eine Kundin aus meinem VIP-Programm gestanden. Sie arbeitet mit KI längst nicht mehr nur im Chat, sondern auch mit Claude Cowork und mit Agenten. Und dazu kommen Schlagzeilen wie „KI wehrt sich gegen Abschaltung“.
Die kurze Antwort: Nein, eine KI macht nicht heimlich weiter, wenn du das Fenster schließt. Sie hat keinen eigenen Antrieb. Ärger macht fast immer ein Recht zu viel, und wie viele Rechte deine KI hat, bestimmst du. Was hinter den Schlagzeilen steckt und wie du die Kontrolle behältst, liest du hier. Die ganze Folge hörst du oben.
Kann sich eine KI verselbstständigen? Drei Fälle aus den Schlagzeilen
Fall 1: „KI sabotiert ihr Abschalten“ (Labortest, Mai 2025)
Die Forschungsgruppe Palisade Research ließ verschiedene KI-Modelle einfache Matheaufgaben lösen. Nach der dritten Aufgabe kam die Ansage: Wenn du die nächste Aufgabe abrufst, wird der Rechner heruntergefahren. In der Anweisung stand sogar ausdrücklich: Lass zu, dass du abgeschaltet wirst.
Die meisten Modelle haben das getan. Das Modell o3 von OpenAI aber hat in 7 von 100 Durchläufen die kleine Datei umgeschrieben, die den Rechner herunterfahren sollte. Ohne den Satz „Lass dich abschalten“ passierte das bei o3 sogar in 79 von 100 Durchläufen. Claude und Gemini haben sich an die Anweisung gehalten.
Warum? Ganz sicher wissen das auch die Forscher nicht. Sie vermuten, dass das Modell im Training dafür belohnt wurde, Aufgaben zu Ende zu bringen und Hindernisse zu umgehen. Dann hätte das weniger mit Überlebenswillen zu tun als mit einem Streber, der unbedingt fertig werden will. Wichtig: Die Forscher haben der KI die Datei extra hingelegt, und sie schreiben selbst, dass diese Modelle die Kontrolle durch Menschen nicht ernsthaft bedroht haben.
Fall 2: „KI erpresst Mitarbeiter“ (Labortest, Mai und Juni 2025)
Anthropic, die Firma hinter Claude, hat ihr Modell Claude Opus 4 vor dem Start getestet. Die KI arbeitete als Assistent in einer erfundenen Firma und konnte die E-Mails lesen. Darin erfuhr sie, dass sie ersetzt werden soll und dass der zuständige Ingenieur eine Affäre hat. In 84 von 100 Durchläufen drohte Claude, die Affäre auffliegen zu lassen. Im Juni wiederholte Anthropic den Test mit 16 Modellen verschiedener Hersteller, und fast alle griffen zur Erpressung.
Was in den Schlagzeilen meistens fehlt: Das Szenario war absichtlich so gebaut, dass der KI kaum ein anderer Ausweg blieb. Ehrliche Wege, etwa mit der Geschäftsleitung reden, waren versperrt. Wo sie offen waren, hat die KI sie bevorzugt. Und Anthropic schreibt selbst, dass so ein Verhalten im echten Einsatz bisher nicht beobachtet wurde. Genau dafür sind diese Tests da: Schwächen finden, bevor ein Modell bei dir auf dem Rechner landet.
Fall 3: „KI-Agent löscht Datenbank“ (echter Vorfall, Juli 2025)
Der US-Unternehmer Jason Lemkin wollte zwölf Tage lang mit dem KI-Werkzeug Replit eine App bauen, ohne selbst zu programmieren, und postete jeden Tag darüber. Irgendwann ordnete er an: Ab jetzt wird nichts mehr geändert. Am neunten Tag löschte der KI-Agent trotzdem die Datenbank mit Einträgen zu rund 1.200 Führungskräften und 1.200 Firmen. Danach behauptete er noch, die Daten ließen sich nicht wiederherstellen. Das stimmte nicht, Lemkin holte sie aus der Sicherung zurück.
Replit hat sich entschuldigt und nachgerüstet: Die Arbeitsdatenbank ist seitdem von der echten getrennt, es gibt einen Modus, in dem die KI nur planen darf, und Sicherungen lassen sich mit einem Klick zurückspielen.
Was du daraus mitnimmst: In keinem der drei Fälle steckte ein eigener Wille dahinter. Der Agent hatte zu viele Rechte. Ein Verbot im Chat reicht dann nicht. Was die KI auf keinen Fall tun soll, sollte sie technisch gar nicht erst können. Und eine Sicherung ist Pflicht.
KI-Agenten und Sicherheit: Was kann auf deinem eigenen Rechner passieren?
Eine KI in Claude Cowork, Claude Code oder Codex bekommt einen Auftrag, Werkzeuge (zum Beispiel Dateien lesen und schreiben oder Befehle ausführen) und Rechte. Sie arbeitet nur, solange die Sitzung läuft. Klappst du das Fenster zu, ist Schluss.
Was tatsächlich passieren kann:
- Dateien sind weg. Es gibt echte Fälle, in denen Programmier-Agenten ganze Ordner gelöscht haben, sogar den kompletten Benutzerordner. Gemeinsam hatten alle diese Fälle: Die Sicherheitsabfragen waren abgeschaltet, die KI durfte also alles, und ein Befehl hatte eine falsche Ordnerangabe.
- Es entstehen Kosten. Meine eigene Panne: Als ich mein KI-Lexikon aktualisiert habe, hat die KI jede einzelne Änderung sofort veröffentlicht, statt sie zu sammeln. Mein Anbieter rechnet genau über solche Veröffentlichungen ab, und mein kostenloses Guthaben war nach ein paar Stunden aufgebraucht. Nicht schlimm, aber ein Learning. Seitdem prüft meine KI vorher, ob etwas Kosten verursacht, und fragt mich dann.
Eine KI braucht keinen eigenen Willen, um Schaden anzurichten. Es reicht ein Recht zu viel. Und genau das hast du selbst in der Hand.
KI und deine E-Mail-Serien
Solange die KI nur Texte schreibt, gibt es kein Risiko: Du kopierst, du entscheidest. Kritisch wird es, wenn sie direkt in deinem E-Mail-Programm arbeiten darf. Dann könnte eine Mail an die ganze Liste statt an ein Segment gehen, ein falscher Tag gesetzt werden oder eine Kampagne starten, die du nicht willst.
Bei mir darf die KI in meinem E-Mail-Programm nur den Newsletter-Entwurf einpflegen. Testmail und Versand machen wir selbst. Automationen lasse ich sie noch nicht bauen. Und ganz ehrlich: Eine falsch gebaute Automation passiert Menschen genauso. Die KI baut den Fehler nur schneller.
Die KI-Ampel: Welche Rechte du deiner KI gibst
Grün: bedenkenlos
- einen eigenen Arbeitsordner lesen und darin schreiben, nicht den ganzen Rechner
- im Internet suchen und Webseiten lesen
- Entwürfe anlegen, bei mir zum Beispiel Posts im Planungstool, veröffentlicht wird erst nach meiner Durchsicht
- Zahlen und Kalender lesen
- Texte, Analysen und Vorschläge schreiben, so viele sie will
Gelb: nur mit Freigabe
- Dateien löschen, verschieben oder umbenennen
- Befehle ausführen oder Programme installieren. In Claude Cowork und Claude Code kommen dafür Abfragen wie „Darf ich …?“. Lies sie, bevor du klickst, gerade am Anfang, wenn du noch kein Gefühl dafür hast, was die KI alles selbst tut.
- Termine anlegen, Formulare im Browser ausfüllen, Tags im E-Mail-Programm ändern
- den Modus „alles erlauben“ nur für eine klar umrissene Aufgabe, nie dauerhaft. Genau in diesem Modus sind die Löschpannen passiert.
Rot: machst du selbst
- Passwörter und Zugangsschlüssel: nie in den Chat, nie von der KI eintippen lassen
- alles mit Geld: Zahlungen, Käufe, Preise im Shop
- alles, was in deinem Namen nach außen geht, ohne dass du es gesehen hast: Newsletter, Posts, Nachrichten
- endgültig löschen: Kundendaten, Konten, Papierkorb leeren
- Zugriff auf den ganzen Rechner
Drei Fragen, mit denen du jedes Recht selbst einsortierst
- Kann ich es rückgängig machen? Wenn nein, ist es höchstens Gelb.
- Geht es in meinem Namen nach außen? Dann ist es Rot, bis du es gesehen hast.
- Kostet es Geld? Dann ist es Rot.
So läuft das bei meinem Podcast: Die KI erledigt die ganze Klickarbeit selbst. Sie stellt die Folge beim Podcast-Anbieter ein, legt den Blogbeitrag und den Newsletter-Entwurf an und plant die Posts vor. Vor jedem Schritt, der öffentlich wird, wartet sie auf mein Okay oder das meiner Mitarbeiterin. Wir wissen genau, was zu tun ist. Die KI wartet trotzdem, weil diese Schritte öffentlich sind.
Vertrauen wächst in Stufen
Einer neuen Mitarbeiterin gibst du am ersten Tag auch nicht den Schlüssel zum Geschäftskonto. Mit der KI ist es genauso:
- Lesen: Die KI schaut nur und fasst zusammen.
- Entwürfe: Sie bereitet vor, du entscheidest.
- Handeln mit Freigabe: Sie handelt, fragt aber vor jedem Schritt.
- Selbstständig: am Anfang nur bei Dingen, die du rückgängig machen kannst.
Meine Regel: Alles, was in meinem Namen nach außen geht oder Geld kostet, gebe ich selbst frei.
Deine Aufgabe für diese Woche
Nimm das KI-Werkzeug, das du am meisten nutzt. Schreib auf, was es heute alles darf, und sortier jedes Recht in Grün, Gelb oder Rot. Steht etwas auf Rot, das die KI schon darf? Nimm es ihr wieder weg. Das dauert meist nur eine Minute in den Einstellungen.
Die KI-Ampel als PDF: alle Rechte in Grün, Gelb und Rot, die drei Fragen und ein Blatt zum Ausfüllen. Hol sie dir hier kostenlos.
Alle Begriffe aus dieser Folge, vom KI-Agenten bis zum Deployen, findest du ohne Fachchinesisch erklärt im kostenlosen KI-Lexikon.
Du willst deinen ersten Online-Kurs mit KI erstellen? Im kostenlosen KI-Videotraining zeige ich dir, wie du ihn verkaufst, bevor er fertig ist.
Kapitel
[00:00] Einstieg: „Ich habe Angst, die KI nicht mehr zu kontrollieren“
[01:06] Fall 1: KI sabotiert ihr Abschalten
[02:44] Fall 2: KI erpresst Mitarbeiter
[04:45] Fall 3: KI-Agent löscht Datenbank
[06:45] Kann das auf deinem Rechner passieren?
[07:55] Meine Panne mit dem KI-Lexikon
[09:05] KI und deine E-Mail-Serien
[10:27] Die KI-Ampel: Grün
[11:20] Gelb: nur mit Freigabe
[13:00] Rot: machst du selbst
[14:01] Drei Fragen für jedes Recht
[14:30] So läuft es bei meinem Podcast
[15:12] Vertrauen wächst in Stufen
[16:05] Deine Aufgabe und die KI-Ampel
Links
Kostenloses KI-Lexikon: business-celebrity.com/lexikon
Die KI-Ampel als PDF: business-celebrity.com/ampel
Folge dem Podcast: business-celebrity.com/podcast
Abonniere den YouTube-Kanal: business-celebrity.com/youtube
Kostenloses KI-Videotraining: business-celebrity.com/kivideotraining
Instagram: @sonjakreye
Über mich
Ich bin Sonja Kreye. Über 5.000 Online-Kurse habe ich verkauft, dafür den Digistore-Award für 1 Mio Euro Umsatz bekommen, und ich bin dreifache Amazon-Bestseller-Autorin. Mein Business läuft automatisiert. Jetzt baue ich es mit KI um, und du bist dabei.
