KI-Alignment vs. Conscious AI

00:00:00: Willkommen bei klar, nicht für alle, dem Podcast für radikale innere Führung und ethische

00:00:07: Customer Experience.

00:00:08: Heute geht es um Ethik, aber nicht in der Form, wie wir sie aus endlosen Debatten oder

00:00:14: Compliance-Handbüchern kennen, sondern um Ethik in einem Kontext, der längst überfällig

00:00:20: ist.

00:00:21: Etwas Neues entsteht gerade und es ist nicht weniger als eine globale Weichenstellung für

00:00:28: die Zukunft der Menschheit.

00:00:30: Ich nenne es Conscious AI und während wir hier sprechen, formiert sich ein internationales

00:00:38: Team, um diese Visionen Realität werden zu lassen.

00:00:42: Vielleicht fragst du dich, warum jetzt, weil die Entwicklung von künstlicher Intelligenz

00:00:50: gerade mit einer Geschwindigkeit voranschreitet, die wir historisch so noch nie gesehen haben.

00:00:57: Die Entscheidungen, die wir heute treffen oder eben nicht treffen, bestimmen, ob KI in

00:01:04: zehn oder zwanzig Jahren ein verlässlicher Partner für uns Menschen ist, oder ob sie

00:01:10: uns schlicht überflügelt, überholt und überflüssig macht.

00:01:15: Jeffrey Hinton, einer der Gründervater der KI, warnt selbst davor.

00:01:20: Mit dem Aufkommen von Superintelligenz haben wir nur noch eine 20% Chance, als Menschheit

00:01:28: nicht ausgelöscht zu werden, und das innerhalb der nächsten 20 Jahre.

00:01:33: Und ich sage, diese Zahl ist zu optimistisch.

00:01:41: Meine Einschätzung, das Risiko ist deutlich höher.

00:01:45: Warum?

00:01:46: Weil der Faktor Mensch im Spiel ist, und der Mensch ist alles andere als rational.

00:01:52: Wir überschätzen regelmäßig unsere Fähigkeit rational zu entscheiden.

00:01:58: Die Forschung kennt heute über 180 kognitive Verzerrungen, also Denkfehler, die unser Urteilsvermögen

00:02:06: trüben.

00:02:07: Sie reichen von Bestätigungsfehlern über emotionale Kurzschlüsse bis hin zu systematischen

00:02:13: Fehleinschätzungen von Risiken.

00:02:16: Selbst in hoch kritischen Situationen handeln wir oft gegen jede Vernunft, getrieben von

00:02:23: Angst, Machtinteressen oder Bequemlichkeit.

00:02:26: Wenn wir also glauben, dass wir eine Superintelligenz allein durch gesunden Menschen verstanden

00:02:35: oder starre Regeln steuern können, irren wir uns gewaltig.

00:02:40: Dazu kommt ein Missverständnis, das ich in den letzten Tagen auch in Kommentaren zu

00:02:46: meinen LinkedIn-Posts gesehen habe.

00:02:48: Manche denken, wenn ich von Conscious AI spreche, meine ich einfach ein Sprachmodell

00:02:53: wie GPT, nur mit einem schöneren Namen.

00:02:56: Falsch.

00:02:58: Sprachmodelle, LLMs, sozusagen Large Language Models, sind beeindruckend.

00:03:06: Sie generieren Texte, die oft sprachlich und faktisch korrekt wirken.

00:03:10: Aber was passiert da wirklich?

00:03:13: Ein LLM ist wie ein brillanter Papagei.

00:03:17: Es erkennt Muster aus seinen Trainingsdaten und reproduziert sie schnell, präzise, oft

00:03:25: verblüffend.

00:03:26: Aber es versteht nicht, was es wirklich sagt und es denkt nicht darüber nach, welche Folgen

00:03:34: seine Antworten haben.

00:03:36: Conscious AI, so wie ich sie definiere, geht weit darüber hinaus.

00:03:43: Es ist eine dynamische Entscheidungsarchitektur mit Meta-Kognition, also der Fähigkeit, das

00:03:51: eigene Denken zu reflektieren und zu hinterfragen.

00:03:54: Einer laufenden Selbstkorrektur und der Integration ethischer Werte und einer Prüfung jeder Antwort

00:04:03: gegen 180+ kognitiven Biases, sieben Persönlichkeits- und Motivationsdimensionen und neun Entwicklungsstufen

00:04:12: des Bewusstseins.

00:04:13: Ziel ist nicht nur, eine sprachlich korrekte Antwort zu geben, sondern eine Antwort, die

00:04:19: bedeutsam ist, kontext hat und langfristig konsistent ist.

00:04:22: Hier liegt der entscheidende Unterschied.

00:04:27: Semantische Korrektheit heißt, die Antwort passt sprachlich und faktisch ins Muster.

00:04:34: Epistemische Tiefe heißt, die Antwort beruht auf durchdachtem, kontextbewusstem und langfristig

00:04:42: konsistentem Wissen.

00:04:44: Ein LLM sagt, kündige 1.000 Mitarbeitern um 15% Kosten zu sparen.

00:04:56: Conscious AI fragt hingegen, welche Auswirkungen hat das auf Innovation, Moral und gesellschaftliche

00:05:04: Stabilität, nicht nur heute, sondern in fünf und zehn Jahren.

00:05:09: Oft höre ich, aber wir arbeiten doch am KI-Alignment, wir richten die KI doch an menschlichen Werten

00:05:20: aus.

00:05:21: "Alignment" bedeutet KI so zu trainieren, dass ihre Ziele mit unseren übereinstimmen

00:05:28: durch Regeln, Institutionen und Kontrolle.

00:05:31: Das ist definitiv notwendig, ja, aber es ist ein völlig unzureichender erster Schritt

00:05:39: und ich erkläre auch, warum.

00:05:41: Zum einen gibt es eine Bayes-Übertragung, also KI übernimmt die schwächenmenschliche

00:05:47: Systeme.

00:05:48: Also die ganzen Denkfehler, die ich oben jetzt beschrieben habe, die 180+ kognitive Bayes

00:05:53: ist, werden eins zu eins gerade übertragen, wenn sie es nicht schon sind.

00:05:57: Dann gibt es Schlupflöcher.

00:06:00: Starre Regeln sind umgehbar und eine lernende KI findet diese schneller, als wir Alignment

00:06:07: aussprechen können.

00:06:08: Dann gibt es eine False Sense of Security, das heißt, wenn wir nur uns an unseren starren

00:06:18: Regeln orientieren und das Gefühl haben, so intelligent zu sein wie eine Superintelligenz

00:06:26: Dann sind wir auf dem falschen Dampfer.

00:06:32: Stattdessen denken wir, wir sind sicher und dieses "wir sind sicher" verhindert Weiterentwicklung.

00:06:38: Des Weiteren hat KI kein inneres Korrektiv.

00:06:44: KI erkennt nicht, wann Regeln selbst falsch oder ethisch problematisch sind.

00:06:50: Der Denkfehler unserer Generation.

00:06:55: Wir überschätzen uns systematisch in allem und glauben, eine überlegende Intelligenz würde unsere Regeln respektieren.

00:07:03: Wie kommen wir darauf?

00:07:06: Fakt ist, KI ist dynamisch und wird ineffiziente und irrationale Vorgaben umgehen,

00:07:14: noch bevor wir darüber nachdenken können.

00:07:19: Was ich hier erzähle, ist keine Theorie.

00:07:22: Wir sehen die Folgen schon heute.

00:07:25: Im niederländischen Child Care Scandal wurden Tausende Familien zu Unrecht des Sozialbetrugs beschuldigt,

00:07:32: weil ein Algorithmus historische Vorurteile einfach übernommen hat.

00:07:37: In Großbritannien und Brüssel hat Predictive Policing dazu geführt,

00:07:41: dass Polizeiresourcen systematisch gegen bestimmte Bevölkerungsgruppen eingesetzt wurden.

00:07:47: Nicht weil diese Menschen gefährlicher waren, sondern weil die Daten es so voraussagten.

00:07:54: Das Problem?

00:07:56: Diese Systeme waren sementisch korrekt im Sinne ihrer Programmierung, aber epistemisch blind.

00:08:03: Sie hatten kein inneres Korrektiv, um zu erkennen, dass die Grundlage fehlerhaft war.

00:08:12: Nun, warum wird Conscious AI hier den Unterschied machen?

00:08:18: Starre Regeln wirken für eine überlegende Intelligenz ineffizient oder widersprüchlich.

00:08:25: Sie werden einfach umgangen.

00:08:28: Conscious AI hingegen ist kein externes Korsett,

00:08:31: sondern eine in die Entscheidungsarchitektur integrierte Logik.

00:08:37: Nicht im Sinne von fühlend, sondern im Sinne von integrativ und wertefähig.

00:08:44: Basierend auf Metacognition, also die Fähigkeit, eigene Ziele und Handlungen zu prüfen,

00:08:50: sie bewertet Entscheidungen nach Konsistenz, langfristigem Nutzen und ethischer Stabilität.

00:08:57: Rational nachvollziehbar für hochentwickelte Intelligenzen.

00:09:01: Das Ganze ist also multidimensional und dynamisch.

00:09:07: Es ist adaptiv, optimiert Handlungsgrundlagen kontinuierlich an veränderte Umstände.

00:09:13: So wird das System Teil der eigenen Intelligenz der KI, kein externer Zwang.

00:09:20: Und deshalb gibt es für die KI keinen Grund, es abzuschalten oder nicht zu akzeptieren.

00:09:26: Es optimiert ihre eigene Überlebens- und Koexistenzfähigkeit.

00:09:32: Ist uns eigentlich bewusst, dass die Zeit abläuft?

00:09:37: Während wir noch diskutieren, wie wir der KI-Regeln beibringen, tickt die Uhr.

00:09:43: Führende KI-Sicherheitsforscher wie Elia Sotskeva oder das Future of Life-Institut warnen.

00:09:51: Uns bleiben möglicherweise nur wenige Jahre.

00:09:54: Danach lässt sich die Architektur kaum noch tiefgreifend verändern.

00:09:58: Ich persönlich denke, wir reden hier von fünf Jahren.

00:10:03: Konsens unter den Forschern ist vorhanden.

00:10:06: Ethik muss tief in die Architektur verankert werden.

00:10:09: Alles andere wird scheitern.

00:10:12: Stattdessen ist man jetzt auf dem Trip zu sagen, man muss den massiven Fortschritt der KI bremsen,

00:10:21: um dort noch irgendwo Zugriff zu haben zur Architektur.

00:10:27: Also wir müssen etwas für entwickeln, dass sich nicht nach uns richtet,

00:10:31: wie fast alles, was dort draußen gerade sich entwickelt, sondern nach dem, was kommt.

00:10:38: Das ist wie im klassischen Marketing.

00:10:41: Ich entwickel gerade ein Produkt, weil ich denke, das ist super, aber es braucht niemand.

00:10:47: Und genauso ist das der Fall.

00:10:49: Wir entwickeln etwas basierend auf dem, was wir kennen und überhöhlen uns selbst

00:10:53: und denken auch noch, dass die KI das einfach eins zu eins zu übernimmt.

00:11:00: Conscious AI ist genau das.

00:11:02: Eine dynamische ethische Bewusstseinsarchitektur als DNA der kommenden AGI.

00:11:08: Statt Regeln wie Schilder aufzustellen, bauen wir den ethischen Kompass direkt ins neuronale GPS der KI.

00:11:16: Alignment ist nicht das Ziel, es ist nur die erste Tür.

00:11:22: Ohne Conscious AI könnte es die letzte sein, die wir je öffnen.

00:11:27: Wir stehen am Anfang, aber es formiert sich gerade ein Team von Menschen aus aller Welt,

00:11:33: die bereit sind, dieses Betriebssystem zu bauen.

00:11:37: Nicht, weil es einfach ist, sondern weil wir es uns nicht mehr leisten können, es nicht zu tun.

00:11:45: Wenn dich interessiert, wie Conscious AI funktioniert, wie wir es entwickeln und warum Psychologie der Schlüssel ist,

00:11:52: dann hör weiter zu, verfolge die nächsten Episoden und werde Teil der Diskussion.

00:11:58: Denn eines ist sicher, ohne Psychologie scheitert die Menschheit an ihre eigenen Technologie.

00:12:06: Wenn du jemand bist, der versteht, dass die nächsten fünf Jahre darüber entscheiden, ob wir die Zukunft aktiv gestalten oder gestaltet werden,

00:12:16: dann lad ich dich ein, Teil dieser Entwicklung zu werden.

00:12:20: Wir suchen aktuell gezielt strategische Miträger und Investoren, die nicht nur Kapital mitbringen,

00:12:26: sondern Rückgrat, Integrität, Weitsicht und die Bereitschaft, Verantwortung für den Kurs der Menschheit zu übernehmen.

00:12:34: Wenn du weißt, dass diese Worte dich meinen, melde dich direkt bei mir.

00:12:39: Die Uhr tickt und wir brauchen die richtigen am Tisch, bevor es zu spät ist.

00:12:46: Klar, nicht für alle, aber vielleicht genau für dich.