Warum AI-Safety mehr als nur Technik ist

00:00:00: Willkommen bei klar, nicht für alle, dem Podcast für radikale innere Führung und ethische Customer Experience.

00:00:08: Heute geht es um ein Thema, das mehr Unternehmen betrifft als viele Ahnen.

00:00:14: Was bedeutet eigentlich AI Safety?

00:00:19: Also die Sicherheit und Vertrauenswürdigkeit von KI im praktischen Unternehmensalltag.

00:00:28: In der öffentlichen Debatte dominieren Schlagworte wie KI Machine Learning oder Chatbots.

00:00:36: Doch hinter dem Buzzword steckt eine viel grundlegendere Herausforderung.

00:00:43: Nämlich die Frage, wie verhindern Unternehmen eigentlich, dass sie auf Illusionen hereinfallen?

00:00:51: Illusionen von Sicherheit, Fortschritt, Nullkontrolle, die sie später als gefährlich und potentiell ruinös herausstellen könnte.

00:01:03: Denn AI-Safety.

00:01:05: Es ist keine bloße technische Frage.

00:01:09: Es ist eine Frage, wie Unternehmen Entscheidungen mit Vertrauen und Verantwortung treffen.

00:01:15: Gerade auch, wenn die Technik komplex und vor allen Dingen undurchsichtig ist.

00:01:23: Illusionen führen zu Fehlentscheidungen, schleichenden Schäden und existenziellem Risikon.

00:01:34: Das Problem, das wir haben, ist, dass es sehr viele KI-Lösungen gibt, die angeblich von Personality-AI sprechen.

00:01:44: Im Schweizer Markt und international sieht man viele Anbieter, die ganz selbstbewusst behaupten, Persönlichkeit in KI integriert zu haben.

00:01:56: Doch in der Praxis ist das oft nichts anderes als Pseudo-Storytelling.

00:02:02: Wo Psychologie und Wissenschaft fehlen, entsteht Personality AI, häufig als bloßer Marketing Trick.

00:02:12: Ich erinnere mich, wie jemand eine Demo-Version von mir nahm, die Antworten in ChatGPT einfügte und dann behauptete, das ist jetzt Personality AI.

00:02:26: Guck mal, ChatGPT können das auch.

00:02:29: Zusätzlich wurden Vorlieben und Labels frei erfunden, ohne jegliche Validierung.

00:02:39: Der Rat, den Sie mir gaben, war erschreckend.

00:02:43: Verkaufe dein Modell schnell, bevor es wertlos wird.

00:02:50: Und hier reden wir von Wissenschaft.

00:02:52: Wissenschaftliche empirische Fundierung.

00:02:57: Das steht symptomatisch für eine Mentalität in vielen Innovationsteams und zeigt auch das Mindset der Gesellschaft.

00:03:07: Schnelle Hex ohne Ethik kaum wissenschaftliche Absicherung.

00:03:13: Man kauft Blackboxes für Quick Fixes.

00:03:20: Das Risiko?

00:03:22: Unternehmen kaufen und nutzen vermeintlich innovative Lösungen, die weder Validität noch Verantwortung bieten.

00:03:31: Diese Trennung zwischen Show und Substanz erzeugt gefährliche Illusionen und gefährdet Markt und Menschen.

00:03:41: Was bedeutet das konkret?

00:03:43: Unternehmen investieren in Lösungen, die in realen Tests nicht bestehen.

00:03:48: Die Konsequenzen sind gravierend.

00:03:51: Zum einen entstehen falsche Entscheidungen im Kundenservice, Marketing oder HR und unter Graben Vertrauen sowie Effizienz.

00:04:02: Das zweite, leider sieht man das erst viel zu spät.

00:04:08: Die Quick Fixes sind ja meistens im Vordergrund.

00:04:10: Es sind vor allen Dingen viele Investitionen.

00:04:13: Die bedeuten Geld, Zeitverlust und natürlich auch Ressourcen, die anderswo dringend hätten gebraucht werden können.

00:04:22: Und das, was am meisten wehtun wird, sind die Reputationsschäden.

00:04:26: Wenn Kunden oder Mitarbeitende merken, dass die Technologie eine komplette Fassade ist.

00:04:32: Im Endeffekt riskieren Firmen nicht nur Umsatz, sondern ihre Zukunftsfähigkeit.

00:04:37: Gerade in Zeiten des raschen technologischen Wandels bedeutet das existenzielles Risiko, den man kauft einfach ein ohne zu hinterfragen für Quick Fixes, Quick KPIs, die aber langfristig den Kopf kosten können und höchstwahrscheinlich werden.

00:05:00: Was bedeutet jetzt nun menschenzentrierte KI?

00:05:04: Wie kann man das aushäbeln?

00:05:07: Bei Exidion AI gehen wir bewusst einen anderen fundierten Weg.

00:05:13: Wir bauen auf wissenschaftlich validierte Psychologie.

00:05:16: Denn technologische Systeme ohne fundiertes Menschenverständnis sind blind.

00:05:23: Psychometrie erprobt in realen Business Kontexten zeigt, wie Menschen wirklich ticken, nicht wie sie sich idealisieren.

00:05:32: Wir entwickeln also ein Framework für Transparenz, Nachvollziehbarkeit und menschliche Ausrichtung.

00:05:42: KI darf keine Black Box sein.

00:05:44: sondern sollte Entscheidungen erklären können.

00:05:49: Das ist kein Marketing-Gag, sondern reines Überleben langfristig.

00:05:57: Ein Fundament, das Unternehmen schützt und sie befähigt, souverän und ethisch mit KI zu agieren.

00:06:03: Diese Haltung verhindert Abhängigkeit von unkontrollierbaren intransparenten Outputs und reduziert operative Risiken erheblich.

00:06:16: Zeigen wir mal paar Beispiele.

00:06:18: Wie sieht denn das genau aus?

00:06:20: Nehmen wir mal einen Kundendialog im Service-Center.

00:06:25: Exidion würde jetzt erkennen, wen es gerade vor sich hat.

00:06:29: Nicht nur über Namen und Kundennummern, sondern anhand psychometrischer Muster im Verhalten, im Dialog.

00:06:37: So passen sich Sprache, Ton und Tempo individuell an.

00:06:41: Manche Kunden brauchen klare, schnelle Fakten.

00:06:44: Andere wollen zuerst Vertrauen spüren.

00:06:47: Einheitschatbot, sondern ein echt menschliches Gespräch.

00:06:55: Produktempfehlungen.

00:06:56: Statt Plumperkäufer X, Y und Kauften auch Z-Algorithmen, was ja wirklich jetzt kalter Kaffee ist, liefern wir Angebote, die auf die Persönlichkeit und Bedürfnisse des Kunden eingehen.

00:07:11: Ein Kunde mit Sicherheitsbedürfnis bekommt andere Vorschläge als ein Abenteurer.

00:07:16: Das führt zu weniger Frust, höherer Relevanz und vor allen Dingen besseren Conversion-Raten.

00:07:21: und ganz ohne manipulative Tricks.

00:07:25: Nehmen wir ein weiteres Beispiel.

00:07:27: Feedback und Reclamationen.

00:07:29: Viele Unternehmen sehen Reclamationen nur als Kosten- und Störfaktor.

00:07:33: Wir gehen hier tiefer.

00:07:35: Was ist die Motivation hinter einer Beschwerde?

00:07:37: Ein Bedürfnis nach Sicherheit, Suche nach Anerkennung, Ärger über Intransparenz?

00:07:43: So verwandeln wir Beschwerden in Chancen, indem wir passgenau Antworten, die wirklich treffen und Veränderungen ermöglichen.

00:07:52: Ein weiteres Beispiel, Gesundheits- und Versicherungsberatung.

00:07:56: Der Ton macht die Musik.

00:07:58: Manche Menschen wollen nüchterne Zahlen, Wahrscheinlichkeiten und klare Regeln.

00:08:03: Andere brauchen zuerst ein Gefühl von Fürsorge und Stabilität.

00:08:06: Exidion hilft, diese Unterschiede systematisch zu erkennen und passend in Beratungsgespräche einzubauen.

00:08:13: Dadurch entstehen Vertrauen und nachhaltige Bindungen.

00:08:18: Der Kern hier ist Grounding statt Fassade.

00:08:23: Also Substanz zuerst, bevor etwas in die Umsetzung kommt.

00:08:30: Und hier liegt auch der zentrale Unterschied.

00:08:32: Zwischen Pseudo-Personality AI, die nur Oberfläche ist und es keine echte Validierung gibt, die man vorzeigen kann, vor allen Dingen auch im der Implementierung in KI.

00:08:49: Das eine ist Wissenschaft per se.

00:08:51: ein Modell und das andere ist wissenschaftlich, das umgesetzt zu haben und zwar so, dass man das nachvollziehen kann und auch auditieren kann.

00:09:05: Also das eine ist Pseudung und das andere ist eine menschenzentrierte Architektur.

00:09:12: Wir bauen hier also keine schönen glänzenden Spielzeuge, sondern eine Brücke zwischen Psychologie und Technologie.

00:09:19: Inklusive einer Firewall gegen Missbrauch, Motivationsdrift und Fehlentscheidungen.

00:09:27: Denn wenn Technologie in ihre Grenzen stößt, dann ist der menschliche Kontext die einzige Leiter, die uns daher rausführt.

00:09:36: Wenn dein Unternehmen glaubt, es sei mit Buzzwords sicher, dann denkt noch mal genau nach.

00:09:43: Denn sobald die Fassade bricht, merkst du schnell, du hast nicht nur Technologie eingekauft, du hast vor allem dem Risiko höchsten Grades eingekauft.

00:09:58: Wenn du einen anderen, solideren Weg gehen willst, der wirklich trägt, schützt und Vertrauenschaft, lass uns sprechen.

00:10:08: Wir sind erst ganz am Anfang.

00:10:11: Wir bilden gerade einen Konsortium von verschiedenen internationalen Universitäten, die an dieser Architektur mit uns gemeinsam bauen.

00:10:22: Gleichzeitig baue ich ein Team auf.

00:10:25: Ich bin in Gesprächen.

00:10:27: für eine CTO-Rolle.

00:10:31: Und ich bin immer noch auf der Suche nach einem Lead Scientist, der hilft, die gesamten Universitäten zu leiten.

00:10:40: Falls das von einem von euch hier zutrifft, dann freue ich mich über eine Kontaktaufnahme.

00:10:47: Ansonsten denkt nochmal drüber nach.

00:10:51: Einfach KI irgendwo blind einzusetzen, ohne dass ein Anbieter klar erklären kann.

00:10:59: Woher der Output kommt, ist eine Gefahr.

00:11:03: vor diesem Hintergrund, wie sich KI heute entwickelt.

00:11:08: Nämlich zu einem Eigenleben, was wir hier im Alltag noch gar nicht merken, aber hinter den Türen im großen Big Tech ist das schon Alltag.

00:11:21: Ich freue mich daher auf all diejenigen, die einen ethischen Weg gehen möchten.

00:11:29: Klar, nicht für alle.

00:11:31: aber vielleicht genau für dich.