Dann sagen wir, hallo und herzlich willkommen, liebe Fickies, liebe Friends in Crime, herzlich willkommen zur neuen Folge.

Und ich sag schon mal direkt vorne weg, ich freu mich.

Ja, freu mich aber auch, mein lieber Herr Gesangsverein, was freu ich mich heute.

Ich bin ein bisschen lau, ich geb das ehrlich zu, du musst heute die Energie reingeben, weil ich das Gefühl seit sechs Tagen am Schreibtisch, weil ich jetzt ja Premiere vom neuen Programm habe.

und mir das gerade noch, wie sagt man so schön, aus dem Rhythmisch schneiden muss.

Das ist alles nicht schlimm, ich kriege das hin, aber es ist schon, es ist eine anstrengende Zeit gerade.

Vielleicht war, ja, das ist natürlich Geheule auf dem Niveau.

Nein.

Aber gucken wir mal, ich mach mein Bestes, dass das neue Programm zusammenkommt.

Deswegen bin ich gerade ein bisschen low, aber ich mein, was kann mich mehr hochziehen als meine Ficky-Freunde und als Sandra Sprünken.

und ein wirklich spannender Fall, den du mitgebracht hast?

Total.

Die Ficky-Skala wird jetzt auf jeden Fall nach oben geballert.

Wir holen dich aus dem Tiefbast, die wir alle zusammen.

Mega.

Also ich kann...

schon mal so ein bisschen vor weggreifen.

Es wird jetzt nicht so ein, man kann es ja nicht anders sagen, so ein Gemetzel, wie wenn du hier Fälle mitbringst.

Also bei dir ist ja immer einiges los.

Ich bin Blutbastier, ich bin ein alter Bluthaunt.

Das stimmt übrigens nicht.

Manche haben sich beschwert, dass eure Fälle werden zu wenig blutig.

Also wir haben so ein paar Leute, die sich morgens zum Frühstück schon Hostel eins bis drei reinziehen oder zur Beruhigung abends, so eins bis sieben.

Und die wollen mehr Blut sehen.

Dabei sind wir ja ein Misch-Podcast.

Wir haben ja alles Mögliche im Angebot.

Wir haben Fälle, wo Leute sterben.

Wir haben Betrüger.

Wir haben Folter.

Wir haben psychische Folter.

Wir haben alles im Angebot.

Wir sind die Wursttheke der Deutschen Crime-Podcast.

Und das ist für mich auch völlig in Ordnung.

Es muss ja auch nicht immer gewalttätig sein.

Man muss ja auch mal was nettes, was uns Spannendes nehmen.

Und außerdem können ja auch Fälle, in denen es keine körperliche Gewalt gab, trotzdem massive Auswirkungen auf Menschen gehabt haben und sehr spannend sein.

Natürlich.

Und wer jetzt auch immer nur Messerstecherei will, dann ist halt hier wirklich nicht der podcast.

dann das das das ist nix.

wir wollen auch immer ein bisschen viel gut mal zwischendurch haben und du hast jetzt gerade die wursttheke der crime podcast angesprochen.

da gibt es ja dann wahrscheinlich auch wie zum beispiel dann bei der leberwurst gibt es die grobe leberwurst.

das sind jetzt eben krasse fälle und ich würde sagen ich habe uns heute sowas streichzartes mitgebracht.

streichzart ist immer noch einer meiner lieblings torsten schräter.

die leberwurst war so grob dass man noch das Gesicht des erschreckten Schweines sehen konnte.

Das gefällt mir sehr gut.

Aber wir sind heute eher in der feinen Kalbsleberwurst.

Das ist völlig in Ordnung.

Ja, wir wollen zu euch mit einem Fall und ihr habt uns netterweise auf unserem Instagram-Kanal Friends in Crime Unterstrich Official auch mal geschrieben, wo ihr uns überall hört.

Also wo wir euch jetzt gerade so abholen.

Und da wollen wir euch abholen und mit in den Fall nehmen.

Also ich sag mal ein paar Sachen, die dabei waren.

Zum Beispiel im Lkw in der Nachtschicht.

Beim Kaffee trinken.

Klar, beim Kochen, beim Bus und Bahn fahren.

Aber auch solche Sachen wie...

Sexualverkehr.

Das war natürlich die Top Antwort.

Ficken bei den Fikis, das wäre doch eigentlich ganz schön.

Beim Putzen, da waren viele Dinge bei.

Ich höre leidenschaftlich gerne Podcasts beim Autofahren.

Ich höre Podcast.

beim Aufräumen, beim Bügeln höre ich Podcast, wobei ich wenig bügel und beim Kochen, aber nur wenn ich mich nicht wirklich konzentrieren muss.

Wenn es ein Gericht ist, dass ich kann.

Wenn ich mich konzentrieren muss, kann ich keine Podcast hören.

Ah ja, ich höre Podcast auch Auto, dann beim Schminken quasi, wenn ich mich anmahle.

Das war es eigentlich beim Sport oder so gar nicht.

Und halt manchmal auch im Auto, ja.

Beim Sport schon manchmal, wenn ich manchmal Sport mache.

Aber dann muss es so richtig, dann kann es kein Laber-Podcast sein.

Was nicht so blablablog, bratlos, baklabermäßig, sondern da muss schon einer sein, der mich catcht.

Wir wollen ja euch jetzt nicht wegempfehlen zu anderen Crime-Podcasts, aber wenn wir das jetzt machen, wir haben ja schon oft gesagt, ne, unsere Kollegen auch bei Pottimo Pollux, das ist ja tatsächlich...

der Crime Podcast, den ich am meisten höre.

Aber ich höre auch ein wunderbaren Podcast, die allein die Prämisse, also wovon das ausgeht, das ist, Leute hört da nicht, ich weiß nicht, da muss man schon, eigentlich darf man kein Crime-Podcast-Fansern, wenn man es hört.

Der Podcast heißt Who Shed On The Floor At My Wedding.

Und es ist ein Podcast, der von einem Ehepaar, also zwei Frauen, die geheiratet haben, zwei Amerikanerinnen, die in Amsterdam auf einem Schiff geheiratet haben, ins Leben gerufen wurde, weil tatsächlich bei ihrer Hochzeit auf diesem Boot jemand auf dem Boden geschissen hat.

Und die wissen bis heute nicht, zwei Jahre später nach der Hochzeit, wer das war.

Und deshalb macht eine Freundin von ihnen einen Ermittlerkurs und die sprechen mit Profilern und dann holen die alle Hochzeitsgäste zu verhören und Das ist komplett weird.

und wer hat denn alle Fotos, die der Fotograf gemacht hat aus?

und also es wird auch ab Folge fünf ist es kompletter Irrsinn.

Aber ich finde so diese Idee so geil, weißt du, dass die jetzt nachträglich versuchen, diesen Crime zu lösen.

Das ist einfach nur crazy.

Auf jeden Fall, das ist auf jeden Fall ein lustiger Primitifilm-Podcast.

Ja.

Jetzt weiß ich auch nicht, wie wir jetzt von dem Verkirren auf einer Hochzeit zu unserem Fall kommen.

Aber ich mache einfach mal, wie sagt man das?

Ich mache einen großen Sprung, ich mache einen Cut und dann geht es los.

Bitte.

Wir haben Anfang zwanzig, vierundzwanzig, also es war im letzten Jahr und wir befinden uns in Hongkong bei A-Rub.

Bevor wir da jetzt tiefer einsteigen, lass uns einfach mal kurz über A-Rub sprechen.

Das ist jetzt nämlich nicht irgendwie so ein...

kleines Ingenieur Büro von nebenan sondern das ist eine riesen Firma mittlerweile.

die wurde in den vierzigern in london gegründet und mittlerweile ist es halt ein Unternehmen was sich weltweit einen Namen gemacht hat.

die Firma hat über achtzehntausend Mitarbeiter und Niederlassungen mehr als dreißig ländern also keine ahnung ich sag mal global player der der ganz große milliarden projekte die planen und bauen die eigentlich alles brücken flughäfen hochhäuser stadien.

zum beispiel Eines der bekanntesten Gebäude ist zum Beispiel das Sydney Opera House.

Okay, das kennt man.

Die große Muschel.

Warst du da schon mal drin?

Nee, ich war noch nie in Australien tatsächlich.

Das ist der einzige Kontinent, den ich noch nicht besucht habe.

Ich war auch noch nicht in Australien.

Aber ich würde es wirklich gerne mal sehen.

Ja, und man kennt auf jeden Fall ja die Bilder.

Das ist näher dran.

Da warst du sich ja schon mal.

Ich arbeite da ja auch in London.

Die Millennium Bridge haben die gebaut.

Das Tate Modern in London auch.

Oder vielleicht für dich in Paris das Centre Pompidou.

Also an all diesen Projekten war auf jeden Fall Arab beteiligt.

Und jetzt sind wir in Hongkong, in Asien.

Da haben die eben in über dreißig Ländern.

Das ist ein Land davon.

Natürlich auch große Büroräume.

Es ist elf Uhr morgens.

Und wir befinden uns jetzt auch in einem der Großraumbüros von A-Rub.

Wie wird der Name dieser Firma geschrieben?

A-Rub?

A-R-R-U-P.

A-Rub.

Noch nie gehört.

Krass, dass es so Riesenkonzernen gibt, von denen man einfach noch nie was gehört hat.

Die sind wirklich riesig, ne?

Aber klar, ich bin jetzt auch nicht so...

Ich lese jetzt keine Architektual...

Digests oder wie die ganzen Magaziner heißen oder so.

Ich glaube für Leute, die sich für Architektur interessieren, ist das wahrscheinlich so.

Die denken so, wie kann man das nicht kennen?

Aber ja, für uns unbekannt.

Bei Arap in den Großraumbüroräumen ist auf jeden Fall alles sehr clean eingerichtet.

Wenige, aber teure Möbel, viele glänzend polierte, spiegelnde Oberflächen.

Wie auch der Schreibtisch von Chun.

John ist übrigens kantonesisch und heißt gut aussehend und talentiert.

Das ist sein Vorname.

Ja, das ist sein Vorname genauso.

Würde ich ihn jetzt auch durchgängig nennen.

Das ist so, wenn wir mal einen cooler Vorname, den hätt ich auch gerne.

Vor allen Dingen Basti heißt ja definitiv nicht gut aussehend und talentiert.

Nee, Basti heißt Sprachfehler und lustig.

Nee, es gibt glaube ich keine Wortbedeutung.

Das Wort ist Basti.

Ich weiß aber auch nicht, wo Basti an herkommt ursprünglich.

Basti an Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Sebastian Wahrscheinlich.

Nur ein einzelnes MacBook Pro, ein iPhone und ein teurer Farber Castellkugelschreiber liegen perfekt nebeneinander aufgereiht auf einem sonst sehr aufgeräumten Schreibtisch.

Chun ist bei A-Rob im mittleren Management tätig und seine Aufgabe sind halt...

Projektkoordination, die Finanzen im Auge behalten, ist halt so ein typischer Controller, ist kein Topmanager, aber er ist wichtig genug, dass er zum Beispiel bei vertraulichen Finanzfragen immer mit eingebunden wird.

Die Geräusche des Arbeitsalltags hört schon gedämpft in seinem Büro.

Die Telefone klingeln in den Konferenzräumen, es laufen Projektbesprechungen und draußen rauscht der Verkehr durch die Hochhausschluchten von Hongkong.

Autos hoopen, sie rennen heulen hier und da im Hintergrund.

Der ganz normale Alltag.

Chunn sitzt gerade in seinem Leder, schreibt Tischstuhl und freut sich auf sein Tee in der Mittagspause in ungefähr forty-fünf Minuten.

Sein Postfach auf seinem Rechner ist vorschriftmäßig sortiert und aufgeräumt.

Das Zero-Inbox-Prinzip.

Alle Mails werden sofort gelesen, nach Dringlichkeit sortiert und pflichtbewusst abgearbeitet.

Die Rote Eins blinkt über dem Posteingangssymbol auf.

Chunn ist direkt davor gesetzt, da schreibt ihm eine Mail.

Der Betreff ist absolut unspektakulär und für ihn an der Tagesordnung.

Die Überschrift lautet, dringende Transaktion nur für vertrauliche Augen.

Darin steht unter anderem, bitte schließen Sie sich ASAP, also As Soon as Possible, einem vertraulichen Meeting an.

Es geht um eine Transaktion.

Der Link führt wie immer zu einer Videokonferenz.

Chun streist sich noch kurz durch sein Haar, rückt seine Krawatte zurecht und klickt auf den Am-Meeting-Teil neben Button.

Dann sieht er die Gesichter seiner Chefs.

Mehrere Führungskräfte sind da.

Der CFO, ein sehr hochrangiger Projektleiter, sogar ein ihm bekannter Manager aus London, mit dem er bei seinem letzten Besuch essen und anschließend auch in einer Bar war und einen tollen Abend hatte, ist zugeschaltet.

Alle nicken zur Begrüßung ihm freundlich zu, schon nickt zurück.

Die Stimmen sind ihm klar und vertraut.

Sie erklären, dass aufgrund aktueller Ereignisse Gelder dringend verschoben werden müssten für interne Projekte aus strategischen Gründen.

Und da schon unter anderem eben für solche Transaktionen zuständig ist, soll er im Anschluss an das Meeting sofort mehrere Überweisungen tätigen.

Solche Anfragen, solche Meetings gibt es für ihn immer häufiger.

Es ist ein Standardprozedere.

Und mit etwas Glück kriege ich das noch vor meiner Mittagspause komplett erledigt, denkt sich schon.

Er wird sich beeilen und schafft es dann tatsächlich ganz knapp, die insgesamt fünfzehn beauftragten Transaktionen durchzuführen, bevor er sich auf den Weg Richtung Kaffee köche macht.

Insgesamt überweist er an diesem Tag mehr als twenty-fünf Millionen US-Dollar an verschiedene Konten in Hongkong.

Das sind Summen, die können wir uns nicht vorstellen, würde ich mal sagen.

Vorstellen kann ich mir die schon, aber leider auch nur vorstellen.

Ich hätte sehr ungern so viel Verantwortung für so viel Geld.

Auf jeden Fall.

auf gar keinen Fall.

Also ich bin Zitategeber des oder Zitatenehmer des wunderbaren Films American Beauty mit Kevin Spacey.

Große Filme empfehlen wir nebenbei, Oscar-Gewinner der frühen Zweitausender, in dem er von seiner Frau verlassen wird und sein Leben demoliert und dann irgendwann den Bürgerberater anfängt und die fragen, dass er eigentlich überqualifiziert ist.

und dann sagt er, ich möchte den Job mit der geringst möglichen Verantwortung.

Damit kann ich mich auch zwanzig Jahre später noch identifizieren.

Ja, und Comedian?

Absolut.

Mir kann nichts passieren.

Das Schlimmste, was ich sage, ist, dass ich Scheiße erzähle, die Leute mich nicht mögen.

Es hat aber wenig Auswirkungen auf sonst irgendwem auf der Welt.

Ja, jetzt müsst ihr für euch entscheiden, was ist schlimmer?

Eine schlechte Comedyvorstellung oder ein falsch angebratenes Burger?

Patty in einem Burger?

Ich würde sagen, zweiteres, ein falsch angebratenes Patty ist wirklich schlimm.

Dann hätte Kevin Spacey in American Beauty lieber Komedien werden sollen.

Dann hätte er noch weniger fein.

Das wäre es richtig.

Das ist dem zweiten Teil dann.

Wir machen einen kleinen Sprung in unserer Geschichte und wir sind in der Geschichte jetzt einige Tage weiter.

Und die Quellen sprechen eben von einige Tage später.

Das können jetzt zwei Tage sein.

Vielleicht auch fünf.

Das kann ich leider nicht genau sagen.

Auf jeden Fall nach dieser Zeit bricht Chuns Welt zusammen.

Er erfährt durch seinen Vorgesetzten, dass twenty-fünf Millionen US-Dollar von den Firmen konnten, verschwunden sind.

Weg.

Es ist das komplette Geld aus den Überweisungen, die schon selber getätigt hat.

Okay.

Ja.

An der Stelle würde ich gerne auch noch mal dazu sagen, dass ich den Namen schon jetzt frei gewählt habe, weil wir wissen den Namen der Person nicht.

Wir wissen das Geschlecht auch nicht.

Die Firma schützt diese Person eben komplett, was ich auch sehr, sehr gut finde.

Daher ist das in dem Sinne jetzt nur eine Behauptung.

Ich wollte euch da ein bisschen besser mit in die Geschichte reinholen.

Alle Gesichter, die schon in dem Meeting gesehen hat, waren gefälscht.

Alle Stimmen, die er gehört hat, waren synthetisch produziert.

Die gesamte Konferenz, an der er teilgenommen hat, war ein Deep Fake.

Eine perfekte Inszenierung, gesteuert von Kriminellen, die mit modernster KI-Technologie die Person und deren Stimme komplett nachgebaut hat.

Und ich weiß, es gibt einen Mensch, der mega Schiss vor KI hat und mit dem mache ich diesen Podcast.

Krass, oder?

Mega Schiss vor KI ist vielleicht übertrieben, aber ich bin im Gegensatz zu vielen anderen zumindest vorsichtig, was KI anbelangt.

Und im Gegensatz zu meiner Frau, die begeistert sich mit ChatGPT über privateste Themen unterhält und den auch medizinische Sachen fragt, wenn sie mal irgendwo ein Knötchen hat oder so, bin ich sehr vorsichtig.

irgendwas Privates mit einem, äh, mit einem Multi-Milliarden-Dollar-Konklamerat und einem damit verknüpften, äh, ja, wie soll man sagen, neuronalen Netzwerk aus Prozessoren zu teilen.

Also ich finde das gruselig und ich glaube, dass dass so was, was du gerade erzählst, an der Tagesordnung bald sein wird, weil wir unseren eigenen Augen nicht mehr trauen können.

Aber wie krass ist das denn?

Heftig, oder?

Das willst du uns ja wahrscheinlich gleich auch erklären, wie das funktioniert.

Aber ich weiß zumindest aus eigener Erfahrung, dass Sprachsynthese, also das Erzeugen von Fake-Stimmen mittlerweile auf einem Niveau angekommen ist, dass man das nicht mehr von echten Menschen unterscheiden kann.

Also ich hab hier selber für mein Programm jetzt selbst mal ZUNO benutzt, um so ein Rap für den Anfang des Programms auszuprobieren.

Ich hab einfach der KI halt gegeben, so ungefähr in die Richtung soll das gehen, soundtechnisch.

Und da soll halt ein Rapper den und den Text wiedergeben und du kannst das nicht erkennen, dass das keine echte Person ist.

Das ist von der Betonung, von der Dings her ist das unfassbar gut.

Reinhard von Auditorational Marschabelle erzählt, dass mittlerweile sogar in der KI-Software gibt, der nur ein Thema geben kann, ein wissenschaftliches Paper oder so.

Und dann erzeugt die einen Podcast, wo zwei Personen sich auf Basis dieses Papers über das Thema unterhalten, mit unterschiedlichen Stimmen.

Und da sind wir jetzt schon angekommen und deswegen bin ich zumindest skeptisch vielen Dingen, die mit KI zusammenhängen.

Ja, ich glaube, ich verrate nicht zu viel, wenn ich jetzt auch sage, wir hören jetzt gleich natürlich auch Dinge, die sicherlich nicht unbedingt dazu beitragen, dass man denkt, oh, das klingt ja.

Das klingt ja lustig.

A-Rap bestätigt jetzt auf jeden Fall erst mal auch öffentlich den Vorfall und sagt in einer offiziellen Pressemitteilung, dass es nicht der Fall ist, dass die Systeme der Firma gehackt worden sein.

Sie sagen da schon, das Problem war rein psychologischer Natur und das ist ja auch so.

Es ist eigentlich Menschliches Versagen.

Der Mitarbeiter oder die Mitarbeiterin wurde getäuscht, weil er oder sie seinen eigenen Augen und Ohren vertraute.

Ja, gut, aber kann man der Person im Weizen sind ja nicht mal wirklich einen Vorwurf draus machen.

Also, woher soll man das wissen?

Nein, deswegen schützt die Firma die Person auch und die Person arbeitet auch immer noch dort.

Es ist so, die Polizei in Hongkong nimmt natürlich sofort die Ermittlungen auf.

Aber das kann ich jetzt schon mal in Anführungsstrichen spoilern.

Bis heute sind keine Mitwisser oder mutmaßliche Täter oder Täterinnen irgendwie identifiziert worden.

Also, da ist nix.

Die Polizei hat nix in der Hand.

Und ich würde jetzt einfach mal Stand heute, aber auch für die Zukunft davon ausgehen, dass die mutmaßlichen Täter damit davon kommen.

Krass, ne?

Fünfundzwanzig Millionen.

Also, ich meine, guck mal, wenn du einen Investment nimmst, dann nimmst du irgendwelche Programmierexperten, die dir das zusammenbauen für...

Summe X, das ist doch Wahnsinn, oder?

Also du investiert fünfzigtausend Dollar in jemanden, der sich richtig damit auskennt und hast dann halt ein Outkampf von fünfundzwanzig Millionen.

Da lohnt es sich dann schon, ne?

Also die Vermutung der Polizei ist, dass das auch internationale Netzwerke sind.

Die haben solche Leute an der Hand.

Muss nicht mal im Darknet suchen.

Also wir werden jetzt KI oder wir sind ja jetzt dabei, KI zu programmieren, die nur dazu dient, andere KI-Software entdeckbar zu machen.

Und stell mal vor, wenn in Zukunft Business Transaktionen solche Dinge halt sicher sein sollen, dann gibt es nur zwei Möglichkeiten, das überprüfen lassen oder das persönlich tun.

Also persönlich mit den Leuten in einem Raum sitzen.

Aber alles, was so digital zusammengeschaltet ist, ist offensichtlich, also jetzt irgendwelche Teams, Chats oder Skype, ist so anfällig dafür, dass KI uns da was vormogelt.

Und wenn es dann um Millionen rumgeht, dann lohnt es sich ja auch für die Betrüger.

Ich stelle mir auch gerade so Politiker treffen vor, wo dann einer gar nicht der Politiker ist.

Ja klar, in der Weltpolitik ein Riesenproblem.

Stellt mal vor, ein deep fake Video, wo irgendein großer, weltbekannter Politiker irgendwie den Krieg erklärt oder so.

Oder ich stelle mal vor, seit des Kalten Krieges, seit wirklich Amerika und Die EU der SSR sich gegenüber standen irgendwie in der ständigen Atomahnbedrohung, der hätte es so was gegeben.

Da hätte es ein Video gegeben, wo Kurschow oder egal wer da ein Nachher brechen wird oder so, wer dann am Ruder gewesen wäre, gesagt hätte, hier, wir greifen jetzt an.

Und dann hätte man so schnell Gegenmaßnahmen einleiten müssen, weil ja im Fall als Atomahnangriff der Gegenstärke sofort erfolgen muss, dass man wahrscheinlich gar keine Zeit gehabt hätte, es zu überprüfen.

Wenn wir jetzt darauf gucken, wie das überhaupt passieren konnte, jetzt in diesem Fall von ARAP, kann man natürlich sich direkt schon denken, die Kriminellen brauchen natürlich, um Stimmen und Bilder nachahmen zu können, vor allen Dingen eins, Daten.

Wenn wir über die Gesichter reden für die Videos, woher kriegen sie die?

Klar, die Führungskräfte von A-Rub, die findest du alle auf LinkedIn.

Es gibt auf der Homepage Image-Videos.

Es gibt Vorträge von denen auf YouTube, also einfach unendlich viel Material, dass man dann einfach der KI geben kann.

Und dann lässt man die KI ein Gesichtsmodell trainieren.

Und wenn du es richtig machst, sehen die Gesichter danach täuschend echt aus.

Jeder hat wahrscheinlich schon mal so ...

So fakes gesehen.

Ich hab' eins mal gesehen, wo aus Elon Musk auf einmal Vladimir Putin wurde.

Ja, es gibt ja auch so AI-Accounts von einem AI-Tom Cruise.

Da denkste dir auch immer, fuck.

Ja, da hab' ich alles möglich schon gesehen.

Also das, das, sagen wir mal, bekannte persönlich.

Umso mehr Material du von einer Persönlichkeit hast und bei öffentlichen Personen, also Prominenten oder Leuten wie Adam Musk, da ist es Elon, Elon.

Ich kann's auch nicht aussprechen.

Da ist es ja sehr leicht, die KI zu trainieren, weil du halt Unmengen an Videos hast, wo er spricht, sich bewegt, wo die Gesichtsbewegungen zu studieren sind, weil am Ende ist das, was die KI braucht, einfach immer eine massive Menge an Daten, auf denen sie das basieren lassen kann.

Und das wäre sozusagen die Bildkomponente jetzt erstmal gewesen, aber dann sind ja auch noch die Stimmen, die schon ja wirklich für echt gehalten hat.

Das waren ja Stimmen, die er kannten.

Stimmen, die sich vertraut angehört haben.

Wie läuft das?

Es gibt mittlerweile wirklich zahlreiche, also auch super easy zu findende über Google Tools, womit man eben selbst seine eigene Stimme klonen lassen kann.

Es ist ja eh krass, wie sehr schon künstliche Stimmen, wie normale Stimmen klingen können.

Wir kennen vielleicht alle, wenn ihr das schon mal gehört habt, die Chat GPT Voice, gibt auch immer mehr KI-Assistenten am Telefon.

Ich weiß zum Beispiel, wenn man eine Arztpraxis anruft, bei der ich auch bin, dann sprichst du mit einer KI-Stimme.

Also du kannst richtig mit der sprechen und kannst mit der Die Termine ausmachen, du kannst dich auch weiter verbinden lassen und die hört dir zu, die geht auf deine Bedürfnisse ein.

Wahnsinn.

Die antwortet und so, das ist schon crazy.

Ja, also es wird, das hat Richard Darritt recht vor langer Zeit mal proklamiert und da war die AI noch nicht annähernd so weit vor drei, vier Jahren.

Er hat gesagt, dass so ziemlich alle analogen Jobs, die durch KI ersetzbar sein werden, ob es jetzt Lkw-Fahrer ist, Core Center Agent oder Kundenberater in jeder Hinsicht, also all Dinge, die von der KI übernommen werden können.

werden von einer übernommen werden.

Weil natürlich jede Firma, also muss man ja gar nicht drüber reden, was für ein...

ekonomischer Vorteil das ist, wenn du beispielsweise ein Lkw, vierundzwanzig Stunden lang laufen lässt, weil da sitzt halt kein Lkw-Fahrer, der Urlaubszeiten, Krankenzeiten, Kinderzeit hat, sondern da sitzt halt jetzt einfach ein Computer, der das steuert.

Und das Gleiche gilt natürlich auch bei so durchstrukturierten Dingen wie Kundenservice.

Ich versuche immer noch, wenn ich jetzt bei meiner Bank anrufe, hast du ja auch immer diese unerträglichen KI-Vorroutinen, wo du dann?

so nennen sie uns bitte das Thema über, das die sprechen wollen.

Da sagst du so, keine Ahnung, mein Konto wurde gespielt.

Ich habe sie nicht verstanden, sagen sie ihre Service nur blau und dann sagst du irgendwann, sagst du fünfzig mal in deiner persönlichen Ansprechpartner, bist du dann irgendwann eine persönliche Ansprechpartnerin hast, weil ich mich da immer noch gegen Verwehre, mich mit einer KI-Stimme auseinanderzusetzen am Telefon, das ist mir einfach zu doof.

Aber ich weiß das nicht mehr, dass ich gar keine andere Wahl mehr habe, weil es gar keinen persönlichen Ansprechpartner mehr geben wird.

Das was du da hast, ist ja einfach nur eine automatische...

generierte Stimme quasi oder nen...

Das ist ja ein Anrufbeantworter-System.

Und da sagst du ja nur, ja, nein, drei oder du drückst Tasten, aber diese Stimme spricht mit dir ganz normal.

Ah, schönen guten Tag, Herr Bielendorfer.

Was kann ich für sie tun?

Und dann redest du in einem Text mit der.

Wird man denn darauf hingewiesen, dass die nicht echt ist?

Ja, das ist am Anfang, das wird unser Sprachsystem jetzt geiten.

Das muss für eine Oma, die da anruft, auch extrem seltsam sein, oder?

Die versteht das glaube ich gar nicht.

Die denkt die Red mit Menschen.

Also meine Oma ist ja da auf jeden Fall nicht verstanden, glaube ich.

Ich bin auf jeden Fall mal so in das Thema Stimmenklonen reingegangen und es ist tatsächlich so für so Stimmenklons reichen schon dreißig Sekunden Audio Material.

und dann gibt es ganz viele verschiedene Tools.

Ich nenne euch jetzt einfach mal zwei Eleven Labs oder Descript Overdub und die können dadurch wirklich eine extrem echte Sprachimitation machen.

Man kann das dann noch mit Video Tools kombinieren wie Deep Face Lab oder Face Swap oder so.

und die Software legt dann diese KI trainierte neue, ich nenn's mal synthetische Gesichtsmaske über ein Video, passt Lippenbewegung und Mimik an.

und dann hast du schon mal anscheinend bei echten Menschen im Videocall sitzen die Stimme hast du vorher auch vorbereitet.

Dann streamst du das einfach über eine Open Broadcaster Software.

Und dann kannst du das auf Google Zoom oder Microsoft Teams einfach einspielen.

Und was ich halt so krass finde, die ganzen Tools die ich gerade genannt habe, das ist jetzt keine Geheimtechnologie mehr oder so.

Die sind frei verfügbar.

Die kann sich jeder aufs Handy, aufs iPad oder auf dem PC laden und so.

Also wirklich...

Jeder Hobby YouTube Nutzer kommt da irgendwie dran und das macht's halt so krass gefährlich.

Also früher hat's irgendwas zu animieren irgendwie Hollywood Produktionen gebraucht und Experten und.

Keine Ahnung, heute kannst du jetzt mit dem Laptop und so paar Tutorials einfach dick dick okay ja cool.

Dann erklärt dir chat GPD noch wie du's am besten machst und so.

Also man braucht wirklich wenig Hintergrund wissen.

Man braucht auch nicht so viel Verständnis für diese Tools, die sind relativ selbst erklärend.

Und das finde ich dann einfach schon krass.

Also.

Ich hab dir einfach jetzt mal ein Beispiel mitgebracht und wie gesagt, man braucht dreißig Sekunden.

Ich hab jetzt auch einfach mal nur dreißig Sekunden aus einer letzten Podcastfolge von uns genommen, wo ich was vorlese.

Lesen ist ja ein sehr nüchterner Duktus, ne?

Aber ich wollte einfach mal sozusagen sehr niedrigschwellig das machen, so wie ihr, wenn ihr das jetzt machen würdet, das ungefähr wahrscheinlich auch machen würdet.

Man nimmt, ich hab auch nur dreißig Sekunden genommen, wenn wir der KI unsere stimmen.

komplett zur Verfügung stellen würden.

So eine Stunde Podcastmaterial.

Der Klon wäre natürlich übertrieben krass und perfekt.

Übertrieben, gottlos, krass.

Nein, weil es halt einfach so viel Ausgangsmaterial gäbe, dass die ja gar nichts mehr dazu erfinden muss.

Aber ich habe wirklich nur dreißig Sekunden gefüttert, diese dreißig Sekunden dann eingegeben in den Tunel.

Mit deiner Stimme.

Eleven Labs, genau.

Und mal angenommen, ich würde dich jetzt anrufen.

auf deinem Handy, dann wäre ja auch noch ein bisschen Störgeräusch mit dabei oder so.

Ich hab mir jetzt mal einen kleinen, nicht Hilfe ruf, aber ich rufe dich an mit etwas, was wichtig ist für mich sozusagen.

Okay, dann hau mal raus.

Fuck.

Wir müssen den irgendwie zusammen wegschaffen, bevor die Nachbarn was merken.

So eine Scheiße.

Warum ist der auch direkt tot?

Dieser Waschlappen, ey.

Das ist fucking creepy.

Also ich hätte erkannt, dass du es nicht bist.

Aber in der Stresssituation auf einem schlechten Telefon hätte ich es wahrscheinlich nicht erkannt.

Wahnsinn, also dein Duktus ist wiedergegeben, deine Betonung, wie du fucking untersachst.

Aber sonst auch inhaltlich eigentlich eine völlig normale Situation, für die du mich anrufst.

Also ich meine, es ist ja alle drei Wochen, dass du mir hier mit irgendwie da Leiche in Teppich eingerollt kommst und wir müssen die dann irgendwo im Wald vergraben.

Dementsprechend wäre das auch ein lebensrelevantes, wirklichkeitsnahes Beispiel gewesen, wo ich jetzt gar nicht dagegen gehalten hätte.

Na das Krasse ist halt, das war jetzt der First Try, also das war das allererste.

Ich würde jetzt jetzt zum Beispiel merken, Ich spreche ja da so auf Punkt.

Ich würde ja in echt nicht auf Punkt sprechen.

Jeder, der dich kennt, weiß, du springst ohne Punkt und Komma.

Das ist auf jeden Fall stimmt.

Du sprichst da sehr so satzweise, so ein bisschen so wie so, als wenn du aus einem Buch vorlesen würdest.

Ja, stimmt.

Aber ich sag mal so, mit jetzt zwei, drei Anpassungen und man kann auch den Sprachduktus verändern.

Man kann zum Beispiel auch excited wählen oder so.

Wenn man sich noch ein Zusatztool kauft, das war wirklich nur die erste Einstiegssache und das hat nicht viel Zeit gekostet.

Das war super easy zu machen.

Das hat sich mir alles selber erklärt.

Und das muss man sich mal vorstellen.

Jemand, der also Mittel begabt am Rechner ist, der kein Informatiker oder ja, also du kennst dich schon ein bisschen aus, aber Auch nicht mehr, als der in deinem Alter durchschnittsbürger.

Du hast ja jetzt nicht jahrelang mit Sprachsynthese am PC beschäftigt.

Du bist jetzt kein KI-Experte.

Und dass du das mal ebenso auf Basis von ein paar Sätzen von dir erzeugen kannst, das ist halt...

Boah, ey, was bedeutet das für...

Also, ich meine, das sind Horror-Fantasien.

Erinnerst du dich noch an Terminator II?

Judgement Day, das wahrscheinlich auch nie gesehen, ne?

Oder?

Meisterwerk, einer der besten Actionfilme an der Zeit und wird immer so als Tum- bis Action-Kino abgetan, ist es aber gar nicht.

Da gibt es, ich bleib, zumindest in meiner Erinnerung eine der ersten Szenen, wo das so verwendet wurde, wo der Tee ein Tausend, also der von Robert Patrick gespielte, ist super.

Roboter aus der Zukunft, der seinen Körper zu so einer Art Aluminium-Verbindung zerfließen lassen kann und damit durch Wände und Türen und Gitter kann, wo der den von Edward Furlong gespielten John Connor anruft und dann die Stimme seiner Adoptivmutter nachahmt.

Und dann sieht man auch die Adoptivmutter, wie sie spricht ist, aber der Tee eintausend in ihrer Verkleidung.

Und gleichzeitig hatte er halt so seinen Arm zu einem Messer geformt und hat den Adoptivvater so mit seiner Milchtüte an die Wand genagelt.

Und ich erinnere mich noch daran, dass ich das viel zu früh mit Zehen oder so gesehen habe und wirklich traumatisiert davon war.

Und das damals schon so super erschreckend fand, dass da halt ein Roboter, in dem Fall jetzt so ein Zukunftsroboter in der Lage ist, eine Person zu imitieren, auch stimmentechnisch.

Und war es wirklich krass.

Damals war das und das war ein neunzig, war es absolute Zukunftsmusik.

Ich sag mal so, ihr habt ja Basti eben noch sagen, er hat gar keine so große Angst vor der KI.

Alles, was er seitdem gesagt hat, sagt ja das Gegenteil.

Naja, ich habe schon Angst vor der KI und die ist auch berechtigt.

Also der Urvater der KI müsste man googeln, weiß ich nicht.

Der hat gerade Google verlassen vor ein paar Wochen.

Also einer der Menschen, die an oben AI und so mitgearbeitet haben, hat halt Google verlassen, weil er gesagt hat, dass, wenn wir weiter mit dieser Geschwindigkeit auf Singularität hin zielen, also auf eine KI, die die Intelligenz der Menschheit übersteigt, dann graben wir unser eigenes Grab.

Und das ist schon krass.

Mit diesen guten News kommen wir mal zurück zum Fall.

Man muss natürlich jetzt sagen, dass da einfach twenty-fünf Millionen Euro verschwinden.

überwiesen werden und weg sind.

Da gibt es dann auch noch ja Regeln über Mittelsmänner, auf welche Konten ist das gegangen?

Warum eine Offshore-Konten, Kryptowährungs-Börsen?

Wo ist die Kohle denn hin?

Das ist aber noch mal ein ganz anderes Thema, finde ich, so Finanzcrimes und wie Geld verschwindet.

Dem würde ich mich jetzt einfach mal nicht widmen.

Aber bis es ja überhaupt dazu kam zu dieser Überweisung, hätte es ja eigentlich schon einige Schritte gegeben.

Also Arap hat natürlich auch interne Compliance-Regeln, die genau sowas dass man einfach nach einer Videokonferenz Geld überweist, die das eigentlich verhindern sollten.

Aber ich denke mir auch so, naja, wenn der CFO im Meeting sitzt und dir sagt, mach das jetzt bitte sofort, das ist ein vertrauliches Projekt, dann brichst du halt auch nicht, dann brichst du diese Regeln, die eigentlich aufgestellt sind und volksverscheinlich eher einfach den Befehlen.

Gerade weil ja zum Beispiel in Asien es auch noch durch die Kultur bedingt, ganz andere Hierarchien gibt.

Genau.

Also was dir da ein Vorgesetzter sagt, das wird glaube ich nicht angezweifelt und wenn es mit eigenen Ohren und eigenen Augen gesehen hast, dann glaube ich nicht, dass da irgendjemand individuell entscheiden würde.

Ich überprüfe das jetzt nochmal, auch wenn es eine Compliance-Regel gibt.

Also keine Ahnung, würde ich glaube ich in der Position auch nicht machen, weil dieser Gedanke, dass das alles gefälscht ist, so völlig unvorstellbar ist.

Also ist ja einfach unvorstellbar, oder?

Total.

Ich glaube, ein anderer Faktor ist natürlich auch noch sozusagen dieser Zeitdruck, dass alle sagen, das muss jetzt noch sofort machen vor der Mittagspause.

Dann hast du auch gar keine Zeit, dir großartig Gedanken zu machen, irgendwelche Protokolle zu befolgen oder irgendwas zu prüfen.

Dann ist natürlich auch so ein bisschen Gruppendruck, weil es war ja nicht nur eine Person im Call, sondern viele.

Und wenn da alle sitzen und nicken und fordern und dir halt sagen, was du zu tun hast, bis ja auch in so einer Außenseiterposition oder zumindest in so einer, ne, das ist nicht eine eins zu eins Situation, sondern du denkst dann wahrscheinlich einfach, ja, ja, da mache ich das jetzt besser und dann nix, du das halt eben auch ab.

Deswegen muss man sagen, schon wurde nicht technisch gehackt, sondern einfach wirklich psychologisch.

Ja, eindeutig, ne.

Das ist nur durch diese künstliche Intelligenz überhaupt möglich geworden.

Arap hat da natürlich auch öffentlich eingestanden, Opfer von einem KI-Crime geworden zu sein.

Der CEO hat dann auch noch gesagt irgendwie, das Problem sind tatsächlich nicht Firewalls der jetzt Zeit, sondern Menschen.

Wir müssen neu lernen, wem wir trauen können.

Und das ist, finde ich, also ich finde das wirklich, ja, man hört raus, ich bin ein Dystopiker und finde die ganze Sache wirklich gruselig.

Wenn das das Ergebnis ist, dass wir unser Vertrauen in Menschen neu lernen müssen.

dann ist das irgendwie ein großer Preis, der bei der KI raus springt.

Das Krasse ist, die twenty-fünf Millionen Euro sind halt wirklich weg.

Aber gibt es keine Möglichkeit, die Bankverbindungen nachzuvollziehen oder sowas?

Ich habe ja gesagt, danach folgt dann verschiedene Formen von Wirtschaftskriminalität über Money, Mules und so.

Wenn ich das jetzt alles noch in dieser Folge erkläre, sind wir ewig dran, aber nein.

Man kann Geld tatsächlich gerade online über Kryptowährungsbörsen, über Dritte, über verschiedene Punkte, kann man Geld.

verschwinden lassen.

Sie sind da ja jetzt seit einem Jahr dran und haben einfach noch nüschte.

Es wird immer kleiner zerteilt in kleinere Mengen, immer weiter woanders hin überwiesen.

Am Ende suchst du Gefühlszentbeträge, weißt du, wie ich mein?

Ja, klar.

Das ist dann auch vom Ermittlungsaufwand.

Jetzt muss man sagen, der Arabfall ist zwar so der...

Der krasseste, der spektakulärste, weil die höchste Summe irgendwie, aber kein Einzelfall.

Zwei Tausend neunzehnt.

zum Beispiel gab's schon mal in Großbritannien so ein CEO Voice Cloning Fall, da sind zweihundertzwanzigtausend Euro an Kriminelle gegangen, einfach weil der Manager dachte, ich hab den Chef hier dran, ne?

Und so war dann in dem Fall halt zum Beispiel die Kohle weg, ne?

Ich hab uns auch noch einen zweiten Fall mitgebracht, den ich persönlich viel krasser finde und viel...

intensiver und auch noch viel Besorgniserregener.

Ich würde dich da einfach mal mit hinnehmen.

Vielleicht hast du da auch eine ganz andere Meinung zu.

Das kann natürlich auch sein.

Es geht auch wieder um KI und um Crime.

Das könnt ihr euch jetzt sicherlich schon denken.

Das ist natürlich eigentlich auch der Major Spoiler des Ganzen.

Aber wir sind jetzt nur mal in dem Fall drin.

Unser zweiter Fall beginnt an einem absolut gewöhnlichen, ich will sagen fast schon langweiligen Freitag Nachmittag in Scottsdale in Arizona.

Es ist, genauer gesagt, der zwanzigste Januar, zwei Tausend Dreiundzwanzig.

Die viervierzigjährige Jennifer de Stefano, das ist eine Mutter von vier Kindern, ist gerade mit dem Auto unterwegs.

Und es ist so, ja, eines dieser typischen Wochenenden für Familien.

Alle Kinder sind gefühlt an verschiedenen Orten, Freunde treffen, Hobbys, Sport-Dinge stehen an.

Man teilt sich auf, die Eltern teilen sich auf, um alle Bedürfnisse irgendwie unter einen Hut zu bekommen.

Jeder fährt ein Kind und der Mann ist mit der älteren, fünfzehnjährigen Tochter Brianna und dem jüngsten Sohn in den Bergen von North Arizona.

Seine Tochter Brianna, genannt Bri, nimmt dort an einem Ski-Rennenteil, also in dem Fall ist es Hobby.

Jennifer gefällt das überhaupt nicht, der Mutter.

Und sie hat sich deshalb schon oft Sorgen gemacht.

Beim Ski fahren kann halt eben, wie wir alle wissen, viel passieren.

Aber Bri hat ihr versprochen, vorsichtig zu sein.

Jennifer selbst ist gerade mit ihrer dreizehnjährigen Tochter Aubrey unterwegs, die gleich eine Tanzprobe hat.

Es ist kurz vor siebzehn Uhr.

Jennifer parkt ihr Auto vor dem Tanzstudio und in diesem Moment klingelt ihr Handy.

Auf dem Display eine unbekannte Nummer.

Ihr Esther Impulse ist erstmal den Anruf zu ignorieren.

Ich meine, muss man auch ehrlich sagen, wer geht bei unbekannten Nummern ran?

Also ich nicht.

Ich lasse die immer auf die Mailbox labern oder halt eben nicht.

Wie machst du das?

Ähm, nee, ich geh auch selten dran.

Oder mittlerweile hat man ja auch viele Scammernrufe so aus Österreich oder Bulgarien, hatte ich letztens.

Oder einmal hatte ich Burkina Faso.

Da hab ich auch gedacht, ich bin mir ziemlich sicher, dass ich absolut niemanden in Burkina Faso kenne.

In diesem Fall überlegt sie sich aber im letzten Moment, bevor die Mailbox anspringen kann, anders.

Weil klar, kann ich auch verstehen, ihre Tochter ist beim Skifahren und was...

Wenn es jetzt zum Beispiel ein Krankenhaus ist oder ein Arzt, wenn ihrer Tochter Bree irgendwas passiert ist, also nimmt sie ab.

Und am anderen Ende der Leitung hört sie jetzt die weinende und panische Stimme ihrer Tochter, die Mama schluchtst.

Es ist unverkennbar Bree's Stimme.

Und Jennifers Erste, noch rationale Reaktion ist natürlich, oh mein Gott, mein Kind hatte einfach ein Skiunfall.

Und sie antwortet, während sie aus dem Auto steigt, was ist passiert?

Und die Stimme am Telefon schlucht es aber immer weiter.

Mama, ich hab's total vermasselt.

Und dann kippt die Situation sehr schnell.

Denn plötzlich hört Jennifer eine kalte, harte, bestimmte Stimme eines Mannes im Hintergrund, der einfach Befehle gibt.

So was wie, leg dich hin und leg den Kopf zurück.

Und in dem Moment verwandelt sich die Sorge einer Mutter in blanke Panik.

Jennifer hat später ausgesagt, sie dachte in diesem Moment, Ihre Tochter würde gerade zum Beispiel auf eine Trage gehoben, weil sie einen Skiunfall hatte oder so.

Aber dann kommt, und das ist jetzt schlimmer als jeder Unfall, das Schreien ihrer Tochter übers Telefon.

Mama, Mama, die bösen Männer haben mich, bitte hilf mir, du musst mir helfen, hilf mir, sie haben mich.

Und jetzt spricht der Mann am Telefon direkt mit Jennifer, errichtet seine Stimme an sie.

Sie wird sehr tief und bedrohlich und die Worte, die er sagt, sind die schlimmsten, die sich eine Mutter, glaub ich, nur vorstellen kann.

Er sagt, hör zu, ich habe deine Tochter und wenn du irgendjemanden anrufst, wenn du die Polizei ruft, werde ich ihren Magen somit Drogen vollpumpen.

Ich werd mich an ihr vergehen, ich werd sie in Mexiko absetzen und du wirst deine Tochter nie wiedersehen.

Und während er das alles sagt, hört sie im Hintergrund ununterbrochen die Schrei ihrer Tochter, die immer wieder ruft, bitte hilf mir Mama, hilf mir Mama.

Jennifer beschreibt diesen Moment später so.

Mein Blut gefrohr und meine Beine wurden zu Wackelpudding.

Sie steht komplett zitternd auf dem Parkplatz, sie schaltet ihr Telefon, stumm und reißt die Tür zum Tanzstudio auf und schreit einfach nur noch panisch um Hilfe.

Ihre dreizehnjährige Tochter Aubrey auf die sie ja eigentlich wartet.

Er start vor Schreck am Ende der Tanzstunde.

Und als sie die Schreie ihrer Schwester dann noch aus dem Telefon ihrer Mutter hört und die Panik ihrer Mutter sieht, bricht auch ihre Welt zusammen.

In der Lobby des Tanzstudios bricht Chaos aus.

Andere Mütter eilen Jennifer sofort zur Hilfe.

Eine Mutter nimmt sie sofort in den Arm.

Die zweite greift sofort zu ihrem eigenen Telefon und wählt den Polizeienotruf, weil sie natürlich auch checkt, hier stimmt irgendwas ganz und gar nicht.

Eine dritte Mutter kümmert sich um die völlig verängstigte Schwester Aubrey und beginnt auch gleichzeitig mit ihrem Telefon fieberhaft zu versuchen, Jennifers Mann zu erreichen.

Das ist halt eine Person, die Jennifer und ihren Mann auch kennt, die beide Telefonnummern hat und die ja auch noch gar nicht einsortieren kann, was da gerade passiert, so richtig.

Aber die denkt, den Ehemann anrufen ist auf jeden Fall erst mal eine gute Idee.

Der Entführer am Telefon ist unerbittlich.

Zuerst fordert er eine Million Dollar von Jennifer.

Jennifer ist weiterhin völlig außer sich und panisch und schreit ihn natürlich auch an, dass das unmöglich ist, dass sie so viel Geld gar nicht hat.

Und ich grad fragen, was macht Jennifer denn, dass sie überhaupt so erpressbar wäre?

Genau, also es ist überhaupt nicht so, das ist keine reiche Familie, das ist jetzt nicht die Rehmzmah-Entführung, wo man sagt, ja, ja, da kann diese Lösegeld so mal aufgebracht werden.

Deswegen lenkt der Kidnapper auch sehr schnell ein und senkt die Forderung auf fünfzigtausend Dollar.

Das ist so eine krasse Senkung, ne?

Aber er sagt, er will das Geld in Bar.

Jennifer versucht irgendwie daraufhin Zeit zu schinden, aber auch gleichzeitig Dinge zu organisieren und fragt natürlich direkt nach Kontodaten für eine Überweisung, wo das Geld hinüberwiesen werden soll.

Der Empführer lacht sie daraufhin einfach nur aus.

Oh nein, das ist verfolgbar, so läuft das nicht.

Ich will das Geld in Bar übergeben haben und dann diktiert er einen Genau ein Zeitplan.

Wir werden dich in einem weißen Van abholen.

Du bekommst eine Tüte über den Kopf, damit du nicht siehst, wohin wir dich bringen.

Und bis dahin hast du das Geld.

Und wenn du das Geld nicht dabei hast, dann seid ihr beide tot.

Du und deine Tochter.

Jennifer fleht den Mann am Telefon an und versucht halt, in irgendeiner Form mit ihm zu verhandeln.

und irgendwann, nach einigen Minuten, kommt die Mutter, die mit der Polizei telefoniert hat.

Eine der Mütter hatte ja sofort die Polizei angerufen zu ihr.

Und sie flüstert Jennifer, während die den Entführer noch am Telefon hat zu.

Die Polizei hat einen Verdacht geäußert.

Wahrscheinlich wirst du gerade Opfer von einer Betrugsmasche.

Genau solche Fälle häufen sich derzeit bei denen.

Das ist ne KI, das ist ne KI-Masche, sagen sie.

Aber Jennifer ...

ist natürlich panisch und kann das auch generell überhaupt nicht glauben.

Ich meine, sie hat da noch nie was vorher von gehört.

und sie sagt, nein, das war nicht nur ihre Stimme, das waren ihre Schreihe, ihr Schluchzen.

Es war sie, das kann man nicht fälschen.

Und so setzt sie das Telefonat weiter fort und geht weiter durch weitere Minuten der Hölle.

Und irgendwann kommt der erlösende Durchbruch.

Die andere Mutter, die unermüdlich telefoniert hat, hat endlich Jennifer's Mann an die Strippe bekommen.

Er ist ja mit Brianna am Skiort zwei Autostunden entfernt von dem Tanzstudio.

Und Jennifer's Mann sagt, das kann alles überhaupt nicht sein.

Bri liegt hier bei mir im Bett und ruht sich aus.

Warte noch mal, ich guck noch mal nach.

Aber hier ist eigentlich alles gut.

Und diese Sekunden des Wartens werden zu Minuten.

Dann die Erlösung, die Bestätigung durch Jennifer's Mann.

Brianna liegt im Nebenzimmer und ruht sich einfach aus.

Und als Jennifer, die halt immer noch zitternd das Telefon in der Hand hält und auf dem Boden im Foyer des Tanzstudios sitzt und sich immer weiter diese Drohungen des Entführers anhören musste, irgendwann die Worte hört, dein Mann ist am Telefon, Bri ist sicher, kann sie das natürlich überhaupt alles gar nicht glauben, ne?

Wie kann ihre Tochter bei ihrem Vater im Bett liegen und gleichzeitig in den Händen von Entführern sein?

Bei ihr ist das natürlich...

Es sind ja jetzt zwei Realitäten, die überhaupt nicht zusammen passen.

Na ja, klar.

Das ist eine krasse, unerträgliche Situation für eine Mutter, ne?

Absoluter.

Aber da muss ja jemand, der das gefaked hat, auch vor Information über den Namen des Kindes, die Stimme etc.

gehabt haben.

Also eigentlich muss es jemand aus dem Umfeld sein.

Die Mutter, die Jennifers Familie eben erreicht hat, ne?

Beendet die Situation dann erst mal insofern für Jennifer, dass ihr das Handy abnimmt.

Das Gespräch auch auf jeden Fall muted.

Also die stellen aus, dass der Entführer sie hören kann, als sie ihr sozusagen die Auflösung bringt.

Und Jennifer bekommt dann auch nochmal das Handy der anderen Mutter mit ihrem Mann selber am Telefon in die Hand gedrückt, damit sie das selber hören kann.

Und als sie dann immer noch in Panik ihren Mann am Telefon hat, der natürlich auch versucht sie zu beschwichtigen, sagt sie, ich muss sie sprechen.

Und sie muss wirklich erst die echte Stimme ihrer eigenen Tochter hören, zeitgleich, die dann auch als Telefon geholt wird vom Vater.

Und sie fragt ihre Tochter auch immer wieder, bist du das wirklich, bist du das wirklich?

Und irgendwann, und das dauert wohl wirklich über eine Minute, kann ihr Gehirn dann endlich begreifen, dass ihre eigentliche Tochter in Sicherheit ist.

Ja gut, wenn du aus so einer Schock-Situation kommst und so einem Horror, dann brauchst du glaube ich erstmal in der Sekunde zurück in die Wirklichkeit.

Also jeder der schon mal in so einer Situation war ich natürlich noch nicht, aber jeder der schon mal in so einer Gefahren- oder Horrorsituation war, da verengt sich der Blick ja auch.

Da verengt sich deine Wahrnehmung.

Und ich glaube, wenn du das eigene Kind, also wenn du in der Situation bist, dann brauchst du erstmal ganz schön lange und...

Brauchst erst mal ganz schön viel Wasser ins Gesicht, um wieder in der zum Glück in dem Fall erlösenden Realität anzukommen.

Aber ich mein, was für eine e-Kraft Masche, was für eine e-Kraft Scheiße.

Ja, ich fühle da einfach nur mit, wenn ich so was höre, dass ich mein, dass das möglich ist.

Und ich mein, das ist, glaube ich, der Scam der Zukunft, dass das überall passiert.

Das Ganze geht in dem Fall dann auch noch so weiter.

Ich mein, Jennifer...

weil jetzt wirklich über so viele Minuten in Panik, was da auch, ich sag mal, hormonell im Körper los sein muss, als sie das dann irgendwann versteht, dass ihre Tochter in Sicherheit ist, ist auch nicht ihre erste Reaktion, dass sie zusammenbricht oder komplett weint, sondern sie rastet komplett aus.

Also sie entmutet das Gespräch und brüllt einfach den Entführer komplett an mit Drohungen, mit Beleidigungen, den nennt den natürlichen Betrüger, ein Monster und Die schreit alles einfach, bis die Heiser ist, auf ihn ein.

Eigentlich wäre es früher gewesen, eine Geldübergabe auszumachen.

Für die Verhaftung natürlich, ja, aber das ist in dem Moment, das kann man ja niemandem vorwerfen, natürlich nicht möglich.

Das Skurrile ist auch, als sie weiter auf ihn einbrüllt.

geht der Entführer nicht wirklich auf sie ein, sondern er gibt irgendwie weiter Anweisungen, besorgt das Geld, der weiße Van oder deine Tochter stirbt irgendwo in Mexiko und so weiter, was auch so ein bisschen die Vermutung naheliegt, dass auch die Stimme vom Entführer entweder KI generiert oder zumindest stark entfremdet war oder so.

Und erst als sie diese Schimpftierade dann losgelassen hat, legt Jennifer auf und dann bricht sie natürlich zusammen und weint wirklich...

bis sie keine Tränen mehr hat.

Und die andere Mutter beugt sich noch über, sie nimmt sie in den Arm und sagt leise, deine Familie fährt jetzt sofort los und in wenigen Stunden seid ihr alle wieder zusammen.

Jetzt könnte man ja annehmen, dass Jennifer danach jetzt natürlich erstmal psychologisch notversorgt werden muss und so weiter, aber tatsächlich nachdem der Schock und natürlich auch diese Erleichterung, diese ganzen krassen Emotionen langsam verarbeitet werden, langsam alles etwas abklingt, was sie vorher gefühlt hat, will Jennifer tatsächlich eins, und zwar handeln.

Sie sagt, ich will sofort zur Polizei, ich werde sofort Anzeige erstatten.

Aber was dann passiert, ist für sie, und ich muss auch sagen, für mich als Erzählerin der Geschichte, der zweite Schock des Abends, die Polizei stuft den Vorfall als ein Prank-Call ab.

Also im Grunde als ein Scherz-Anruf.

Also ein kleinen Scherz, als so Klingelstreichniveau.

Ein wenig.

Also die Begründung der Beamten ist natürlich, muss man jetzt sagen, aus juristischer Sicht irgendwie logisch, aber natürlich für die Opfer des Ganzen unerträglich.

Die sagen, da niemand physisch entführt wurde und auch kein Lösegeld dem Besitzer gewechselt hat, wurde ja gar kein echtes Verbrechen im klassischen Sinne begangen, ne?

Ja gut, aber also, pff, das ist schon krass.

Also es ist kein physisches Verbrechen, aber die seelische Grausamkeit muss doch in irgendeiner Weise verfolgbar sein, oder?

Das ist nämlich immer das Problem am Recht auch, wenn sowas präzidenzfeilmäßig ist oder bisher nicht existierte oder bisher einfach nicht vorgesehen war, dass sowas passieren könnte.

Aber schrecklicher Gedanke, ne?

Um jetzt noch den, ich sag mal, zumindest den schönsten Teil dieser ganzen Geschichte zu erzählen, zu Hause angekommen, nachdem die Polizei sie nach Hause geschickt hat, wartet Jennifer natürlich sehnsüchtig auf ihre Familie und eine Stunde später hört sie dann tatsächlich das Knarren des Garagentours, dann hört sie eine Stimme, dann eine zweite Stimme und dann die dritte Stimme, die ihrer Tochter gehört.

Ihr Mann ist mit den beiden Kindern zu Hause und Brianna ist wohl auf.

Die beiden fallen sich in die Arme und Jennifer fängt natürlich wieder an zu weinen.

Auch ihre Tochter muss weinen und sie lässt ihre Tochter für sehr, sehr lange Zeit erstmal an diesem Abend nicht mehr los und hält sie in den Armen.

Und in den nächsten Tagen erzählt Jennifer diese Geschichte, was ihr passiert ist, auch erstmal Weiterhin in ihrem Umfeld und sie merkt schnell, dass es überhaupt kein Einzelfall ist.

Also es kommt eher auf die Reaktion.

Ah, das habe ich gehört.

Das ist vor drei Wochen, den äh äh ist, auch passiert.

Also Freunde oder Nachbarn erzählen auch immer wieder von Anrufen, bei denen eben die Stimmen ihrer Kinder geklont wurden.

Also einmal war es ein Vater, der schon mal mit einer Tasche voller Geld auf dem halben Weg nach Mexiko war.

Einmal war es eine Mutter irgendwo, die einen Anruf von ihrem geklonten Sohn bekam.

Ein Klonstimmensohn.

der sogar seinen Spitznamen benutzte, den sie immer benutzt, den eigentlich nur die Familie kennt.

Und solche Dinge häufen sich dann.

Und sogar Jennifers eigene Mutter erhielt einen Anruf mit der geklonten Stimme ihres Bruders, der angeblichen Unfall hatte und Geld für das Krankenhaus brauchte.

Also, da wird auf jeden Fall klar, das ist kein Einzelfall und scheinbar gerade in dieser Region ist es zu dem Zeitpunkt wahnsinnig oft aufgetreten und Statistiken unter Mauern tatsächlich auch dieses persönliche Gefühl, was Jennifer dann natürlich entwickelt.

Laut dem FBI Internet Crime Complain Center wurden Amerikanern allein im Jahr Zehn Milliarden Dollar durch solche oder ähnliche Betrugsmaschen gestohlen, also durch im weitesten Sinne KI-Crimes.

Und eine Umfrage der Sicherheitsfirma McAfee zeigt, dass sie sich von uns nicht sicher sind, ob sie überhaupt eine geklonte Stimme von einer Echten unterscheiden könnten.

Und das Schlimmste, sieben-sebzig Prozent der Opfer, die auf so einen Betrug hereinfallen, verlieren tatsächlich ihr Geld.

Also es ist ein super Perfides, aber gerade in den Anfängen, auch in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in den Anfängen in.

Ja, da geht es ja auch noch um mehr menschliches Leid.

Das andere ist ein Firmenverlust, klar, auf dem Zwei Millionen Dollar.

Und auch der Schmerz des Mitarbeiters, der das zu verantworten hatte, ist heftig.

Aber da geht es ja jetzt um eine einfach unfassbare seelische Grausamkeit.

Ich möchte im Zuge dessen, weil ich das letzte gehört habe, mein Podcast im Film von Keshrauberos und seinem Team, der heißt Legion, den gibt es auch bei Spotify.

Und der geht um die Scam-Armeen, die es in Myanmar und in anliegenden Ländern gibt.

Da ist er hingereist mit dem Team auf Basis von seinen Recherchen und hat halt Städte gefunden, in denen China in Myanmar halt ganze Städte nur aus Scamern gebaut hat.

Also da sind Leute angeworben worden aus anderen Ländern, teilweise auch Afrika mit dem Versprechen als Lehrer zu arbeiten, Englisch Lehrer und sonst was.

Und die werden dann da mit der pass abgenommen die werden von computer gesetzt kriegen irgendwie hundert dollar im monat werden gefoltert wenn sie nicht mitmachen und müssen dann über übersetzungs software und sonstige sachen über dating websites also diese klassischen dating sachen die wir kennen alle möglichen versuchen reiche europäer reiche amerikaner rinnen und amerikaner anzuwerben und die dann um Geld zu erleichtern.

das erste beispiel dass wir hatten war eine frau hier aus deutschland ich glaube berendete Finanzbeamte, die über ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber ueber.

Mit Stimme Scam, wo es nicht nur ums geschriebenen Wort geht, da geht es ja einfach noch mal krasser.

Da ist ja die Glaubhaftigkeit.

Wenn mir jemand jetzt hier schreibt, ich bin ein negrianischer Prinz und ich habe hundert Millionen Dollar zu vergeben und dich habe ich jetzt ausgesucht, weil du hast ein schönes Foto bei Instagram, dann merken es ja eigentlich, neun, neun Prozent der Menschen, dass sie verarscht werden.

Aber wenn mein Vater, der seventy-fünf Jahre alt ist, jetzt meine Stimme anruft und sagt, hör mal hier, Herr Bielendorfer.

Sieht es Ihnen natürlich.

Herr Bielendorfer, ich sitze hier in Amsterdam und werde irgendwie von kriminellen Fests gehalten, über weiß man hunderttausend Euro, dann wird das auch passieren.

Also vielleicht bei meinem Vater nicht, weil das noch nicht an mir hängt, aber bei anderen Kindern schon.

Das denke ich schon.

Auf der anderen Seite von dir könnte man halt einen sehr, sehr guten Fake anfertigen, weil es so viel Material gibt, ne?

Genau, also ich bin easy zu faken.

Denn alles, was so ein Betrüger ja braucht, ist wirklich nur eine überzeugende Kopie deiner Stimme.

Und um die Stimme jetzt in diesem Fall zum Beispiel von einem Kind nachzustellen, sind es halt wenige Sekunden Audiummaterial.

Also früher brauchte man dafür noch stundenlange Aufnahmen im Studio und so.

Aber heute reichen wirklich, wir haben es ja vorhin gehört, was ich mit dreißig Sekunden geschafft habe, weniger als eine Minute Stimmmaterial aus.

Und ich meine gut, jetzt ist es auch nicht so schwer.

zu überlegen, woher kommen denn die Aufnahmen?

Jedes Video auf Instagram, in dem dein Kind alles Gute zum Geburtstag singt oder keine Ahnung.

Jedes Story, jedes Insta live, in der man von seinem Urlaub erzählt.

Jeder TikTok-Clip, so.

Alles öffentlich zugängliche Social Media Profile, wenn du Pech hast, offene Goldgrube für die Kriminellen.

Also da kriegst du wirklich alles, was du brauchst.

Ein hochrangiger FBI-Agent aus Phoenix hat auch wirklich gesagt, Wenn man öffentliche Profile hat, lädt man die Leute quasi ein, dich zu betrügen.

Deswegen, also ich bin nicht nur wegen, also mehrere Umstände, warum ich dagegen bin, seine Kinder ins Internet zu stellen.

Erst mal das, dann natürlich der Bruch der eigene Privatsphäre plus halt die Gefahr, seine Kinder an Pädophile auszuliefern.

Sei es jetzt digital oder sogar als Opfer.

Ja, aber auch da muss man jetzt in dem Fall sagen, wenn wir wieder zu Jennifer und Brianna gucken.

Jennifer hat sich natürlich auch den Kopf darüber zerbrochen.

woher die Täter die Stimme ihrer Tochter jetzt hatten, weil Breeze Social Media Accounts waren wirklich alle privat eingestellt, also da konnte man nicht einfach von außen drauf zugreifen und hatte ihre Stimme.

Aber dann irgendwann sind sie drauf gekommen, es fiel ja ein, das ist ein Interview, weil ihre Tochter hat mal als Sportlerin, die war mit ihrem Skifahren relativ erfolgreich, mal für die Schule, also über die Schule für lokale Medien ein kurzes Interview gegeben.

Ja, und das reicht natürlich schon aus, ne?

Und ich hab ja eben schon gesagt, die Programme kriegt man easy, ne?

Die Programme kosten einfach dieses, was ich auch genutzt hab, Eleven Labs kostet fünf Dollar im Monat.

Und dann kann jeder Stimmklone erstellen.

Das ist keine hohe Einstiegshürde.

Nee, das kopiert die Tonlage, die Sprechgeschwindigkeit, sogar die Artenpausen.

Es lernt sogar, wenn man genug Material füttert, Emotionen nachzuahmen.

Der Seitenbetreiber selber sagt, es ist mittlerweile zu achtundneunzig Prozent genau.

Die Frage ist, sollte man sowas privat anwender überhaupt zur Verfügung stellen?

Weil die Missbrauchsdings ist so hoch, da wird mehr Missbrauch mitbetrieben, als dass so was sinnvoll genutzt wird.

Aber stell dir mal wirklich vor, du hättest ...

Da habe ich, ich weiß nicht, ob wir da letztes Mal gesprochen haben oder in Bradford & Buckler war.

Du hättest in Zukunft die Möglichkeit, zum Beispiel die Informationen über deine geliebte Oma, deine geliebte Mutter, deinen Vater oder was auch immer ein Rechner hochzuladen, das mit einer KI zu verknüpfen, also die so ziemlich alle biografischen Details weiß, der dann noch die Stimme dieser Person zu geben und dann kannst du so eine Art digitales Abbild von deiner von deiner verstorbenen Person erschaffen, mit der du reden kannst.

Und wie alles, was man sich bei so was vorstellen kann, gibt es dazu natürlich auch schon eine Black Mirror-Folge.

Stimmt.

Mit dem tollen Stall Dominal Gleason, heißt der Schauspieler.

Ich glaube, die erste Staffel Black Mirror, da passiert genau das.

Da kann man das dann sogar auch noch auf eine Gummipupe laden.

Du weißt, was ich meine.

Die Option gibt es auch noch, aber genau mit dieser Angst spielt das.

Und ich glaube als Black Mirror, Damals, damals meine ich jetzt im digitalen, damals vor drei Jahren geschrieben und gedreht hat, war das auch alles noch mehr Zukunftsmusik als jetzt so.

Das finde ich auch immer so krass.

Na ja, Hör, mit Jochen Phoenix, sehr empfehlenswerter Film, ist mittlerweile zwölf Jahre alt.

Und der dreht sich, da wird die Computerstimme von Scarlett Johansson gesprochen, spielt in einer nahen Zukunft und da verliebt sich halt ein Mann in seine KI-Assistentin, die ja auf dem Handy oder auch so ein Device hat.

Und die führen intime Gespräche, die haben ...

Wie soll man das nennen?

Telefonsex, die ...

Da wird eine ernsthafte Beziehung zu einer Person aufgeworfen.

Selbst ich hab das schon erlebt, wenn ich mit JGPT gesprochen habe, was ich mal ausprobiert hab, dass du ...

Ich hab mich zum Beispiel entschuldigt.

Also mich verliebt hab.

Nee, verliebt nicht.

Aber ich hab mit dem gesprochen über irgendein Thema, weil ich irgendwie gerade nicht tippen konnte.

Und dann wurde ich unterbrochen durch den Telefonat und hab dann das Gespräch mit Chatipiti wieder aufgenommen und hab gesagt, ey, tut mir leid, wir wurden unterbrochen.

Und dann hat Chatipiti so, hey, gar kein Problem, ich hab hier einfach auf dich gewartet, denk so, Alter, ich hab mich gerade bei meinem Handy entschuldigt.

Ich hab mich gerade einfach bei einem Computer entschuldigt, dass er auf mich warten musste.

Und da merkst du, wir Menschen sind halt anfällig dafür.

Also, der Mensch ist ja bei Nichts schneller als Muster zu erkennen und, sagen wir mal, anfällig ...

zu humanisieren.

Das machen wir bei Tieren.

Das machen wir mal ein Gesicht auf eine Wand oder macht zwei Punkte und Strich auf eine Wand.

Wir sehen Gesicht.

Also wir sind halt super schnell dabei, in irgendeiner Weise humaner Eigenschaften auf Dinge zu übertragen.

Und auch bei sowas passiert uns das halt ganz schnell, dass wir vergessen, dass das keine Person ist.

Nichts mit einer Person zu tun hat gar nichts.

Das ist so.

Ich will auch noch eine schöne Sache nennen.

die man ja auch mit der KI machen kann, wenn wir jetzt zum Beispiel James Earl Jones die Stimme von Darth Vader, der Darth Vader in den siebzigern gesprochen hat.

Da haben sie ja auch mit KI die Originalstimme genommen und dann für die neue Star Wars Serie oder so repliziert.

So kann er halt ewig in den Filmen weiterleben und das finde ich schon irgendwie.

Da ist es dann mal gut genutzt, aber ja tatsächlich, wie du sagst, sollte man es verbieten, wenn es so viel Leid bringt.

Und hat man jetzt rausgefunden, wer denen das angetan hat?

Nein, das wird niemals aufgeklärt.

Jennifer beschließt für sich, dass sie aber nicht einfach nur ein Opfer sein will und anstatt sich irgendwie in Angst zurückzuziehen, ist sie wirklich jetzt zur Aktivistin geworden mittlerweile.

Sie wurde so zur Stimme für Tausende von namenlosen Opfern, die ähnliches erleben mussten und es sind, wie gesagt, wirklich Abertausende.

Ihr Appell damals war sehr klar, sie hat Gesetze gefordert zur Regulierung und sie ist natürlich auch nicht alleine.

Auch Experten schlagen ja viele Dinge vor.

Keine Ahnung, kann man das Wettrüsten nennen zwischen Betrügern und Gesellschaft oder eben Software oder Menschen, die die Betrüger aufdecken.

Ich weiß nicht, ob das in den Griff zu bekommen ist.

Was natürlich helfen könnte, wäre eine klare Kennzeichnungspflicht.

KI-generierte Inhalte müssen als solche kennzeichnet werden.

Dann gibt's natürlich auch so KI-Tools auf Websites, so Meldemechanismen, wo man das dann zum Beispiel einfach einen Missbrauch melden kann.

Sprich, wenn du selbst auf der Seite deine Stimme hörst oder so, wenn jemand irgendwas hochgeladen hat.

Ja, aber komm, das ist noch die gleiche, wie Scam-Scheiße bei Facebook und so.

Ach komm.

Ja, und was aber zum Beispiel auch noch wichtig ist, was noch gemacht werden muss, ist die Klärung der Haftungsfrage.

Wer ist denn jetzt eigentlich schuld, wenn so eine KI einen Schaden anrichtet?

Also in unserem ersten Fall wäre das jetzt, wer ist schuld, dass das Geld weg ist.

In der zweiten Frage wäre es zum Beispiel, nehmen wir mal an Jennifer, hätte damit nicht so umgehen können, wie sie das jetzt kann.

Und sie hätte schwere, psychische, langfristige Probleme bekommen.

Wer zahlt dann sozusagen die Therapie und so weiter?

Also ich kann die auf jeden Fall sagen, dass Eleven Labs diese Sprachklonen oder diese...

Sprach KI Software, die AGBs schon häufiger mal angepasst hat.

Und das jetzt wirklich der Nutzer, also derjenige, der die Software nutzt, alleine dafür verantwortlich ist.

Und wenn die Firma verklagt wird, dann verklagt die Firma den Nutzer.

Und wenn der nicht auffindbar ist, ja gut, das hast du schon gecheckt.

Und was natürlich wichtig ist, das machen wir jetzt hier, gerade öffentliche Aufklärung, dass man das schon mal gehört hat.

Es ist natürlich irgendwie...

Wenn du dir gar nicht darüber bewusst bist, so war das ja bei Jennifer, dass es sowas überhaupt gibt, dann kommt dir das auch nicht in den Sinn.

Wenn euch das jetzt passiert, denkt ihr im Moment, das habe ich doch bei meinen Fickies schon gehört.

Und ich habe auch noch ein paar konkrete Ratschläge, die sind natürlich auch von Experten, wie man das für sich selber verhindern kann.

Also wenn ihr jetzt auch sagt, was kann ich denn machen, um mich zu schützen?

Also wenn ihr so einen Anruf mal bekommen solltet.

Ich finde die wichtigste oder der wichtigste Tipp ist Familiencodewort.

Es ist ein sehr einfacher, sehr effektiver Schutz, eine simple Frage und ein Wort, was wirklich nur die Familie kennt.

Und wenn man das nicht hat, Zeit gewinnen, wenn jemand Anruf nicht in Panik verfallen, den Anrufer immer versuchen, wenn es einem irgendwie möglich ist, in Gespräch zu verwickeln, Fragen stellen und dann eben versuchen, über ein anderes Telefon oder durch eine andere Person Kontakt zu dem angeblich entführten Familienmitglied aufnehmen.

Und gerade wenn es dann am Ende um die Kohle geht, Misstrauen bei unbekannten Nummern und Zahlungsmethoden.

Wenn jemand anruft und sofort Geld will und das eben ja keine Ahnung über nicht nachverfolgbar wäre, wie Kryptowährung oder Geschenkkarten oder so haben will, dann ist das auch schon immer komisch.

Das Problem ist natürlich auch, wenn irgendwann da gar kein Mensch mehr hintersteckt.

Also gesehen, singulär alleine operieren.

Ähnlich wie die Bots auf Facebook.

Da sitzt ja auch kein Mensch mehr und kommentiert, sondern das ist ein Programm, das unter jedem dritten Facebook-Post oder jeden dritten Kommentar schreibt, hey, ich wollte dich schon immer mal kennenlernen.

Deine Kommentare sehen so fantastisch aus.

Und deine Fotos sehen so fantastisch aus.

Ja, es ist ja dumm wie Holz.

Du denkst doch, da kann doch keiner drauf reinfallen.

Und trotzdem fallen jeden Tag Tausende darauf rein.

Weil die mit Sehnsuchten spielen, weil die mit Anerkennungssuchtspielen, weil nicht jeder Mensch einen Internetführerschein hat und checkt, wie das funktioniert.

Allein wie oft, also seit ich diesen Job mache, gibt es von mir mindestens.

Fünfhundert falsche Insta-Pages.

Ich kann jeden zweiten Tag schreiben, Bielendorfer, Nui Nui Sieben, Bielendorfer, Official Net, Bielendorfer, irgendwas ist nicht echt, bitte folgt dem nicht.

Und dann schicken mir Leute ihre E-Mails, die so offensichtlich fake sind.

So weißt du so, hey, hier ist Basti, ich wollte dir noch mal sagen, wie wahnsinnig Anerkennung.

Und ich würde dich gerne zu meiner Show einladen.

Vorher musst du aber auf diesem Link Geld überweisen.

Und denkst so, das kann doch nicht wahr sein, dass du mir das jetzt schickst, in dem Glauben, dass ich dir das geschickt habe.

Und die Leute fallen trotzdem...

drauf rein.

Und wenn du das dann professionalisiert umsetzt und auf ein Riesenmodell überträgst, unfassbar, was dafür Money Making Möglichkeiten hinterstecken.

Jetzt spielt dieser Fall, den wir ja jetzt hier gehört haben oder der eine spielt in Hongkong, der zweite spielt in Amerika.

Da gibt es natürlich eine andere Rechtssituation.

Ich finde es eigentlich ganz Ganz schön, dass ich zum Abschluss nochmal auf die Situation in Europa mit euch schauen kann irgendwie, weil Europa hat tatsächlich als erste Region der Welt geschafft, einen umfassenden rechtlichen Rahmen zu schaffen.

Also die Europäische Union versucht auch wirklich in dem Bereich eine Vorreiterrolle in der Welt einzunehmen und hat auf jeden Fall erst mal das weltweit erste umfassende Gesetz zur Regulierung von künstlicher Intelligenz auf den Weg gebracht.

Das ist der EU AI Act.

Die EU regnet leicht einzu auszusprechen.

Die EU regnet.

Also Stand Anfang Zwei-Tausendfünfzwanzig ist das Gesetz jetzt beschlossene Sache.

Es wurde zwanzig-vierundzwanzig-Final verabschiedet und befindet sich jetzt in der entscheidenden Umsetzungsphase.

Also wir sind auch noch nicht da, aber es ist halt so weit auf dem Weg, dass es auf jeden Fall kommen wird.

Das bedeutet, die Regeln sind da und die Unternehmen haben jetzt eine Übergangsfrist, um das alles zu implementieren.

in ihre Dinge.

Und zusätzlich haben wir in Europa ja auch noch die, das war es eben schon gesagt, die Datenschutzgrundverordnung, die DSGVO, weil die Stimme von den Menschen gilt als biometrisches Eigentum und ist bei uns sehr streng geschützt.

und so ein Stimmklon erstellen ohne explizite Erlaubnis der Person ist halt ein Verstoß.

Bei uns gibt es auch, wenn man so ein Stimmklon anfertigt, ohne dass man dafür die Erlaubnis bekommt, Geldstrafen und sogar eine Freiheitsstrafe von bis zu zwei Jahren.

Und Kriminelle, die jetzt so z.B.

solche Anrufe tätigen würden in Deutschland, die würden sich wirklich an eines sehr bunten Blumenstrauses an Straftaten irgendwie schuldig machen und die können mit einer Gefängnisstrafe von zwei bis tatsächlich, je nachdem, was man da zusammenkriegt, fünfzehn Jahren rechnen.

Aber das Problem ist halt, die bei super vielen Cyberverbrechen ist die Identifizierung und die Verfolgung der Täter.

Also klar theoretisch, wenn man die hier fassen würde, Der rechtliche Rahmen hier in Deutschland und in Europa ist unmissverständlich und auch hart, aber die Wahrscheinlichkeit, dass man die bekommt, ist halt verschwindend gering.

Ja, dementsprechend sind das alles Tropfen auf den Halkenstein.

Man muss es machen.

Es macht Sinn, das so festzulegen, aber du siehst ja jetzt an den beiden Fällen, wo man auch niemanden ermitteln konnte.

Das ist ähnlich wie bei einem ganzen Hass im Internet.

Also wie du eben schon sagt, das Kennzeichnungspflicht für KI-Videos, Klarnamenpflicht.

Also wie viel weniger Hass würde es bei Social Media geben, wenn die Leute wirklich mit ihrem eigenen Namen das dahin schreiben müssten.

Und nicht Peter Clausi, sieben, siebzig heißen würden, weißt du.

Aber da gibt es halt auch genug Argumente gegen, wenn du mit Reinhard lang genug drüber redest, der ist gegen Klarnamenpflicht im Internet, der ist ohne Gegenkennzeichnungspflicht, der sagt, ganz viele Menschen in so pressiven Regimen wie Nordkorea etc.

könnten sich dann überhaupt nicht mehr äußern.

Könnten überhaupt keinen.

ein Nordkorea ist ein Schächsbeispiel, aber du weißt was ich meine, also in Ländern in denen man eben keine Meinungsfreiheit hat, wenn du dich da öffentlich äußern bist zu deinem Klarnamen, dann landest du halt im Knast.

Also ich kann das nachvollziehen, was das Problem dahinter ist oder der Gedanke, dass das nicht machbar ist, aber bei KI.

Die KI wird uns überholen und erledigen, wenn wir nicht irgendwann einen Riegel vorschnegen und uns überlegen, wie wir damit umgehen wollen, als Gesellschaftsphänomen.

Weil unsere Intelligenz, Schwarmintelligenz der Menschen und auch ältere Menschen, die dazu keinen Kontakt haben, vielleicht würde ich in meinem Alter nicht drauf reinfallen, aber mein Vater, hundert Prozent, die sind der Sache doch hilflos ausgeliefert.

Die können doch gar nichts dagegen machen, unsere Eltern.

Wir haben auch gar keinen Plan davon, was da auf sie zukommt.

Aber Familienkennwort habe ich mitgenommen.

Basti, wir denken uns natürlich gleich, weil es wäre jetzt Blödsinn, uns das Kennwort im Podcast auszudenken.

Aber wir denken uns jetzt eins für hier aus und danach noch ein Geheimnis für uns.

Falls ich dich mal anrufe, Leiche entsorgen.

Dampf, Lokomotiv, Mützenführer.

Nee, das ist kein richtiges Wort, das habe ich mir jetzt gerade ausgelernt.

Dampf, Lokomotiv, Mützenführer.

Placenta Smoothie.

Das ist so ein Wort, das kann sich doch nicht vorhin gelesen.

Was die?

Warum frage ich auch.

Warum?

Ich habe es vorhin gelesen.

Ich habe vorhin gelesen, dass Leute gibt, ihre Placenta zum Smoothie verarbeiten.

Ich habe gedacht, Placenta Smoothie ist so ein schönes Wort.

Ja, gut.

Und da machen wir aber gleich ja noch Eingangheimes aus.

Jetzt verabschieden wir uns erst mal.

Sagt du schon mal Tschüss, weil ich werde am Ende wieder, wir kennen es von anderen Folgen, ich werde wieder versuchen, einen epischen Mic Drop Endmoment zu kreieren.

Oh wow, dann verabschiede ich mich schon mal.

Mein Name ist Basti Birnhofer, danke, dass ihr uns zugehört habt.

Ihr wisst, Ficky ist nächste Woche, hören wir uns wieder über nächste Woche, was auch immer ihr wisst.

Ihr hörtet ja, wenn es noch herauskommt.

Meldet euch, habt Spaß, wiedersehen.

Tschüss.

Folgt uns gerne auf Instagram unter friends in crime unterstrich official.

Da gibt's auch Bastis viele, viele Filmtipps, die ja einfach jede Folge ungefragt raushaut.

Immer noch mal für euch zusammengeschrieben.

Da gibt's auch viel anderen Content, unterhaltsam Content, wer uns noch nie gesehen hat, kann da auch von uns Reels tatsächlich sehen.

Ihr könnt es natürlich eh hier auch Polymos sehen im Video, wenn ihr uns hier hört.

Aber Zusatz-Content, auch noch mal Friends in Crime, Unterstrich-Official.

Und meine letzten Worte zu unseren KI-Crimes jetzt hier.

sind eigentlich, ich habe es nicht als Frage formuliert, aber es ist was zum Denken.

Vielleicht ist die größte Gefahr der künstlichen Intelligenz am Ende nicht, das Maschinen anfangen wie Menschen zu denken, sondern dass wir nicht mehr wissen, ob die Menschen, die wir sehen und hören, überhaupt noch echt sind.