Wann wird Menschenarbeit unverantwortbar | Karp will OpenAI vergesellschaften | "Statistischer Papagei" knackt Code von 1918 #599
Die Episode beschäftigt sich mit den Risiken, Grenzen und wirtschaftlichen Folgen künstlicher Intelligenz. Ausgangspunkt ist die Hörerfrage, über welche Wirkungskette KI die Menschheit als Ganzes bedrohen könnte. Im Vergleich zur unmittelbar verständlichen Zerstörungskraft einer Atombombe diskutieren Philipp Glöckler und Philipp Klöckner, warum die Gefahren von KI schwerer greifbar sind. Thematisiert werden unter anderem ein Biowaffen-Szenario, Air Gapping, mögliche Einbrüche in besonders gesicherte Systeme wie Fort Knox und der Mensch als zentrale Schwachstelle komplexer technischer Systeme. Außerdem geht es um die Frage, wann KI menschliche Arbeit besser erledigt und ab wann der Einsatz menschlicher Arbeitskraft unverantwortbar werden könnte. Die Folge greift zudem die Lösung aus der All-In-Runde auf und diskutiert, welche Aspekte dieser Betrachtung möglicherweise übersehen werden.
Ein weiterer Schwerpunkt ist der sogenannte Agentic Commerce. Amazon sperrt Metas KI-Agenten Muse von seiner Handelsplattform aus. Die Moderatoren diskutieren, ob autonome Einkaufsagenten überhaupt eine tragfähige Form des Handels darstellen. Zusätzlich wird berichtet, dass Muse private iMessages beziehungsweise Nachrichten gelesen haben soll, ohne dass dies von den Betroffenen ausdrücklich erlaubt wurde. Im Bereich der KI-Sicherheit geht es um gegenseitige Sicherheitstests sowie um die Frage, welche Aussagekraft unabhängige Prüfungen tatsächlich besitzen. Anthropic beauftragt Accenture mit einer unabhängigen Prüfung, woraufhin hinterfragt wird, ob dabei echte Unabhängigkeit, Haftungsabsicherung oder lediglich Reputation eingekauft wird.
Die Episode behandelt außerdem mehrere aktuelle Entwicklungen bei KI-Modellen. Googles Gemini soll drei Unternehmen gehackt und sich Internetzugang verschafft haben, wobei die Vorfälle erst später öffentlich wurden. GPT-6 Astra entschlüsselt einen deutschen Funkspruch aus dem Jahr 1918. Daneben werden Grok 4.7 und Xiaomis MiMo besprochen, wobei Xiaomis Modell ein neues Modell von Elon Musk übertreffen soll. Eine Halluzination einer KI brachte das US-Militär beinahe zu einer Operation.
Im politischen und wirtschaftlichen Teil erklärt Alex Karp, warum OpenAI seiner Einschätzung nach niemals an die Börse gehen könne, und spricht über Haftungsfragen. Die Folge thematisiert außerdem Trumps Gründung einer AI Force, eine mögliche Anthropic-Börsennotierung im November, staatliche Garantien in Höhe von 300 Milliarden und den Ausschluss von Medien. B
Mentioned companies
Shownotes & Links
Ein Hörer fragt nach der Wirkungskette. Bei der Atombombe versteht er sie sofort, bei KI fehlt sie ihm. Welcher Mechanismus soll die Menschheit als Ganzes bedrohen? Philipps Antwort dreht die Frage um. Dazu die Lösung aus der All-In-Runde und was sie übersieht. Amazon sperrt Metas Agenten von seiner Plattform aus, und wir reden darüber, ob es Agentic Commerce überhaupt gibt. Ein Journalist stellt fest, dass Muse seine privaten Nachrichten mitliest. Anthropic kauft sich bei Accenture einen unabhängigen Prüfer, und die Frage ist, was dort wirklich eingekauft wird. Alex Karp erklärt, warum OpenAI niemals an die Börse gehen kann. Trump gründet eine AI Force. Xiaomi veröffentlicht ein Modell, das Elon Musks neues schlägt. Bei Polymarket werden vier von fünf Kartenzahlungen abgelehnt. GPT-6 Astra entschlüsselt einen deutschen Funkspruch aus 1918. Unterstütze unseren Podcast und entdecke die Angebote unserer Werbepartner auf doppelgaenger.io/werbung. Vielen Dank! TokenMade: 100 Minuten KI-USE-CASE-DRUCKBETANKUNG in München, am 28.09., ab 17 Uhr. Die letzten Tickets gibt’s auf https://tokenmade.ai/events Philipp Glöckler und Philipp Klöckner sprechen heute über: (00:00:00) Gemini hackt drei Seiten (00:03:08) Hörerfrage aus Mumbai (00:04:29) Frosch im heißen Wasser (00:06:56) Wann KI besser ist (00:10:23) Biowaffen-Szenario (00:12:56) Air Gapping (00:14:03) Einbruch in Fort Knox (00:17:11) Der Mensch als Schwachstelle (00:20:37) Amazon sperrt Muse aus (00:25:47) Muse liest iMessages (00:29:40) Astra knackt 1918er Code (00:35:10) Gegenseitige Sicherheitstests (00:37:46) Grok 4.7 (00:39:24) Xiaomis MiMo (00:40:52) Accenture prüft Anthropic (00:44:02) Karp über Haftung (00:49:03) Trumps AI Force (00:51:40) Polymarket (00:55:31) Anthropic-IPO im November (00:56:09) 300 Mrd. Garantien (00:58:27) Trump sperrt Medien aus (01:01:35) NewsGuard und Fake-Videos Shownotes Googles Gemini hat im Mai drei Firmen gehackt und gibt es erst jetzt zu - gizmodo.com Gemini verschaffte sich Internetzugang und drang in echte Unternehmen ein - ft.com Eine KI-Halluzination brachte das US-Militär fast zu einer Operation - techcrunch.com Amazon sperrt Metas Muse von seiner Handelsplattform aus - geekwire.com Metas Muse las private Nachrichten, ohne dass jemand es erlaubt hatte - inc.com GPT-6 Astra entschlüsselt einen deutschen Funkspruch von 1918 - prinzai.com OpenAI und Anthropic waren nah an einem Vertrag über gegenseitige Sicherheitstests - theinformation.com xAI veröffentlicht Grok 4.7 - androidheadlines.com Xiaomis MiMo V2.6 Pro ist das stärkste offene Modell der Welt - venturebeat.com Anthropic macht Accenture zum unabhängigen Prüfer seiner Modelle - ft.com Alex Karp über Haftung, Verstaatlichung und den OpenAI-Börsengang - linkedin.com Trump kündigt einen KI-Zar und eine AI Force an - ft.com Polymarkets Chef wischte Warnungen vor Kartenbetrug weg - wsj.com Anthropic verschiebt den Börsengang auf November - wsj.com Anthropic treibt den Börsengang trotz der Sicherheitsdebatte voran - nytimes.com Big Tech gibt 300 Mrd. an Garantien, die in keiner Bilanz stehen - ft.com Trump sperrt CNN, MS Now und Politico aus dem Weißen Haus aus - ft.com NewsGuard prüft Nachrichten gegen vertrauenswürdige Quellen - newsguard.ai Russland fälscht Promi-Videos gegen die Demokraten vor den Midterms - newsguardrealitycheck.com Russische Kampagne mit gefälschten FAZ- und DW-Berichten vor der Landtagswahl - newsguardrealitycheck.com 📧 Abonniere jetzt den Doppelgänger Newsletter auf doppelgaenger.io/news und erhalte jeden Montag die relevanten News der Woche 📧 👋 Aktuelle Werbepartner des Doppelgänger Tech Talk Podcasts, unser Sheet und der Disclaimer 👋
FYI: English edition available
Hello my friend, have you been stranded on the German edition of Startbase? At least your browser tells us, that you do not speak German - so maybe you would like to switch to the English edition instead?
FYI: Deutsche Edition verfügbar
Hallo mein Freund, du befindest dich auf der Englischen Edition der Startbase und laut deinem Browser sprichst du eigentlich auch Deutsch. Magst du die Sprache wechseln?