AI-onderzoekers slaan alarm: superintelligentie zou de mensheid kunnen uitroeien, en Anthropic-baas Dario Amodei stelt voor de ontwikkeling wereldwijd te vertragen. We ontleden de routes naar catastrofe, de beleidsopties en de felle reacties uit China, Rusland en Washington — en waarom wij denken dat er eerst een digitale atoombom ontploft voordat er echt wordt samengewerkt. Verder duikt Bert in Omarchy, het agentic besturingssysteem van DHH dat zijn eigen wifi-drivers repareert en al ruim 300.000 keer werd gedownload. En we fileren de AI-berichten van premier Rob Jetten: wie is nog de ‘ik’ in een tekst over Westerbork die door AI geschreven is?
Ontvang de uitgebreide show notes per mail → turingstation.nl
Timestamps
00:00:00 – Intro
00:06:44 – In het kort
00:15:04 – Gaat AI de mensheid uitroeien?
01:08:35 – Omarchy
01:22:10 – Jetten publiceerde inhoudsloze bagger
Bronnen
Item 1: In het kort
Apple lanceert Siri AI – behalve in de EU
Tweakers: Apple werkt aan integratie van andere AI-diensten
Nieuw EU-rapport adviseert versnelling van AI
Typesafe.ai lanceert Jev
AI speelt Doom
Item 2: Gaat AI de mensheid uitroeien?
Post op X van Hilbertspaess
Post op X van Evan Hubinger
Springer: wetenschappelijk artikel over AI-risico’s
BBC: The Third Programme (video)
Turing-archief: lezingen voor de ’51 Society
Dario Amodei: ‘We must pace the frontier’
Forbes: China verzet zich tegen AI-vertragingsgesprekken
TASS: Russische reactie op AI-vertraging
Zo werd het in Nieuwsuur besproken (post op X)
Feb 2019: OpenAI over betere taalmodellen (GPT-2)
Juni 2020: OpenAI lanceert de API
Maart 2023: Open brief om AI-experimenten te pauzeren
Mei 2023: Verklaring over uitstervingsrisico door AI
Mei 2024: Jan Leike bekritiseert OpenAI om veiligheidscultuur
Dec 2024: Anthropic-rapport (PDF)
Item 3: Omarchy, een OS speciaal voor AI
Podcast: DHH te gast bij Lex Fridman
Item 4: Jetten publiceerde inhoudsloze bagger
Volkskrant: honderden social-mediaberichten van Jetten en D66 door AI geschreven
Instagram: Rob Jetten over Kamp Westerbork
Muziek & jingles door: Martijn Bressers