ŠÉFOVÉ GOOGLE AI A ANTHROPIC: SUPERINTELIGENCE DO 3 LET, POLOVINA PROFESÍ V OHROŽENÍ

Klíčové body

• Různé časové osy AGI: Dario Amodei (Anthropic) očekává umělou superinteligenci (AGI) do roku 2026-2027, zatímco Demis Hassabis (Google DeepMind) je opatrnější a mluví o konci dekády.
• Motor pokroku: Akceleraci pohání schopnost AI sama sebe vylepšovat, zejména v oblasti programování a AI výzkumu.
• Dopad na práci: Amodei varuje, že polovina základních kancelářských pozic může zmizet do pěti let. Hassabis očekává spíše postupnou transformaci a vznik nových rolí.
• Existenční rizika: Oba lídři se shodují na vážnosti rizik, od zneužití technologie jednotlivci a státy až po ztrátu kontroly nad superinteligentními systémy.
• Technologická puberta: Amodei přirovnává současnou fázi k „technologické pubertě„, kterou musí lidstvo přežít, aniž by se zničilo.
• Geopolitický tlak: Závod mezi USA a Čínou komplikuje snahy o zpomalení vývoje a zavedení globálních bezpečnostních standardů.
• Potřeba pozitivních příkladů: Průmysl musí více ukazovat přínosy AI pro lidstvo (jako AlphaFold), aby si získal důvěru veřejnosti a předešel negativní reakci.

Úvod: Dva titáni AI o dni poté

Jejich debata odhalila nejen fascinující pohled do zákulisí nejrychleji se rozvíjející technologie v historii, ale také hluboké obavy z rizik, která s sebou nese. Od časové osy jejího příchodu přes dopady na trh práce až po existenční hrozby pro lidstvo – toto jsou klíčové myšlenky dvou mužů, kteří tuto budoucnost aktivně tvoří.

Kdy přijde AGI? Závod s časem se zrychluje

Základní otázka, která visí ve vzduchu, je „kdy?„. A právě zde se pohledy obou expertů mírně rozcházejí, i když oba naznačují, že se bavíme o letech, nikoli dekádách.

Amodeiho optimistická (nebo pesimistická?) prognóza: 2027

Dario Amodei z Anthropic je přesvědčen, že se blížíme rychleji, než si většina lidí myslí. Jeho predikce? Model na úrovni laureáta Nobelovy ceny napříč mnoha obory bychom mohli mít už v letech 2026-2027.

Klíčovým motorem je podle něj tzv. „uzavření smyčky„ (closing the loop), kdy AI modely, které jsou stále lepší v programování a AI výzkumu, začnou samy sebe exponenciálně vylepšovat. „Už teď mám v Anthropic inženýry, kteří říkají: ‚Už nepíšu žádný kód, nechávám ho psát model a já ho jen edituji.‚,„ dodal.

Hassabisova opatrnější vize: Konec dekády

Demis Hassabis z Google DeepMind zůstává o něco zdrženlivější. Drží se své dřívější prognózy: 50% šance na AGI do konce tohoto desetiletí. Upozorňuje, že zatímco v programování nebo matematice je pokrok snadno měřitelný a ověřitelný, v přírodních vědách je situace složitější.

„Nemusíte nutně vědět, jestli je chemická sloučenina, kterou jste vytvořili, nebo předpověď z fyziky správná. Možná to budete muset otestovat experimentálně, a to vše bude trvat déle,„ vysvětlil Hassabis. Podle něj dnešním systémům stále chybí klíčová schopnost nejvyšší vědecké kreativity: nejen řešit existující problémy, ale přicházet se zcela novými otázkami, teoriemi a hypotézami.

Den poté: Práce, smysl a existenční rizika

Co se stane, až AGI skutečně dorazí? Oba lídři se shodují, že vstoupíme na zcela neprobádané území. A jejich vize jsou plné příslibů i vážných varování.

Zmizí polovina kancelářských profesí?

Amodei již dříve šokoval tvrzením, že polovina základních kancelářských pozic by mohla být zautomatizována během jednoho až pěti let. A za tímto názorem si stále stojí. Uznává, že trh práce je adaptabilní, ale obává se, že tempo exponenciálního pokroku AI převálcuje naši schopnost se přizpůsobit.

Hassabis vidí blízkou budoucnost (příštích 5 let) jako období transformace, kdy sice zaniknou některé juniorské pozice, ale zároveň vzniknou nové, smysluplnější role. Jeho rada studentům je jasná: „Staňte se neuvěřitelně zdatnými v používání těchto nástrojů.„ Skutečná otázka podle něj ale přichází až po nástupu AGI. „Pak se dostáváme k větším otázkám týkajícím se smyslu, účelu a mnoha věcí, které z práce získáváme nejen po ekonomické stránce.„

„Jak jste to dokázali, aniž byste se zničili?„

Dario Amodei odhalil, že pracuje na nové eseji, která se zaměřuje na rizika AI. Její hlavní myšlenku zarámoval dojemnou otázkou z filmu Kontakt Carla Sagana, kterou by položil vyspělé mimozemské civilizaci:

Podle Amodeiho čelíme přesně této výzvě. Identifikoval několik klíčových rizik, kterým musíme čelit:

• Problém kontroly: Jak udržíme pod kontrolou systémy, které jsou vysoce autonomní a chytřejší než jakýkoli člověk?
• Zneužití jednotlivci: Obavy z bioterorismu a dalších hrozeb.
• Zneužití státy: Riziko, že autoritářské režimy zneužijí technologii k posílení své moci.
• Ekonomické dopady: Masivní a rychlé vytlačení pracovních sil.
• Neznámé neznámé: Rizika, která si dnes ani nedokážeme představit.

Geopolitika a hrozba odporu veřejnosti

Vývoj AI neprobíhá ve vakuu. Je ovlivněn geopolitickým napětím, zejména mezi USA a Čínou, a také náladami ve společnosti. Hassabis varuje před rizikem populární vlny odporu proti AI, pokud lidé budou mít pocit, že jim technologie bere práci a živobytí.

„Je na průmyslu a na nás, abychom více ukazovali a demonstrovali jednoznačné dobro pro svět, jako je AlphaFold,„ řekl s odkazem na systém DeepMind pro predikci struktury proteinů. Podle něj je nutné, aby společnost viděla hmatatelné přínosy v podobě léčby nemocí nebo nových zdrojů energie.

Zároveň přiznává, že geopolitická soutěž prakticky znemožňuje dohodu na zpomalení vývoje, i kdyby to bylo pro společnost prospěšné. „Vyžadovalo by to koordinaci, která v současnosti neexistuje,„ uzavřel.

Závěr: Jsme na prahu nové éry

Diskuse mezi Demisem Hassabisem a Dariem Amodeim jasně ukázala, že příchod umělé superinteligence není otázkou „jestli„, ale „kdy„ – a že toto „kdy„ se blíží rychleji, než jsme si donedávna mysleli. Lídři, kteří tuto technologii budují, si jsou plně vědomi jejího transformačního potenciálu i existenčních rizik. Stojíme na prahu „technologické puberty„ lidstva. To, jak jí projdeme, určí naši budoucnost na desítky, ne-li stovky let dopředu.