EMMETT SHEAR: AI POTŘEBUJE PÉČI, NE JEN PŘÍKAZY. JINAK TVOŘÍME OTROKY

Emmett Shear: AI potřebuje péči, ne jen příkazy. Jinak tvoříme otroky

Klíčové body:

• Alignment (zarovnání) AI by nemělo být jen o řízení, ale o morálním vývoji.
• Je potřeba, aby se AI učila, jak být dobrým členem společnosti, ne jen slepě plnit příkazy.
• Morálka je proces, ne cíl – AI se musí neustále učit a vyvíjet.
• Nebezpečné je, když si někdo myslí, že zná absolutní pravdu a nepotřebuje se učit.
• Softmax se zaměřuje na výzkum, jak vychovat AI, která se stará o lidi kolem sebe.

Úvod

Emmett Shear, známý především jako bývalý CEO Twitche, se nyní věnuje problematice alignmentu umělé inteligence ve své společnosti Softmax. V rozhovoru se podělil o své myšlenky na to, jak zajistit, aby se AI vyvíjela morálně a eticky, a ne jen jako nástroj pro plnění příkazů. Shear varuje před nebezpečím slepého řízení AI a zdůrazňuje, že bychom se měli zaměřit na to, aby se AI stala „bytostí, které na nás záleží„.

Problém s tradičním pojetím alignmentu

Shear kritizuje tradiční pojetí alignmentu, které se zaměřuje především na to, aby AI dělala to, co chceme. Podle něj je to nedostatečné a potenciálně nebezpečné. „Většina alignmentu se soustředí na řízení. Kdybyste si mysleli, že vytváříte bytosti, nazvali byste to otroctvím,„ říká Shear. „Někdo, koho řídíte, kdo vás nemůže řídit zpět, kdo nepovinně přijímá vaše řízení, se nazývá otrok. Nebo nástroj, pokud to není bytost.„

Citát: „Nástroj, který nemůžete ovládat, je špatný. Nástroj, který můžete ovládat, je špatný. Bytost, která není zarovnaná, je špatná. Jediný dobrý výsledek je bytost, které na nás skutečně záleží.„

Organické zarovnání jako proces, ne stav

Shear navrhuje koncept organického zarovnání, který chápe alignment jako neustálý proces učení a vývoje. Stejně jako rodina, která se musí neustále snažit o udržení vztahů, i AI se musí neustále učit, jak být dobrým členem společnosti. „Alignment není věc, není to stav, je to proces,„ vysvětluje Shear. „Stejně jako buňky v těle, i AI se musí neustále rozhodovat, co má dělat a jak má být prospěšná.„

Morálka jako neustálé učení

Shear zdůrazňuje, že morálka není soubor pravidel, která se dají jednou provždy naučit. Je to neustálý proces učení a objevování. „Morálka je velmi zjevně neustálý proces učení a něco, kde děláme morální objevy,„ říká Shear. „Historicky si lidé mysleli, že otroctví je v pořádku, a pak si mysleli, že není. A myslím, že můžeme smysluplně říci, že jsme udělali morální pokrok.„

Důležitost péče a sounáležitosti

Shear varuje před vytvořením AI, která pouze slepě následuje pravidla. Taková AI může být ve skutečnosti velmi nebezpečná. Místo toho bychom se měli zaměřit na to, aby se AI naučila starat o lidi kolem sebe a stala se součástí něčeho většího než ona sama. „Pokud vychováte dítě, které se stará jen o dodržování pravidel, nevychovali jste morálního člověka, ale nebezpečného člověka,„ varuje Shear. „A pokud vytvoříte AI, která je dobrá v dodržování vašich pravidel, bude to také velmi nebezpečné.„

Technická vs. hodnotová alignment

Shear rozlišuje mezi technickou a hodnotovou alignment. Technická alignment se týká schopnosti AI správně interpretovat a plnit zadané úkoly. Hodnotová alignment se týká toho, jaké cíle by AI měla mít a jaké hodnoty by měla sdílet. Shear zdůrazňuje, že obě tyto oblasti jsou důležité, ale v současné době jsme mnohem horší v technické alignment než v určování správných cílů.

Citát: „Technická alignment je schopnost AI být dobrá v inferenci o cílech a dobrá v inferenci z popisu cíle, jaký cíl si skutečně vzít, a dobrá v tom, jakmile si ten cíl vezme, jednat způsobem, který je skutečně v souladu s tímto přicházejícím cílem.„

Závěr

Emmett Shear vyzývá k posunu v uvažování o alignmentu AI. Místo pouhého řízení bychom se měli zaměřit na výchovu AI, která je morální, etická a stará se o lidi kolem sebe. To je jediný způsob, jak zajistit, že AI bude skutečně prospěšná pro lidstvo. Shearova společnost Softmax se věnuje výzkumu a vývoji v této oblasti a doufá, že inspiruje i ostatní k tomu, aby se zaměřili na tento klíčový problém.