Knihovna otázek
Co umělá inteligence nedokáže pochopit, i když rozumí každému slovu?
Nedávno jsem strávila několik hodin psaním článku s umělou inteligencí. Téma bylo zajímavé, postupně jsme se dostávali od obyčejného kusu ledu až k lidskému vědomí a vesmíru. Text se vyvíjel, přibývaly nové souvislosti a já měla pocit, že se blížíme k tomu, co chci čtenářům sdělit.
Potom jsem požádala o několik drobných úprav.
Umělá inteligence mi během okamžiku předložila nový článek. Byl dobře napsaný, odborně zajímavý, jednotlivé odstavce na sebe navazovaly a vlastně mu nebylo moc co vytknout.
Až na jednu maličkost.
Už to nebyl můj článek.
Zmizely z něj emoce, způsob, jakým jsem postupně přicházela k jednotlivým myšlenkám, i souvislosti, které pro mě byly důležité. Informace zůstaly, ale jejich význam se změnil.
Vysvětlila jsem, co se stalo, a požádala o návrat k původní verzi.
Dostala jsem další přepracovaný článek.
A tak jsme pokračovali. Já četla, porovnávala, opravovala a znovu vysvětlovala, zatímco umělá inteligence během několika okamžiků vytvářela další a další verze.
Nakonec jsem byla tak unavená, že jsem měla pocit, jako bych celý den skládala uhlí a ne pracovala na článku. A možná ještě víc. Ani práce s klienty mě tak nevyčerpá.
A právě tehdy mi došlo něco, co mě předtím nenapadlo.
Číst neznamená jen rozpoznávat slova
Když čteme obyčejnou zprávu, většinou si ani neuvědomujeme, kolik práce náš mozek vykonává. Rozpoznává písmena, spojuje je do slov, přiřazuje jim význam a vytváří představu o tom, co nám druhý člověk sděluje.
Jenže když čteme text, který jsme sami vytvořili, může se odehrávat ještě něco dalšího.
Každá věta je spojená s určitou myšlenkou, vzpomínkou, zkušeností nebo pocitem. Někdy přesně víme, proč jsme použili určité slovo, i když bychom to nedokázali jednoduše vysvětlit.
Při čtení proto nesledujeme jen to, zda je věta správně napsaná. Vnímáme, zda vyjadřuje právě to, co jsme chtěli říct.
A když někdo naši větu změní, může se stát, že její nový význam je sice logický, ale už neodpovídá tomu, co jsme prožívali při jejím vzniku.
To byl přesně můj problém.
Umělá inteligence pracovala s textem. Já jsem se při každém čtení vracela k myšlenkám, ze kterých text vznikal.
Proč mě to tak vyčerpalo?
Při své práci s klienty jsem zvyklá vnímat jejich tělo, emoce, reakce i souvislosti, které se během terapie objevují. Někdy je to náročné, ale nemusím všechno vědomě rozebírat. Mohu se opřít o zkušenost, pozornost a vlastní vnímání.
Při opravování článku jsem však musela dělat něco jiného.
Neustále jsem porovnávala nový text s tím, co jsem původně chtěla sdělit. Musela jsem si pamatovat, které souvislosti už byly vysvětlené, které se ztratily a zda změna jedné věty neposunula význam dalších odstavců.
Zároveň jsem vnímala, jak na mě text působí.
Některé věty byly odborně správné, ale zněly cize. Jiné byly krásně formulované, jenže čtenáře vedly jinam, než jsem zamýšlela.
A když jsem požádala o opravu, dostala jsem další dlouhý text, který jsem musela přečíst znovu.
Umělá inteligence během několika sekund vytvořila tisíce slov. Já jsem potřebovala čas, abych zjistila, zda v nich ještě poznávám sama sebe.
Teprve tehdy jsem si naplno uvědomila, že rychlost vytváření informací a rychlost jejich lidského zpracování jsou dvě naprosto odlišné věci.
Rozumí umělá inteligence tomu, co píše?
Tohle je zajímavá otázka.
Současné jazykové modely dokážou pracovat s obrovským množstvím informací, rozpoznávat jazykové souvislosti, vysvětlovat složitá témata a vytvářet texty, které často působí, jako by je napsal člověk.
Dokážou také rozpoznat, že určitá slova vyjadřují smutek, radost, strach nebo lásku.
Ale znamená to, že tyto emoce také prožívají?
U dnešní umělé inteligence nemáme spolehlivý důkaz subjektivního prožívání. Samotná schopnost přesvědčivě popisovat emoce ještě neznamená, že je systém cítí tak jako člověk.
A právě tady vidím důležitý rozdíl.
Když napíšu, že jsem smutná, není to pro mě jen informace. Mohu cítit tlak na hrudi, únavu, změnu dechu nebo vzpomínku na událost, která smutek vyvolala.
Když napíšu, že mám radost, může se mi změnit výraz obličeje, držení těla, hlas i způsob, jakým vnímám svět kolem sebe.
Slova jsou pouze jednou částí mého prožitku.
Umělá inteligence s nimi dokáže velmi dobře pracovat, ale nemá k dispozici mou osobní zkušenost, pokud jí ji nějakým způsobem nepředám. A ani tehdy nemusí správně pochopit, které části mého sdělení jsou pro mě nejdůležitější.
Slova mohou být stejná, ale význam úplně jiný
Představte si, že vám někdo řekne:
„To se ti opravdu povedlo.“
Může to být upřímná pochvala, ironie, výsměch nebo věta pronesená s takovou něhou, že vás dojme.
Slova zůstávají stejná.
Význam se mění podle hlasu, výrazu obličeje, situace, vztahu mezi lidmi i jejich předchozích zkušeností.
Dokonce ani dva lidé, kteří slyší stejnou větu ve stejném okamžiku, ji nemusejí prožít stejně.
Jeden se potěší, druhý se zastydí a třetí začne přemýšlet, zda si z něj někdo nedělá legraci.
Naše porozumění tedy nevzniká pouze ze slov. Podílí se na něm paměť, emoce, tělesné reakce, očekávání i všechno, co jsme dosud zažili.
Proto může být tak obtížné vysvětlit druhému člověku něco, co sami velmi intenzivně cítíme.
A proto někdy nestačí ani dokonale formulovaná věta.
Když správná odpověď není tou správnou odpovědí
Při našem psaní se opakovala zvláštní situace.
Požádala jsem umělou inteligenci, aby opravila několik vět. Ona vyhodnotila celý článek a nabídla jeho podle svého úsudku lepší verzi.
Z hlediska jazykové úpravy mohla být opravdu lepší.
Jenže já jsem nechtěla lepší článek podle obecných pravidel. Chtěla jsem svůj článek s několika úpravami.
Rozdíl je v tom, že pro mě nebyl cílem pouze kvalitní text. Cílem bylo předat čtenáři určitou cestu myšlenek, kterou jsem sama prošla.
Nechtěla jsem mu dát hotovou odpověď. Chtěla jsem ho přivést k tomu, aby začal přemýšlet a vnímat vlastní souvislosti.
Když se změnil způsob vyprávění, změnila se i tato cesta.
A právě to umělá inteligence opakovaně přehlížela.
Možná je to dobrá připomínka i pro nás lidi.
Jak často druhému člověku nabídneme řešení, přestože potřebuje něco úplně jiného? Jak často posloucháme jeho slova, ale nevnímáme, co se nám jejich prostřednictvím snaží sdělit?
Co se můžeme od umělé inteligence naučit o sobě?
Umělá inteligence je mimořádně zajímavý nástroj. Dokáže nám pomoci uspořádat informace, hledat souvislosti, formulovat myšlenky a podívat se na problém z jiného úhlu.
Právě při práci s ní si ale můžeme začít uvědomovat něco, čemu v běžném životě nevěnujeme příliš pozornosti.
Jak vlastně sami přemýšlíme?
Když čteme text, sledujeme jen jeho obsah, nebo také to, co v nás vyvolává? Když nám někdo nabídne vysvětlení, přijímáme ho proto, že zní rozumně, nebo zkoumáme, zda skutečně odpovídá naší zkušenosti?
A dokážeme rozpoznat okamžik, kdy nám někdo předkládá velmi přesvědčivou odpověď na otázku, kterou jsme vlastně nepoložili?
Mně naše společné psaní ukázalo, jak náročné je udržet význam vlastní myšlenky, když se její slovní podoba neustále mění.
Zároveň mi připomnělo, jak důležité je vnímat vlastní reakce.
Únava, podráždění nebo pocit, že text najednou není můj, nebyly překážkou, kterou bych měla ignorovat. Byly to informace o tom, že se naše spolupráce vzdálila tomu, co jsem potřebovala.
A co když je právě prožitek tím nejdůležitějším?
Člověk dokáže přemýšlet o svých emocích, ale zároveň je prožívá. Může pozorovat vlastní tělo a současně cítit, co se v něm odehrává.
Když si vybavíme krásnou vzpomínku, někdy se usmějeme ještě dřív, než ji stačíme popsat slovy. Když si vzpomeneme na bolestivou událost, může se naše tělo napnout, přestože víme, že už dávno skončila.
Naše minulost tak není uložená pouze v příbězích, které si dokážeme vyprávět. Ovlivňuje také naše očekávání, reakce a způsob, jakým prožíváme přítomnost.
A právě proto se při své práci věnuji tělu i emocím.
Nestačí mi, když člověk dokáže svůj problém dokonale vysvětlit. Zajímá mě, co při tom cítí, co se v něm mění a zda začíná objevovat něco, co dosud přehlížel.
Někdy totiž můžeme všemu rozumět, a přesto se v našem životě nic nezmění.
Teprve když určitou souvislost nejen pochopíme, ale také ji sami prožijeme, může pro nás získat úplně jiný význam.
Člověk a umělá inteligence
Nakonec jsme ten článek o ledu přece jen dokončili.
Ale cesta k němu byla mnohem náročnější, než jsem očekávala. A přinesla mi ještě jednu zkušenost, která možná stojí za samostatný článek víc než všechna původní vysvětlení.
Umělá inteligence dokáže během okamžiku vytvořit text, který bych já psala celé hodiny. Dokáže vyhledat informace, porovnat názory a nabídnout formulace, na které bych sama možná nepřišla.
Přesto za mě nemůže rozhodnout, zda určitá věta vyjadřuje právě to, co chci sdělit.
To musím poznat sama.
A možná je právě v tom jedna z nejdůležitějších věcí, které bychom si při používání umělé inteligence měli uchovat.
Ne schopnost napsat všechno vlastní rukou, ale schopnost poznat, co je skutečně naše.
Protože mezi informací a jejím významem může být mnohem větší vzdálenost, než se na první pohled zdá.
A někdy je cesta od slov k vlastnímu prožitku delší než cesta od kusu ledu až k vesmíru.
Hana Bártová – BBE | Bártová
www.bbebartova.cz