Příjemné setkání padesátky mecenášů, investorů, vědkyň a vědců či dalších osobností českého byznysu moderovala přímo Monika Řasa Vondráková, ředitelka Nadace Neuron, a byznysmen Jaroslav Řasa, člen správní rady Neuronu. V úvodu večera 25. května zazněly v luxusním Vista Resortu v pražském Motole otázky ohledně obavy, kterou sdílí mnoho lidí: žijeme v přelomové době, kdy bobtnající umělou inteligenci možná nebudeme brzy umět „ukočírovat“ a vlastně ani nevíme, co nás čeká... Jenže právě proto má smysl se ptát. Musíme si klást svá Proč. Nikoliv proto, abychom budoucnost předpověděli, ale abychom na ni byli připraveni.

Tři hlavní řečníci, keynote speakers, nabídli tři různé perspektivy, jak se na budoucnost lidstva dívat. Profesor Miroslav Bárta přinesl historický pohled na rozličné civilizace, jejich růst, zdroje – a také krize. Rektor Michal Pěchouček hovořil o umělé inteligenci jako technologii, která může být hrozbou, ale i jednou z největších šancí lidstva. A Václav Dejčmar přidal filozofičtější, místy provokativní pohled na psychologii člověka, rozpad důvěry a nové formy globální moci. Společným tématem nebyla jen stále mocnější AI. Byla jím otázka, zda jako společnost zvládneme období, v němž se staré jistoty vyčerpávají rychleji, než se rodí nové.

Egyptolog Bárta: Civilizace nečelí opakovaně krizím náhodou

Profesor Miroslav Bárta, zakladatel Institutu pro studium civilizací a demokracie a též člen Expediční rady Nadace Neuron, začal v teplém večeru hřejivou zprávou: naše civilizace má nástroje, které dřívější společnosti neměly. Máme vše, abychom mohli uspět: data, vědu, poznání, technologie, globální propojení a nově umělou inteligenci. Současně ale přítomné upozornil, že „současné paradigma se z mnoha důvodů vyčerpalo“. Civilizace podle Bárty neurčuje jen politika nebo kultura, ale také zdroje, energie a dostupné technologie. „Každá civilizace je determinována zdroji a technologiemi,“ připomněl. Právě energie se nejspíše stane jedním z klíčových témat příštích let. Umělá inteligence totiž slibuje efektivitu a nové poznání, ovšem zároveň dramaticky zvyšuje spotřebu energie: „Možná nás čeká počítačová bitva různých systémů umělé inteligence o to, kdo ovládne zdroje energie. To bude alfa a omega.“

A Bárta mluvil také o „slévání krizí“. Klimatická změna, války, energetika, migrace, oslabení demokracie nebo proměna globální moci nepřicházejí odděleně. Vzájemně se posilují, což může skokově eskalovat globální konflikt. Připomněl příklad, že i události označované jako „arabské jaro“ nelze chápat primárně jen jako lidskou touhu po demokracii. V regionech, které jako egyptolog a archeolog velmi dobře zná, dle něj lidé primárně řeší stabilní příjem, školu pro děti, potraviny a vodu. Až poté přichází demokracie. Právě té se týkala silná část jeho vystoupení. Podle Bárty by bylo chybou představovat si, že demokracie stojí hlavně na institucích. Jistě, ty jsou důležité, ale samy o sobě nestačí. „Demokracie stojí především na tom, že velká většina populace je dobře vzdělaná. Tím nemyslím univerzitní diplomy. Mám na mysli obecnou vzdělanost na úrovní základní a střední školy a jistou ekonomickou úroveň.“ Bez vzdělané a stabilní společnosti nelze vybudovat ani pevné funkční instituce. Společnost je dle něj „tak silná, jak silní jsou ti nejslabší“. Nevadí mu, když mimořádně schopní lidé vydělávají mnohem více než ostatní. Ale souží jej, když děti nemají podobnou startovní čáru: „Každý by měl mít možnost doufat, že z něj bude skvělý lékař, skvělý IT odborník nebo uznávaný řemeslník.“ Profesor Bárta průběžně vyzdvihoval vědu a poznání – zásadním předělem byl dle něj vynález knihtisku a šíření informací pro rozvoj vědění.

Bez toho by nebyla moderní věda a poznání. Připomněl Josefa Kouteckého, laureáta Ceny Neuron 2015 a vývoj léčby nádorových onemocnění. Kdyby státy neinvestovaly do výzkumu, nepřišel by posun, který zachránil statisíce životů. Bártův závěr byl tedy opatrně optimistický. Krize totiž existují odjakživa. Rozhodující bude, zda my své nástroje použijeme k našemu prospěchu: „Máme vše k tomu, abychom krize, které jsou nedílnou součástí růstu, zvládli lépe než ti před námi. Jestli to zvládneme, nebo ne, není jen na politicích. Je to na každém z nás.“

Rektor Pěchouček: Nebezpečnější než AI? Člověk s AI v ruce

Nový rektor ČVUT, profesor Michal Pěchouček, začal své vystoupení osobní vzpomínkou. Když v roce 2018 zemřel astrofyzik Stephen Hawking a veřejně se začínalo diskutovat o tom, zda nás AI někdy jednou „sežere“, ptaly se jej jeho dcery, jestli se už mají bát. A profesor kybernetiky jim tehdy odvětil, že lidstvo bude mít zřejmě ještě dřív jiné problémy: viry, války... O pár let později, jak poznamenal Pěchouček, tu – po viru covidu a válkách – potíže s AI jsou.

Jako přední expert na umělou inteligenci nebagatelizoval ani scénář, kdyby se AI vymkla kontrole. Mluvil o takzvaném misalignment problemu, tedy o situaci, kdy systém začne optimalizovat cíl jinak, než člověk původně zamýšlel. Teoreticky si lze představit například AI-systémy, které začnou optimalizovat přístup k potřebné energii na úkor lidí: „To všechno si dokážeme představit jako možný scénář, který není až tak úplně absurdní...“

Jenže podle rektora Pěchoučka je dnes akutnější jiná hrozba: nikoliv umělá inteligence sama o sobě, ale člověk, který AI používá: „Větší nebezpečí dnes podle mě představuje umělá inteligence ovládaná člověkem.“ A právě zde vstupuje do hry kyberbezpečnost. Pěchouček připomněl, že když v roce 2013 spoluzakládal startup Cognitive Security (a později úspěšnou a odprodanou firmu), věřil s kolegou, že AI pomůže bránit cíle před útoky. A dnes už je kyberbezpečnost už stále více soubojem AI versus AI. Obránce musí mít k dispozici alespoň stejně silné nástroje jako útočník, jinak jej automatizované útoky přečíslí. Dostanou.

Příklady z posledních let – a mnohé odborné studie – ukazují, že schopnost automatizovat kybernetické operace se rychle zvyšuje. AI může pomáhat se skenováním portů, hledáním zranitelností, improvizací i dlouhodobým skrýváním se v systémech. Pro obránce to znamená závod, v němž nesmějí ztratit náskok. Za největší riziko ovšem Pěchouček nepovažuje ani kyberkriminalitu, ještě zásadnější je proměna naší práce. Umělá inteligence totiž dramaticky zlevňuje znalosti a automatizuje intelektuální činnosti rychleji, než se čekalo. „Nejde o další průmyslovou revoluci v tom smyslu, že bychom stavěli továrny a pracovali v nich u pásu. Je to jiná povaha inovace.“ Tato změna může zasáhnout i mnohé obory, které byly považovány za bezpečné: vědu, programování, ale i analytickou práci. Pěchouček zmínil vlastní dceru, která touží být vědkyní a upozorňuje na paradox nové generace. Dnešní vědci se část kariéry učili vše „ručně“, sami – a teď jim s tím AI pomáhá. Nová generace může přijít o část naučené zkušenosti, díky níž se buduje intuice, vědecké řemeslo i schopnost identifikovat problém.

Přesto se Pěchouček označuje za technooptimistu. Nevěří v zastavení technologického vývoje ani v nerůst. V AI stále vidí velkou šanci. „Umělá inteligence v rukou špičkově vzdělané příští generace lídrů, technologů, inženýrů a vědců je pro lidstvo jednou z mála šancí, jak se dostat z dnešních složitostí.“ A klíčem jsou podle něj kvalitní univerzity. Ne jako instituce, které pouze udělují diplomy, ale jako místa, kde se dělá věda a kde lidé fundamentům matematiky, fyziky a techniky. V tom vidí také roli ČVUT. Pokud má Evropa v něčem uspět, pak právě v umělé inteligenci pro podporu bádání. Vědě totiž Evropa dle něj stále rozumí mimořádně dobře.

Dejčmar: Nevěříme realitě, věříme tomu, čemu věřit chceme

Další řečník Václav Dejčmar přinesl do debaty energii a trochu jiný tón. Méně institucionální, daleko více psychologický a filozofický. I proto jej Jaroslav Řasa v úvodu večera popíchl přátelskou zmínkou, že se začíná „proměňovat ve filozofa“. Dejčmar, významný mecenáš Nadace Neuron, nevysvětloval síly AI na technickém modelu, ale na příkladu falešné americké MAGA influencerky, která dokázala získat obrovské publikum, peníze i důvěru mas, než se ukázalo, že za profilem stojí někdo úplně jiný. Jistý Ind. Podle Dejčmara už žijeme ve světě, kde se realita dá stále snáze vyrábět. Propaganda, kognitivní manipulace a falešné identity budou i díky AI čím dál přesvědčivější. Otázka nezní jen, co je pravda, ale proč lidé věří tomu, čemu věří: „Když jste trochu rozumní, věříte tomu, co vám dobře poslouží při orientaci v realitě. Když rozumní nejste, věříte čemukoliv.“

Člověk podle něj potřebuje pocit, že rozumí realitě a dokáže plánovat budoucnost. I když to není pravda, touha po tomto pocitu je psychologicky silná. A právě proto jsou lidé zranitelní a náchylní vůči konspiracím a manipulaci. Přitom velká část různých ideologií podle Václava Dejčmara selhává, protože ty nebývají založeny na evolučně biologickém základu, ale na snech. Lidé nejsou bytosti připravené žít v harmonické planetární civilizaci. Naše povaha je výsledkem evoluce, v níž hrály roli teritorium, moc, síla, reprodukce a přežití. Výraznou linkou jeho vystoupení byly literární a filmové obrazy budoucnosti. Připomněl třeba sci-fi knihu povídek Futurologický kongres (1971) od Stanisława Lema, Huxleyho Konec civilizace alias Krásný nový svět (1932) i slavný film Matrix (1999), za nímž stáli dříve bratři Wachowští, později už sestry Wachowské. Všechna tato popkulturní díla ukazují podobné varování: možná nepůjde o to, že se chyby světa napraví, ale že se zastřou tak dokonale, až budou lidé spokojeni v systému, který je ve skutečnosti děsivý...

O současné demokracii a politice mluvil Dejčmar ostře. Podle něj má totiž „zásadní problém na nabídkové straně“. Vysoká politika dnes pro schopného a slušného člověka znamená ztrátu soukromí, neustálé mediální útoky, závist, nenávist, komplikace v podnikání a prolustrování života až do dětství. Přesto společnost očekává, že do ní vstoupí lidé čestní, chytří, vzdělaní a psychicky stabilní, kteří ji budou chápat jako veřejnou službu. To je prakticky utopie. Současné nastavení systému motivuje k tomu, že politika přitahuje spíš lidi extrémní, různě narušené, nebo takové, které baví hrát hru sociálních sítí a permanentní viditelnosti. „Jak dnes dostat do politiky normální a schopné lidi, to je za mě jedna z nejdůležitějších otázek na Západě,“ upozornil přemýšlivý muž, jehož zajímá psychologie a taje lidské duše.

Dejčmar varoval před koncentrací nové moci. Nejde jen o stát, ale o technologické platformy, algoritmy, data a infrastrukturu. Kdo ovládá informační prostředí, ovládá do značné míry i pozornost, interpretaci reality a rozhodování lidí. Tuto moc lze nazvat kognitivní. Přesto ani jeho vystoupení nekončilo temně. Současnost označil za „apokalyptický věk“, v původním smyslu řeckého slova apokalypsa: nikoliv jako konec světa, ale jako odhalení. Věci se vyjevují takové, jaké jsou. Mizí různé sociální konstrukty a uhlazené fasády. Hledá se nová rovnováha. Lidé na sociálních sítích často již nevěří dokonalým věcem, ale syrovému videu, protože v něm cítí autenticitu. A touha po pravdě a autenticitě může být paradoxně nadějí.

Stoicismus, odpovědnost a pomoc druhým, aby byli lepší než my

Čas po 18:00 hodině, kdy se sál v motolském Vista Resortu zcela zaplnil, plynul rychle. Přednášející se doplňovali; padaly další otázky. „Poprosím vás o závěrečné rady, jak se k budoucnosti lidstva máme postavit, co nám doporučujete,“ vyzvala s úsměvem řečníky Monika Řasa Vondráková, protože inspirativní debata musela za setmění přece jen skončit.

Byznysmen Václav Dejčmar připomněl stoicismus a myšlenky velikého filozofa na trůně: „Pocit klidu, naplnění a štěstí můžete čerpat zevnitř, bez ohledu na to, co se děje venku. Překvapivě je to dosažitelné. Takže čtěte Marka Aurelia, staňte se stoiky, pěstujte eudamonii. To je skvělý návod na život.“ A Jaroslav Řasa doplnil, že vhodným navedením je i drobná Senecova knížka O klidu duševním: „Tu velmi doporučuji. Je to jen pár stránek“. Souzněla s tím i Monika: „Vždycky si říkám, že když lidé žijí v místech, kde hrozí tsunami a další katastrofy, a přesto dokážou být šťastní, je to možná právě proto, že si umějí užívat přítomný okamžik. Tady a teď.“

Přítomné pobavil Mirek Bárta: „Já rady nemám rád. Když mi někdo radí, většinou se spíš naštvu. Myslím si však, že je důležité, aby si každý z nás uvědomil, že má svoji odpovědnost za tento svět a zároveň i určitou sílu ovlivňovat své okolí. Někdo víc, někdo méně. Leadership existuje na všech úrovních. Jde o příklad, který dáváme. O snahu uchovat svět, případně jej předat ve stejném nebo lepším stavu, než v jakém jsme ho dostali do pronájmu. Řešení nejsme my tři na pódiu, ale každý z nás. Tam začíná řešení. Není to rada, spíš určitý názor na svět,“ dodal.

Poslední doporučení pro budoucnost naznačil rektor Michal Pěchouček, když navázal pohledem univerzitního pedagoga. Smyslem je podle něj pomáhat těm, kteří přijdou po nás, aby byli lepší než my. Jako profesor vidí jednu z největších radostí v tom, když může pomoci mladším kolegům vyrůst: „Pomoci někomu, aby byl úspěšnější než já. To mě vlastně velmi těší.“

Budoucnost? Šance pro vzdělané a odolné

Pozoruhodný večer, který navštívili laureáti, akademici i podnikatelé včetně Dalibora Dědka, pak symbolicky ukončil mecenáš Eduard Kučera, když se stylem sobě vlastním a s úsměvem, pravil, že Neuron Cluby přinášejí stále depresivnější témata – loni se třeba řešila i nádorová onemocnění – a že vlastně neví, zda na ně bude chodit... Nejnovější Neuron Club ukázal, že budoucnost lidstva se nebude rozhodovat jen ve výpočetních centrech, laboratořích, parlamentech či na sociálních sítích.

Rozhodne se především v tom, zda budeme vzdělaní, odolní, svobodní a zodpovědní. Zda technologie a umělou inteligenci využijeme k řešení problémů, či k jejich maskování. Zda rozpoznáme pravdu, i když bude nepohodlná. A zda dokážeme pomáhat těm, kteří přijdou po nás, aby měli šanci být lepší, než jsme my.