Úvod
The Coming Wave je kniha o zmene schopností. Mustafa Suleyman a Michael Bhaskar tvrdia, že najdôležitejšou vlastnosťou pokročilých technológií nie je iba to, že známe úlohy zvládajú rýchlejšie alebo pohodlnejšie. Rozširujú to, čo môžu jednotlivci, firmy a štáty skutočne robiť. Toto rozšírenie môže zlepšiť zdravotníctvo, vedecké objavy, vzdelávanie, produktivitu aj riešenie environmentálnych problémov. Zároveň však môže zväčšiť dosah podvodov, nátlaku, narúšania systémov a chýb.
Autori sa neobávajú, že každý nový nástroj je škodlivý. Pokrok tiež nevnímajú ako jediného zloducha s vopred určeným koncom. Ich argument je náročnejší: mocné technológie sa šíria preto, že riešia skutočné problémy, prinášajú zisk, poskytujú strategickú výhodu a podnecujú napodobňovanie. Keď sa určitá schopnosť ukáže ako užitočná, iní ju prispôsobia cieľom, ktoré pôvodní vynálezcovia možno nikdy nezamýšľali. Vynálezcovia nedokážu určovať každé neskoršie použitie, no podľa autorov stále nesú zodpovednosť za to, čo vytvoria, uvedú na trh, umožnia a čo pomôžu znormalizovať.
Kniha sa sústreďuje najmä na vzájomné pôsobenie umelej inteligencie a syntetickej biológie. Umelá inteligencia môže pomáhať pri interpretácii informácií, odhaľovaní vzorcov, navrhovaní možností a koordinácii pracovných postupov. Biotechnológie dokážu čoraz viac premieňať poznatky na zásahy do živých systémov. Táto kombinácia je dôležitá, pretože rýchlejšie spracovanie informácií môže urýchliť biologický výskum a navrhovanie. Vyvážené čítanie si však vyžaduje dôležité spresnenie: výpočty neodstraňujú obmedzenia laboratórií, potrebu fyzického materiálu, vedeckú neistotu ani potrebu odbornej a zodpovednej práce. To, že model vytvorí vierohodný návrh, ešte neznamená, že vo svete vznikol bezpečný a overený výsledok.
Autori túto chvíľu opisujú rovnako ako technickú aj politickú a inštitucionálnu výzvu. Pýtajú sa, či ľudstvo dokáže získať mimoriadne výhody a zároveň zabrániť vážnym škodám. Potrebnú schopnosť nazývajú „udržaním pod kontrolou“. Nejde o tvrdenie, že dokonalá schránka dokáže navždy uzavrieť mocné poznanie. Ide o snahu zachovať si možnosť nebezpečný vývoj alebo nasadenie sledovať, obmedziť, presmerovať a tam, kde je to opodstatnené, zastaviť.
Toto zhrnutie predstavuje ich argument ako podnetný rámec, nie ako dokázané proroctvo. Niektoré ich predpovede sú nevyhnutne neisté. Užitočné je brať ich otázky vážne bez toho, aby sme predpokladali, že umelá inteligencia je vedomá, že budúcnosť má iba jednu nevyhnutnú podobu alebo že sa uskutoční každý znepokojujúci scenár.
Schopnosť, nielen pohodlie
Ústrednou myšlienkou knihy je, že technológie prerozdeľujú moc. Moc tu znamená schopnosť dosiahnuť cieľ: organizovať, presviedčať, navrhovať, analyzovať, koordinovať alebo konať vo veľkom meradle. Staršie digitálne nástroje uľahčili zverejňovanie a výmenu informácií. Autori tvrdia, že novšie systémy čoraz viac pomáhajú s plánovaním a vykonávaním úloh. Toto rozlíšenie mení mieru rizika.
Systém umelej inteligencie, ktorý zhrnie dokumenty alebo navrhne rozvrh, môže byť užitočný, ale stále obmedzený. Systém prepojený s účtami, softvérom, strojmi alebo organizačnými procesmi však môže potenciálne vykonať celý sled krokov. Preto je nevyhnutné rozlišovať medzi odporúčaním a autorizovaným vykonaním. Nástroj môže napríklad odporučiť vrátenie peňazí, no povoliť mu odoslať peniaze je samostatné rozhodnutie o správe a kontrole. Môže pripraviť správu, ale udeliť mu povolenie odoslať ju klientovi predstavuje ďalší prah. Schopnosti prudko rastú, keď systémy získajú prístup, oprávnenia a autonómiu.
Autori očakávajú, že mocné nástroje sa budú šíriť, pretože užitočnosť vytvára motiváciu. Firmy hľadajú efektívnosť a nové produkty. Vlády hľadajú odolnosť a strategickú výhodu. Výskumníci hľadajú objavy. Bežní ľudia hľadajú pomoc. To znamená, že žiadať od jediného vynálezcu, aby sa „správal zodpovedne“, je potrebné, ale nestačí. Rozhodnutia sú rozdelené medzi dodávateľov, nasadzujúcich subjekty, používateľov, investorov, regulátorov a inštitúcie.
Doplňujúca praktická analýza: odbornosť nie je to isté ako dôveryhodnosť. Systém môže pri mnohých príležitostiach vytvárať pôsobivú prácu, a predsa nemusí byť vhodný na dôležitú úlohu, ak sa jeho chyby ťažko odhaľujú, jeho uvažovanie sa nedá zmysluplne preskúmať alebo po vzniku škody zmizne zodpovednosť. Spoľahlivosť závisí od kontextu. Preklep v internom návrhu nie je to isté ako nesprávny krok, ktorý ovplyvní živobytie človeka, jeho bezpečnosť alebo právne postavenie.
Predstavme si príklad, nie anekdotu z knihy. Malá firma používa asistenta na prípravu odpovedí zákazníkom. Takúto činnosť možno pomerne ľahko kontrolovať. Ak mu však firma neskôr dovolí samostatne odosielať správy, schvaľovať vrátenie peňazí alebo meniť predplatné, mala by stanoviť jasné finančné limity, pravidlá eskalácie, záznamy a spôsob, ako zvrátiť chyby. Dôležitá otázka neznie, či je automatizácia dobrá alebo zlá. Ide o to, či rozsah oprávnení zodpovedá preukázanej spoľahlivosti a či za výsledok zostáva zodpovedný konkrétny človek.
Tento prístup sa vyhýba dvom chybám. Prvou je považovať každú automatizovanú funkciu za existenčnú hrozbu. Druhou je pokladať zdanlivo malú zmenu oprávnení za neškodnú. Širšie varovanie autorov znie, že spoločnosti by mali sledovať, ako sa schopnosti postupne hromadia, nielen to, ako uhladene technológia pôsobí.
Prečo sa umelá inteligencia a biológia navzájom posilňujú
Autori kladú umelú inteligenciu a syntetickú biológiu do centra nastávajúcej vlny, pretože ich vnímajú ako vzájomne sa posilňujúce všeobecne použiteľné schopnosti. Umelá inteligencia pracuje predovšetkým s informáciami: dokáže triediť, predpovedať, vytvárať, simulovať a pomáhať pri rozhodovaní. Biológia sa týka živých systémov a možnosti porozumieť im alebo ich meniť. Podľa autorov môžu lepšie výpočtové nástroje urýchliť časti biologického výskumu, zatiaľ čo biologické poznatky otvárajú nové praktické možnosti v medicíne, poľnohospodárstve, materiáloch a ďalších oblastiach.
Táto kombinácia prináša skutočnú nádej. Výpočtová asistencia môže výskumníkom pomôcť identifikovať sľubné otázky, usporiadať veľké množstvo dôkazov a skrátiť časti objavného procesu. Pri opatrnom používaní by mohla sprístupniť užitočné odborné znalosti väčšiemu počtu ľudí. Učiteľ môže nástroj umelej inteligencie použiť na vytvorenie rôznorodých cvičení, prispôsobenie vysvetlení rôznym úrovniam čítania alebo prípravu hodiny. Stále však musí overiť správnosť, chrániť súkromie žiakov a rozhodnúť, či vytvorené cvičenie rozvíja zamýšľanú zručnosť. Pomoc neznamená rezignáciu na zodpovednosť.
Autori sa rovnako obávajú, že všeobecne použiteľné poznanie môže mať škodlivé využitie. Netvrdia, že biologický výskum sa má zastaviť ani že každý človek, ktorý sa naučí viac o biológii, je nebezpečný. Ide o to, že širší prístup k mocným nástrojom na navrhovanie a plánovanie môže znížiť niektoré prekážky pre nezodpovedných alebo zlomyseľných aktérov. Presný rozsah a načasovanie týchto rizík zostávajú neisté a na fyzických požiadavkách laboratórií stále záleží. Táto možnosť však mení bezpečnostné kritériá: nestačí skúmať, či nástroj prospieva svedomitým používateľom; jeho tvorcovia musia zohľadniť aj zneužitie a zlyhanie.
Odlišné nebezpečenstvá si vyžadujú odlišnú ochranu. Predchádzanie nehodám nie je to isté ako predchádzanie úmyselnému zneužitiu. Prevencia nehôd môže zahŕňať školenia, testovanie, kontrolné zoznamy, jasné rozhrania a bezpečné predvolené nastavenia. Úmyselné zneužitie si môže vyžadovať obmedzenie prístupu, sledovanie vysokorizikových schopností, vyšetrovacie postupy a dôsledky za porušenia. Ak to všetko spojíme do jednej vágnej predstavy „bezpečnosti“, môžu vzniknúť medzery.
Kľúčové ponaučenie knihy preto neznie, že umelá inteligencia magicky vyrieši biológiu alebo že biológia robí katastrofu nevyhnutnou. Ide o to, že dva rýchlo sa rozvíjajúce odbory môžu znásobiť svoje účinky. Zodpovedné riadenie by malo skúmať celý spojený systém: čo nástroj umožňuje, kto ho môže používať, aké zdroje zo skutočného sveta sú stále potrebné a aké ochranné opatrenia platia predtým, než sa určitá schopnosť sprístupní vo veľkom.
Vlastnosti, ktoré sťažujú kontrolu
Suleyman a Bhaskar identifikujú niekoľko tendencií, ktoré môžu riadenie technológie sťažiť. Zdôrazňujú rýchle zlepšovanie, širokú opätovnú použiteľnosť, asymetrický vplyv a rastúcu autonómiu. Najlepšie je chápať ich ako otázky na analýzu, nie ako univerzálne zákony. Nie každý systém umelej inteligencie má všeobecné využitie. Nie každá biologická technika je ľahko dostupná. Nie každý automatizovaný proces si zaslúži rovnakú mieru obáv.
Po prvé, rýchlo sa vyvíjajúce technológie môžu predbehnúť pravidlá, školenia aj prispôsobenie organizácií. Politika vytvorená pre minuloročný systém nemusí vyhovovať systému, ktorý je lacnejší, schopnejší alebo zapojený do nových pracovných postupov. Po druhé, všeobecne použiteľný nástroj možno prispôsobiť mnohým úlohám. Vzniká tak obrovská hodnota, ale zároveň je ťažšie predvídať každé využitie. Úzko navrhnutý systém používaný na jeden vymedzený účel možno niekedy testovať a riadiť priamočiarejšie než pružný nástroj, ktorý putuje medzi rôznymi oblasťami.
Po tretie, asymetrický vplyv znamená, že pomerne malý aktér môže niekedy dosiahnuť účinky ďaleko presahujúce jeho zdroje. Digitálne systémy môžu fungovať rýchlo a vo veľkom meradle; malá chyba, dezinformačná kampaň alebo automatizované rozhodnutie môže zasiahnuť mnoho ľudí skôr, než si to niekto všimne. Po štvrté, autonómia mení prevádzkovú situáciu. Systém, ktorý pri každom dôležitom kroku čaká na človeka, sa líši od systému, ktorý si vyberá ciele, používa nástroje a pokračuje v konaní počas celého sledu úloh.
Kľúčové je rozlišovať medzi zdanlivou inteligenciou nástroja a jeho prevádzkovými oprávneniami. Systém môže byť výborný pri príprave plánu, no slabý pri zvládaní výnimiek, protichodných hodnôt alebo chýbajúceho kontextu. Systém, ktorý je schopný v testovacom prostredí, preto ešte nie je dôveryhodný v chaotickej inštitúcii. Pred rozšírením oprávnení by si organizácie mali položiť otázky: Čo tento systém dokáže? Čo smie robiť? Kto overuje jeho kroky? Čo sa stane, keď zlyhá? Dokážeme jeho účinky vysledovať a zvrátiť?
Príklad: nástroj verejnej správy môže zoradiť žiadosti alebo označiť prípady na preskúmanie. Zodpovedný návrh by z tohto poradia neurobil rozhodnutie, proti ktorému sa nedá odvolať. Poskytol by zrozumiteľné dôvody, zachoval by možnosť odvolania, určil zodpovedný úrad a testoval by, či chyby nespravodlivo nedopadajú na konkrétne skupiny. Nejde o komplikovanie pre komplikovanie. Je to spôsob, ako zachovať legitimitu, keď rozhodnutia ovplyvňujú skutočných ľudí.
Rámec autorov podporuje primeranosť. Systémy s obmedzeným rozsahom, zúženými oprávneniami a ľahko zvrátiteľnými výsledkami si vyžadujú inú reakciu než systémy, ktoré ovplyvňujú kritickú infraštruktúru alebo môžu bez kontroly široko konať. Cieľom nie je ani panika, ani pasivita. Ide o prepojenie ochranných opatrení so skutočnými vlastnosťami a dôsledkami danej schopnosti.
Šírenie popri koncentrácii
Jedným z najužitočnejších napätí v knihe je, že technologická moc sa môže šíriť smerom von, zatiaľ čo kľúčová infraštruktúra zostáva sústredená. Mnoho ľudí môže získať prístup k výkonným nástrojom prostredníctvom aplikácií, rozhraní API a služieb. Súčasne môže výstavba najväčších systémov závisieť od drahých čipov, dátových centier, špecializovaných odborníkov, kapitálu a dodávateľských reťazcov. Obe tendencie môžu platiť naraz.
To je dôležité, pretože verejné diskusie si často vyberajú iba jednu stranu. Niektorí tvrdia, že pokročilá technológia nevyhnutne decentralizuje moc, pretože nástroje sa dostávajú k väčšiemu počtu používateľov. Iní tvrdia, že moc nevyhnutne centralizuje, pretože infraštruktúru si môžu dovoliť iba veľké inštitúcie. Pohľad autorov naznačuje zložitejší obraz: prístup sa môže rozširovať, zatiaľ čo vplyv na základné systémy, distribučné kanály a technické štandardy môže zostať v rukách pomerne malého počtu aktérov.
To vytvára príležitosti aj riziká pre riadenie. Sústreďujúca sa výpočtová infraštruktúra môže byť praktickým bodom dohľadu. Prevádzkovateľov veľkých dátových centier a výkonných výpočtových zdrojov možno ľahšie identifikovať než každého budúceho používateľa digitálneho nástroja. Autori navrhujú, že tieto úzke miesta by mohli podporiť udeľovanie licencií, oznamovacie povinnosti, monitorovanie a bezpečnostné požiadavky.
Je to však návrh, nie úplná odpoveď. Kontroly na úrovni infraštruktúry môžu upevniť postavenie zavedených hráčov, znevýhodniť menších výskumníkov a dať vládam alebo dominantným firmám nadmerný vplyv na to, kto smie inovovať. Môžu tiež prehliadnuť nástroje a schopnosti s menšími výpočtovými nárokmi, ktoré sa šíria inými cestami. Každý systém riadenia využívajúci takéto pákové body preto musí čeliť náročným otázkam: Kto vytvára kritériá? Existuje nezávislý proces preskúmania? Môže menšia organizácia napadnúť chybné zamietnutie? Sú povinnosti transparentné a primerané? Chráni regulácia verejnosť bez toho, aby iba chránila etablovaných hráčov?
Doplňujúca praktická analýza: spravodlivé riadenie potrebuje prevenciu aj prístup. Pravidlo, ktoré predchádza vážnemu riziku, môže byť oprávnené, no jeho legitimita závisí od vysvetlenia, možnosti napadnúť ho na základe dôkazov a kontroly, či jeho bremená nedopadajú nerovnomerne. Inak sa udržanie pod kontrolou môže stať úctyhodným názvom pre svojvoľné vylučovanie.
Kniha toto napätie nerieši a možno neexistuje jednoduchý vzorec, ktorý by ho vyriešil. Jej hodnota spočíva v tom, že robí tento kompromis viditeľným. Budúcnosť, v ktorej sú schopnosti široko rozdelené, sa automaticky nestáva demokratickou. Budúcnosť, v ktorej je infraštruktúra kontrolovaná, sa automaticky nestáva bezpečnou. Inštitúcie musia spoločne skúmať vlastníctvo, zodpovednosť, hospodársku súťaž a verejný prospech.
Inštitúcie pod tlakom
Autori sa obávajú, že inštitúcie sa možno nedokážu prispôsobovať tak rýchlo ako technológie, na ktoré majú dohliadať. Školy, súdy, úrady, firmy, médiá a demokratické systémy čiastočne závisia od dôvery: ľudia potrebujú vedieť, kto prijal rozhodnutie, ktoré dôkazy boli dôležité a kam sa obrátiť so žiadosťou o nápravu. Rýchle technológie fungujúce vo veľkom meradle môžu tieto usporiadania vystaviť tlaku prostredníctvom chýb, vydávania sa za iných, manipulácie, neprehľadného rozhodovania alebo náhlych zmien ekonomickej moci.
To neznamená, že inštitúcie sú bezmocné alebo zastarané. Znamená to, že na inštitucionálnej kapacite záleží. Pravidlá musia byť zrozumiteľné, odborné znalosti dostupné a postupy schopné učiť sa z nových dôkazov. Vláda alebo organizácia, ktorá reaguje až po vzniku škody, môže opakovane regulovať včerajší problém. Systém, ktorý sa pokúša predvídať a zakázať každé možné budúce využitie, sa však môže stať strnulým, dotieravým a neúčinným.
Kniha odmieta jednoduché extrémy. Všeobecné zákazy by pripravili spoločnosť o skutočné výhody a na celom svete by sa ťažko presadzovali. Úplný dohľad by mohol sľubovať kontrolu, no zároveň podkopať občianske slobody, dôveru verejnosti a otvorené podmienky potrebné pre vedu a demokraciu. Ani jedna cesta nie je bezbolestná. Dobré riadenie musí uznať súperiace hodnoty, nie tvrdiť, že bezpečnosť odstráni všetky náklady.
Praktickejším modelom je postupné zavádzanie. Príklad: skôr než sa systém použije v celej organizácii, možno ho otestovať v obmedzenom prostredí s jasnými ukazovateľmi výkonnosti, dohľadom ľudí, hlásením incidentov a plánom návratu k predchádzajúcemu stavu. Ak počet zlyhaní prekročí dohodnutú hranicu, zavádzanie sa pozastaví alebo zvráti. Nezaručí to bezpečnosť, ale vytvorí spätnú väzbu skôr, než sa chyby zakorenia.
Dôvera verejnosti si vyžaduje aj možnosť spochybnenia. Keď automatizované odporúčanie ovplyvní dôležité rozhodnutie, dotknutí ľudia potrebujú zmysluplné vysvetlenie, cestu na napadnutie výsledku a jasnosť v tom, ktorá ľudská inštitúcia nesie zodpovednosť. „Systém to povedal“ nie je obhájiteľná konečná odpoveď.
Suleyman označuje tendenciu odmietať nepríjemné technologické riziká ako „averziu voči pesimizmu“. Je to jeho označenie, nie klinická diagnóza, a nedokazuje, že každá pesimistická predpoveď je správna. Jej najsilnejší význam je skromný: popieranie môže byť intelektuálne rovnako lenivé ako senzáciechtivosť. Zodpovedná príprava si vyžaduje skúmať možné negatívne dôsledky, overovať tvrdenia a upravovať presvedčenia, keď sa zmenia dôkazy.
Udržanie pod kontrolou ako trvalá prax
Navrhovanou odpoveďou knihy je udržanie pod kontrolou: viacvrstvová schopnosť sledovať, obmedzovať a v prípade potreby zastaviť vývoj alebo nasadenie nebezpečných technológií. Autori ho nepredstavujú ako jednorazový vynález ani ako magickú záruku. Naopak, zdôrazňujú napätie v tom, že udržanie pod kontrolou sa môže zdať mimoriadne náročné, a predsa je potrebné oň usilovať.
Viacvrstvový prístup je dôležitý, pretože žiadna jednotlivá kontrola nie je sama osebe dostatočne spoľahlivá. Technické hodnotenia môžu pred uvedením systému odhaliť jeho zlyhania a škodlivé správanie. Obmedzené oprávnenia môžu zabrániť nástroju vykonávať dôležité kroky bez schválenia. V kľúčových bodoch možno vyžadovať súhlas človeka. Záznamy o audite môžu zabezpečiť spätnú kontrolovateľnosť. Nezávislý dohľad môže preverovať tvrdenia firiem. Zodpovednosť za škodu a správne nastavené motivácie môžu spôsobiť, že zlyhania v oblasti bezpečnosti budú nákladné pre ich pôvodcov, a nie prenesené na verejnosť. Dôveryhodné štandardy môžu objasniť očakávania a medzinárodná spolupráca môže znížiť pokušenie pretekať sa v rizikovejšom nasadzovaní.
Tieto opatrenia slúžia na odlišné účely. Hodnotenie sa snaží odhaliť slabiny. Kontrola prístupu obmedzuje to, čo systém môže robiť. Audit podporuje spätnú zodpovednosť. Zodpovednosť za škodu mení motivácie. Medzinárodné dohody riešia problém, že zdržanlivosť jedného aktéra môže zneužiť iný aktér, ktorý hľadá výhodu. Zamieňanie týchto vrstiev môže vytvoriť falošný pocit istoty: systém môže byť dobre otestovaný, ale zle riadený, alebo ho môže jedna firma prísne obmedzovať, zatiaľ čo inde sa naďalej kopíruje.
Súťaž je jedným z najťažších problémov autorov. Firmy sa môžu obávať, že ich niekto predbehne. Štáty sa môžu obávať strategickej nevýhody. Bezpečnostné obavy môžu krajiny odrádzať od zdieľania informácií alebo spomaľovania vývoja. Dobrovoľná zdržanlivosť jediného aktéra preto môže byť krehká. Kolektívna koordinácia nie je zaručená, no kniha tvrdí, že je nevyhnutná práve preto, že jednostranné riešenia sú zraniteľné.
Návrhy autorov si zaslúžia dôkladné preskúmanie. Kto rozhoduje o tom, čo predstavuje neprijateľné riziko? Do akej miery sú hodnotenia transparentné? Ktoré informácie musia zostať dôverné a ktoré musia byť verejne napadnuteľné? Ako zabezpečiť, aby regulátori zostali technicky schopní a politicky zodpovední? Ako možno pravidlá aktualizovať, keď zlyhajú? Tieto otázky nie sú námietkami zvonka voči projektu udržania pod kontrolou; sú podmienkami jeho legitimity.
Udržanie pod kontrolou preto treba chápať ako priebežné riadenie v podmienkach neistoty. Jeho úspech by neznamenal, že všetky riziká zmiznú. Znamenal by, že spoločnosti si zachovajú dostatočný prehľad, právomoc a schopnosť prispôsobovať sa, aby zabránili škodám, ktorým sa dá predísť, a zároveň ponechali priestor užitočným inováciám.
Záverečné zhrnutie
The Coming Wave tvrdí, že pokročilé technológie treba posudzovať podľa schopností, ktoré rozdeľujú medzi ľudí, nie iba podľa pohodlia, ktoré ponúkajú. Suleyman a Bhaskar považujú umelú inteligenciu a syntetickú biológiu za mimoriadne významné, pretože môžu urýchliť objavy, znásobiť organizačnú moc a znížiť prekážky pre sofistikované konanie. Ich varovanie sprevádza skutočný optimizmus: tie isté nástroje môžu podporiť veľký verejný prospech.
Ich ústrednou výzvou je udržanie pod kontrolou. Nie trvalé technologické uzavretie, nie bezmyšlienkovité zrýchľovanie a nie predstava, že všetko vyrieši samotná regulácia. Namiesto toho vyzývajú na prekrývajúce sa technické, inštitucionálne, právne, ekonomické a medzinárodné opatrenia, ktoré ľuďom zachovajú schopnosť dohliadať, obmedzovať a v prípade potreby zastavovať škodlivé využitie.
Kniha je najsilnejšia vtedy, keď núti čitateľov klásť praktické otázky. Čo smie systém robiť? Kto nesie zodpovednosť za jeho zlyhanie? Kde sa nachádzajú hranice, po ktorých už nemožno účinky zvrátiť? Kto získava novú moc a kto znáša nové riziká? Predpovede knihy by sme nemali chápať ako termíny ani istoty a pri pohľade na autorov treba zohľadniť ich skúsenosť z technologického priemyslu. Ich základná výzva však zostáva cenná: pokrok nie je iba o vynájdení mocných nástrojov. Ide aj o budovanie inštitúcií dostatočne vyspelých na to, aby ich moc riadili.