Petr Pavel varoval před vývojem umělé inteligence. Připomněl projekt, který vedl ke vzniku atomové bomby

Umělá inteligence může lidstvu výrazně pomoci, zároveň se její rozvoj nesmí vymknout lidské kontrole. „Musíme proto trvat na základním principu: člověk musí zůstat tím, kdo technologii ovládá, a nikoli tím, kdo technologii podléhá,“ řekl Petr Pavel v OSN.

Prezident České republiky Petr Pavel vystoupil na sklonku září na valném shromáždění OSN v New Yorku. Jeho příspěvek byl naléhavý. Krom jiného se Pavel zaměřil na rozvoj umělé inteligence, který nabral mimořádné tempo.

„Poselství Nezávislého mezinárodního vědeckého panelu OSN pro umělou inteligenci, výzkumníků předních společností v oblasti AI i nezávislých odborníků je stále zřetelnější: naše schopnost tuto technologii řídit zaostává za tempem jejího vývoje,“ uvedl Pavel. Nestrašil, nemaloval černé scénáře. Byl však ve svém projevu velmi naléhavý.

„Svými konzistentně pevnými názory patříte spolu s Tuskem, Sikorskim, Stubbem mezi největší evropské autority,“ napsala pod videem z projevu paní Kateřina.

Zapomeňme na nekontrolované soupeření

Umělá inteligence může být podle prezidenta Petra Pavla pro lidstvo přínosná. Bez účinných ochranných mechanismů však může také způsobit nesmírné škody.

„Musíme proto trvat na základním principu: člověk musí zůstat tím, kdo technologii ovládá, a nikoli tím, kdo technologii podléhá.“ Podle Pavla nesmíme připustit, aby budoucnost umělé inteligence určovalo nekontrolované soupeření, v němž tlak na to být první zastíní bezpečnost, dohled nebo odpovědnost.

Pavel v OSN ve svém projevu vzpomenul na více než 80 let starý projekt Manhattan. Tento americký vojenský program za druhé světové války vedl k vývoji první jaderné zbraně a během několika let zásadně změnil bezpečnostní poměry ve světě. Pavel ale rozhodně nechtěl umělou inteligenci přirovnával k jaderným zbraním, přesto jistou paralelu viděl.

„Umělá inteligence představuje odlišnou technologii a jiná rizika. Poučení je však podobné: pokud technologický vývoj předchází nastavení pravidel dohledu a řízení, hrozí, že budeme řešit následky až ve chvíli, kdy bude příliš pozdě. Má-li umělá inteligence sloužit lidem, musí se rozvíjet v rámci mezinárodních pravidel.“

Už sto let hledá lidstvo odpověď

Stačí si vzpomenout na dílo spisovatele, filozofa a vizionáře Karla Čapka, který zemřel na samém začátku okupace naší země.

V dramatu R.U.R. nejsou roboti až tak zajímaví jako technický vynález. Čapka hlavně zajímá, co jejich využití udělá s člověkem a se společností. A v tom se Čapkovo dílo s Pavlovým vystoupením potkává.

Ne, nové technologie nemusí skončit katastrofou, ale je fakt nezbytné, aby  společnost dokázala vytvořit pravidla dostatečně dopředu a srozumitelně pro všechny.

„Potřebujeme společné standardy, skutečný veřejný dohled a jasné mechanismy pro vyvozování odpovědnosti,“ řekl o vývoji umělé inteligence v OSN český prezident.

Velmi podobnou otázku položil americký seriál Lovci zločinců. Jeho „hlavním hrdinou“ je výkonný počítačový systém pojmenovaný svým vynálezcem prostě Stroj. Stroj nikdy automaticky neurčí viníka. Jen ukáže na člověka, který bude s hrozícím činem spojen. Sami lidé však musí zjistit, zda je potenciálním pachatelem, nebo budoucí obětí.

Když seriál v roce 2011 začínal, působil jako science fiction. Přitom využíval technologie, které už tehdy existovaly. Kamerové systémy, údaje o poloze, elektronickou komunikaci.

Další řady pak vedle Stroje ukázaly pokročilejší systém s názvem Samaritan. Ten už ale sám rozhoduje, kdo představuje problém a jak má být odstraněn. Zatímco u Stroje zůstává zásadní etické rozhodnutí na lidech, Samaritan lidský úsudek nepotřebuje.

Petr Pavel v OSN formuloval stejný problém už nikoli jako literární nebo televizní fikci, ale jako politickou otázku současnosti. Technologie se mohou měnit. Otázka zůstává překvapivě podobná: kdo bude mít poslední slovo? Člověk, nebo systém, který vytvořil?

Zdroje: hrad.cz, wikipedia.org, justwatch.com, munispace.muni.cz