Bill Gates varuje, že zneužitá AI může vést k miliardě úmrtí

Bill Gates patřil desítky let k největším technologickým optimistům. Teď spoluzakladatel Microsoftu $MSFT prohlásil, že umělá inteligence je dost silná na to, aby vedla k miliardě úmrtí. Řekl to v rozhovoru pro americký pořad Meet the Press televize NBC.

Podstatné je, čeho se Gates bojí. Neděsí ho scénář ze sci-fi filmů, kde se stroje samy obrátí proti lidem. Děsí ho lidé se zlými úmysly, kteří dostanou do ruky nástroj, jaký tu dosud nebyl.

„AI je rozhodně dost silná na to, aby rozpoutala události, které způsobí miliardu úmrtí. I když je dost těžké dojít ke sto procentům, nikdy neexistovala zbraň tak silná jako kombinace lidí se zlými úmysly a nejnovějších nástrojů AI.“

Bill Gates, spoluzakladatel Microsoftu, v rozhovoru pro NBC

Zločinec už nemusí nic umět

Pátečním slovům předcházela rozsáhlá esej, kterou Gates zveřejnil 26. srpna na svém blogu. Na téměř šesti tisících slovech popisuje, proč je podle něj svět na nástup AI nepřipravený.

Hlavní myšlenka je jednoduchá. Návody na výrobu bomb, biologických zbraní nebo počítačových virů byly na internetu dávno předtím, než přišla AI. Většina lidí je ale neuměla použít. Umělá inteligence tuhle bariéru bourá, protože s ní člověk mluví běžným jazykem a ona mu poradí krok za krokem.

„Dokonce i zločinci s velmi omezenými dovednostmi budou moci útočit na oběti v jakémkoli měřítku: na jednotlivce, firmy i vlády.“

Bill Gates v eseji o nástupu AI

Za nejzranitelnější Gates považuje nemocnice, banky, elektrické sítě a státní systémy. Útoky na ně podle něj nemusí přijít za desítky let. Dobré věci z AI přicházejí spíš pomalu, ty špatné jsou podle jeho slov za dveřmi.

Firmy se samy neuhlídají, tvrdí Gates

Gates nepožaduje zákaz AI. V eseji naopak připomíná, co může přinést lékařům, učitelům nebo zemědělcům. Umělá inteligence podle něj bude buď největším vyrovnávačem rozdílů v dějinách, nebo největším zdrojem nespravedlnosti. O tom, co z toho nastane, se rozhoduje teď.

Klíčový je jeho postoj k regulaci. Technologickým firmám nevěří, že si pravidla nastaví samy. V rozhovoru pro NBC řekl, že do debaty o pojistkách a dohledu musí vstoupit politici a policie a pravidla musí být povinná, ne dobrovolná.

V eseji jde ještě dál. Navrhuje zdanit AI, protože současné daně podle něj firmy tlačí k tomu, aby nahrazovaly lidi stroji. Daň by tenhle přesun trochu zpomalila a vybrané peníze by šly na rekvalifikace a sociální pomoc lidem, kteří o práci přijdou.

Proč Gatesův hlas teď zní tak hlasitě

Gates není v obavách sám. Září bylo měsícem, kdy se debata o rizicích AI dostala z odborných kruhů do hlavních zpráv. Výzkumník Jacob Coxon odešel z firmy Anthropic a jí i konkurenční OpenAI vyčetl, že hazardují s lidskými životy. Jeho bývalý kolega Evan Hubinger napsal, že šance, že AI během příští dekády vyhladí lidstvo, je podle něj vyšší než 10 %.

Šéf Anthropicu Dario Amodei pak vyzval celé odvětví, aby zpomalilo vývoj nejvýkonnějších modelů. Varoval, že roj autonomních AI agentů by do 6 až 12 měsíců mohl ovládnout velkou část internetu a napáchat škody za stovky miliard dolarů. Za výzvu se postavili i šéf OpenAI Sam Altman a Elon Musk.

Proti tomu stojí americký prezident Donald Trump, který jakékoli brzdění vývoje odmítá s tím, že by USA ztratily náskok před Čínou. Gates se tak vložil do sporu, který se v Americe teprve naplno rozhořel.

Trh už si vybral, komu věřit

Investoři varování před zneužitím AI neberou jako prázdná slova. Ukázalo se to v pondělí 14. září, po víkendu plném výzev ke zpomalení.

Výrobci čipů padali, protože zpomalení vývoje by znamenalo méně objednávek. Nvidia $NVDA ztratila 3,4 % a polovodičový index zažil nejhorší den od začátku července. Firmy, které se živí obranou proti hackerům, ale ve stejný den výrazně rostly. CrowdStrike $CRWD přidal téměř 14 % a Palo Alto Networks $PANW 13 %.

Logika odpovídá tomu, před čím varuje Gates. Ať už AI laboratoře zpomalí, nebo ne, umělou inteligenci už používají i útočníci. Banky, nemocnice a energetické firmy proto musí víc utrácet za zabezpečení. Výsledek za letošní rok k pátečnímu uzavření burzy:

• CrowdStrike: +115 % od začátku roku

• Palo Alto Networks: +103 %

• Index S&P 500 pro srovnání: +13 %

Ne všichni ale čerpají z varování stejný závěr. Šéf Palo Alto Networks Nikesh Arora v podcastu CNBC označil celooborové zpomalení za nerealistické, protože se vždy najde někdo, kdo tempo nepoleví. Katastrofické scénáře odmítá.

„Myslím, že je to malá pravděpodobnost, extrémně malá. A naším úkolem je zajistit, abychom do modelů zabudovali pojistky a potřebnou bezpečnost, aby se používaly ke správným věcem.“

Nikesh Arora, generální ředitel Palo Alto Networks, pro CNBC

Varování, které se nedá odbýt

Arora a Gates se ve skutečnosti rozcházejí méně, než se zdá. Ani jeden nečeká vzpouru strojů. Oba mluví o tom, že AI už dnes posiluje útočníky a někdo se jim musí postavit. Gates chce, aby to byl stát s povinnými pravidly. Arora nabízí technologii, která útoky zastaví.

U akcií kyberbezpečnosti ovšem platí, že velká část obav už je v ceně. Průměrná cílová cena analytiků je u CrowdStrike dokonce pod současnou cenou akcie. Rozhodnou až čtvrtletní výsledky obou firem na přelomu listopadu a prosince.

Gatesovo varování tím ale neztrácí váhu. Když člověk, který pomohl dostat počítač do každé domácnosti, říká, že na nástup AI nejsme připraveni, nejde o reklamu ani o burzovní tip. Je to výzva politikům, aby začali jednat dřív, než přijde první skutečně velký útok.