Chcete pořádnou investiční show? Sledujte nás na Instagramu!
25.09.2019 3 minuty čtení

Proč je nutné chránit umělou inteligenci před lidmi?

Umělá inteligence (AI) nás nechce ovládnout a není nebezpečná pro lidi. Je to spíš naopak: lidé jsou nebezpeční pro AI. O ochraně umělé inteligence před manipulací ze strany lidí hovořil na festivalu Future Port Prague Martin Řehák z Bulletproof AI.

Autonomní automobil, tedy vůz, který se řídí sám, je velmi bezpečný. Problém nastává tehdy, když se ho člověk pokusí oklamat. Samořiditelné auto například ví, že nesmí přejet plnou bílou čáru. Stačí pak kolem zaparkovaného auta barvou nastříkat bílý kruh a auto neodjede. Což je ještě poměrně neškodný žert. Badatelům firmy Tencent se povedlo Teslu navést mimo jízdní pruh pomocí tří správně umístěných bílých teček na silnici. A může být ještě hůře: pokud se na značku STOP nalepí na vhodně zvolená místa pár samolepek, počítač samořiditelného automobilu značku vyhodnotí jako „nejvyšší povolená rychlost“, a auto tudíž nezastaví. Možné následky si dokážete představit.

Jak oklamat umělou inteligenci?

Umělá inteligence se na základě dat učí a zdokonaluje se. Stále se mohou vynořovat nepředpokládaná vstupní data a na základě nich nepředpokládaná rozhodnutí a důsledky. Například při rozpoznávání obrázků AI dává přednost detailu před celkovým obrázkem a také povrchové struktuře (textuře) před tvarem. Na prvním obrázku níže je jasná kočka, jenže se ukázalo, že AI ji s velkou pravděpodobností rozpozná jako slona, protože to je přece sloní kůže. Na druhém obrázku uvidí AI hodiny a na třetím lahve, i když to je spíš auto a medvěd. Umělá inteligence je nesmírně efektivní, ale ještě pořád jí uniká celek a kontext. Alex Stamos, bývalý šéf bezpečnosti Facebooku, jednou výstižně prohlásil, že umělá inteligence je jako armáda pětiletých dětí.

Když společnost Amazon testovala automatizovaný systém pro výběr nových pracovníků na základě zaslaných životopisů, v roce 2015 zjistila, že pro technické pozice systém z nějakého důvodu nemá rád ženy. Amazon změnil parametry tak, aby systém nebral v úvahu, zda kandidát je žena, nebo muž… a stejně ženy byly soustavně znevýhodňovány. Příčinou mohla být data, ze kterých se systém učil – životopisy zaměstnanců v uplynulých deseti letech. Vzhledem k tomu, že na technických pozicích byla silná převaha mužů, umělá inteligence příslušné rozložení dat v procesu učení jen zopakovala. Každopádně Amazon projekt automatického výběru kandidátů ukončil.

Více na orobotice.cz.

Hodnocení: +5
Pro přidání komentáře se přihlašte nebo zaregistrujte.
Doporučené příspěvky