Začínáte s investováním?

Staňte se členem komunity Warengo a získejte přehled na trzích a možnost konzultace s profesionály. Je nás už 20 700.

Zaregistrovat se

13.05.2020 2 minuty čtení

ROZHOVOR: Pandemie urychlí digitalizaci, ale jak je to s jejím zabezpečením?

Díky dostupnosti technologií mohou útočníci levněji škálovat a tudíž je pro ně motivující dělat i drobné online podvody, pokud se dají neomezeně opakovat, říká jeden ze zakladatelů společnosti Resistant AI Jan Doubek.

Jaké jsou nyní nejčastější případy manipulace s umělou inteligencí?

Podle nás nejde o míru četnosti ale spíše o míru škodlivosti manipulace. Pokud se někdo záměrně rozhodne manipulovat s umělou inteligencí, nemusí ještě nutně škodit. AI používaná vyhledávači nebo algoritmy pro výběr viditelného obsahu bývá manipulována velmi často. Na druhou stranu pokud manipuluji vstupy automatického rozhodovacího procesu, abych dostal výhodu na úkor firmy, co tento proces nasadila, tak tam už je viditelná bolestivá ztráta, i když případů manipulace není tolik. Klíč je v tom je co nejdříve úspěšně odhalit a umět jim předcházet. 

Hrozí, že vzhledem ke koronaviru a přesunu mnoha aktivit do světa internetu tyto útoky mohou nejen růst, ale být i úspěšnější?

Tempo automatizace se i vzhledem ke koronaviru zrychluje. Firmy se snaží nahrazovat automatizovatelné či byrokratické procesy výpočetní silou. A inovace se nevyhnula ani podvodným protistranám. Díky dostupnosti technologií mohou útočníci levněji škálovat a tudíž je pro ně motivující dělat i drobné online podvody, pokud se dají neomezeně opakovat.

Útočí se na banky, e-shopy nebo třeba nemocnice. Lze ale podobným způsobem manipulovat s umělou inteligencí, kterou používají třeba průmyslové firmy?

Tady bych se opět zaměřil na výnosovou stranu podvodu. Pokud bude existovat někdo, kdo bude z podvodu benefitovat, pak se o něj pokusí. A záleží jen na míře zabezpečení dané umělé inteligence, jestli bude úspěšný. Z naší zkušenosti například vidíme interní podvody s manipulací logistických objednávkových systémů na základě falešných dokumentů. Automatický systém zpracuje objednávku náhradních dílů pro servisní středisko a díly objedná a dodá. A pokud firma nemá správně nastavené kontroly procesů a funkční systém řízení rizik, může docházet k tomu, že zaměstnanec může dále s těmito díly obchodovat a nikdo si toho nevšimne.

Více na orobotice.cz.

Hodnocení: +11
Pro přidání komentáře se přihlašte nebo zaregistrujte.
Řadit podle: oblíbenosti nejnovější
  • Kontroly procesů a funkční systém řízení rizik jsou klíč. pray

    0