Spustili jsme DISKUZNÍ FÓRUM! Zeptejte se na cokoliv, co vás zajímá.
29.02.2020 5 minut čtení

Etický kodex pro využití A.I. ve válečném konfliktu a nečekaná schopnost Google Voice A.I.

Pentagon vydal svoje Asimovovy zákony, které ani tak neurčují, možnosti robotů vůči lidem, jako spíše možnosti armády s roboty vůči civilistům. Ani A.I. v soukromém sektoru se nedrží tolik zpátky. Například Google rozezná dva přes sebe mluvící lidi.

Pentagon v proběhnuvším týdnu zveřejnil etický kodex pro AI v rámci zajištění zodpovědného přístupu k následkům použití umělé inteligence ve válečném konfliktu.  

Odhalený kodex je poměrně ohromující.

Pravděpodobně nejsilnějším výrazem z pěti pravidel kodexu je úsilí o „nastavení odpovídající úrovně vyhodnocování a obezřetnosti,“ asi se všichni shodneme na tom, že jsme se toho moc nedozvěděli. Odpovídající pro koho?

Ostatní pravidla naznačují absolutní minimum, jaké bychom očekávali u algoritmu, který může být nasazen při výkonu popravy – Například možnost takový systém vypnout, pakliže se začne chovat nepředvídatelně.

Celý kodex nejsou ani tak etická pravidla, jako spíš snaha o ospravedlnění si využití AI jakýmkoli způsobem, který se zrovna bude hodit armádě Spojených států.

Pět pravidel kodexu:

1. Odpovědnost: Personál ministerstva obrany nastaví odpovídající úroveň vyhodnocování a obezřetnosti u AI, přičemž ministerstvo obrany zůstává zodpovědné za její vývoj a využití schopností.

2. Nestrannost: Ministerstvo podnikne patřičné kroky k minimalizaci potenciálního rizika nepředvidatelného chování AI. 

3. Transparentnost: Umělá inteligence využívaná ministerstvem obrany bude vyvíjena a nasazována tak, aby kompetentní personál plně porozuměl technologii, vývojovým procesům a operačním metodám v rámci všech schopností AI. Přístup zahrnuje transparentnost metodiky, zdrojů dat, designových procedur a dokumentace.

4. Důvěryhodnost: Umělá inteligence využívaná ministerstvem obrany bude mít jasně definované využití a její bezpečnost, zajištění a efektivnost na všech úrovních bude zajištěna a pravidelně testována po celou dobu užívání. 

5. Ovladatelnost: Ministerstvo navrhne a sestaví umělou inteligenci tak, aby vykonala zadané definované funkce, přičemž si zachová pozici k detekci a vyvarování se nečekaných následků. Ministerstvo musí zajistit deaktivaci či odpojení systémů, které vykazují nepředvídatelné chování.

„Bojím se toho, že celý kodex má spíš za úkol zbavit projekt morální zodpovědnosti,“

vyjádřila se k nim antropoložka Lucy Suchman, Slovo „odpovídající“ je podle ní otevřené různým interpretacím.

„Personál ministerstva obrany nastaví odpovídající úroveň vyhodnocování a obezřetnosti u AI“

Jak je na tom civilní sféra?

Výzkum umělé inteligence v soukromém sektoru je o poznání méně děsivý. Některé funkce byly přesto pozoruhodné. Google například uvádí, že jeho software pro rozpoznávání hlasu dokáže naráz poslouchat dva různé hlasy hovořící jeden přes druhého. Funkce by mohla být uživatelsky velmi dobře využitelná, takového rozhraní můžeme využít mnoha způsoby, od transkripce až po video hovory s automatickým blokováním hluku na pozadí.

Zde jsou nejzajímavější výzkumy umělé inteligence poslední doby:

CookGAN: Program pro syntézu obrazu z ingrediencí

CookGAN je MasterChef pro umělou inteligenci: Dodáte mu seznam ingrediencí a algoritmus se pokusí vygenerovat obraz finálního pokrmu obsahujícího zadané suroviny. Projekt pochází ze segmentu „počítačová analýza jídla,“ ve kterém se algoritmy učí vazby mezi ingrediencemi a hotovým pokrmem nebo odhadování kalorického příjmu jídla z pouhého obrázku či vygenerovaného receptu. 

Wavesplit: Hlasová separace shlukovou analýzou

Google dokáže oddělit záznam dvou přes sebe mluvících lidí ve dvě různé audio nahrávky. Technologie je téměř dokonalá, algoritmus je naučený rozpoznávat hlasy různých lidí a následně je vyseparovat do oddělených audio dokumentů. 

KaoKore: Dataset středověké japonské kultury

Tento nový dataset obsahuje více než 5 000 obrázků obličejů z japonských středověkých maleb. Výzkumníci vysvětlují, že databáze může být využita sociology nebo pro výzkum historie. Zároveň je vhodná na strojové učení algoritmů pro generování obrazů v určitém stylu. 

A ještě se podíváme na výzkum provedený firmou Salesforce: Od té doby, kdy v roce 2016 oddělení výzkumu AI převzal Richard Socher, proměnil ho v jednu z nejvýkonnějších laboratoří zaměřených na zpracovávání lidské řeči.

Studium inteligentního systému pro vyhledávání odpovědí

Novým trendem jsou algoritmy, které se učí vyhledávat odpovědi na otázky, jež nebyly nikdy před tím tázány. Výzkum se soustředí na schopnost algoritmů proskenovat celé dokumenty a poskládat z jednotlivých útržkových informací kompletní odpověď – Například na Wikipedii.  

Minimálně poslední funkci uvítají asi všichni studenti vysoké školy, kteří tráví dlouhé noci ponořeni ve skriptech.

Dokud nám bude AI pomáhat číst dokumenty a vařit jídlo a nebude se nás snažit „odpovídajícím způsobem“ eliminovat, tak můžeme být asi v klidu.

#AI #umelainteligence #robotika #algoritmy #usa #pentagon #etickykodex #salesforce #google #cokgan #wavesplit #kaokore #technologie #vyvoj #budoucnost 

Hodnocení: +10
Pro přidání komentáře se přihlaste nebo zaregistrujte.
Doporučené příspěvky
2 minuty
6 minut
5 minut
2 minuty
8 minut
1 minuta
6 minut
1 minuta
5 minut
5 minut
4 minuty
5 minut