Bude se umělá inteligence zodpovídat za svá rozhodnutí?

Martin Kysilka, 5. PROSINCE 2017

V čem je problém: IT vědci, právníci a experti na kognitivní funkce se shodují, že umělá inteligence by měla zodpovídat za svá rozhodnutí. A co je důležité: aniž by odhalila svá tajemství – prozradila knowhow vývojářů.

Již dnes je zřejmé, že umělá inteligence bude hrát ve společnosti velmi významnou roli. Měla by tedy i nést následky za svá rozhodnutí. Pokud budeme na AI spolehát v řešení životně důležitých rozhodnutí, budeme také potřebovat mechanismus, který tato rozhodnutí bude kontrolovat.

Dostat od AI systému vysvětlení (proč a jak udělal dané rozhodnutí) je však velmi složitý proces. Jedním z problémů je cena – jak vývojář, tak i klient budou muset vynaložit značné úsilí a obětovat nemalý peníz, aby ze zabudovaného AI systému vydolovali potřebná data, jež vysvětlí daná rozhodnutí.

Dalším problémem může být prozrazení choulostivých dat, jak o fungování AI systému, tak o společnosti klienta. Získaná vysvětlení mohou být navíc pro člověka zcela nepochopitelná. Výhoda AI systémů je především v tom, že dokážou najít korelace v nepřeberném množství dat (lidem často nepřístupným) – pro člověka naprosto neuchopitelný proces, který ani nemusí dávat smysl. Aby byla daná rozhodnutí za každou cenu plně pochopitelná i pro člověka, musela by se umělá inteligence ořezat a stát se méně výkonnou. Takovéto řešení by však mohlo ohrozit celou její existenci.

Řešení: Odpověď na tuto velmi složitou otázku bychom mohli nově najít ve společné práci vědců a profesorů z Harvardu. Tým expertů v této studii klade a zodpovídá klíčové otázky práva a regulace, řeší klíčové problémy a navrhuje potencionální řešení.

Experti z Harvardu nejdřívě začali se samotnou definicí slova „vysvětlovat“. „Když mluvíme o podaní vysvětlení k jistému rozhodnutí, spíše tím požadujeme důvod nebo ospravedlnění než podrobné vysvětlení samotného rozhodovacího procesu“.

Tento rozdíl je pro danou problematiku velmi podstatným. Profesorka a expertka na informační technologie Doshi-Velez tvrdí, že je možné vysvětlit, jak AI systém vytváří svá rozhodnutí, stejně jako lze vysvětlit, jak funguje gravitace nebo se peče dort. Toho bychom měli dosáhnout stanovením jistých pravidel, které AI systém bude dodržovat, aniž by odkazoval na konkrétní padající objekt nebo dort.

K vysvětlení toho, proč objekt padá například z důvodu rozbitého stroje v továrně, nepotřebujeme vysvětlit otázky gravitace. Požadovaného vysvětlení většinou dosáhneme otázkami typu: Jaké byly hlavní faktory v daném rozhodnutí? Ovlivnila by změna jistého faktoru celé rozhodnutí? Proč dva podobné případy vedly k rozdílnému rozhodnutí?... Zodpovězení otázek tohoto typu nemusí nutně vyžadovat detaily, které prozradí, jak daný AI systém funguje.

V jakém připadě bychom tedy měli požadovat vysvětlení? Společnost nemůže požadovat vysvětlení ke každému rozhodnutí, protože vysvětlení nejsou zadarmo – jejich generování stojí čas a námahu. Užitek z daných vysvětlení proto musí být balancován cenou. Příklad: když doktor sdělí postup všech svých dignóz a zákroků jinému doktorovi, může pak učinit méně chyb, ale také ztratit několik potencionálních pacientů. Proto je běžné, že čerstvě vystudovaný doktor vysvětluje svá rozhodnutí (postupy) zkušenému doktorovi, nikoliv zkušený doktor tomu čerstvě vystudovanému – pravděpodobnost, že doktor udělá chybu se snižuje a hodnota (zkušenost) doktora se časem zvyšuje. Požadovat vysvětlení bychom tedy měli vždy, pokud přínosy převyšují náklady.

Podle harvadského týmu bychom také měli požadovat vysvětlení, pokud má rozhodnutí dopad na někoho jiného, než na dotyčného, který rozhodnutí učinil. Musí existovat hodnota, která zjistí, zdali bylo rozhodnutí vykonáno chybně. A také musí existovat důvod domnívat se, že chyba se vyskytla v rozhodovacím procesu.

Pozorovatelé mohou mít například podezření, že rozhodnutí bylo ovlivněno irelevantním faktorem – chirurg například odmítá operovat kvůli současné fázi měsíce. Anebo systém učinil dvě stejná rozhodnutí ve dvou zcela odlišných situacích. V tomto případě bychom systém mohli podezřívat z toho, že nebral v potaz jeden z mnoha důležitých faktorů. Dalším důvodem může být neférové zvýhodňování jedné strany.

Zkrátka tu nejdříve musí být dobrý důvod myslet si, že dané rozhodnutí bylo špatné, předtím než začneme požadovat vysvětlení. Může však nastat situace, kdy budeme požadovat vysvětlení, abychom například zvýšili důvěru zákazníků.

Dopad: Harvardský tým expertů analyzuje právní situace, ve kterých je z nějakého důvodu požadováno vysvětlení – případy ručení, diskriminace, rozvod, administrativní rozhodnutí (soudci, porota...) a tak dále. Úroveň detailu se však velmi liší.

Všechny tyto faktory jsou však pro umělou inteligenci velmi důležité. Tým expertů usuzuje, že dostat srozumitelné vysvětlení od umělé inteligence je právně zcela proveditelné. Z velké části i díky tomu, že vysvětlení daného rozhodnutí může být učiněno, aniž by systém prozradil, jak funguje. Doshi-Velez dále dodává, že vysvětlovací část systému by měla fungovat zcela separátně od samotného AI systému.

I když generování pro člověka pochopitelných vysvětlení bude velmi složité, bude možné, což tým vede k jasnému závěru: „Prozatím by současné AI programy měly podléhat stejným právním normám jako podléhají lidé“. Umělá inteligence se však časem bude transformovat do formy, které nyní ještě nemůžeme rozumět. Právo a regulace by se proto měly vyvíjet společně s umělou inteligencí.

Pokud my lidé budeme v budoucnu spoléhat na systémy hlubokého učení, které za nás budou dělat důležitá rozhodnutí, měli bychom také porozumět tomu, jak fungují jejich rozhodovací procesy. V jakých situacích by měla AI vysvětlovat svá rozhodnutí a jak bychom tomu měli přizpůsobit zákony?

Originální článek

Mohlo by vás zajímat

Facebook má zákaz přenášet evropská data do USA. Bude muset v EU skončit?

  • Kyberprostor
  • Právo a regulace
209
0
0

Portland zakázal technologii rozpoznávání obličeje

  • Technologie
  • Kyberprostor
  • Právo a regulace
411
0
2

Které jurisdikce uznávají důkazy z blockchainu?

  • Právo a regulace
  • Kyberbezpečnost
  • Blockchain
1147
4
3

Čínský trestní soud využil důkazy uložené v blockchainu

  • Právo a regulace
  • Blockchain
1121
3
2

Trumpův plán, jak udržet USA na pozici lídra ve vývoji umělé inteligence

  • Civilizace
  • Robotizace a AI
  • Právo a regulace
2822
2
1

Pavel Kysilka: Stojíme na křižovatce. Česko musí začít stavět na vynikajících vědcích,…

Domácí ekonomika se sice dotahuje na evropskou úroveň, v blízké budoucnosti ji však čeká nesnadná transformace. Výhoda levné pracovní síly se totiž pod tlakem robotizace a digitalizace rychle rozplývá. Klíčovými konkurenčními faktory se stávají hlavně vynikající vědci, flexibilní absolventi technických i humanitních škol...

  • Leadership a kultura
  • Právo a regulace
  • Smart education
3462
5
5

Podle studie o etických otázkách autonomní dopravy jsou nejpostradatelnější senioři

  • Civilizace
  • Robotizace a AI
  • Smarty city
4209
3
2

Pavel Kysilka: Smějme se a zbohatneme

Produkční silou se naše firmy a celá ekonomika řadí do globální špičky. Ale příjmově – a to mzdou i zisky – patříme k podprůměru. Rozdíl mezi výrobním a příjmovým potenciálem Česka je jeden z nejhlubších na světě. Co dělat, aby se příjmový profil české ekonomiky konečně mohl rozesmát?

  • Leadership a kultura
  • Smart finance
  • Právo a regulace
3524
9
6

Pavel Kysilka: Data jsou ropou 21. století, mají dnes největší hodnotu. Světové top…

Navzdory vášni pro technologie se Pavel Kysilka od bankovnictví neodpoutal a o jeho prolínání s digitálním světem hojně píše a přednáší. O proměně bankovnictví v době technologických firem promluvil i na konferenci Banking in Motion 2018, kterou pořádala Česká bankovní asociace a jejímž mediální partnerem byly Hospodářské noviny.

  • Leadership a kultura
  • Smart finance
  • Právo a regulace
3511
2
8

Pavel Kysilka: Finančním trhem zatřesou technologie a mileniálové

Finančním trhem v jeho dnešní podobě zatřesou dva faktory – technologie na čele s umělou inteligencí, robotikou a blockchainem. A generace mileniálů. V rozhovoru pro server Roklen24 to uvedl bývalý viceguvernér České národní banky a zakladatel 6D Pavel Kysilka.

  • Leadership a kultura
  • Civilizace
  • Právo a regulace
3598
5
4

Pavel Kysilka: Potřebujeme křemíkový kapitalismus

Evropa prohrává na poli technologických inovací a byznysu. Příznaky její sklerózy nabírají tragikomických rozměrů a hlubinné příčiny neumí nikdo pojmenovat.

  • Civilizace
  • Právo a regulace
2916
5
3

MIT vyvinulo blockchainovou platformu, která bude hlídat policii a chránit naše soukromí

  • IT Inovace
  • Právo a regulace
  • Blockchain
3489
1
0

Petr Beneš: Co Vy na to pane Švarc?

Časy se opět mění. Digitální ekonomika, mobilita, virtualizace, online svět, dematerializace produktů a služeb s sebou přinášejí řadu nových a staronových trendů i do oblasti obchodních vztahů, organizace práce a zaměstnanosti. Slyšeli jste už termíny jako shared economy (sdílená ekonomika), barter economy, gift economy nebo gig economy? Že ne? Tak se na ně pojďme podívat...

  • Smart finance
  • Právo a regulace
3788
5
2

Petr Beneš: Datová horečka stoupá! V osudí je virtuální zlato 21. století

Obchodní model minulého století by se při troše zjednodušení dal shrnout do rovnice = poskytování přidané hodnoty za platbu penězi. Jednadvacáté století nás posouvá zase o kus dál. Exponenciální techonologie spolu s ekonomicko-společenskými trendy jako jsou demokratizace...

  • Leadership a kultura
  • Civilizace
  • Právo a regulace
4017
4
1

Čínský monitorovací systém se doslova dostává zaměstnancům do hlavy

  • Civilizace
  • Robotizace a AI
  • Smart health
4214
4
0

Zločin předvídající umělá inteligence bude dohlížet na indické ulice

  • Robotizace a AI
  • Smarty city
  • Právo a regulace
4211
2
2

Pavel Kysilka: Jed prosperity: Suroviny a dotace

Kde selhává selský rozum aneb Proč jsou dnes nejvyspělejšími ekonomikami světa ty, které nežijí opiové sny paragrafů, regulací, surovin a dotací?

  • Leadership a kultura
  • Civilizace
  • Smart finance
6875
9
13

V Kalifornii začíná testování samořídících aut se vzdálenými lidskými operátory

  • Smarty city
  • IT Inovace
  • Právo a regulace
4799
6
2

Arizona schválila návrh zákona, jenž umožňuje platit daně Bitcoinem

  • Leadership a kultura
  • Smart finance
  • Právo a regulace
4532
4
0

Pavel Kysilka: Způsobí PSD2 disrupci bankovnictví?

Před několika dny vstoupila v Česku prostřednictvím novely zakona o platebním styku směrnice EU „Revised Payment Services Directiv“ známá pod zkratkou PSD2. Mnozí od ní očekávají revoluci či přímo disrupci v bankovním sektoru a také zásadní hrozbu pro banky. Jsou tato očekávaní opravněná?

  • Leadership a kultura
  • Smart finance
  • Právo a regulace
5269
3
1

Petr Beneš: Brána bank dokořán

Komenský napsal svou Bránu jazyků dokořán, první moderní učebnici latiny, v roce 1631. Měla stovky stran a způsobila revoluci ve výuce jazyků po celém světě. Stovky stran má i nová směrnice platebního styku (2366/EU) z roku 2015, známá pod zkratkou PSD2. Ta už brzy způsobí největší revoluci v bankovnictví...

  • Leadership a kultura
  • Smart finance
  • Právo a regulace
5575
7
3

„Zdaňme roboty“ hlásá Kalifornie

  • Civilizace
  • Robotizace a AI
  • Právo a regulace
5134
4
1

Online roboprávník vyřeší zadarmo vaše právní trable

  • Robotizace a AI
  • Smarty city
  • Právo a regulace
5818
4
4

Konec právníků nejen v Čechách

Houstnoucí legislativní džungle všude na světě komplikuje život lidem, firmám i soudcům, skvěle ale živí armády právníků, a do nedávna navíc bránila tomu, aby jejich práci převzaly stroje. Až doteď. Díky obrovskému pokroku v umělé inteligenci v posledním roce...

  • Robotizace a AI
  • Právo a regulace
6031
4
3

Google obvinil Uber z krádeže technologie samořídících aut

  • IT Inovace
  • Právo a regulace
  • Smart transportation
5475
3
2

"Krisprový" boom svědčí o potenciálu genetického inženýrství

  • Civilizace
  • Genetika, Bio a Nanotechnologie
  • Právo a regulace
4718
4
1

Křemíkový Frankenstein

Giganti Silicon Valley pomohli stvořit Donalda Trumpa. A ten je teď sráží na kolena

  • Civilizace
  • Právo a regulace
5780
7
3

Elon Musk: Automatizace donutí vlády, aby zavedly univerzální základní příjem

  • Leadership a kultura
  • Civilizace
  • Právo a regulace
5084
5
4

Larry Page investuje do projektů na létající auta

  • IT Inovace
  • Právo a regulace
  • Smart transportation
5574
1
2

Odborníci předpovídají, že manželství s robotem bude legální kolem roku 2050

  • Civilizace
  • Robotizace a AI
  • Právo a regulace
5533
3
1

Google připravuje Wing Marketplace: dodávky jídla drony

  • Robotizace a AI
  • Smarty city
  • Právo a regulace
6176
1
1

Autonomní auta: budoucí cíl hackerů?

  • Robotizace a AI
  • Smarty city
  • Právo a regulace
7246
0
2

VR povzbudila chuť spoření na důchod

  • Smart finance
  • Právo a regulace
  • Virtuální realita
6109
2
3

Čína jako první vyzkouší na člověku modifikaci genů při léčbě rakoviny

  • Genetika, Bio a Nanotechnologie
  • Právo a regulace
4116
0
0

Šéf Uberu považuje Peking za budoucího konkurenta Silicon Valley

  • Civilizace
  • Právo a regulace
3400
0
0

Nesmyslná regulace vyhnala Uber a Lyft z texaského Austinu

  • Civilizace
  • Smarty city
  • Právo a regulace
4817
0
0

Ross je právník, který pracuje 7x24. Je totiž umělou inteligencí

  • Robotizace a AI
  • Právo a regulace
5093
1
1

Spolková rada přijala rezoluci o zákazu spalovacích motorů od roku 2030

  • Právo a regulace
  • Smart transportation
5276
0
1
Zobrazit další články