Odborně

Marcel Kolaja: Evropský parlament přijal usnesení o automatizovaném rozhodování

21. 02. 2020
Sdílet na Facebooku Tweet

Ve středu 12. února 2020 přijal Evropský parlament usnesení o procesech automatizovaného rozhodování (ADM). S ohledem na připravovanou strategii Evropské komise pro umělou inteligenci (AI) vyslal Evropský parlament jasný politický signál Komisi, že ačkoliv podporuje vývoj nových technologií, tak nejvyšší priority Parlamentu vždy byly a zůstanou ochrana spotřebitelů a spravedlivé zacházení se všemi jednotlivci.

marcel kolaja-malostranske namesti

Co to znamená pro vás
Technologie založené na procesech ADM—známé také pod oblíbenějším názvem umělá inteligence či Artificial Intelligence (AI)—jsou přítomné v našem každodenním životě, ať už se jedná o software přes který žádáte o práci, chatovací roboty zabývající se vašimi dotazy, nebo o virtuální asistenty pomáhajícími s vašimi stížnostmi na webových stránkách, kde objednáváte potraviny. Ačkoliv tyto procesy mají potenciál zrychlit některé služby, tak jejich použití může vést k diskriminaci. Jeden takový případ cenové diskriminace se stal před několika lety, kdy hotelová rezervační platforma zavedla systém dynamického určování cen, který aktivně nabízel uživatelům dražších mobilních zařízení hotely za vyšší ceny, protože předpokládal, že jejich kupní síla je vyšší. Dalším příkladem mohou být platformy pro hledání práce. Pokud by se použil zkreslený, nesprávně navržený algoritmus, který by se rozhodnul upřednostňovat muže před ženami, nebo kandidáty určité národnosti před jinými národnostmi bez ohledu na jejich schopnosti, tak může být tisíce životopisů vyloučeno z výběru ještě předtím, než se vůbec dostanou k personálnímu oddělení.

Proč je důležité toto podporovat
Věřím, že transparentnost systému je klíčovým aspektem pro zajištění vysoké úrovně ochrany spotřebitele. Návštěvníci webových stránek si velmi často neuvědomují, že jsou systémy ADM používány, a nejsou si vědomí možných úskalí. Soukromé subjekty a veřejné orgány, které takové systémy používají, by měly aktivně informovat zákazníky právě proto, aby se předešlo možnému špatnému zacházení kvůli použití nevhodných a nespravedlivých automatických rozhodnutí. Měl by být umožněn—a to v co největší míře—přístup k ověření výsledků lidmi, kteří by s pomocí rozhodovací pravomoci mohli ověřit zdánlivě nesprávná vyhodnocení. Vzhledem ke složitosti systémů ADM, by neměla být povinnost zákazníka prokázat, že přijaté rozhodnutí nebo celý systém jsou škodlivé. Naopak musí být povinností poskytovatelů prokázat, že jejich systémy fungují odpovídajícím a nediskriminačním způsobem.

Co by se mělo stát dál?
Přestože vývojáři a uživatelé ADM by měli být povinni důkladně dokumentovat software a použité datové sady, nemůžeme se spolehnout pouze na informace, které nám společnosti poskytují. Úřady by měly být zmocněny alespoň k provádění auditů algoritmických rozhodovacích procesů. Nicméně bych rád viděl i ambicióznější návrh Komise podporující používání svobodného a otevřeného software. Byl by tak umožněn přístup dalším zúčastněným stranám jako jsou například výzkumní pracovníci a občanská společnost.

Dalším aspektem, který je třeba vzít v úvahu, je možné omezení občanských práv on-line v případech, kdy se systémy ADM používají pro filtrování a moderování obsahu. Vývoj nových technologií a platforem redefinuje způsob, jakým občané přistupují ke znalostem a předávání si informací on-line. I přes to, že Pirátské strany systematicky bojují proti filtračním technologiím, soukromé subjekty aplikují filtry v různých podobách. Snažím se o zavedení auditu dopadů na základní práva do legislativních návrhů na automatizované moderování obsahu.

Diskuse o vztahu mezi umělou inteligencí a lidskými právy jsou často v centru pozornosti. Zvláštní zpravodaj OSN ve své zprávě Valnému shromáždění OSN v roce 2018 informoval o umělé inteligenci a jejím dopadu na svobodu názoru a projevu, posléze pak Výbor ministrů Rady Evropy vydal doporučení o dopadech algoritmů na lidská práva. Jsem tudíž přesvědčen, že musíme hledat způsoby, jak zvýšit transparentnost fungování těchto nástrojů a vytvořit rámec pro audit lidských práv, který systematicky podporuji ve svých politických návrzích.

Sdílet na Facebooku Tweet

Autor: Marcel Kolaja

Štítky: #Evropská komise #Evropský parlament #Marcel Kolaja

Související články

Zobrazit diskusi
Facebook Pirátské listy Twitter Pirátské listy Redakce Pirátských listů Česká pirátská strana
Redakce | Kontakt | Piráti | Facebook | Twitter | RSS články | RSS aktuality

Copyleft Pirátské listy. Publikování nebo další šíření obsahu serveru Pirátské listy je umožněno i bez písemného souhlasu. Všechna práva vyhlazena.