Strojové učení musí respektovat lidská práva, píše se v Torontské deklaraci

Skupina neziskových organizací bojujících za lidská práva ve společnosti s technologickými skupinami podepsali deklaraci, která má určovat nové standardy vývoje strojového učení. Torontská deklarace však není závazná.

Deklaraci podepsali přední bojovníci za lidská práva, mezi nimi například Amnesty International, Human Rights Watch, Wikimedia Foundation nebo Access Now. V dalších týdnech si signatáři slibují mnoho dalších podpisů nejen od obdobných neziskových organizací, ale také od technologických firem a států.

Cílem deklarace je zajistit, aby algoritmy strojového učení respektovaly základní principy rovnosti. Dokument má mimo jiné zamezit tomu, aby systémy strojového učení jakýmkoliv způsobem diskriminovaly určité druhy lidí nebo přímo porušovaly lidská práva. Deklarace byla součástí konference RightsCon, o níž píše server The Verge.

Obrázek: Strojové učení musí respektovat lidská práva, píše se v Torontské deklaraci

Diskuze o etice nabírá na obrátkách a stává se významnou

Samotná Torontská deklarace není nijak závazná – sloužit má jako doporučení. Není ani jasné, nakolik text deklarace půjde vůbec aplikovat v praktickém vývoji strojového učení.

V praxi se tak pravděpodobně nejvíce projeví transparentnost. Větší vhled do principu fungování algoritmů je prospěšné nejen z hlediska lidských práv, ale také zajištění bezpečnosti technologie.

Torontská deklarace je součástí širšího diskurzu, který nyní ve vědecké a technologické komunitě probíhá. S tím, jak umělá inteligence a strojové učení stále častěji pronikají do každodenního života i zpravodajských médií, stoupá také zájem veřejnosti na tom, aby inovativní technologie lidem neškodily.

Proč se o etickém vývoji technologií mluví ve větší míře až v posledních letech? Kromě rozvoje a rozšíření počítačů a chytrých zařízení jako takových jde o podobný proces jako ten, který vede k zájmu o soukromí na sociálních sítích: nárůst povědomí o technologiích a jejich přesah do běžného, každodenního života.

Ačkoliv Torontská deklarace skutečně není nijak závazná a je pouze doporučením (nejen) pro její signatáře, představuje určitý milník v diskuzi o etice strojového učení: akt, který říká, že technologie jsou důležité a mají se vyvíjet dál, ale je nutné dávat pozor na to, aby to nebylo lidem a jejich právům navzdory.

Obrázek: Ruští hackeři míří na Litvu, důvodem je Kaliningrad
Ruští hackeři míří na Litvu, důvodem je Kaliningrad
Obrázek: Mise na Psyche odložena: NASA nestihla otestovat dodané vybavení
Mise na Psyche odložena: NASA nestihla otestovat dodané vybavení
Obrázek: Mars Express: Softwarová aktualizace po 19 letech
Mars Express: Softwarová aktualizace po 19 letech
Obrázek: Reklamy na Netflixu budou, ale jen v USA – výměnou za levnější předplatné
Reklamy na Netflixu budou, ale jen v USA – výměnou za levnější předplatné
Obrázek: Velký výpadek O2 TV: Co dělat a jak televizi spustit?
Velký výpadek O2 TV: Co dělat a jak televizi spustit?
Obrázek: Jak si vybrat nejlepší počítačovou myš pro hraní i práci
Jak si vybrat nejlepší počítačovou myš pro hraní i práci
Obrázek: Podvodníci z Bazoše se zlepšují: Pro každou oběť mají podvod na míru
Podvodníci z Bazoše se zlepšují: Pro každou oběť mají podvod na míru
Obrázek: Ohnivá past: Jak se rychle dostat ven z hořící Tesly s nefunkční baterií?
Ohnivá past: Jak se rychle dostat ven z hořící Tesly s nefunkční baterií?