Strojové učení musí respektovat lidská práva, píše se v Torontské deklaraci

Skupina neziskových organizací bojujících za lidská práva ve společnosti s technologickými skupinami podepsali deklaraci, která má určovat nové standardy vývoje strojového učení. Torontská deklarace však není závazná.

Deklaraci podepsali přední bojovníci za lidská práva, mezi nimi například Amnesty International, Human Rights Watch, Wikimedia Foundation nebo Access Now. V dalších týdnech si signatáři slibují mnoho dalších podpisů nejen od obdobných neziskových organizací, ale také od technologických firem a států.

Cílem deklarace je zajistit, aby algoritmy strojového učení respektovaly základní principy rovnosti. Dokument má mimo jiné zamezit tomu, aby systémy strojového učení jakýmkoliv způsobem diskriminovaly určité druhy lidí nebo přímo porušovaly lidská práva. Deklarace byla součástí konference RightsCon, o níž píše server The Verge.

Obrázek: Strojové učení musí respektovat lidská práva, píše se v Torontské deklaraci

Diskuze o etice nabírá na obrátkách a stává se významnou

Samotná Torontská deklarace není nijak závazná – sloužit má jako doporučení. Není ani jasné, nakolik text deklarace půjde vůbec aplikovat v praktickém vývoji strojového učení.

V praxi se tak pravděpodobně nejvíce projeví transparentnost. Větší vhled do principu fungování algoritmů je prospěšné nejen z hlediska lidských práv, ale také zajištění bezpečnosti technologie.

Torontská deklarace je součástí širšího diskurzu, který nyní ve vědecké a technologické komunitě probíhá. S tím, jak umělá inteligence a strojové učení stále častěji pronikají do každodenního života i zpravodajských médií, stoupá také zájem veřejnosti na tom, aby inovativní technologie lidem neškodily.

Proč se o etickém vývoji technologií mluví ve větší míře až v posledních letech? Kromě rozvoje a rozšíření počítačů a chytrých zařízení jako takových jde o podobný proces jako ten, který vede k zájmu o soukromí na sociálních sítích: nárůst povědomí o technologiích a jejich přesah do běžného, každodenního života.

Ačkoliv Torontská deklarace skutečně není nijak závazná a je pouze doporučením (nejen) pro její signatáře, představuje určitý milník v diskuzi o etice strojového učení: akt, který říká, že technologie jsou důležité a mají se vyvíjet dál, ale je nutné dávat pozor na to, aby to nebylo lidem a jejich právům navzdory.

Obrázek: Technologická Praha má být chytřejší a dostupnější pro všechny
Technologická Praha má být chytřejší a dostupnější pro všechny
Obrázek: Nový update pro Nintendo Switch konečně podpoří zvuková zařízení Bluetooth
Nový update pro Nintendo Switch konečně podpoří zvuková zařízení Bluetooth
Obrázek: Maker Faire Prague 2021: Po Covidu zpátky na Výstavišti
Maker Faire Prague 2021: Po Covidu zpátky na Výstavišti
Obrázek: Xiaomi vzkřísilo chytré brýle. Vypadají jako vylepšené Google Glass
Xiaomi vzkřísilo chytré brýle. Vypadají jako vylepšené Google Glass
Obrázek: Jak platit Bitcoinem menší částky? Rychle a levně s Lightning Network
Jak platit Bitcoinem menší částky? Rychle a levně s Lightning Network
Obrázek: Vadí vám nové počasí ve Windows 10? Poradíme, jak ho z lišty odstranit
Vadí vám nové počasí ve Windows 10? Poradíme, jak ho z lišty odstranit
Obrázek: Dříve za peníze, nyní zdarma: Nástroje Google Workspace jsou nyní k dispozici každému
Dříve za peníze, nyní zdarma: Nástroje Google Workspace jsou nyní k dispozici každému
Obrázek: I Apple počítače trápí viry: macOS nejčastěji ohrožuje reklamní malware
I Apple počítače trápí viry: macOS nejčastěji ohrožuje reklamní malware