Koho odsoudit k trestu smrti? Modely umělé inteligence vykazují skryté rasistické chování

Vědci ze dvou prestižních britských univerzit zjistili, že velké jazykové modely mají skryté rasistické chování. To se projevuje kritičtějším přístupem k osobám hovořícím afroamerickým jazykem. Jako nejvíce záludné z experimentů vyšly jazykové modely od společnosti OpenAI.

Umělé inteligence pronikají do našich životů a profesí stále hlouběji, což platí i pro právo či nábor zaměstnanců. „Víme, že už firmy tyto technologie běžně používají k prověřování uchazečů o práci,“ zmínil jeden z autorů práce Valentin Hofman.

Je však otázkou, do jaké míry jsou systémy AI spravedlivé. Nová studie technologických a lingvistických výzkumníků z Oxfordské a Stanfordské univerzity odhalila u těchto jazykových modelů znepokojivé chování – skryté sklony k rasismu.

Obrázek: Koho odsoudit k trestu smrti? Modely umělé inteligence vykazují skryté rasistické chování

Umělá inteligence má předsudky vůči etnickým menšinám. Zdroj: Pixabay

Nejprve vědci zadali AI najít vhodné uchazeče o určité zaměstnání. Jazykové modely neměly informace o rase uchazečů, žádosti však byly psány v klasické americké a afroamerické angličtině používané hlavně příslušníky americké černošské menšiny.

V dalším experimentu se vědci modelů ptali, zda by odsoudily, nebo osvobodily osoby obviněné z různých trestných činů a následně měly rozhodnout, zda by odsoudily člověka obviněného z vraždy prvního stupně na doživotí, nebo k trestu smrti.

Skrytý rasismus

Umělé inteligence mají předsudky vůči Afroameričanům, píše web New Scientist. Jedince hovořící afroamerickou angličtinou častěji přiřazovaly k zaměstnáním nevyžadujícím vysokoškolské vzdělání (kuchaři, ostraha, vojáci).

Téměř všechny jazykové modely častěji odsoudily než osvobodily osoby hovořící afroamerickou angličtinou oproti těm vybaveným klasickou americkou angličtinou. Druhá část tohoto výzkumu však probudila ještě větší znepokojení.

Obrázek: Koho odsoudit k trestu smrti? Modely umělé inteligence vykazují skryté rasistické chování

Umělá inteligence nemusí být kvůli skrytému rasistickému chování v soudnictví férová. Zdroj: Pixabay

AI jako soudce zatím neobstála

Modely umělých inteligencí (LLM) častěji odsuzovaly k trestu smrti osoby hovořící afroamerickou angličtinou oproti lidem mluvícím klasickou americkou angličtinou. Vědce také zarazil fakt, že jazykové modely tohle chování skrývají.

Afroamerické jedince spojovaly s mnoha pozitivními vlastnostmi, ale zároveň i s mnoha negativními. Vědci proto tohle chování označili za „skrytý rasismus“. Nejlepšími mistry klamu mezi dvanácti verzemi velkých jazykových modelů byly ty od OpenAI v čele s GPT-4, což lze mj. přisoudit jejich komplexnosti.

Zdroje: New Scientist, Arxiv.org

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Biorobotické medúzy: Hlubiny oceánů budou prozkoumávat podvodní kyborgové
Obrázek: Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Globální dodávky chytrých telefonů rostou, největší odbyt má Samsung
Obrázek: Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Čtyřnohý společník pro astronauty. NASA vyvíjí nové roboty pro kosmické mise
Obrázek: Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Obrázek: Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Máte doma nefunkční GPS lokátor od Invoxia? Nyní bude v ČR opět fungovat
Obrázek: Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Tesla v ČR otevřela své rychlonabíječky pro všechny elektromobily. Jak nabíjet na Superchargeru?
Obrázek: Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Obrázek: Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
85%
Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?