Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Uplynulý týden s sebou přinesl další vývoj ohledně problematiky a aplikace umělé inteligence. AI se tak možná dočká dokumentu analyzujícím rizika a bezpečnost v rámci EU, na druhou stranu se však prohlubuje také nedůvěra v ni a v její schopnosti a možnosti.

Evropské úřady daly zákonu o umělé inteligenci zelenou

AI v řadě případů často narážela na právní či etické bariéry. Pomoci v orientaci by jí tak mohl soubor pravidel, které nedávno schválily specializované výbory Evropského parlamentu. Jedná se o první dokument tohoto typu, který tak otevírá možnosti dalšímu legislativnímu podchycení umělé inteligence jako takové. Ve zkratce jde o jakýsi uživatelský návod, který má lidem pomoci chránit citlivé údaje při používání AI. Jeho součástí pak je také výčet zákazů a omezení, které umělou inteligenci v budoucnu čekají. Toto právní vymezení je klíčovým dokumentem k implementaci umělé inteligence do zákonů Evropské unie a potažmo i celého světa.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Evropská unie učinila první krok k legislativnímu podchycení AI. Zdroj: Unsplash

Obavy ohledně bezpečnosti AI vyjádřil i Wozniak

Zatímco v minulém článku před užíváním prostředků umělé inteligence varoval jeden z jejích zakladatelů a duševních otců Geoffrey Hinton, nyní tak činí spoluzakladatel společnosti Apple Steve Wozniak. Podle něj je rizikem zejména zneužití AI ze strany kyberzločinců, kteří tak dostanou do rukou další nástroj pro podvody a další nekalé praktiky. Wozniak byl jedním ze zhruba tisícovky odborníků, kteří před několika týdny podepsali otevřený dopis s žádostí o pozastavení vývoje nástrojů umělé inteligence na dobu několika měsíců. Podaří se užívání AI udržet na uzdě?

Spotify bojuje s boty, kteří si pouští písničky vytvořené AI

Poměrně kuriozní situaci ohledně AI a botů obecně aktuálně řeší mediální platforma Spotify. Není tajemstvím, že se na službě objevují i písně, které pochází z vlastní tvorby AI. Nyní se však objevil nový trend, a sice podezřele vysoký nárůst počtu přehrání u tohoto žánru hudby. Vedení společnosti tak má podezření na možné užívání botů k automatickému navyšování statistik přehrávání u AI generovaných písní. V praxi by to znamenalo, že by robot pomáhal robotovi. Bohužel však na tom nejvíce tratí skuteční interpreti, kterým tak část zisku z platformy odtéká pryč. Spotify tak musí dohnat rychlý rozvoj umělé inteligence dřív, než bude celý koncept této služby nenávratně poškozen.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Hudební gigant Spotify se potýká s problémy v oblasti umělého navyšování počtu přehrání u písniček generovaných AI. Zdroj: Unsplash

Google a AI: umělá inteligence pomůže s vyhledáváním či doplní operační systém Android

Každoroční konference společnosti Google označovaná jako I/O s sebou přinesla celou řadu novinek, mezi nimiž nechybí ani vyšší integrace umělé inteligence do firemních produktů. Google tak oznámil implementaci AI do svého vyhledávače. Ačkoliv se zdá toto řešení být na první pohled krokem tím správným směrem, vyvolává spíše další otázky než možnosti řešení. Není totiž zcela jasné, zda-li bude AI asistence výsledkům hledání více ke škodě nebo k užitku.

V boji s konkurenčním softwarem pak Google hodlá generativní AI nasadit i do operačního systému Android. Co si od této akce slibuje? V porovnání s jinými vývojáři AI je Android prakticky výsostnými vodami Google, a podaří-li se mu algoritmy umělé inteligence přenést ve vhodné formě na telefony, může tak společnost získat slušný náskok oproti ostatním. Tato mobilní AI pak bude moci různě měnit například pozadí telefonu či vyhledávání obrázků. Z prvního dojmu to nevypadá jako příliš revoluční přístup, podle vedení Googlu však jde o první krůček směrem k dalším funkcím, které AI uživatelům telefonů později nabídne.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Společnost Google připravuje mimo jiné revoluci ohledně užívání AI na telefonech se systémem Android. Zdroj: Freepik

Když umělá inteligence rozhoduje. AI je ve vyhodnocování prohřešků přísnější než člověk

Se zajímavou studií v oblasti umělé inteligence přišli minulý týden vědci z MIT. Ve snaze zjednodušit lidem některé kroky v oblasti rozhodování se pokusili AI naučit operovat v oblasti spravedlnosti. Začali přitom u poměrně jednoduchých modelů, kdy například posuzovali toxicitu příspěvků na sociálních sítích. V první fázi výzkumu byla vypracována rozsáhlá studie, ve které měli lidé posuzovat autenticitu, resp. potenciální závadnost různých obrázků. Když pak chtěli vědci na základě těchto výstupů naučit podobné uvažování i umělou inteligenci, byli zaskočeni, jak přísně AI jednotlivé příspěvky vyhodnocuje. Mnohdy tak za nevhodný obsah označovala i zcela nezávadné obrázky. Ačkoliv se tak myšlenka AI jako neúprosného soudce jeví být poměrně děsivou, od této reality je věda ještě na míle daleko. Závěry výzkumu na MIT jsou navíc pouze předčasné, a další trénink umělé inteligence možná ukáže, že přísnost AI je dána pouze nedostatkem relevantních dat pro machine learning tohoto typu.

Zdroje: 1, 2, 3, 4, 5, 6

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: ASUS Zenbook S 13 OLED: Nejtenčí 13,3" OLED notebook na světě míří do ČR za super cenu
ASUS Zenbook S 13 OLED: Nejtenčí 13,3″ OLED notebook na světě míří do ČR za super cenu
Obrázek: Xiaomi Robot Vacuum X10+ je inteligentní robotický vysavač, který vydrhne podlahy a sám se vyčistí
Xiaomi Robot Vacuum X10+ je inteligentní robotický vysavač, který vydrhne podlahy a sám se vyčistí
Obrázek: Recenze elektrické koloběžky Vsett 10+: Dva motory hravě zvládnou i 70 km/h
Recenze elektrické koloběžky Vsett 10+: Dva motory hravě zvládnou i 70 km/h
Obrázek: Ford přechází na Tesla konektor: Začíná nová éra v dobíjení elektromobilů?
Ford přechází na Tesla konektor: Začíná nová éra v dobíjení elektromobilů?
Obrázek: Jak na perfektní fotky mobilem? Vivo X90 Pro v rukou profesionálního fotografa
Jak na perfektní fotky mobilem? Vivo X90 Pro v rukou profesionálního fotografa
Obrázek: Zákaz TikToku od ledna 2024: Zakáže Západ oblíbenou sociální síť mladých?
Zákaz TikToku od ledna 2024: Zakáže Západ oblíbenou sociální síť mladých?
Obrázek: Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu
Kde sledovat mistrovství světa v hokeji? Online v prohlížeči, na mobilu i v PC bez internetu
Obrázek: Tajemství úspěchu na Twitteru: Zdrojové kódy odhalily, jaké příspěvky jsou algoritmem zvýhodněny
Tajemství úspěchu na Twitteru: Zdrojové kódy odhalily, jaké příspěvky jsou algoritmem zvýhodněny