Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Uplynulý týden s sebou přinesl další vývoj ohledně problematiky a aplikace umělé inteligence. AI se tak možná dočká dokumentu analyzujícím rizika a bezpečnost v rámci EU, na druhou stranu se však prohlubuje také nedůvěra v ni a v její schopnosti a možnosti.

Evropské úřady daly zákonu o umělé inteligenci zelenou

AI v řadě případů často narážela na právní či etické bariéry. Pomoci v orientaci by jí tak mohl soubor pravidel, které nedávno schválily specializované výbory Evropského parlamentu. Jedná se o první dokument tohoto typu, který tak otevírá možnosti dalšímu legislativnímu podchycení umělé inteligence jako takové. Ve zkratce jde o jakýsi uživatelský návod, který má lidem pomoci chránit citlivé údaje při používání AI. Jeho součástí pak je také výčet zákazů a omezení, které umělou inteligenci v budoucnu čekají. Toto právní vymezení je klíčovým dokumentem k implementaci umělé inteligence do zákonů Evropské unie a potažmo i celého světa.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Evropská unie učinila první krok k legislativnímu podchycení AI. Zdroj: Unsplash

Obavy ohledně bezpečnosti AI vyjádřil i Wozniak

Zatímco v minulém článku před užíváním prostředků umělé inteligence varoval jeden z jejích zakladatelů a duševních otců Geoffrey Hinton, nyní tak činí spoluzakladatel společnosti Apple Steve Wozniak. Podle něj je rizikem zejména zneužití AI ze strany kyberzločinců, kteří tak dostanou do rukou další nástroj pro podvody a další nekalé praktiky. Wozniak byl jedním ze zhruba tisícovky odborníků, kteří před několika týdny podepsali otevřený dopis s žádostí o pozastavení vývoje nástrojů umělé inteligence na dobu několika měsíců. Podaří se užívání AI udržet na uzdě?

Spotify bojuje s boty, kteří si pouští písničky vytvořené AI

Poměrně kuriozní situaci ohledně AI a botů obecně aktuálně řeší mediální platforma Spotify. Není tajemstvím, že se na službě objevují i písně, které pochází z vlastní tvorby AI. Nyní se však objevil nový trend, a sice podezřele vysoký nárůst počtu přehrání u tohoto žánru hudby. Vedení společnosti tak má podezření na možné užívání botů k automatickému navyšování statistik přehrávání u AI generovaných písní. V praxi by to znamenalo, že by robot pomáhal robotovi. Bohužel však na tom nejvíce tratí skuteční interpreti, kterým tak část zisku z platformy odtéká pryč. Spotify tak musí dohnat rychlý rozvoj umělé inteligence dřív, než bude celý koncept této služby nenávratně poškozen.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Hudební gigant Spotify se potýká s problémy v oblasti umělého navyšování počtu přehrání u písniček generovaných AI. Zdroj: Unsplash

Google a AI: umělá inteligence pomůže s vyhledáváním či doplní operační systém Android

Každoroční konference společnosti Google označovaná jako I/O s sebou přinesla celou řadu novinek, mezi nimiž nechybí ani vyšší integrace umělé inteligence do firemních produktů. Google tak oznámil implementaci AI do svého vyhledávače. Ačkoliv se zdá toto řešení být na první pohled krokem tím správným směrem, vyvolává spíše další otázky než možnosti řešení. Není totiž zcela jasné, zda-li bude AI asistence výsledkům hledání více ke škodě nebo k užitku.

V boji s konkurenčním softwarem pak Google hodlá generativní AI nasadit i do operačního systému Android. Co si od této akce slibuje? V porovnání s jinými vývojáři AI je Android prakticky výsostnými vodami Google, a podaří-li se mu algoritmy umělé inteligence přenést ve vhodné formě na telefony, může tak společnost získat slušný náskok oproti ostatním. Tato mobilní AI pak bude moci různě měnit například pozadí telefonu či vyhledávání obrázků. Z prvního dojmu to nevypadá jako příliš revoluční přístup, podle vedení Googlu však jde o první krůček směrem k dalším funkcím, které AI uživatelům telefonů později nabídne.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Společnost Google připravuje mimo jiné revoluci ohledně užívání AI na telefonech se systémem Android. Zdroj: Freepik

Když umělá inteligence rozhoduje. AI je ve vyhodnocování prohřešků přísnější než člověk

Se zajímavou studií v oblasti umělé inteligence přišli minulý týden vědci z MIT. Ve snaze zjednodušit lidem některé kroky v oblasti rozhodování se pokusili AI naučit operovat v oblasti spravedlnosti. Začali přitom u poměrně jednoduchých modelů, kdy například posuzovali toxicitu příspěvků na sociálních sítích. V první fázi výzkumu byla vypracována rozsáhlá studie, ve které měli lidé posuzovat autenticitu, resp. potenciální závadnost různých obrázků. Když pak chtěli vědci na základě těchto výstupů naučit podobné uvažování i umělou inteligenci, byli zaskočeni, jak přísně AI jednotlivé příspěvky vyhodnocuje. Mnohdy tak za nevhodný obsah označovala i zcela nezávadné obrázky. Ačkoliv se tak myšlenka AI jako neúprosného soudce jeví být poměrně děsivou, od této reality je věda ještě na míle daleko. Závěry výzkumu na MIT jsou navíc pouze předčasné, a další trénink umělé inteligence možná ukáže, že přísnost AI je dána pouze nedostatkem relevantních dat pro machine learning tohoto typu.

Zdroje: 1, 2, 3, 4, 5, 6

Odebírat
Upozornit na
guest
0 Komentářů
Inline Feedbacks
View all comments
Obrázek: Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Český zdicí robot naživo: Je překvapivě pomalý, na rozdíl od lidí ale nepotřebuje odpočívat
Obrázek: Pohled do útrob Apple Vision Pro vs. Meta Quest 3: Co ukazují snímky z CT?
Pohled do útrob Apple Vision Pro vs. Meta Quest 3: Co ukazují snímky z CT?
Obrázek: Vylepšená služba Google Find My Device najde ztracená sluchátka, lokátory i vypnuté telefony
Vylepšená služba Google Find My Device najde ztracená sluchátka, lokátory i vypnuté telefony
Obrázek: Chytré meteostanice pomáhají s výukou v pražských školách
Chytré meteostanice pomáhají s výukou v pražských školách
Obrázek: Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Noční fotografie s vivo X100 Pro: Jak fotit v noci se smartphonem jako profík?
Obrázek: Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
85%
Recenze robotického vysavače TESLA RoboStar iQ700 s laserovou navigací: Čistá domácnost bez námahy?
Obrázek: Zažijte budoucnost už dnes: Nainstalujte si umělou inteligenci Gemini do telefonu s Androidem
Zažijte budoucnost už dnes: Nainstalujte si umělou inteligenci Gemini do telefonu s Androidem
Obrázek: Kde koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024
Kde koupit Bitcoin v ČR? Návod na bezpečný nákup kryptoměn v roce 2024