Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Uplynulý týden s sebou přinesl další vývoj ohledně problematiky a aplikace umělé inteligence. AI se tak možná dočká dokumentu analyzujícím rizika a bezpečnost v rámci EU, na druhou stranu se však prohlubuje také nedůvěra v ni a v její schopnosti a možnosti.

Evropské úřady daly zákonu o umělé inteligenci zelenou

AI v řadě případů často narážela na právní či etické bariéry. Pomoci v orientaci by jí tak mohl soubor pravidel, které nedávno schválily specializované výbory Evropského parlamentu. Jedná se o první dokument tohoto typu, který tak otevírá možnosti dalšímu legislativnímu podchycení umělé inteligence jako takové. Ve zkratce jde o jakýsi uživatelský návod, který má lidem pomoci chránit citlivé údaje při používání AI. Jeho součástí pak je také výčet zákazů a omezení, které umělou inteligenci v budoucnu čekají. Toto právní vymezení je klíčovým dokumentem k implementaci umělé inteligence do zákonů Evropské unie a potažmo i celého světa.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Evropská unie učinila první krok k legislativnímu podchycení AI. Zdroj: Unsplash

Obavy ohledně bezpečnosti AI vyjádřil i Wozniak

Zatímco v minulém článku před užíváním prostředků umělé inteligence varoval jeden z jejích zakladatelů a duševních otců Geoffrey Hinton, nyní tak činí spoluzakladatel společnosti Apple Steve Wozniak. Podle něj je rizikem zejména zneužití AI ze strany kyberzločinců, kteří tak dostanou do rukou další nástroj pro podvody a další nekalé praktiky. Wozniak byl jedním ze zhruba tisícovky odborníků, kteří před několika týdny podepsali otevřený dopis s žádostí o pozastavení vývoje nástrojů umělé inteligence na dobu několika měsíců. Podaří se užívání AI udržet na uzdě?

Spotify bojuje s boty, kteří si pouští písničky vytvořené AI

Poměrně kuriozní situaci ohledně AI a botů obecně aktuálně řeší mediální platforma Spotify. Není tajemstvím, že se na službě objevují i písně, které pochází z vlastní tvorby AI. Nyní se však objevil nový trend, a sice podezřele vysoký nárůst počtu přehrání u tohoto žánru hudby. Vedení společnosti tak má podezření na možné užívání botů k automatickému navyšování statistik přehrávání u AI generovaných písní. V praxi by to znamenalo, že by robot pomáhal robotovi. Bohužel však na tom nejvíce tratí skuteční interpreti, kterým tak část zisku z platformy odtéká pryč. Spotify tak musí dohnat rychlý rozvoj umělé inteligence dřív, než bude celý koncept této služby nenávratně poškozen.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Hudební gigant Spotify se potýká s problémy v oblasti umělého navyšování počtu přehrání u písniček generovaných AI. Zdroj: Unsplash

Google a AI: umělá inteligence pomůže s vyhledáváním či doplní operační systém Android

Každoroční konference společnosti Google označovaná jako I/O s sebou přinesla celou řadu novinek, mezi nimiž nechybí ani vyšší integrace umělé inteligence do firemních produktů. Google tak oznámil implementaci AI do svého vyhledávače. Ačkoliv se zdá toto řešení být na první pohled krokem tím správným směrem, vyvolává spíše další otázky než možnosti řešení. Není totiž zcela jasné, zda-li bude AI asistence výsledkům hledání více ke škodě nebo k užitku.

V boji s konkurenčním softwarem pak Google hodlá generativní AI nasadit i do operačního systému Android. Co si od této akce slibuje? V porovnání s jinými vývojáři AI je Android prakticky výsostnými vodami Google, a podaří-li se mu algoritmy umělé inteligence přenést ve vhodné formě na telefony, může tak společnost získat slušný náskok oproti ostatním. Tato mobilní AI pak bude moci různě měnit například pozadí telefonu či vyhledávání obrázků. Z prvního dojmu to nevypadá jako příliš revoluční přístup, podle vedení Googlu však jde o první krůček směrem k dalším funkcím, které AI uživatelům telefonů později nabídne.

Obrázek: Novinky ze světa AI #2: Evropská legislativa se posouvá dál, Spotify řeší záludný problém

Společnost Google připravuje mimo jiné revoluci ohledně užívání AI na telefonech se systémem Android. Zdroj: Freepik

Když umělá inteligence rozhoduje. AI je ve vyhodnocování prohřešků přísnější než člověk

Se zajímavou studií v oblasti umělé inteligence přišli minulý týden vědci z MIT. Ve snaze zjednodušit lidem některé kroky v oblasti rozhodování se pokusili AI naučit operovat v oblasti spravedlnosti. Začali přitom u poměrně jednoduchých modelů, kdy například posuzovali toxicitu příspěvků na sociálních sítích. V první fázi výzkumu byla vypracována rozsáhlá studie, ve které měli lidé posuzovat autenticitu, resp. potenciální závadnost různých obrázků. Když pak chtěli vědci na základě těchto výstupů naučit podobné uvažování i umělou inteligenci, byli zaskočeni, jak přísně AI jednotlivé příspěvky vyhodnocuje. Mnohdy tak za nevhodný obsah označovala i zcela nezávadné obrázky. Ačkoliv se tak myšlenka AI jako neúprosného soudce jeví být poměrně děsivou, od této reality je věda ještě na míle daleko. Závěry výzkumu na MIT jsou navíc pouze předčasné, a další trénink umělé inteligence možná ukáže, že přísnost AI je dána pouze nedostatkem relevantních dat pro machine learning tohoto typu.

Zdroje: 1, 2, 3, 4, 5, 6

Obrázek: Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Obrázek: Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Obrázek: Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Obrázek: NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
Obrázek: Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Obrázek: Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Obrázek: Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Obrázek: Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?
Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?