Ani tento týden se neobešel bez nových zpráv, které na jedné straně demonstrují neustále se rozšiřující a rozvíjející se potenciál AI, na straně druhé však bijící na poplach před případným zneužitím její moci. Na kterou stranu se stavíte vy? Možná vám níže uvedené novinky ze světa umělé inteligence pomohou se rozhodnout.

Svět volá po pravidlech regulace AI. Kdo je ale napíše?

Umělá inteligence hýbe společností již celá léta. Světové velmoci se pak prakticky stejně dlouho snaží zavádět nařízení, která by její moc omezila na rámec bezpečného používání. Aktuálně tak existuje více než 1600 takových bezpečnostních pojistek a strategií v rámci jednotlivých zemí, globální regulace však zatím schází. Otázkou ale zůstává – jaká instituce je dostatečně povolaná k tomu, aby taková celosvětová pravidla nastavila?

Vyřešit otázku celosvětové regulace AI je na místě. Nikdo ale nemá příliš jasno v tom, jak k řešení přistoupit. Zdroj: Unsplash

V poslední době se do popředí ovládnutí přístupu k AI dostává Čína, což představuje pro zbytek světa potenciální hrozbu. Na poplach tak bijí například Spojené státy, které prostřednictvím Bílého domu vyvíjí snahu předstihnout Čínu v nastavení univerzálních regulací. Je překvapivé sledovat, že ačkoliv je celý svět v názoru na AI a její bezpečnost prakticky jednotný, řešení se stále nedostavuje. Důvodem jsou zejména drobné nuance v jednotlivých směrnicích, které aktuálně nelze jednoduše vztáhnout na celý svět. Jistou naději může představovat například OSN, které se do řešení otázky umělé inteligence nedávno zapojilo. Přesto však není jasné, kdy se můžeme dočkat slibovaných výsledků.

Může umělá inteligence zničit základní principy demokracie? Experti tvrdí, že ano

Rozvoj zejména generativní umělé inteligence vzbuzuje v odbornících obavy z toho, že by AI mohla v zemích celého světa výrazným způsobem narušit demokratický systém. Problematika se stává palčivější zejména v důsledku chystaných prezidentských voleb v USA, dopady ale může mít i na politiku jiných demokraticky založených států. Největší hrozbu pak představují tzv. deepfake videa a nahrávky, které mohou sloužit k cílenému poškození či úplnému umlčení některých názorů. Podobnou situaci jsme mohli tento týden zažít i v Česku, kdy se internetem šířilo video zachycující podobiznu Andreje Babiše, za kterého však ve skutečnosti mluvila právě AI. Útok na demokratický způsob života je však v mnoha zemích považován za útok na samotné základy ústavy, a státy by tak měly podniknout takové kroky, které podobným produktům umělé inteligence efektivně zabrání. Nezbývá než doufat, že k tomu dojde dřív, než se AI deepfake technologie zcela vymkne z rukou.

Politika demokratických zemí se v poslední době potýká s množícími se deepfaky, které dokáží vládou lidu efektivně manipulovat. Zdroj: Freepik

Podle oborníků už AI dokáže provádět nelegální finanční operace

Bot vytvořený za pomoci jazykového modelu GPT-4 nedávno ukázal, že jeho schopnosti skutečně nemusí sloužit pouze legálním účelům. K závěrům došli vědci společnosti Apollo Research prezentující své výsledky v rámci britského summitu o bezpečnosti umělé inteligence, o kterém jsme již v minulém souhrnu AI novinek psali. Součástí prezentace byl experiment na AI nazvané jako Alpha, kterou bylo prostřednictvím série příkazů přesvědčit o obchodování formou tzv. insider tradingu, tedy prodeje či nákupu cenných papírů na základě interních informací z dané společnosti. Zástupci společnosti Apollo Research uvedli, že přimět AI k takovýmto operacím nebylo snadné, přesto je to ale možné. Experiment totiž ukázal, že je poměrně obtížné umělou inteligenci naučit chápat případné morální následky jejích činů. Skutečnost, že samotný insider trading je pak považován za nelegální činnost, jen potvrzuje nutnost zvýšené obezřetnosti při práci s AI a přístupu k ní.

Umělá inteligence dokáže být i šikovným účetním. Bohužel však s penězi ne vždy zachází v mezích zákona. Zdroj: Freepik

Lidé hledají u AI rady v oblasti přípravy kávy i koučování fotbalu

Umělá inteligence dnes dokáže prakticky cokoliv, a v rámci poradenství se ukazuje jako stále více a více neocenitelnou. Své o tom ví například fotbalový klub Al-Nassr, jehož dres aktuálně obléká například Christiano Ronaldo.  Vedení týmu se totiž rozhodlo následovat trendy moderních technologií, a využít tak AI k rychlému a efektivnímu sledování toho, jak si klub aktuálně vede. Umělá inteligence by v tomto případě měla dokázat analyzovat aktivitu jednotlivých hráčů a následně rozhodnout o tom, koho nasadit na hřiště. Tím ale výhody AI zdaleka nekončí. Díky strojovému učení se totiž začíná posouvat v před také průmysl zpracovávání a distribuce kávy. AI se tak může účastnit prakticky celého procesu, od sklízení kávových bobů před administrativu v rámci přepravy až po konzultace v oblasti správného servírování. Některé společnosti již dokonce vyvíjí kávovary s integrovanou umělou inteligencí. AI tak dokazuje, že tak může být významnou pomocí v oblasti průmyslu a služeb, a to nejen v rámci kávy, ale i jiných produktů a výrobků, které si hledají cestu na spotřebitelský trh.

Trenéři špičkových fotbalových týmů se nebojí využít AI k analalýzám hráčů i jednotlivých situací na hřišti. Zdroj: Pixabay

Seznamte se, Gauss. Samsung představil vlastní umělou inteligenci

Společnost Samsung tento týden pořádala konferenci AI Forum, v rámci níž seznámila veřejnost s novinkami v oblasti umělé inteligence, kterou chystá do svých zařízení postupně implementovat. Pravděpodobně největším oznámením celé akce pak bylo představení vlastní AI, která by se měla stát přímým konkurentem OpenAI ChatGPT či Google LaMDA. Umělá inteligence nazvaná Samsung Gauss prý dokáže celou řadu dnes již běžných funkcí, včetně generování textů, obrázků či kódů. AI pak bude přímo součástí například nové generace telefonů Samsung Galaxy S24, a to na úrovni hardwaru. Právě tato integrace by měla Samsungu přinést hlavní výhodu oproti konkurenci. Bude to ale stačit? To se snad dozvíme v lednu příštího roku, kdy se modely Galaxy S24 vybavené AI Gauss začnou prodávat.

Zdroje:1, 2, 3, 4, 5, 6

Úvodní fotografie: Bing AI