Srpen roku 2024 se do dějin umělé inteligence s velkou pravděpodobností zapíše především jako den, kdy se stal platným tolik očekávaný Akt o AI. Velké události však rezonují i společností OpenAI, která navazuje spolupráci s americkou vládou či testuje vlastní internetový vyhledávač.

Akt o AI vstoupil konečně v platnost, mění pravidla užívání umělé inteligence v EU

Od 1. srpna v Evropské unii platí tzv. Akt o AI. Zákon, který je prvním nadnárodním legislativním dokumentem v oblasti umělé inteligence na světě, upravuje především podmínky pro vývoj a využití AI v nejrůznějších oblastech. První návrh Aktu o AI podala Evropská komise již v roce 2020 s cílem zajistit, aby byla tato inovativní technologie udržena na bezpečné a důvěryhodné úrovni.

Evropská unie je průkopníkém v oblasti umělé inteligence. Nově platný Akt o AI je toho zářným příkladem. Foto: Unsplash

Zákon například omezuje AI systémy ve zdravotnictví či v oblasti biometrické identifikace, a úplně zakazuje ty, které mohou být použity k manipulaci kognitivního chování. Porušením podmínek stanovených v zákoně hrozí danému subjektu různě vysoké pokuty. Ačkoliv pak pochází většina společností vyvíjejících tyto systémy z USA, kde podobnou legislativu teprve připravují, myslí Akt o AI i na evropské podniky, které tyto nástroje používají. Unijní orgány dávají naštěstí těmto firmám dostatek času na přizpůsobení se novému režimu – většina ustanovení nového zákona začne platit až v roce 2026.

Americké úřady budou mít předběžný přístup k chystanému modelu od OpenAI

OpenAI poskytne americkému U.S. AI Safety Institute (Institutu pro bezpečnost umělé inteligence) dřívější přístup k připravovanému jazykovému modelu. Informoval o tom výkonný ředitel společnosti Sam Altman na sociální síti X.

a few quick updates about safety at openai:

as we said last july, we’re committed to allocating at least 20% of the computing resources to safety efforts across the entire company.

our team has been working with the US AI Safety Institute on an agreement where we would provide…

— Sam Altman (@sama) August 1, 2024

OpenAI se spolu s konkurenčním vývojářským studiem DeepMind spadajícím pod Google v minulém roce zavázala sdílet své AI nástroje s britskou vládou. Od té doby však společnost čelila řadě obvinění spojených s nedostatečným věnováním se bezpečnosti vyvíjených jazykových modelů. Altman tak chce s velkou pravděpodobností dát americkým úřadům najevo, že je ochoten spolupracovat. Kontroverzní akce společnosti OpenAI – například vznik nové bezpečnostní skupiny složené z členů představenstva – však vyvolává pochyby a otázky, na které zatím neexistují odpovědi.

Umělá inteligence bude přijímat objednávky u Taco Bell. Vyhne se řetězec chybám konkurenčního McDonald‘s?

Populární americký řetězec rychlého občerstvení Taco Bell se rozhodl rozšířit portfolio svých služeb, a hodlá tak využívat AI pro přijímání objednávek ve stovkách svých drive-thru poboček. Systém byl podle zástupců společnosti vyvíjen více než dva roky, a jeho cílem bude zlepšit přesnost objednávek, zkrátit čekací dobu a snížit nároky na personál. Do jednotlivých výdejen by se pak umělá inteligence měla dostat ještě do konce letošního roku.

Dokáže vás umělá inteligence správně obsloužit? To budou již brzy moci zjistit zákazníci drive-thru ve fast foodech Taco Bell. Foto: Unsplash

AI s podobným využitím nedávno testovala i společnost McDonald’s, ta však s úspěchem příliš nepochodila, jelikož umělá inteligence doporučovala nesmyslné kombinace surovin či k objednávkám přidávala položky navíc. Nezbývá než věřit, že má Taco Bell situaci v rukou pevněji.

Argentina chce AI využít k predikci trestné činnosti. Občané se bojí zásahu do soukromí

S pozoruhodným řešením kriminality nedávno přišel kontroverzní argentinský prezident Javier Milei. Ten tento týden zřídil nové oddělení aplikovaného využití umělé inteligence pro bezpečnost. Jednotka by měla využívat nástrojů strojového učení k analýze historických údajů o trestné činnosti s cílem předvídat budoucí trestné činy a předcházet jim. Iniciativa však zahrnuje i technologii rozpoznávání obličejů pro identifikaci hledaných osob, dohled nad sociálními médii a analýzu kamerových záznamů v reálném čase s cílem zjistit podezřelé aktivity.

Umělá inteligence bude hlídat bezpečí v argentiských ulicích. V mnohých ale budí její nasazení obavy. Foto: Unsplash

Ministerstvo bezpečnosti tvrdí, že oddělení pomůže zvýšit bezpečnost obyvatel země, nápad se však příliš nesešel s názory organizací chránících lidská práva. Amnesty International například varovala, že rozsáhlý dohled by mohl potlačit svobodu projevu z obav před cenzurou či sankcemi. Jiní se obávají profilování společnosti na základě profese a ohrožování soukromí. Zatýkání nebo sledování jednotlivců dle předpovídaných a nikoliv skutečných trestných činů navíc podle odborníků zpochybňuje základní zásady spravedlnosti, například presumpci neviny.

SearchGPT jako prototyp budoucí generace internetových vyhledávačů

Společnost OpenAI minulý týden oznámila svou dosud nejsilnější zbraň proti vyhledávači Google. Je jím nástroj SearchGPT, který aktuálně prochází testovací fází vývoje. Vyhledávač by měl být schopen kombinovat technologii umělé inteligence s informacemi z webu v reálném čase, a navíc umožní lidem vyhledávat informace stejným způsobem, jakým komunikují s ChatGPT.  Jeho autoři navíc postupně počítají i s integrací nové funkce přímo do populárního chatbota.

We’re testing SearchGPT, a temporary prototype of new AI search features that give you fast and timely answers with clear and relevant sources.

We’re launching with a small group of users for feedback and plan to integrate the experience into ChatGPT. https://t.co/dRRnxXVlGh pic.twitter.com/iQpADXmllH

— OpenAI (@OpenAI) July 25, 2024

OpenAI věří, že SearchGPT bude adekvátním soupeřem pro konkurenční Google Search či Bing od společnosti Microsoft, který již AI do svých vyhledávacích algoritmů implementoval. Nový nástroj by pak podle některých informací mohl propojit skutečné výsledky s těmi, které umělá inteligence dle zadaného příkazu sama vytvoří. Klíčovým problémem, který bude muset SearchGPT překonat, jsou však všudypřítomné AI halucinace, kterými trpí i aktuálně nejvýkonnější jazykové modely.

Zdroje: 1, 2, 3, 4, 5

Úvodní foto: Unsplash