Italský úřad pro ochranu soukromí v pátek zakázal oblíbenou generativní AI ChatGPT kvůli domnělým porušením pravidel soukromí. Národní úřad pro ochranu osobních údajů nařídil pozastavit provoz ChatGPT na území Itálie. Toto opatření je dočasné a bude trvat, dokud společnost nesplní požadavky italské vlády.
Požadavky na pozastavení dalšího vývoje ChatGPT a vyšetření společnosti OpenAI z důvodu rizik souvisejících s ochranou soukromí, kybernetickou bezpečností a dezinformacemi narůstají na obou stranách Atlantiku. Elon Musk a desítky odborníků na umělou inteligenci v této týdnu vyzvali k dočasnému zastavení dalšího vývoje generativní umělé inteligence. Spotřebitelská organizace BEUC 30. března vyzvala EU a národní orgány, včetně dozorčích orgánů pro ochranu dat, aby se zaměřili na fungování ChatGPT.
ChatGPT v Itálii přinejmenším dočasně končí. Foto: Unsplash
Italský úřad uvedl, že společnosti chybí právní základ, který by ospravedlňoval hromadné shromažďování a ukládání osobních údajů k tréninku algoritmů ChatGPT. Minulý týden také OpenAI utrpěla únik dat, který odhalil konverzace některých uživatelů a informace o platbách, uvedl italský úřad. OpenAI navíc neověřuje věk uživatelů a vystavuje „nejmladší nevhodným odpovědím, které neodpovídají jejich stupni vývoje a sebeuvědomění“.
Skončí Itálie bez přístupu k ChatGPT?
OpenAI nemá sídlo v EU, ale zástupce společnosti v Evropském hospodářském prostoru má 20 dní na to, aby sdělil, jak hodlá ChatGPT přizpůsobit pravidlům EU týkajícím se ochrany soukromí, jinak bude čelit pokutě až do výše 4 % svých celosvětových příjmů.
OpenAI přístup k ChatGPT v Itálii zablokovala po nařízení italského regulačního orgánu, ale mluvčí společnosti nesouhlasil s jeho závěry. „Domníváme se, že dodržujeme GDPR a další zákony na ochranu soukromí,“ uvedl mluvčí ve své písemné odpovědi na dotaz serveru POLITICO.
Generální ředitel společnosti OpenAI, Sam Altman, uvedl na Twitteru, že OpenAI respektuje rozhodnutí italské vlády ohledně této záležitosti.
Řada odborníků si myslí, že na zákaz nejlepší generativní AI současnosti by doplatili nejvíce sami Italové, kteří sice nyní trpí vysokou nezaměstnaností kolem 9 %, ale ignorování AI by mohlo mít z dlouhodobého hlediska velké negativní dopady. Fascinující je také krátkozrakost italské vlády, která sice zakazuje ChatGPT, ale použití jazykových modelů OpenAI přes placené API nezakázala. Uživatelé si tak mohou s trochou snahy provozovat vlastní ChatGPT za jednotky EUR měsíčně.
Italy just banned ChatGPT.
You know what they can’t ban?
Open source code.
This is why Chatbot UI exists.
If they can’t access ChatGPT, then they can use our UI with an API key for the same experience. pic.twitter.com/uR3xdef6GF
— Mckay Wrigley (@mckaywrigley) March 31, 2023
Zakazování AI jako budoucí trend?
Je důležité si uvědomit, že umělá inteligence přináší mnoho pozitivních přínosů pro společnost, jako jsou zvýšená efektivita, zlepšení přesnosti a rychlosti analýzy dat nebo pokroky v lékařství a vědě. Místo úplného zákazu AI by se vlády měly zaměřit na vytváření jasných regulačních rámců, které stanovují správné postupy a bezpečnostní opatření. Takový přístup by umožnil bezpečný a udržitelný rozvoj AI, který by respektoval práva a soukromí jednotlivců, zatímco by podporoval inovace a technologický pokrok.
Úplný zákaz AI by mohl mít i nezamýšlené následky, jako je rozvoj nelegálních trhů s AI nebo růst vývoje AI v zemích, které nemají tak striktní regulace. To by mohlo vytvořit nerovnováhu v globálním vývoji technologií a způsobit další bezpečnostní a etické otázky.
