Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Desítky milionů lidi si už do domácnosti nechali pořídit chytré virtuální asistenty: někteří Alexu, jiní Siri, další Assistanta. Spojuje je několik věcí, mezi nimi také to, že neví, kdo a kdy poslouchá.

Obavy o soukromí jsou jeden z podstatných důvodů, proč se mnozí obávají si do domácnosti virtuální asistenty přivézt. Detailní průzkum novinářů Bloombergu nyní odhalil, že přinejmenším u Amazonu nejde o paranoiu, nýbrž oprávněné podezření.

Amazon podle serveru zaměstnává tisíce lidí, kteří pomáhají zlepšovat Alexu a související produkty typu Echo nebo Echo Dot reproduktory. Týmy poslouchají nahrávky od majitelů zařízení; ty jsou následně přepsány, anotovány a vloženy zpět do softwaru. Mají odstraňovat mezery, které Alexa v jazyce má.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Alexa, how are you doing?

Bloomberg si proces nechal popsat hned o sedmi lidí, kteří se touto činností přímo zabývají. Jejich práce nejen podtrhuje roli, jakou hrají lidé při trénování algoritmů umělé inteligence, ale také moc, jakou korporace drží a s jakou se mohou vrhat do hlubin našeho soukromí.

Týmy se skládají z kombinace smluvních pracovníků a zaměstnanců pracujících na plný úvazek. Pracují z celého světa – někteří v kancelářích v Bostonu, jiní v Kostarice, další v Indii či v Rumunsku. Veřejně o programu podle Bloombergu mluvit nemohou, podepsali dohodu o mlčenlivosti.

Pracují 9 hodin denně, každý pracovník projde až 1 000 audionahrávek za den; tak to popsali 2 zaměstnanci v Bukurešti.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Andres Urena, Unsplash.com

 

Standardně jde prý o docela rutinní činnost, ničím zajímavou. Vezmou kupříkladu frázi „Taylor Swift“, kterou někdo vyřkl, a anotují ji s popiskem indikujícím, že daná osoba myslela zpěvačku.

Někdy se jim však dostanou do ruky nahrávky, které by jejich majitele jistě raději nechali soukromé: žena zpívající ve sprše nebo křičící dítě. Někdy slyší záznamy, které mohou svědčit o kriminální činnosti. Amazon prý má procedury, které se mají v takovém případě následovat, ale podle rumunských pracovníků se Amazon rozhodl nijak nezasahovat.

„Bezpečnost a soukromí našich zákazníků bereme vážně,“ řekl mluvčí Amazonu serveru Bloomberg v e-mailu. „Anotujeme pouze extrémně malý vzorek hlasových záznamů Alexy, abychom vylepšili zákaznickou zkušenost. Tyto informace nám například pomáhají vytrénovat rozpoznávání hlasu nebo chápání přirozeného jazyka, takže Alexa lépe porozumí vašim požadavkům a zajistíme dobře fungující službu pro všechny.“

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Jan Antonín Kolář, Unsplash

Alexa, who’s listening?

Mluvčí pokračuje dál. „Máme striktní technické a operační zásady a pravidla, nulovou toleranci vůči zneužívání našeho systému. Zaměstnanci nemají přímý přístup k informacím, které mohou identifikovat osobu nebo účet jako součást pracovní náplně. S veškerými informacemi je zacházeno dle pravidel vysoké důvěrnosti a využíváme pro omezení přístupu několikafázové zabezpečení, šifrování a audity.“

Amazon neříká ve svých materiálech přímo, že záznamům naslouchají živí lidé; zmiňuje ale, že položené dotazy využívá ke zlepšení služeb. V možnostech nastavení soukromí v aplikaci je možné pořizování záznamů Amazonem deaktivovat.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Občas se Alexa spustí sama, přeslechne se nebo omylem – i v takovém případě musí pracovníci záznam přepisovat. Náhodné spuštění je problém.

Takže ano, záznamy si pouští živí lidé. Pokud si však pořizování nahrávek v aplikaci deaktivujete, neměl by Amazon získat žádná data a vy být v bezpečí před nasloucháním živých lidí.

Není jasné, zda podobné metody využívají i další hlasoví asistenti, ale je to přinejmenším možné, a pravděpodobné. Přímo s Amazonem spolupracuje Cortana od Microsoftu.

Zdroj: Bloomberg

Obrázek: Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Od 1. ledna 2025 už se eDoklady prokážete také u zdravotních pojišťoven, škol či bank
Obrázek: Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Co kdybyste mohli ovládat zvuky kolem sebe? Vědci vyvinuli prototyp sluchátek, která to umožní
Obrázek: Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Trump chce popustit AI uzdu, někteří jeho poradci ji však budou chtít krotit
Obrázek: NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
NASA a SpaceX po 50 letech objevují zapomenuté technologie. Takto s 50m lodí přistanou na Měsíci
Obrázek: Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Tyhle Black Friday nabídky si nenechte ujít: Nejvýhodnější neomezený tarif v ČR, Apple i směšně levná elektronika
Obrázek: Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Příběh jednoho podvodu: Koupil jsem falešná Apple sluchátka a nepoznali to ani v obchodu
Obrázek: Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Nejlepší telefon do 15 000 Kč: Ve slevových akcích pořídíte špičková zařízení
Obrázek: Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?
Nejlepší telefony v Česku: Jaký vybrat, pokud chcete to nejlepší?