Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Desítky milionů lidi si už do domácnosti nechali pořídit chytré virtuální asistenty: někteří Alexu, jiní Siri, další Assistanta. Spojuje je několik věcí, mezi nimi také to, že neví, kdo a kdy poslouchá.

Obavy o soukromí jsou jeden z podstatných důvodů, proč se mnozí obávají si do domácnosti virtuální asistenty přivézt. Detailní průzkum novinářů Bloombergu nyní odhalil, že přinejmenším u Amazonu nejde o paranoiu, nýbrž oprávněné podezření.

Amazon podle serveru zaměstnává tisíce lidí, kteří pomáhají zlepšovat Alexu a související produkty typu Echo nebo Echo Dot reproduktory. Týmy poslouchají nahrávky od majitelů zařízení; ty jsou následně přepsány, anotovány a vloženy zpět do softwaru. Mají odstraňovat mezery, které Alexa v jazyce má.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Alexa, how are you doing?

Bloomberg si proces nechal popsat hned o sedmi lidí, kteří se touto činností přímo zabývají. Jejich práce nejen podtrhuje roli, jakou hrají lidé při trénování algoritmů umělé inteligence, ale také moc, jakou korporace drží a s jakou se mohou vrhat do hlubin našeho soukromí.

Týmy se skládají z kombinace smluvních pracovníků a zaměstnanců pracujících na plný úvazek. Pracují z celého světa – někteří v kancelářích v Bostonu, jiní v Kostarice, další v Indii či v Rumunsku. Veřejně o programu podle Bloombergu mluvit nemohou, podepsali dohodu o mlčenlivosti.

Pracují 9 hodin denně, každý pracovník projde až 1 000 audionahrávek za den; tak to popsali 2 zaměstnanci v Bukurešti.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Andres Urena, Unsplash.com

 

Standardně jde prý o docela rutinní činnost, ničím zajímavou. Vezmou kupříkladu frázi „Taylor Swift“, kterou někdo vyřkl, a anotují ji s popiskem indikujícím, že daná osoba myslela zpěvačku.

Někdy se jim však dostanou do ruky nahrávky, které by jejich majitele jistě raději nechali soukromé: žena zpívající ve sprše nebo křičící dítě. Někdy slyší záznamy, které mohou svědčit o kriminální činnosti. Amazon prý má procedury, které se mají v takovém případě následovat, ale podle rumunských pracovníků se Amazon rozhodl nijak nezasahovat.

„Bezpečnost a soukromí našich zákazníků bereme vážně,“ řekl mluvčí Amazonu serveru Bloomberg v e-mailu. „Anotujeme pouze extrémně malý vzorek hlasových záznamů Alexy, abychom vylepšili zákaznickou zkušenost. Tyto informace nám například pomáhají vytrénovat rozpoznávání hlasu nebo chápání přirozeného jazyka, takže Alexa lépe porozumí vašim požadavkům a zajistíme dobře fungující službu pro všechny.“

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Jan Antonín Kolář, Unsplash

Alexa, who’s listening?

Mluvčí pokračuje dál. „Máme striktní technické a operační zásady a pravidla, nulovou toleranci vůči zneužívání našeho systému. Zaměstnanci nemají přímý přístup k informacím, které mohou identifikovat osobu nebo účet jako součást pracovní náplně. S veškerými informacemi je zacházeno dle pravidel vysoké důvěrnosti a využíváme pro omezení přístupu několikafázové zabezpečení, šifrování a audity.“

Amazon neříká ve svých materiálech přímo, že záznamům naslouchají živí lidé; zmiňuje ale, že položené dotazy využívá ke zlepšení služeb. V možnostech nastavení soukromí v aplikaci je možné pořizování záznamů Amazonem deaktivovat.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Občas se Alexa spustí sama, přeslechne se nebo omylem – i v takovém případě musí pracovníci záznam přepisovat. Náhodné spuštění je problém.

Takže ano, záznamy si pouští živí lidé. Pokud si však pořizování nahrávek v aplikaci deaktivujete, neměl by Amazon získat žádná data a vy být v bezpečí před nasloucháním živých lidí.

Není jasné, zda podobné metody využívají i další hlasoví asistenti, ale je to přinejmenším možné, a pravděpodobné. Přímo s Amazonem spolupracuje Cortana od Microsoftu.

Zdroj: Bloomberg

Obrázek: Krizi překonáme díky umělé inteligenci a zelené energii, tvrdí český podnikatel
Krizi překonáme díky umělé inteligenci a zelené energii, tvrdí český podnikatel
Obrázek: Recyklovatelný dům z 3D tiskárny? Chystá se revoluce v bydlení
Recyklovatelný dům z 3D tiskárny? Chystá se revoluce v bydlení
Obrázek: Android AirTag: Google chce vlastní sledovací přívěsek, má být přesnější než Apple
Android AirTag: Google chce vlastní sledovací přívěsek, má být přesnější než Apple
Obrázek: Google se bojí. Microsoft s OpenAI spolupracují na vylepšení vyhledávače Bing
Google se bojí. Microsoft s OpenAI spolupracují na vylepšení vyhledávače Bing
Obrázek: Recenze: Česká čistička vzduchu GARNI 45T OneCare obstála na výbornou
93%
Recenze: Česká čistička vzduchu GARNI 45T OneCare obstála na výbornou
Znečištěný vzduch
Čistíte si doma vzduch? Co znamená PM 2.5 a jaký mohou mít nečistoty vliv na vaše zdraví?
Obrázek: Blíží se kometa, kterou můžete vidět pouze jednou za 50 000 let. Jak ji sledovat?
Blíží se kometa, kterou můžete vidět pouze jednou za 50 000 let. Jak ji sledovat?
Obrázek: Konec složitostem. Novinka ve WhatsAppu ušetří hodiny se zálohováním
Konec složitostem. Novinka ve WhatsAppu ušetří hodiny se zálohováním