Desítky milionů lidi si už do domácnosti nechali pořídit chytré virtuální asistenty: někteří Alexu, jiní Siri, další Assistanta. Spojuje je několik věcí, mezi nimi také to, že neví, kdo a kdy poslouchá.

Obavy o soukromí jsou jeden z podstatných důvodů, proč se mnozí obávají si do domácnosti virtuální asistenty přivézt. Detailní průzkum novinářů Bloombergu nyní odhalil, že přinejmenším u Amazonu nejde o paranoiu, nýbrž oprávněné podezření.

• Co umí Alexa?

Amazon podle serveru zaměstnává tisíce lidí, kteří pomáhají zlepšovat Alexu a související produkty typu Echo nebo Echo Dot reproduktory. Týmy poslouchají nahrávky od majitelů zařízení; ty jsou následně přepsány, anotovány a vloženy zpět do softwaru. Mají odstraňovat mezery, které Alexa v jazyce má.

Alexa, how are you doing?

Bloomberg si proces nechal popsat hned o sedmi lidí, kteří se touto činností přímo zabývají. Jejich práce nejen podtrhuje roli, jakou hrají lidé při trénování algoritmů umělé inteligence, ale také moc, jakou korporace drží a s jakou se mohou vrhat do hlubin našeho soukromí.

Týmy se skládají z kombinace smluvních pracovníků a zaměstnanců pracujících na plný úvazek. Pracují z celého světa – někteří v kancelářích v Bostonu, jiní v Kostarice, další v Indii či v Rumunsku. Veřejně o programu podle Bloombergu mluvit nemohou, podepsali dohodu o mlčenlivosti.

Pracují 9 hodin denně, každý pracovník projde až 1 000 audionahrávek za den; tak to popsali 2 zaměstnanci v Bukurešti.

 

Standardně jde prý o docela rutinní činnost, ničím zajímavou. Vezmou kupříkladu frázi „Taylor Swift“, kterou někdo vyřkl, a anotují ji s popiskem indikujícím, že daná osoba myslela zpěvačku.

Někdy se jim však dostanou do ruky nahrávky, které by jejich majitele jistě raději nechali soukromé: žena zpívající ve sprše nebo křičící dítě. Někdy slyší záznamy, které mohou svědčit o kriminální činnosti. Amazon prý má procedury, které se mají v takovém případě následovat, ale podle rumunských pracovníků se Amazon rozhodl nijak nezasahovat.

„Bezpečnost a soukromí našich zákazníků bereme vážně,“ řekl mluvčí Amazonu serveru Bloomberg v e-mailu. „Anotujeme pouze extrémně malý vzorek hlasových záznamů Alexy, abychom vylepšili zákaznickou zkušenost. Tyto informace nám například pomáhají vytrénovat rozpoznávání hlasu nebo chápání přirozeného jazyka, takže Alexa lépe porozumí vašim požadavkům a zajistíme dobře fungující službu pro všechny.“

Alexa, who’s listening?

Mluvčí pokračuje dál. „Máme striktní technické a operační zásady a pravidla, nulovou toleranci vůči zneužívání našeho systému. Zaměstnanci nemají přímý přístup k informacím, které mohou identifikovat osobu nebo účet jako součást pracovní náplně. S veškerými informacemi je zacházeno dle pravidel vysoké důvěrnosti a využíváme pro omezení přístupu několikafázové zabezpečení, šifrování a audity.“

Amazon neříká ve svých materiálech přímo, že záznamům naslouchají živí lidé; zmiňuje ale, že položené dotazy využívá ke zlepšení služeb. V možnostech nastavení soukromí v aplikaci je možné pořizování záznamů Amazonem deaktivovat.

Občas se Alexa spustí sama, přeslechne se nebo omylem – i v takovém případě musí pracovníci záznam přepisovat. Náhodné spuštění je problém.

Takže ano, záznamy si pouští živí lidé. Pokud si však pořizování nahrávek v aplikaci deaktivujete, neměl by Amazon získat žádná data a vy být v bezpečí před nasloucháním živých lidí.

Není jasné, zda podobné metody využívají i další hlasoví asistenti, ale je to přinejmenším možné, a pravděpodobné. Přímo s Amazonem spolupracuje Cortana od Microsoftu.

Zdroj: Bloomberg