Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Desítky milionů lidi si už do domácnosti nechali pořídit chytré virtuální asistenty: někteří Alexu, jiní Siri, další Assistanta. Spojuje je několik věcí, mezi nimi také to, že neví, kdo a kdy poslouchá.

Obavy o soukromí jsou jeden z podstatných důvodů, proč se mnozí obávají si do domácnosti virtuální asistenty přivézt. Detailní průzkum novinářů Bloombergu nyní odhalil, že přinejmenším u Amazonu nejde o paranoiu, nýbrž oprávněné podezření.

Amazon podle serveru zaměstnává tisíce lidí, kteří pomáhají zlepšovat Alexu a související produkty typu Echo nebo Echo Dot reproduktory. Týmy poslouchají nahrávky od majitelů zařízení; ty jsou následně přepsány, anotovány a vloženy zpět do softwaru. Mají odstraňovat mezery, které Alexa v jazyce má.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Alexa, how are you doing?

Bloomberg si proces nechal popsat hned o sedmi lidí, kteří se touto činností přímo zabývají. Jejich práce nejen podtrhuje roli, jakou hrají lidé při trénování algoritmů umělé inteligence, ale také moc, jakou korporace drží a s jakou se mohou vrhat do hlubin našeho soukromí.

Týmy se skládají z kombinace smluvních pracovníků a zaměstnanců pracujících na plný úvazek. Pracují z celého světa – někteří v kancelářích v Bostonu, jiní v Kostarice, další v Indii či v Rumunsku. Veřejně o programu podle Bloombergu mluvit nemohou, podepsali dohodu o mlčenlivosti.

Pracují 9 hodin denně, každý pracovník projde až 1 000 audionahrávek za den; tak to popsali 2 zaměstnanci v Bukurešti.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Andres Urena, Unsplash.com

 

Standardně jde prý o docela rutinní činnost, ničím zajímavou. Vezmou kupříkladu frázi „Taylor Swift“, kterou někdo vyřkl, a anotují ji s popiskem indikujícím, že daná osoba myslela zpěvačku.

Někdy se jim však dostanou do ruky nahrávky, které by jejich majitele jistě raději nechali soukromé: žena zpívající ve sprše nebo křičící dítě. Někdy slyší záznamy, které mohou svědčit o kriminální činnosti. Amazon prý má procedury, které se mají v takovém případě následovat, ale podle rumunských pracovníků se Amazon rozhodl nijak nezasahovat.

„Bezpečnost a soukromí našich zákazníků bereme vážně,“ řekl mluvčí Amazonu serveru Bloomberg v e-mailu. „Anotujeme pouze extrémně malý vzorek hlasových záznamů Alexy, abychom vylepšili zákaznickou zkušenost. Tyto informace nám například pomáhají vytrénovat rozpoznávání hlasu nebo chápání přirozeného jazyka, takže Alexa lépe porozumí vašim požadavkům a zajistíme dobře fungující službu pro všechny.“

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Zdroj: Jan Antonín Kolář, Unsplash

Alexa, who’s listening?

Mluvčí pokračuje dál. „Máme striktní technické a operační zásady a pravidla, nulovou toleranci vůči zneužívání našeho systému. Zaměstnanci nemají přímý přístup k informacím, které mohou identifikovat osobu nebo účet jako součást pracovní náplně. S veškerými informacemi je zacházeno dle pravidel vysoké důvěrnosti a využíváme pro omezení přístupu několikafázové zabezpečení, šifrování a audity.“

Amazon neříká ve svých materiálech přímo, že záznamům naslouchají živí lidé; zmiňuje ale, že položené dotazy využívá ke zlepšení služeb. V možnostech nastavení soukromí v aplikaci je možné pořizování záznamů Amazonem deaktivovat.

Obrázek: Když mluvíte na virtuální asistenty, neposlouchá jen AI. Nahrávky si pouští živí lidé

Občas se Alexa spustí sama, přeslechne se nebo omylem – i v takovém případě musí pracovníci záznam přepisovat. Náhodné spuštění je problém.

Takže ano, záznamy si pouští živí lidé. Pokud si však pořizování nahrávek v aplikaci deaktivujete, neměl by Amazon získat žádná data a vy být v bezpečí před nasloucháním živých lidí.

Není jasné, zda podobné metody využívají i další hlasoví asistenti, ale je to přinejmenším možné, a pravděpodobné. Přímo s Amazonem spolupracuje Cortana od Microsoftu.

Zdroj: Bloomberg

Obrázek: Uber zvítězil nad Londýnem, alespoň na 18 měsíců
Uber zvítězil nad Londýnem, alespoň na 18 měsíců
Obrázek: Válka trochu jinak: Restrikce USA na dovoz sílí, celní válka s Čínou vrcholí
Válka trochu jinak: Restrikce USA na dovoz sílí, celní válka s Čínou vrcholí
Obrázek: Domácí bezpečnostní kamera v podobě létajícího dronu? Skvělý nápad, řekl si Amazon
Domácí bezpečnostní kamera v podobě létajícího dronu? Skvělý nápad, řekl si Amazon
Obrázek: Amazon oznámil vlastní cloudovou herní platformu Luna
Amazon oznámil vlastní cloudovou herní platformu Luna
Obrázek: Jak se vrátit ke starému vzhledu Facebooku? Pomohou rozšíření pro prohlížeče
Jak se vrátit ke starému vzhledu Facebooku? Pomohou rozšíření pro prohlížeče
Obrázek: VPN řešení pro firmy zcela zdarma? Synology překvapilo a nabízí licenci na svou VPN Plus až do září 2021
VPN řešení pro firmy zcela zdarma? Synology překvapilo a nabízí licenci na svou VPN Plus až do září 2021
Obrázek: Canon reaguje na nedostatek webkamer na trhu: Stačí fotoaparát a program do PC
Canon reaguje na nedostatek webkamer na trhu: Stačí fotoaparát a program do PC
Obrázek: Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
98%
Jak stahovat videa a hudbu z YouTube? Jde to snadno v prohlížeči, PC i na mobilu
Obrázek: Deaktivovaný účet? Facebook vás sleduje dál, sběru dat se nevyhnete
Deaktivovaný účet? Facebook vás sleduje dál, sběru dat se nevyhnete

I pokud si deaktivujete účet na nejpopulárnější sociální síti světa, moc si nepomůžete: Facebook bude i nadále nahlížet do vašeho...

Zavřít