Tusentals Amazon-anställda lyssnar på Alexa-förfrågningar för förbättringsändamål [Uppdaterad]

Amazon har tusentals anställda runt om i världen som lyssnar på röstinspelningar tagna i hemmen hos Amazon Echo-ägare, rapporterar Bloomberg .

Röstinspelningar fångas när Alexa vakna ord läses upp och sedan lyssnas en delmängd av dessa inspelningar på, transkriberas, kommenteras och läggs tillbaka till programvaran som en del av Amazons försök att hjälpa Alexa att bättre svara på röstkommandon. Amazon har faciliteter för Alexa-förbättring på platser som sträcker sig från Boston till Costa Rica, Indien och Rumänien.

Sju personer som är bekanta med Amazons granskningsprocess talade med Bloomberg och avslöjade några insiderdetaljer om programmet som kan beröra Echo-användare.

Även om mycket av arbetet har beskrivits som 'vardagligt' har anställda ibland stött på mer privata inspelningar, som en kvinna som sjunger av nyckeln i duschen eller ett barn som skriker på hjälp. Amazon-anställda har interna chattrum där de delar filer när hjälp behövs för att analysera ett ord eller, mer oroande, när en 'rolig inspelning' hittas.

Två arbetare berättade Bloomberg att de har hört inspelningar som är upprörande eller potentiellt kriminella, och medan Amazon hävdar att de har rutiner på plats för sådana händelser, har vissa anställda fått höra att det inte är företagets uppgift att ingripa.

Ibland hör de inspelningar som de tycker är upprörande, eller möjligen brottsliga. Två av arbetarna sa att de plockade upp vad de tror var ett sexuellt övergrepp. När något sådant händer kan de dela upplevelsen i det interna chattrummet som ett sätt att lindra stress. Amazon säger att de har rutiner på plats för arbetare att följa när de hör något plågsamt, men två Rumänien-baserade anställda sa att de, efter att ha begärt vägledning för sådana fall, fick höra att det inte var Amazons uppgift att ingripa.

Alexa-användare har möjlighet att inaktivera användningen av sina röstinspelningar för förbättringar av tjänsten, men vissa kanske inte vet att dessa alternativ finns. Amazon gör det inte heller klart att faktiska människor lyssnar på inspelningarna.

Enligt Bloomberg , inspelningar som skickas till anställda som arbetar på Alexa inkluderar inte en användares fullständiga namn eller adress, men ett kontonummer, förnamn och enhetens serienummer är kopplade till inspelningen.

I ett uttalande till Bloomberg , sa Amazon att ett 'extremt litet' antal Alexa-röstinspelningar är kommenterade och att det finns åtgärder på plats för att skydda användarens identitet.

Vi tar säkerheten och integriteten för våra kunders personliga information på allvar. Vi kommenterar bara ett extremt litet urval av Alexa röstinspelningar för att [att] förbättra kundupplevelsen. Till exempel hjälper den här informationen oss att träna våra system för taligenkänning och naturligt språkförståelse, så att Alexa bättre kan förstå dina önskemål och säkerställa att tjänsten fungerar bra för alla.

Vi har strikta tekniska och operativa skyddsåtgärder och har en nolltoleranspolicy för missbruk av vårt system. Anställda har inte direkt tillgång till information som kan identifiera personen eller kontot som en del av detta arbetsflöde. All information behandlas med hög konfidentialitet och vi använder multifaktorautentisering för att begränsa åtkomst, tjänstekryptering och granskningar av vår kontrollmiljö för att skydda den.

Det är standardpraxis att använda vissa inspelningar för produktförbättringar. Apple har anställda som lyssnar på syrien frågor för att se till att tolkningen av en begäran stämmer överens med vad personen sa. Inspelningar tas dock bort från identifierbar information och lagras i sex månader med en slumpmässig identifierare.

Även Google har anställda som kan komma åt ljudutdrag från Google Assistant i syfte att förbättra produkten, men Google, liksom Apple, tar bort personligt identifierbar information och förvränger även ljudet.

Amazon tycks inte ta bort all personligt identifierbar information, och även om Echo är tänkt att samla in ljud endast när ett väckt ord uttalas, är de anställda som pratade med Bloomberg sa att de ofta hör ljudfiler som verkar ha börjat spelas in utan något wake word alls.

Alexa-användare som berörs av data som samlas in och används av Amazon bör se till att aktivera alla sekretessfunktioner och avmarkera alternativet för att låta Amazon spara Echo-inspelningar. Ytterligare information om hur Amazon använder röstinspelningarna som de samlar in finns i originalet Bloomberg artikel.

Uppdatering: Amazon har lämnat följande uttalande till Evig som förtydligande: 'Som standard är Echo-enheter utformade för att bara upptäcka ditt valda wake-ord (Alexa, Amazon, Computer eller Echo). Enheten känner av väckningsordet genom att identifiera akustiska mönster som matchar väckningsordet. Inget ljud lagras eller skickas till molnet om inte enheten upptäcker väckningsordet (eller Alexa aktiveras genom att trycka på en knapp).'