Zmes Facebooku na ľudský AI na transkripciu zvuku teraz čelí kontrole súkromia v Európe – TechCrunch


Facebook je vedúci regulátor ochrany osobných údajov v Európe teraz žiada spoločnosť o podrobné informácie o fungovaní funkcie hlasu na text v aplikácii Facebook Messenger aplikácie a ako je v súlade s právnymi predpismi EÚ.

Včera Bloomberg informoval, že Facebook používa ľudských dodávateľov na prepis zvukových správ používateľov aplikácií – napriek tomu jeho zásady ochrany osobných údajov jasne neuvádzajú skutočnosť, že skutoční ľudia môžu počúvať vaše nahrávky.

Stránka v centre pomoci Facebooku obsahuje aj poznámku s textom „Hlas do textu využíva strojové učenie“. Neznamená to však, že túto funkciu podporujú aj ľudia pracujúci na počúvaní Facebooku.

Hovorca írskej komisie pre ochranu údajov nám povedal: „Po našej stálej spolupráci so spoločnosťou Google Apple a Microsoft v súvislosti so spracovaním osobných údajov v súvislosti s manuálnym prepisom zvukových záznamov, teraz hľadáme podrobné informácie od spoločnosti Facebook o predmetnom spracovaní a o tom, ako Facebook verí, že takéto spracovanie údajov je v súlade s ich povinnosťami GDPR. . "

Správa agentúry Bloomberg sleduje podobné odhalenia o technológiách AI assistant, ktoré ponúkajú iné technologické giganty vrátane spoločností Apple, Amazon, Google a Microsoft – ktoré v posledných týždňoch tiež pritiahli pozornosť európskych regulačných orgánov na ochranu súkromia.

To nám hovorí, že humbuk okolo hlasových asistentov AI je stále lesk na oveľa menej high-tech backende. Aj keď sa popruhy strojového marketingového marketingu používali na maskovanie komponentov „mechanického Turka“ (t. J. Ľudí) potrebných na to, aby technológia splnila požiadavky.

Toto je skutočne veľmi starý príbeh. Na vtip: Plný desaťročia Predtým sa uvádza, že britský startup Spinvox, ktorý tvrdil, že má pokročilou technológiu rozpoznávania hlasu na konverziu hlasových správ na textové správy, sa veľmi silno opieral o call centrá v Južnej Afrike a na Filipínach … v ktorých sú zamestnaní, áno, skutoční ľudia.

V nadväznosti na dnešnú „špičkovú“ technológiu Facebook na základe správy Bloomberga Facebook uviedol, že začiatkom tohto mesiaca pozastavil transkripcie ľudí – pripojil sa k spoločnosti Apple a Google pri zastavení manuálnych recenzií zvukových úryvkov pre príslušné hlasové AI. (Amazon od tej doby pridal nastavenie odhlásenia do nastavení aplikácie Alexa.)

Spýtali sme sa Facebooku, kde v aplikácii Messenger informovalo používateľov o tom, že na prepísanie ich hlasových rozhovorov / zvukových správ môžu byť použité ľudské dodávatelia; a ako zhromaždil súhlas používateľov služby Messenger s touto formou spracovania údajov – pred pozastavením ľudských kontrol.

Spoločnosť neodpovedala na naše otázky. Namiesto toho nám hovorca poskytol toto vyhlásenie: „Rovnako ako Apple a Google sme pozastavili kontrolu zvuku u ľudí pred viac ako týždňom. “

Facebook tiež opísal zvukové úryvky, ktoré zaslal dodávateľom, ako maskované a identifikované; uviedli, že boli zhromaždené iba vtedy, keď sa používatelia rozhodli pre prepis v aplikácii Messenger; a boli použité iba na zlepšenie transkripčnej výkonnosti AI.

Spoločnosť tiež zdôraznila, že spoločnosť dlhodobo vyvracia obavy používateľov nad všeobecným odpočúvaním prostredníctvom Facebooku a tvrdí, že nikdy nepočúva mikrofóny ľudí bez súhlasu zariadenia ani bez výslovnej aktivácie používateľmi.

Kľúčovou otázkou však zostáva, ako Facebook zhromažďuje povolenie na spracovanie údajov.

Spoločnosť nedávno napríklad použila manipulatívny tok súhlasov s cieľom prinútiť používateľov v Európe, aby zapli technológiu rozpoznávania tváre – vrátili svoj predchádzajúci postoj, prijatý ako reakcia na predchádzajúci regulačný zásah, k vypnutiu technológie v celom bloku.

Veľa teda záleží na tom, ako presne Facebook opísal spracovanie údajov v ľubovoľnom okamihu, keď žiada používateľov, aby súhlasili s tým, aby ich hlasové správy preverovali ľudia (za predpokladu, že sa na ich spracovanie spolieha na súhlas).

Je nepravdepodobné, že by súhlas so spájaním všeobecných a obchodných podmienok s používaním produktu bol v súlade s právnymi predpismi EÚ o ochrane osobných údajov, keďže všeobecné nariadenie o ochrane údajov v bloku vyžaduje, aby bol súhlas obmedzený na účel, ako aj plne informovaný a slobodne poskytnutý.

Ak sa Facebook spolieha na legitímne záujmy pri spracovávaní zvukových útržkov používateľov programu Messenger, aby sa zvýšila jeho výkonnosť AI, bolo by potrebné vyvážiť jeho vlastné záujmy proti akémukoľvek riziku pre súkromie ľudí.

Hlasové AI sú v tomto ohľade obzvlášť problematické, pretože zvukové nahrávky môžu tiež zachytávať osobné údaje používateľov, ktorí nie sú používateľmi – za predpokladu, že ľudia v blízkosti zariadenia (alebo skutočne osoba na druhom konci telefónnej linky, ktorá vám zanecháva správu) mohli svoje osobné údaje zachytiť bez toho, aby mali možnosť vyjadriť súhlas so zmluvnými dodávateľmi služby Facebook.

Úniky úryvkov asistenta Google pre belgickú tlač nedávno zdôraznili citlivú povahu nahrávok a riziko opätovného identifikácie, ktoré tieto nahrávky predstavujú – s novinármi, ktorí sú schopní identifikovať niektorých ľudí v nahrávkach.

Viaceré tlačové správy tiež navrhli, aby dodávatelia zamestnaní technickými gigantmi bežne počúvali intímne podrobnosti zachytené prostredníctvom radu produktov, medzi ktoré patrí schopnosť zaznamenávať zvuk a prenášať tieto osobné údaje do cloudu na spracovanie.