Aké je moje skóre? Veľká Hack Star hovorí, že by ste mali vedieť



<div _ngcontent-c17 = "" insidehtml = "

Pivuje sa revolúcia, odpor rastie, koniec by mohol byť blízko dozorný kapitalizmus? Tento termín, ktorý vytvorila spoločnosť Harvard's Shoshana Zuboff, sa používa na opísanie produktizácie ľudskej skúsenosti podnikovými záujmami, a to výhradne za účelom predaja reklamy za každú cenu slobode a spoločnosti jednotlivca. & Nbsp;

Dátové monopoly za posledné desaťročie, medzi ktoré patria Facebook, Apple, Amazon, Netflix a Google, podnietili masívny hospodársky rast a najdlhší býk v histórii, ale ak Cambridge Analytica nás naučil čokoľvek, je to preto, že predaj našej duše (doslova) za nekonečnú prosperitu má svoju cenu. & nbsp;

V čase, keď sa škandál v marci 2018 zlomil, dnes neslávna britská politická poradenská spoločnosť založená Stevom Bannonom a Robertom Mercerom tvrdila, že na každom americkom voličovi má takmer 5 000 dátových bodov, okolo 230 miliónov ľudí. Zbraňovali tieto údaje a zamerali sa na konkrétnych jednotlivcov v kľúčových teritóriách a bombardovali ich klamlivými reklamami, ktoré mnohí veria, že ovplyvnili výsledok volieb v USA a Spojenom kráľovstve.

Jedným z najpopulárnejších dokumentárnych filmov na túto tému sú Netflix Veľký hack ktorý rozpráva o tom, čo sa stalo očami bývalých zamestnancov a obhajcu súkromia, Davida Carrolla, profesora dizajnu Parsonsa, ktorý žaloval Cambridge Analyticu v rámci Ochrana údajov Spojeného kráľovstva z roku 1998 získať jeho údaje, profil a skóre.

Minulý týždeň som mal možnosť hovoriť s Carrollom po jeho paneli práv na práva údajov na festivale Fast Company Innovation. Nasleduje upravený prepis našej diskusie:

V USA došlo k prudkému zvýšeniu záujmu o prijatie komplexných federálnych zákonov na ochranu osobných údajov, a to čiastočne vďaka škandálu s Cambridge Analytica. Na pozadí, môžete vysvetliť, aké zákony porušili?

Cambridge Analytica porušil britský zákon o ochrane údajov z roku 1998 nespravodlivým spracovaním profilov ľudí politicky v súvislosti s voľbami v USA. Vo Veľkej Británii je nezákonné vytvárať politické profily bez povolenia a urobili to pre všetkých registrovaných voličov, nielen pre 87 miliónov ľudí, ku ktorým mali prístup na Facebooku, ale pre každého amerického voliča. Na zneužitie údajov ste nemuseli byť ani na Facebooku. & Nbsp;

Spojené kráľovstvo malo jurisdikciu, pretože spoločnosť Cambridge Analytica bola britskou spoločnosťou, ktorá využívala naše údaje o pôde Spojeného kráľovstva, a v Spojenom kráľovstve sú práva udelené tam, kde sa údaje spracúvajú. Keby zachytili naše údaje v USA, nedošlo by k žiadnemu postihu, pretože USA nemajú federálne zákony o ochrane osobných údajov. & Nbsp;

Cambridge Analytica získala svoje údaje od vývojárov Facebooku, Joseph Chancellor a Aleksander Kogan, ktorí vytvorili prieskumnú aplikáciu („This Is Your Digital Life“), ktorá zbierala údaje nielen o (270 000) používateľov aplikácie Facebook, ale aj o 87 miliónoch Používatelia Facebooku z USA, ktorí boli priateľmi priateľov. Podarilo sa im to pomocou predvolených povolení, o ktorých málo používateľov vedelo. Používatelia sa v tom čase museli odhlásiť tak, že prejdú hlboko do nastavení ochrany osobných údajov a kliknú na tlačidlo s textom „Nedovoľte vývojárom zdieľať údaje mojich priateľov.“

Kanadskí komisári pre ochranu osobných údajov varoval Facebook, že sa jedná o katastrofu v súvislosti s ochranou súkromia, ale počas dní Farmville a Facebook ustúpili, že ich potrebujú pre svoj vývoj.

Kancelária a Kogan ďalej uviedli, že zber údajov bol na akademické účely a potom ich na politické účely predal spoločnosti Cambridge Analytica. Aj to bolo v Spojenom kráľovstve nezákonné, kde nemôžete zhromažďovať údaje na jeden účel a potom ich predávať na iný účel. Porušovalo to aj vlastné pravidlá spoločnosti Facebook.

Ak sa pozriete po celom svete, zdá sa, že existuje široké spektrum spôsobov zaobchádzania s údajovými právami.

Nakoniec je tu Čína, komunistický národ, v ktorom vládne štát. Na vybudovanie a. Sa používajú chýbajúce práva na údaje pre jednotlivcov, AI a strojové učenie systém sociálnych úverov policajným občanom a na sociálnych médiách sú obrázky tranzitných policajtov nasadených s prilbami AR na skenovanie cestujúcich technológiou rozpoznávania tváre.

Na druhom konci spektra je Európska únia, ktorá uprednostňuje individuálne práva pred vládnymi a firemnými záujmami. Ich prísne právne predpisy v oblasti súkromia pramenia čiastočne z toho, že to zabezpečujú zneužitia údajov ktoré viedli k zverstvám holokaustu už nikdy viac.

Niekde uprostred leží Amerika, krajina slobodného podnikania, kde sa spoločnosti pohybujú rýchlo a rozbíjajú veci, a korporácie majú zvereneckú povinnosť maximalizovať zisky akcionárov. Pokiaľ ide o práva na údaje, Amerika je iná ako EÚ a Čína, pretože hoci nikto nechce orwellovskú nočnú moru, nechce potlačiť ani inovácie.

Toto je pravda. V Amerike majú korporácie dokonca osobnosť s firemnou rečou chránenou Prvou novelou. Toto je základ Rozhodnutie najvyššieho súdu z roku 2010 ktorý hovorí, že nemôžete obmedziť výdavky na firemnú politiku. V EÚ a Číne neexistuje sloboda prejavu, Charta EÚ má právo na slobodu prejavu a právo na ochranu údajov, čím sa dosiahne táto rovnováha.

Američania musia premýšľať o tom, čo sa deje v Číne a EÚ, a od ktorého chceme, aby sme odteraz boli desaťročia. Existujú ľudia, ktorí tvrdia, že nestojí za to prejsť reguláciou ochrany osobných údajov, pretože zákony vždy doháňajú technológiu, ale v prípade internetu Charta EÚ, boli o 30 rokov pred zápasom. Predpovedali budúcnosť a predstavovali si potrebu ochrany údajov ako základného ľudského práva dlho predtým, ako sme sa sem dostali, a zaoberali sa otázkami, ako je genetické a biometrické súkromie atď.

GDPR EÚ & lsqb;Všeobecné nariadenie o ochrane údajov& Rsqb; Právo na zabudnutie predstavuje vyjadrenie o tom, ako pokročilo ich vykonávanie týchto práv, zatiaľ čo USA sa o týchto veciach ani neobťažovali. & nbsp;

Prešlo veľa amerických štátov zákony o sprostredkovaní sprostredkovania údajov a CCPA & lsqb;Zákon o ochrane spotrebiteľa v Kalifornii& Rsqb; vstúpi do platnosti 1. januára. Budú tieto nové zákony o ochrane súkromia v hospodárstve, ktoré je založené na údajoch, dobré alebo zlé pre podnikanie?

Myslím si, že budú dobré pre podnikanie, keď sa objavia začínajúce podniky zaoberajúce sa ochranou súkromia, ktoré pomôžu ľuďom využívať tieto nové práva, zbierať skóre a zaoberať sa byrokraciou, ktorá sa vyžaduje, aby sa dali optimalizovať a zefektívniť.

Podľa nového kalifornského zákona budú mať spotrebitelia právo vedieť, aké údaje sa zhromažďujú, majú právo tieto údaje vymazať a majú právo na opt-out z predaja týchto údajov a spoločnosti budú musieť zobraziť tlačidlá, ktoré povedzte: „Nepredávať moje údaje.“ Je to teda dobrý krok vpred. & nbsp;

Bol by som rád, keby zákony išli ďalej a vyžadovali od spoločností, aby aktívne zasielali výpis údajov, ktorý je podobný typu bankového výpisu, ktorý sú banky povinné zasielať a ktoré nám poskytujú naše finančné informácie. Prečo by sme mali robiť prácu? Spoločnosti by vám mali poslať váš dátový profil, skóre a spôsob, akým ho vygenerovali. Ak proti tomu namietate, kliknite sem a ak ho chcete odstrániť, kliknite sem. & Nbsp;

Myslíte si, že Kongres rozumie technológii natoľko, aby ju regulovala?

Nemyslím si, že rozumejú vlastnému publiku a precizujú dostatočne dobre alebo spôsob, akým sprostredkovatelia údajov kombinujú údaje a ako sa vytvárajú tieňové profily. Musia lepšie pochopiť rozdiel medzi údajmi, ktoré dodávame platformám, a údajmi, ktoré o nás platformy odvodzujú. & Nbsp;

Môžete mi vysvetliť problém pomocou mikrotlačenia?

Keď vstúpite do nástroja Správca reklám Facebook a vytvoríte kampaň, začnete so segmentáciou a vyberiete parametre. Keď vyberáte tieto voľby, ktoré sú založené na demografických údajoch a záujmoch, môžete svoje cieľové publikum zúžiť. Ale potom je tu ďalšia funkcia vlastné publikum do ktorého môžete nahrať množinu údajov. Môže to byť zoznam mien, zoznam e-mailových adries, telefónnych čísel, údajov cookie. Keď to urobíte, bude zodpovedať profilu na Facebooku. Odtiaľ môžete robiť to, čo sa volá lookalikes. Ak máte zoznam zákazníkov, môžete ho odovzdať a algoritmus sa bude zhodovať so všetkými podobnými používateľmi Facebooku. To vám umožňuje zacieliť na ľudí podľa mena a je to veľmi efektívny spôsob, ako rozšíriť publikum a podnikanie.

Jeremy Merrill z Pro Publica zverejnené dňa cvrlikání obrázok nástroja na transparentnosť reklám na Facebooku, kde spoločnosť Clear, biometrická spoločnosť a spoločnosť zaoberajúca sa bezpečnostným odbavením, umožnila spoločnosti Delta Airlines používať jej údaje na to, aby ľudia s reklamami mikrotlačili. Keď sa ľudia zaregistrujú do programu Clear a súhlasia s tým, že im umožnia používať ich biometrické údaje na zrýchlenie zabezpečenia, mnohí slepo kliknú na zásady ochrany osobných údajov a neuvedomujú si, že spoločnosti Clear dostali práve povolenie zdieľať svoje najosobnejšie informácie s leteckými spoločnosťami na marketingové účely. Spoločnosti čoraz viac posúvajú hranice a pokúsia sa dostať preč so všetkým, čo môžu. & Nbsp;

Ako sme sa sem dostali?

Spoločnosti vedia, že v údajoch je moc. Vo svojich spomienkach bývalí zamestnanci spoločnosti Cambridge Associate, Christopher Wylie a Brittany Kaiser, popíšte, ako ich zviedli údaje, silu, ktorú cítite, zbieraním, redukciou na merania, pomocou týchto meraní na zmenu správania a sledovaním zmeny správania. & nbsp;

Skóre reputácie sa stali tak súčasťou našej kultúry, že ľudia často odkazujú na svoje skóre Uber ako na skóre dôvery a budú dokonca cenzor ich správanie chrániť tieto skóre. Čo si o tom myslíš?

Myslím, že je to znepokojujúce. Všetci pretekáme s plnou parou pred začlenením týchto algoritmov do našej spoločnosti a nie je potrebné postupovať opatrne. Všetko sa to deje v mene efektívnosti a rozsahu. & Nbsp;

Niektoré z najviac znepokojujúcich príkladov sa týkajú presadzovania práva, zamestnávania a zdravotnej starostlivosti. S presadzovaním práva naše algoritmy stále viac rozhodujú o trestných sankciách. Predpojatosť údajov zachováva systémový rasizmus a kóduje ho do systému určujúceho slobodu ľudí. & Nbsp;

So zamestnaním veľké spoločnosti čoraz viac prijímajú systémy, ktoré analyzujú sociálne médiá a používajú technológie rozpoznávania tváre a emócií počas rozhovorov s uchádzačmi o predbežnú kontrolu. Môže vám byť odmietnutá práca, na ktorú ste úplne kvalifikovaní, pretože vás nejaký algoritmus strojového učenia vytrhol a nemáte spôsob, ako zistiť, ako sa to stalo. & Nbsp;

V oblasti zdravotnej starostlivosti je veľkým argumentom na získavanie údajov vyliečenie rakoviny. To by potenciálne mohlo vylepšiť medicínu spôsobmi, ktoré sa môžu zdať dobré, ale môže mať aj nezamýšľané následky. Keď sa posúvame smerom k genetickej analýze, prekrývanie medzi priemyselným odvetvím komerčného genetického testovania a odvetvím zdravotnej starostlivosti sa stráca rýchlejšie a rýchlejšie a akonáhle dôjde k porušeniu vašej genetiky, už sa nebude vracať. Existujú už správy o porušovaní biometrických identifikačných spoločností. Ak sú vaše heslá porušené, môžete si ich zmeniť, ale akonáhle dôjde k porušeniu geometrie tváre, odtlačkov prstov, skenovania dúhovky, nemôžete to zmeniť – jednoducho ste natrvalo porušení. & Nbsp;

Keď sa pretekáme vpred, musíme si byť vedomí toho, ako by sa to mohlo odohrať. Preto potrebujeme základné práva na údaje, aby jednotlivci mohli uplatňovať svoju autonómiu a osobné slobody na vyváženie týchto nových infraštruktúr. Z tohto dôvodu sa hájime za práva na naše skóre.

New York Times reportér Kašmír Hill písal o jej skúsenosť so získaním jej skóre od sprostredkovateľov údajov podľa nových zákonov, takže začíname vidieť záblesk toho, ako to bude možné. & nbsp;

Keď poznáme naše skóre, môžeme lepšie pochopiť, ako môžu ovplyvňovať naše životné možnosti. Môžeme požadovať, aby spoločnosti vysvetlili, ako tieto skóre vytvárajú, a vyzvali k nepriehľadnosti svojich algoritmov čiernej skrinky. Nemyslím si, že chceme doručovaciu službu určujúcu našu autonómiu ako ľudskú bytosť. Nestojí to za to. Naša posadnutosť získaním skóre dôvery, keď ani nevieme, ako bolo skóre vygenerované, vyzerá, že to nie je skutočne dôveryhodné meranie.

Kam s tým všetkým ideme?

Film „Ju“ od Spika Jonze sa zaujímavo pozrie na budúcnosť AI a reklamy, Vo svojom prehľadnom vesmíre nie je potrebná žiadna reklama, pretože agenti AI pracujú v mene ľudí. Agent by mohol povedať používateľovi: „Blíži sa narodeniny vašej mamy, môže si naozaj pochutnať na rukopisnej karte. Poznám službu, ktorá vám to môže urobiť. Mám si objednať jeden? “Agent potom ide na automatizovaný trh, aby rokoval o mene v mene užívateľa a prípadne si vymieňal údaje.

Ďalšou reklamnou dystópiou je „Správa o menšinách“ skenery dúhovky sledujú Toma Cruisea v obchoďáku, kde sa v reálnom čase dostáva do mikrotlačenia za reklamy. Reklama Lexus sa na neho odvoláva menom, reklama American Express zobrazuje jeho meno na karte a je uvítaný menom na adrese Medzera. Plná realizácia fúzie personalizovanej reklamy a vládneho dohľadu vytvára desivý film. V niektorých ohľadoch má reklamný svet menšinovú správu ako svätý grál. & Nbsp;

Prečo sa to stalo vašou úlohou?

Keď hovoríme o skóre, robíme život v hre, v ktorej môže byť iba niekoľko víťazov. Ak sa tým nebudeme zaoberať teraz, veľa ľudí stratí. & Nbsp;

Táto konverzácia bola zhustená a kvôli prehľadnosti upravená.

">

Pivuje sa revolúcia, odpor rastie, mohol by byť koniec pre dohľad nad kapitalizmom? Tento termín, ktorý vytvorila spoločnosť Harvard's Shoshana Zuboff, sa používa na opísanie produktizácie ľudskej skúsenosti podnikovými záujmami výhradne za účelom predaja reklamy za každú cenu slobode jednotlivca a spoločnosti.

Dátové monopoly za posledné desaťročie, medzi ktoré patria Facebook, Apple, Amazon, Netflix a Google, podnietili masívny hospodársky rast a najdlhší beh býka v histórii, ale ak nás Cambridge Analytica naučil čokoľvek, je to to, že predávame našu dušu (doslova) pretože nekonečná prosperita má svoju cenu.

V čase, keď sa škandál v marci 2018 zlomil, dnes neslávna britská politická poradenská spoločnosť založená Stevom Bannonom a Robertom Mercerom tvrdila, že na každom americkom voličovi má takmer 5 000 dátových bodov, okolo 230 miliónov ľudí. Zbraňovali tieto údaje a zamerali sa na konkrétnych jednotlivcov v kľúčových teritóriách a bombardovali ich klamlivými reklamami, ktoré mnohí veria, že ovplyvnili výsledok volieb v USA a Spojenom kráľovstve.

Jedným z najobľúbenejších dokumentárnych filmov na túto tému je Veľký hack od spoločnosti Netflix, ktorý rozoberá to, čo sa stalo očami bývalých zamestnancov a obhajcu súkromia Davida Carrolla, profesora dizajnu Parsonsa, ktorý žaloval Cambridge Analyticu v rámci ochrany údajov Spojeného kráľovstva z roku 1998, aby získal jeho titul. údaje, profil a skóre.

Minulý týždeň som mal možnosť hovoriť s Carrollom po jeho paneli práv na práva údajov na festivale Fast Company Innovation. Nasleduje upravený prepis našej diskusie:

V USA došlo k prudkému zvýšeniu záujmu o prijatie komplexných federálnych zákonov na ochranu osobných údajov, a to čiastočne vďaka škandálu s Cambridge Analytica. Na pozadí, môžete vysvetliť, aké zákony porušili?

Cambridge Analytica porušil britský zákon o ochrane údajov z roku 1998 nespravodlivým spracovaním profilov ľudí politicky v súvislosti s voľbami v USA. Vo Veľkej Británii je nezákonné vytvárať politické profily bez povolenia a urobili to pre všetkých registrovaných voličov, nielen pre 87 miliónov ľudí, ku ktorým mali prístup na Facebooku, ale pre každého amerického voliča. Aby ste mohli zneužívať svoje údaje, nemusíte byť ani na Facebooku.

Spojené kráľovstvo malo jurisdikciu, pretože spoločnosť Cambridge Analytica bola britskou spoločnosťou, ktorá využívala naše údaje o pôde Spojeného kráľovstva, a v Spojenom kráľovstve sú práva udelené tam, kde sa údaje spracúvajú. Keby zachytili naše údaje v USA, nedošlo by k žiadnemu postihu, pretože USA nemajú federálne zákony o ochrane osobných údajov.

Cambridge Analytica získala svoje údaje od vývojárov Facebooku, Joseph Chancellor a Aleksander Kogan, ktorí vytvorili prieskumnú aplikáciu („This Is Your Digital Life“), ktorá zbierala údaje nielen o (270 000) používateľov aplikácie Facebook, ale aj o 87 miliónoch Používatelia Facebooku z USA, ktorí boli priateľmi priateľov. Podarilo sa im to pomocou predvolených povolení, o ktorých málo používateľov vedelo. Používatelia sa v tom čase museli odhlásiť tak, že prejdú hlboko do nastavení ochrany osobných údajov a kliknú na tlačidlo s textom „Nedovoľte vývojárom zdieľať údaje mojich priateľov.“

Kanadskí komisári pre ochranu osobných údajov Facebook varovali, že to bola katastrofa týkajúca sa ochrany súkromia, ktorá sa však vyskytla, ale počas dní spoločnosti Farmville a Facebook sa tvrdilo, že ich potrebujú pre svoj vývoj pre rast.

Kancelária a Kogan ďalej uviedli, že zber údajov bol na akademické účely a potom ich na politické účely predal spoločnosti Cambridge Analytica. Aj to bolo v Spojenom kráľovstve nezákonné, kde nemôžete zhromažďovať údaje na jeden účel a potom ich predávať na iný účel. Porušovalo to aj vlastné pravidlá spoločnosti Facebook.

Ak sa pozriete po celom svete, zdá sa, že existuje široké spektrum spôsobov zaobchádzania s údajovými právami.

Nakoniec je tu Čína, komunistický národ, v ktorom vládne štát. Na vybudovanie a. Sa používajú chýbajúce práva na údaje pre jednotlivcov, AI a strojové učenie systém sociálnych úverov policajným občanom a na sociálnych médiách sú obrázky tranzitných policajtov nasadených s prilbami AR na skenovanie cestujúcich technológiou rozpoznávania tváre.

Na druhom konci spektra je Európska únia, ktorá uprednostňuje individuálne práva pred vládnymi a firemnými záujmami. Ich prísne právne predpisy v oblasti súkromia pramenia čiastočne z toho, že to zabezpečujú zneužitia údajov ktoré viedli k zverstvám holokaustu už nikdy viac.

Niekde uprostred leží Amerika, krajina slobodného podnikania, kde sa spoločnosti pohybujú rýchlo a rozbíjajú veci, a korporácie majú zvereneckú povinnosť maximalizovať zisky akcionárov. Pokiaľ ide o práva na údaje, Amerika je iná ako EÚ a Čína, pretože hoci nikto nechce orwellovskú nočnú moru, nechce potlačiť ani inovácie.

Toto je pravda. V Amerike majú korporácie dokonca osobnosť s firemnou rečou chránenou Prvou novelou. Toto je základ rozhodnutia Najvyššieho súdu z roku 2010, v ktorom sa uvádza, že nemôžete obmedziť výdavky na firemnú politiku. V EÚ a Číne neexistuje sloboda prejavu, avšak Charta EÚ má právo na slobodu prejavu a právo na ochranu údajov, čím sa táto rovnováha vytvára.

Američania musia premýšľať o tom, čo sa deje v Číne a EÚ, a od ktorého chceme, aby sme odteraz boli desaťročia. Existujú ľudia, ktorí tvrdia, že nestojí za to prejsť reguláciou ochrany osobných údajov, pretože zákony vždy doháňajú technológiu, ale v prípade charty EÚ boli o 30 rokov pred touto hrou. Predpovedali budúcnosť a predstavovali si potrebu ochrany údajov ako základného ľudského práva dlho predtým, ako sme sa sem dostali, a zaoberali sa otázkami, ako je genetické a biometrické súkromie atď.

Právo EÚ na zabudnutie GDPR (všeobecné nariadenie o ochrane údajov) je vyjadrením toho, ako pokročilo ich vykonávanie týchto práv, zatiaľ čo USA sa o týchto veciach ani neobťažovali.

Prešlo veľa amerických štátov zákony o sprostredkovaní sprostredkovania údajov a CCPA (Zákon o ochrane spotrebiteľa v Kalifornii) vstúpi do platnosti 1. januára. Budú tieto nové zákony o ochrane súkromia v hospodárstve, ktoré je založené na údajoch, dobré alebo zlé pre podnikanie?

Myslím si, že budú dobré pre podnikanie, keď sa objavia začínajúce podniky zaoberajúce sa ochranou súkromia, ktoré pomôžu ľuďom využívať tieto nové práva, zbierať skóre a zaoberať sa byrokraciou, ktorá sa vyžaduje, aby sa dali optimalizovať a zefektívniť.

Podľa nového kalifornského zákona budú mať spotrebitelia právo vedieť, aké údaje sa zhromažďujú, majú právo tieto údaje vymazať a majú právo na opt-out z predaja týchto údajov a spoločnosti budú musieť zobraziť tlačidlá, ktoré povedzte: „Nepredávať moje údaje.“ Je to teda dobrý krok vpred.

Bol by som rád, keby zákony išli ďalej a vyžadovali od spoločností, aby aktívne zasielali výpis údajov, ktorý je podobný typu bankového výpisu, ktorý sú banky povinné zasielať a ktoré nám poskytujú naše finančné informácie. Prečo by sme mali robiť prácu? Spoločnosti by vám mali poslať váš dátový profil, skóre a spôsob, akým ho vygenerovali. Ak proti tomu namietate, kliknite sem a ak ho chcete odstrániť, kliknite sem.

Myslíte si, že Kongres rozumie technológii natoľko, aby ju regulovala?

Nemyslím si, že rozumejú vlastnému publiku a precizujú dostatočne dobre alebo spôsob, akým sprostredkovatelia údajov kombinujú údaje a ako sa vytvárajú tieňové profily. Musia lepšie pochopiť rozdiel medzi údajmi, ktoré dodávame platformám, a údajmi, ktoré o nás platformy odvodzujú.

Môžete mi vysvetliť problém pomocou mikrotlačenia?

Keď vstúpite do nástroja Správca reklám Facebook a vytvoríte kampaň, začnete so segmentáciou a vyberiete parametre. Keď vyberáte tieto voľby, ktoré sú založené na demografických údajoch a záujmoch, môžete svoje cieľové publikum zúžiť. Potom je tu však ďalšia funkcia s názvom vlastné publikum, v ktorej môžete nahrať množinu údajov. Môže to byť zoznam mien, zoznam e-mailových adries, telefónnych čísel, údajov cookie. Keď to urobíte, bude zodpovedať profilu na Facebooku. Odtiaľ môžete robiť to, čo sa volá lookalikes. Ak máte zoznam zákazníkov, môžete ho odovzdať a algoritmus sa bude zhodovať so všetkými podobnými používateľmi Facebooku. To vám umožňuje zacieliť na ľudí podľa mena a je to veľmi efektívny spôsob, ako rozšíriť publikum a podnikanie.

Jeremy Merrill Pro Publikica zverejnené dňa cvrlikání obrázok nástroja na transparentnosť reklám na Facebooku, kde spoločnosť Clear, biometrická spoločnosť a spoločnosť zaoberajúca sa bezpečnostným odbavením, umožnila spoločnosti Delta Airlines používať jej údaje na to, aby ľudia s reklamami mikrotlačili. Keď sa ľudia zaregistrujú v službe Clear a súhlasia s tým, aby im umožnili využívať svoju biometriku na zvýšenie bezpečnosti, mnohí slepo kliknú na zásady ochrany osobných údajov, pretože si neuvedomujú, že spoločnosti Clear dostali práve povolenie zdieľať svoje najosobnejšie informácie s leteckými spoločnosťami na marketingové účely. Spoločnosti čoraz viac posúvajú hranice a budú sa snažiť dostať preč s tým, čo môžu.

Ako sme sa sem dostali?

Spoločnosti vedia, že v údajoch je moc. Vo svojich spomienkach bývalí zamestnanci spoločnosti Cambridge Associate, Christopher Wylie a Brittany Kaiser, popíšte, ako ich zviedli údaje, silu, ktorú pociťujete tak, že ju zhromaždíte, obmedzíte na merania, pomocou týchto meraní zmeníte správanie a potom sledujete zmenu správania.

Skóre reputácie sa stali tak súčasťou našej kultúry, že ľudia často odkazujú na svoje skóre Uber ako na skóre dôvery a budú dokonca cenzor ich správanie chrániť tieto skóre. Čo si o tom myslíš?

Myslím, že je to znepokojujúce. Všetci pretekáme s plnou parou pred začlenením týchto algoritmov do našej spoločnosti a nie je potrebné postupovať opatrne. Všetko sa deje v mene efektívnosti a rozsahu.

Niektoré z najviac znepokojujúcich príkladov sa týkajú presadzovania práva, zamestnávania a zdravotnej starostlivosti. S presadzovaním práva naše algoritmy stále viac rozhodujú o trestných sankciách. Predpojatosť údajov udržiava systémový rasizmus a kóduje ho do systému určujúceho slobodu ľudí.

So zamestnaním veľké spoločnosti čoraz viac prijímajú systémy, ktoré analyzujú sociálne médiá a používajú technológie rozpoznávania tváre a emócií počas rozhovorov s uchádzačmi o predbežnú kontrolu. Mohlo by vám byť odmietnuté zamestnanie, na ktoré ste úplne kvalifikovaní, pretože vás nejaký algoritmus strojového učenia vytrhol a nemáte spôsob, ako zistiť, ako sa to stalo.

V oblasti zdravotnej starostlivosti je veľkým argumentom na získavanie údajov vyliečenie rakoviny. To by potenciálne mohlo vylepšiť medicínu spôsobmi, ktoré sa môžu zdať dobré, ale môže mať aj nezamýšľané následky. Keď sa posúvame smerom k genetickej analýze, prekrývanie medzi priemyselným odvetvím komerčného genetického testovania a odvetvím zdravotnej starostlivosti sa stráca rýchlejšie a rýchlejšie a akonáhle dôjde k porušeniu vašej genetiky, už sa nebude vracať. Existujú už správy o porušovaní biometrických identifikačných spoločností. Keď sú vaše heslá porušené, môžete si ich zmeniť, ale akonáhle dôjde k porušeniu vašej geometrie tváre, odtlačkov prstov, skenovania dúhovky, nemôžete to zmeniť – ste natrvalo porušení.

Keď sa pretekáme vpred, musíme si byť vedomí toho, ako by sa to mohlo odohrať. Preto potrebujeme základné práva na údaje, aby jednotlivci mohli uplatňovať svoju autonómiu a osobné slobody na vyváženie týchto nových infraštruktúr. Z tohto dôvodu sa hájime za práva na naše skóre.

Reportérka New York Times Kashmir Hill napísala o svojej skúsenosti so snahou získať jej skóre od maklérov údajov podľa nových zákonov, takže začíname vidieť záblesk toho, ako to bude možné.

Keď poznáme naše skóre, môžeme lepšie pochopiť, ako môžu ovplyvňovať naše životné možnosti. Môžeme požadovať, aby spoločnosti vysvetlili, ako tieto skóre vytvárajú, a vyzvali k nepriehľadnosti svojich algoritmov čiernej skrinky. Nemyslím si, že chceme doručovaciu službu určujúcu našu autonómiu ako ľudskú bytosť. Nestojí to za to. Naša posadnutosť získaním skóre dôvery, keď ani nevieme, ako bolo skóre vygenerované, vyzerá, že to nie je skutočne dôveryhodné meranie.

Kam s tým všetkým ideme?

Film „Ju“ od Spika Jonzeho zaujímavo sleduje budúcnosť umelej inteligencie a reklamy. Vo svojom prehľadnom vesmíre nie je potrebná žiadna reklama, pretože agenti AI pracujú v mene ľudí. Agent by mohol povedať používateľovi: „Blíži sa narodeniny vašej mamy, môže si naozaj pochutnať na rukopisnej karte. Poznám službu, ktorá vám to môže urobiť. Mám objednávku objednať? “Agent potom ide na automatizovaný trh, aby rokoval o mene v mene užívateľa a prípadne si vymieňal údaje.

Ďalšou reklamnou dystópiou je „Správa o menšinách“ skenery dúhovky sledujú Toma Cruisea v obchoďáku, kde sa v reálnom čase dostáva do mikrotlačenia za reklamy. Reklama Lexus sa na neho odvoláva menom, reklama American Express zobrazuje jeho meno na karte a na meno The Gap je uvítaný menom. Plná realizácia fúzie personalizovanej reklamy a vládneho dohľadu vytvára desivý film. V niektorých ohľadoch má reklamný svet menšinovú správu ako svätý grál.

Prečo sa to stalo vašou úlohou?

Keď hovoríme o skóre, robíme život v hre, v ktorej môže byť iba niekoľko víťazov. Ak sa tým nebudeme zaoberať teraz, veľa ľudí stratí.

Táto konverzácia bola zhustená a kvôli prehľadnosti upravená.