Amazonovo rozpoznanie tváre mylne označí 26 kalifornských zákonodarcov za zločincov



Keďže vládne agentúry naďalej vyvíjajú tlak na zavádzanie systémov rozpoznávania tváre, nemusíte sa pozerať ďaleko, aby ste videli, prečo to nie je zlá správa. Na ilustráciu tohto bodu ACLU vykonal test softvéru Amazon Rekognition – technológie rozpoznávania tváre, ktorú v súčasnosti používajú orgány presadzovania práva USA – v ktorej nesprávne identifikoval 26 kalifornských zákonodarcov ako zápasy v databáze trestných činov.

Pozastavíme sa, kým sa budete smiať nad „politikmi“ zločinci ”vtipy bežiace cez hlavu.

Je to druhýkrát, čo ACLU spustil tento typ testu. V prvom teste, ktorý sa uskutočnil minulý rok, bola Rekognition veľmi nepresná a pri pokusoch o vyrovnanie sa s členmi Kongresu vydávala nesprávne a rasovo skreslené výsledky.

Dnes, posledný test ACLU podrobne zaznamenal 120 snímok kalifornských zákonodarcov oproti databáze 25 000 hrnčekov. Softvér spoločnosti Amazon Rekognition priniesol falošné pocity asi 20 percent času.

Phil Ting, člen zhromaždenia v San Franciscu a jeden z nesprávnych výsledkov, použil výsledky na vytvorenie podpory pre návrh zákona, ktorý by zakazoval používanie tejto technológie v kamerách orgánov tela. "Chceli sme to spustiť ako ukážku toho, ako tento softvér nie je absolútne pripravený na hlavný čas," uviedol Ting na tlačovej konferencii. „Aj keď sa o tom môžeme ako zákonodarcovia smiať, nie je pre smiech jednotlivca, ktorý sa snaží získať prácu, nie smiech, ak ste jednotlivec, ktorý sa snaží dostať domov.“

Povedal to hovorca Amazonu TNW:

ACLU opäť vedome zneužíva a skresľuje Amazon Rekognition, aby získal titulky. Ako sme už mnohokrát povedali, v prípade, že sa používa s odporúčaným 99% prahom spoľahlivosti a ako súčasť rozhodnutia zameraného na človeka, technológiu rozpoznávania tváre možno použiť na dlhý zoznam prospešných účelov, od pomoci pri identifikácii. zločincov na pomoc pri hľadaní nezvestných detí, ktoré bránia obchodovaniu s ľuďmi. Neustále sa zasadzujeme za federálne právne predpisy týkajúce sa technológie rozpoznávania tváre, aby sme zabezpečili zodpovedné používanie, a zdieľame naše konkrétne návrhy týkajúce sa súkromných záležitostí s tvorcami politík a na našom blogu.

Advokát ACLU Matt Cagle, ktorý spolupracoval s UC Berkeley na nezávislom overení výsledkov namietaných proti kritike. V komentári pre Gizmodo, Povedal Cagle, že ACLU nepoužila hranicu spoľahlivosti 99%, pretože priliehala k predvoleným nastaveniam softvéru Amazon – čo je skóre spoľahlivosti 80%.

Spoločnosť Amazon toto tvrdenie vyvrátila a poukázala na blogový príspevok, v ktorom uvádza, že Rekognition by sa nemal používať s úrovňou dôveryhodnosti menšou ako 99%. To samozrejme vedie iba k ďalším otázkam. Konkrétne, prečo nie je predvolené nastavenie softvéru 99%?