Ako dokáže AI vytvárať a zisťovať falošné správy



<div _ngcontent-c15 = "" insidehtml = "

Getty

Falošné správy boli neustále rastie okolo nás, predovšetkým ako clickbaita často má sklon byť vírusový. Sú to články a príbehy vytvorené výhradne s cieľom zavádzať a dezinformovať ľudí, aby verili rozprávaniam, ktoré by inak nemali žiadnu zásluhu. Podľa výskum publikovaný v veda V časopise, propagácia takýchto médií by sa dala pripísať skutočnosti, že ľudia šíria lži rýchlejšie ako pravdy.

Primárnymi zdrojmi informácií boli novinári a autentické médiá, ktoré museli overovať svoje zdroje a informácie, ktoré dostali; bohužiaľ to už nie je vždy pravda. Vďaka technologickým pokrokom boli mlyny povestí a propagandy odovzdané pokročilým algoritmom AI, ktoré sú navrhnuté tak, aby vytvárali verný obsah – čo zvyčajne nie je pravda.

Vývoj tejto technológie je veľkým skokom od Siri, optického rozpoznávania znakov alebo spamových filtrov, ale naučiť AI rozpoznať obrovské množstvo údajov a manipulovať s nimi je nebezpečný problém.

To vedie k otázke: Ako možno zistiť falošné správy?

Dobrou správou je, že boli vyvinuté algoritmy určené na rozlíšenie medzi ľudským a AI generovaným obsahom. Na druhej strane, tieto algoritmy tiež prichádzajú so schopnosťou vytvárať falošné správy samy.

Detekcia falošnosti

Aj keď sa umelá inteligencia javí ako relatívne nová technológia, pomáha nám už nejaký čas triediť podľa obsahu.

technológia za spamové filtre– algoritmy výučby strojov – boli pôvodne vyvinuté v 17. storočí. Dnes ich používame na niekoľko úloh, napríklad na kategorizáciu našich e-mailov s cieľom určiť, ktorá korešpondencia je užitočná a ktorá je iba nevyžiadanou hromadnou distribúciou.

To tiež viedlo k vývoju technológie neurónovej siete, ktorá funguje ako diskriminátor, ktorý môže odhaliť nezrovnalosti v článkoch na určenie pravosti.

Niektorí používajú porovnávaciu analýzu medzi podobnými pracovnými miestami na overenie, či sú obsiahnuté informácie a fakty pravdivé a či zodpovedajú spoľahlivým zdrojom. Iní hľadajú rozdiely medzi nadpisom a obsahom, čím identifikujú články s možnosťou kliknutia.

Novším algoritmom je stále Grover, ktorý sľubuje 92% účinnosť pri zisťovaní nehumánneho obsahu.

Prečo sme nedosiahli 100% presnosť

Najväčšou nevýhodou týchto systémov je, že predpokladajú, že falošný text bude mať vždy kontrolné značky.

Koľkokrát sa spamový e-mail dostal do vašej doručenej pošty? Aj keď tieto čísla nemusia byť vysoké, nemožno poprieť, že k tomu občas dochádza – predovšetkým preto, že tvorcovia spamového obsahu sa neustále vyvíjajú. Neustále zisťujú spúšťače, ktoré pomôžu označiť obsah a naučia sa im vyhnúť.

To isté platí aj pre nepravdivé správy: Keďže technológia na zachytenie a odstránenie je lepšia, urobte to aj pomocou algoritmov, ktoré ju vytvárajú.

Toto vytvorilo nekonečné obojstranné pôsobenie medzi tými, ktorí sa snažia obmedziť šírenie falošných správ, a tými, ktorí vytvárajú zavádzajúci obsah.

Ako sa algoritmy neurónovej siete naučia rozlišovať

Pretože hlavným účelom vytvorenia takýchto algoritmov je rozlišovať medzi skutočnými a falošnými informáciami, vývojári musia najskôr naučiť systém, čo sú to.

Väčšina z týchto AI, vrátane Grover, sú vyvinuté kŕmením existujúcich článkov z rôznych súborov falošných správ. Jedná sa o obrovské knižnice virtuálnych údajov, ktoré obsahujú autentické informácie a zdroje, ktoré pomôžu AI naučiť sa vzory ľudského písania.

Niektoré z týchto súborov údajov zahŕňajú:

• RealNews: Tento súbor údajov sa použil na školenie spoločnosti Grover a má vyše 5 000 autentických publikácií, ktoré si vyžadujú 120 GB priestoru.

• Kaggle: Tento súbor údajov zaberá približne 57 MB miesta na disku a obsahuje 13 000 riadkov a 20 stĺpcov údajov.

• George McIntire: Táto sada falošných správ je pomenovaná podľa analytika vizualizácie údajov a vyžaduje 31 MB voľného miesta na disku.

Po skončení tohto procesu môže AI vytvoriť komplexné modely, ktoré dokážu identifikovať, ako sa určité slová používajú a ako sú rôzne pojmy spojené.

Falošná tvorba správ od AI

Dôležitá metóda vytvorenia týchto modelov pre diskriminačné programy sa označuje ako systém „kontradiktórnosti“. Adversarial machine learning je proces vytvárania škodlivého alebo dezinformačného obsahu, ktorý môže prekĺznuť z minulosti detekčných programov.

Grover a ďalšie systémy AI zlepšujú svoju účinnosť vytváraním článkov a potom pomocou vlastných detekčných programov na vyhodnotenie dôveryhodnosti článkov. Ak vytvorený obsah nie je presvedčivý, generátori neustále reprodukujú text a učia sa, čo je skutočné a čo nie.

Táto schopnosť „vytvárať“ falošné články je to, čo funguje ako dvojsečný meč.

Ďalším pokrokom je vytvorenie „hlbokých falzifikátov“, ktoré sú zachytené alebo umelo vygenerované videá a fotografie, ktoré môžu prekrývať postavu a tvár jednej osoby na druhej, aby sa zdali, akoby vykonali určitú akciu.

Deepfakes môže mať pri nesprávnom použití drastické následky. Od propagandy, podnecovania nenávisti a násilia až po zhubné verejné osobnosti s falošnými prejavmi a videonahrávkami, môžu byť hlboké podvody použité na vyvolanie zmätku a môžu viesť k vážnej strate dôvery verejnosti a zlej povesti.

Prvým príkladom takéhoto zneužitia bolo prepustenie a doktorované video generálneho riaditeľa Facebooku Mark Zuckerberg & nbsp; v čase jeho kongresového rokovania.

Aj keď je ťažké zistiť, či sú také médiá autentické, technológia boja proti tejto forme manipulácie s umelými inteligenciami stále funguje.

Môže byť slučka prerušená?

Falošné správy sa zdieľajú bez toho, aby boli preverené a overené, a toto šírenie je to, čo vytvára potrebu ďalších. V skutočnosti výskumné centrum Pew & nbsp;prehľad zistili, že 10% respondentov pripustilo k zdieľaniu spravodajských správ online, o ktorých vedeli, že sú falošné, zatiaľ čo 49% zdieľalo správy, ktoré neskôr zistili, že sú nepravdivé.

Teraz môžeme vytvoriť povedomie o boji proti šíreniu falošných správ. Inými slovami, musíme prestať zdieľať takéto médiá, aby sme zbavili ich dôveryhodnosti.

Odhaľovanie falošných správ je zložitý proces, ktorý sa začína uvedomovaním a vzdelávaním. Musíte overiť zdroj. Informácie o kvalite sa zvyčajne overujú na základe faktov alebo sa porovnávajú. Mali by ste sa spoliehať na informácie, ktoré pochádzajú z renomovaných kanálov alebo ktoré pochádzajú z dôveryhodných výskumných spoločností.

Teraz sa viac ľudí ako kedykoľvek predtým spolieha na internet ako na svoj hlavný zdroj informácií. Keďže je však toto médium ľahko znečistené množstvom falošných informácií, je potrebné starostlivo spochybniť a vyhodnotiť všetko, čo sa naučíme z online zdrojov.

Rada pre komunikáciu Forbes je komunita zameraná iba na pozvánky pre vedúcich pracovníkov v úspešných public relations, mediálnych stratégiách, kreatívnych a reklamných agentúrach.
Mám nárok?

">

Nepravdivé správy okolo nás neustále rastú, hlavne ako kliknutia, a často majú sklon byť vírusové. Sú to články a príbehy vytvorené výhradne s cieľom zavádzať a dezinformovať ľudí, aby verili rozprávaniam, ktoré by inak nemali žiadnu zásluhu. Podľa prieskumu uverejneného v veda V časopise, propagácia takýchto médií by sa dala pripísať skutočnosti, že ľudia šíria lži rýchlejšie ako pravdy.

Primárnymi zdrojmi informácií boli novinári a autentické médiá, ktoré museli overovať svoje zdroje a informácie, ktoré dostali; bohužiaľ to už nie je vždy pravda. Vďaka technologickým pokrokom boli mlyny povestí a propagandy odovzdané pokročilým algoritmom AI, ktoré sú navrhnuté tak, aby vytvárali verný obsah – čo zvyčajne nie je pravda.

Vývoj tejto technológie je veľkým skokom od Siri, optického rozpoznávania znakov alebo spamových filtrov, ale naučiť AI rozpoznať obrovské množstvo údajov a manipulovať s nimi je nebezpečný problém.

To vedie k otázke: Ako možno zistiť falošné správy?

Dobrou správou je, že boli vyvinuté algoritmy určené na rozlíšenie medzi ľudským a AI generovaným obsahom. Na druhej strane, tieto algoritmy tiež prichádzajú so schopnosťou vytvárať falošné správy samy.

Detekcia falošnosti

Aj keď sa umelá inteligencia javí ako relatívne nová technológia, pomáha nám už nejaký čas triediť podľa obsahu.

Technológia za spamovými filtrami – algoritmy strojového učenia – bola pôvodne vyvinutá v 17. storočí. Dnes ich používame na niekoľko úloh, napríklad na kategorizáciu našich e-mailov s cieľom určiť, ktorá korešpondencia je užitočná a ktorá je iba nevyžiadanou hromadnou distribúciou.

To tiež viedlo k vývoju technológie neurónovej siete, ktorá funguje ako diskriminátor, ktorý môže odhaliť nezrovnalosti v článkoch na určenie pravosti.

Niektorí používajú porovnávaciu analýzu medzi podobnými pracovnými miestami na overenie, či sú obsiahnuté informácie a fakty pravdivé a či zodpovedajú spoľahlivým zdrojom. Iní hľadajú rozdiely medzi nadpisom a obsahom, čím identifikujú články s možnosťou kliknutia.

Novším algoritmom je stále Grover, ktorý sľubuje 92% účinnosť pri zisťovaní nehumánneho obsahu.

Prečo sme nedosiahli 100% presnosť

Najväčšou nevýhodou týchto systémov je, že predpokladajú, že falošný text bude mať vždy kontrolné značky.

Koľkokrát sa spamový e-mail dostal do vašej doručenej pošty? Aj keď tieto čísla nemusia byť vysoké, nemožno poprieť, že k tomu občas dochádza – predovšetkým preto, že tvorcovia spamového obsahu sa neustále vyvíjajú. Neustále zisťujú spúšťače, ktoré pomôžu označiť obsah a naučia sa im vyhnúť.

To isté platí aj pre nepravdivé správy: Keďže technológia na zachytenie a odstránenie je lepšia, urobte to aj pomocou algoritmov, ktoré ju vytvárajú.

Toto vytvorilo nekonečné obojstranné pôsobenie medzi tými, ktorí sa snažia obmedziť šírenie falošných správ, a tými, ktorí vytvárajú zavádzajúci obsah.

Ako sa algoritmy neurónovej siete naučia rozlišovať

Pretože hlavným účelom vytvorenia takýchto algoritmov je rozlišovať medzi skutočnými a falošnými informáciami, vývojári musia najskôr naučiť systém, čo sú to.

Väčšina z týchto AI, vrátane Grover, sú vyvinuté kŕmením existujúcich článkov z rôznych súborov falošných správ. Jedná sa o obrovské knižnice virtuálnych údajov, ktoré obsahujú autentické informácie a zdroje, ktoré pomôžu AI naučiť sa vzory ľudského písania.

Niektoré z týchto súborov údajov zahŕňajú:

• RealNews: Tento súbor údajov sa použil na školenie spoločnosti Grover a má vyše 5 000 autentických publikácií, ktoré si vyžadujú 120 GB priestoru.

• Kaggle: Tento súbor údajov zaberá približne 57 MB miesta na disku a obsahuje 13 000 riadkov a 20 stĺpcov údajov.

• George McIntire: Táto sada falošných správ je pomenovaná podľa analytika vizualizácie údajov a vyžaduje 31 MB voľného miesta na disku.

Po skončení tohto procesu môže AI vytvoriť komplexné modely, ktoré dokážu identifikovať, ako sa určité slová používajú a ako sú rôzne pojmy spojené.

Falošná tvorba správ od AI

Dôležitá metóda vytvorenia týchto modelov pre diskriminačné programy sa označuje ako systém „kontradiktórnosti“. Adversarial machine learning je proces vytvárania škodlivého alebo dezinformačného obsahu, ktorý môže prekĺznuť z minulosti detekčných programov.

Grover a ďalšie systémy AI zlepšujú svoju účinnosť vytváraním článkov a potom pomocou vlastných detekčných programov na vyhodnotenie dôveryhodnosti článkov. Ak vytvorený obsah nie je presvedčivý, generátori neustále reprodukujú text a učia sa, čo je skutočné a čo nie.

Táto schopnosť „vytvárať“ falošné články je to, čo funguje ako dvojsečný meč.

Ďalším pokrokom je vytvorenie „hlbokých falzifikátov“, ktoré sú zachytené alebo umelo vygenerované videá a fotografie, ktoré môžu prekrývať postavu a tvár jednej osoby na druhej, aby sa zdali, akoby vykonali určitú akciu.

Deepfakes môže mať pri nesprávnom použití drastické následky. Od propagandy, podnecovania nenávisti a násilia až po zhubné verejné osobnosti s falošnými prejavmi a videonahrávkami, môžu byť hlboké podvody použité na vyvolanie zmätku a môžu viesť k vážnej strate dôvery verejnosti a zlej povesti.

Prvým príkladom takého zneužitia bolo prepustenie videozáznamu generálneho riaditeľa Facebooku Marka Zuckerberga v čase jeho kongresového rokovania.

Aj keď je ťažké zistiť, či sú také médiá autentické, technológia boja proti tejto forme manipulácie s umelými inteligenciami stále funguje.

Môže byť slučka prerušená?

Falošné správy sa zdieľajú bez toho, aby boli preverené a overené, a toto šírenie je to, čo vytvára potrebu ďalších. Prieskum prieskumu Pew Research Center v skutočnosti zistil, že 10% respondentov pripustilo k zdieľaniu spravodajských správ online, o ktorých vedeli, že sú falošné, zatiaľ čo 49% zdieľalo správy, ktoré neskôr zistili, že sú nepravdivé.

Teraz môžeme vytvoriť povedomie o boji proti šíreniu falošných správ. Inými slovami, musíme prestať zdieľať takéto médiá, aby sme zbavili ich dôveryhodnosti.

Odhaľovanie falošných správ je zložitý proces, ktorý sa začína uvedomovaním a vzdelávaním. Musíte overiť zdroj. Informácie o kvalite sa zvyčajne overujú na základe faktov alebo sa porovnávajú. Mali by ste sa spoliehať na informácie, ktoré pochádzajú z renomovaných kanálov alebo ktoré pochádzajú z dôveryhodných výskumných spoločností.

Teraz sa viac ľudí ako kedykoľvek predtým spolieha na internet ako na svoj hlavný zdroj informácií. Keďže je však toto médium ľahko znečistené množstvom falošných informácií, je potrebné starostlivo spochybniť a vyhodnotiť všetko, čo sa naučíme z online zdrojov.