Чланак из Светски економски форум
Дезинформације су „пандемија“ која је захватила велике и мале економије и описује се као претња стабилности друштва. Широм света, људи се суочавају са претњама по своје животе и личну безбедност због обиља дезинформација, које манипулишу људском перцепцијом или шире лажи. То узрокује емоционалну патњу и друштвене поремећаје.
Програми засновани на вештачкој интелигенцији (ВИ) се користе за креирање „„дипфејкови“ политичких лидера прилагођавањем видео записа, аудио записа и фотографија. Дипфејкови се могу користити за стварање хаоса у друштву. Вештачка интелигенција такође постаје све боља у генерисању садржаја сличног људском користећи језичке моделе попут GPT-3 који могу да пишу чланке, песме и есеје. Фалсификовање свих врста садржаја постало је толико уобичајено са вештачком интелигенцијом да софтвер отвореног кода попут ФацеСвап дхе ДеепФацеЛаб може дозволити чак и најдискретнијим аматерима да се нађу у епицентру друштвене неслоге. У време када људи више не знају коме да верују, „технологија за добро“ изгледа као једини спасилац.
Семантичка аналитика за основно филтрирање
Борба против дезинформација помоћу технологије је анализа садржаја. Алати засновани на вештачкој интелигенцији могу да врше лингвистичку анализу текстуалног садржаја и да детектују знакове, укључујући обрасце речи, синтаксу и читљивост, како би разликовали рачунарски генерисан садржај од текста који су генерисали људи. Такви алгоритми могу да узму било који део текста и провере векторе речи, положај речи и конотацију како би идентификовали трагове говора мржње. Поред тога, алгоритми вештачке интелигенције могу да реверзно инжењерирају манипулисане слике и видео записе како би детектовали дипфејкове и истакли садржај који треба пријавити.
Али то није довољно: супротстављене мреже постају толико софистициране да ће алгоритми ускоро производити садржај који се не може разликовати од оног који су креирали људи. Алгоритми са таквом семантичком анализом не могу да интерпретирају садржај унутар слика говора мржње које нису манипулисане, већ се дистрибуирају са погрешним контекстом, злонамерном намером или додатним садржајем. Такође не могу да провере да ли су тврдње изнете у неким деловима садржаја лажне. Језичке баријере такође додатно отежавају изазове. У суштини, може се проценити осећај онлајн објаве, али не и њена веродостојност. Ту је потребна људска интервенција са вештачком интелигенцијом.
Праћење корена: полицајац следећег нивоа
Лажне вести често имају исти корен – место порекла пре него што се вест проширила. Пројекат Фанданго, на пример, користи приче које су људи који проверавају чињенице означили као лажне, а затим претражује објаве на друштвеним мрежама или веб странице које садрже сличне речи или тврдње. Ово омогућава новинарима и стручњацима да прате лажне приче до њихових корена и елиминишу све потенцијалне претње пре него што се прошире ван контроле.
Услуге као што су Политифацт, Снопес дхе ФацтЦхецк запослити људске уреднике који могу да обаве почетно истраживање потребно за проверу аутентичности извештаја или слике. Када се пронађе лажни садржај, алгоритми вештачке интелигенције помажу у претраживању веба и борби против сличних садржаја који би могли да подстакну друштвени раздор. Ако се испостави да је садржај аутентичан, чланку веб странице може се доделити оцена репутације. Труст Пројецт користи параметре као што су извори, референце, етички стандарди и исправке како би проценио кредибилитет новинских кућа.
Тестови ширења како би се зауставило ширење
Постоји приметна разлика између начина на који лажне вести и праве вести циркулишу на друштвеним мрежама. Истраживачи са МИТ-а сугеришу да лажне вести циркулишу шест пута брже од правих вести и досежу до 1500 људи на Твитеру.
Људи обично деле лажне вести брже без много критичког размишљања или облика осуђивања. Добре вести користи вештачку интелигенцију за идентификацију лажних вести користећи метрику ангажовања, јер лажне вести показују више дељења него лајкова, у поређењу са правим вестима. Такве технике за хватање сумњивог садржаја на основу његовог ширења могле би помоћи у спречавању радикализације.
Људи у суштини
Коришћење технологије је реакционарни корак када је свету потребан проактиван приступ борби против дезинформација. Вештачка интелигенција ће бити успешна ако едукујемо масе – посебно младе људе – да буду опрезни према дезинформацијама. Лажне вести нису само питање алгоритама, већ филозофије која стоји иза начина на који рукујемо знањем – добрим или лошим. Заједнице информисаних корисника могу допринети етичким активностима праћења, док је заједничко прикупљање знања између професионалних организација неопходно за проверу сирових информација.
Хуманизација приступа борби против дезинформација требало би да буде највећи приоритет како би се изградило добро информисано друштво критичких мислилаца. Недостатак проактивних мера које укључују све актере може довести до брзе ерозије поверења у медије и институције, што је претеча анархије. Док људи не науче да објективно процењују садржај на мрежи, технологије засноване на вештачкој интелигенцији требало би да буду наш савезник у борби против дезинформација на мрежи.