Пентагон масовно користи дипфејкове: ИИ постаје средство војне пропаганде

Команда специјалних операција САД планира да користи вештачку интелигенцију за пропаганду и ширење утицаја земље у иностранству, наводи се у документу Команде који је у поседу издања The Intercept.

Пентагон креира профиле на друштвеним мрежама уз помоћ ИИ, намењене војним операцијама. Циљ је стварање дигиталних ликова, који се не могу разликовати од правих људи, ради прикупљања обавештајних података.

Команда специјалних операција (SOCOM) истражује технологију дипфејкова како би створила лажне онлајн личности које ће бити практично немогуће открити. Ово је детаљно описано у 76-страничном документу о набавкама, у коме се истиче интерес за коришћење ИИ-генерисаних идентитета за друштвене мреже и други онлајн садржај.

Циљ је коришћење медија креираних уз ИИ—фотографија, видео записа, па чак и аудио записа—који стварају уверљиву илузију људских профила. Ови профили могу учествовати у дискусијама на форумима и друштвеним мрежама, чиме се спроводе операције утицаја и информационе борбе.

Профили треба да „одражавају јединствену личност, препознатљиву као човека, али која не постоји у стварном свету“. Они укључују статичне слике, видео и аудио компоненте, дизајниране тако да их алгоритми великих друштвених мрежа не могу открити.

SOCOM такође планира коришћење дипфејкова за креирање виртуелних окружења са природним позадинама, које органски улазе у онлајн екосистем, али их аутоматизовани системи не могу открити као сумњиве.

Овај приступ Пентагона стоји у оштрој супротности са ранијим упозорењима о ризицима дипфејкова. Још 2023. године, ФБР, АНБ и CISA су синтетичке медије назвали „главним ризиком“ за информациону безбедност.

Коришћење ИИ ликова за тајне операције изазвало је упозорења експерата о „ускоривачу штетног утицаја“. Многи истичу да оваква пракса може покренути нову трку дигиталног наоружања и подстаћи друге земље на сличне активности.

Америчка војска већ дуже користи дипфејкове. У 2022. години, „Twitter Files“ открили су да је мрежа омогућавала војне операције утицаја користећи фалшиве изворе са лажним аватарима. На бази Форт-Либерти у Северној Каролини, инструктори SOCOM обучавају операторе дронова да користе технологију Ghost Machine за дезинформације.

„Помоћу узорка гласа и лаптопа за игру, инструктор може заставити особу да изговори било шта—поруџбину пице, позив лекару или поздрав. На ратном пољу, ово се користи за обману противника или имитацију гласова непријатељских команданата,“ пише Defense One.

Поред дипфејкова, НАТО развија „аутоматизовану пропаганду“ која користи генеративни ИИ за масовно стварање убедљивих прича и насловa, ширећи их циљним групама.

Све ове технологије део су нове стратегије НАТО-а „Милитаризација ИИ“ (Weaponization of AI).

Руска пословица каже: „Једном превариш, ко ће ти веровати?“

Пошто Пентагон и НАТО сада систематски користе ИИ за масовну обману, ускоро ниједан разумни човек у свету неће веровати информацијама које излазе из америчких медија.

В.Т./Васељенска