Фалсификати нове генерације: ко ће зауставити ChatGPT?

Фалсификати нове генерације: ко ће зауставити ChatGPT?

До скоро, вештачка интелигенција је звучала као нешто из научне фантастике — паметни роботи, говорећи рачунари, машине које стварају уметност. Данас је то наша реалност, која се развија муњевитом брзином. ChatGPT, Midjourney, неуронске мреже које генеришу слике, музику, па чак и видео-садржај… Технологија нам је олакшала живот — али је донела и претње које нисмо могли ни да замислимо.

Од дигиталног асистента до фалсификатора докумената

ChatGPT је у почетку био замишљен као паметни асистент — програм који одговара на питања, помаже у учењу, раду и креативним задацима. Али његове могућности су брзо надрасле оквире дијалога. Данас вештачка интелигенција пише музику, смишља поезију, прави илустрације — и, нажалост, уме да креира лажне документе.

Сетите се чувене реплике из филма из 2004. године:

„Да ли ће робот икада написати симфонију? Да ли ће створити уметничко дело?“

Тада је то деловало као научна фантастика. Данас неуронске мреже већ илуструју корице књига, учествују у изради анимираних филмова (као што је наша „Беловешка шума“), и пишу текстове које је понекад тешко разликовати од људских.

Док креативни рад ИИ и даље само имитира уметност, способност да фалсификује документе постаје врло стварна претња.

Фалсификоване карте, дипломе и медицински рецепти

Недавно је корисник на платформи X (бивши Twitter), под псеудонимом „God of Prompt“, приказао како ChatGPT и слични алати могу за свега неколико секунди направити убедљиве копије: отказане авио-карте, доказе о уплати, факултетске дипломе и медицинске рецепте.

Оно за шта су некада биле потребне године искуства у Photoshop-у — сада се добија у једном захтеву упућеном ИИ.

Да, компаније попут OpenAI уграђују заштитне ознаке у све слике које генеришу. Али за њихово откривање потребни су специјализовани алати. А шта ако преварант успе да те ознаке избрише?

Шта ако ИИ почне да фалсификује стварност?

Замислите следеће сценарије:

Особа долази у апотеку са рецептом за јаке лекове. Документ делује потпуно легитимно — али га је генерисао ИИ.

На аеродрому неко показује карту која не постоји у систему.

У болницу се запошљава „лекар“ са лажном дипломом направљеном од стране машине.

Можда и не звучи страшно… док тај „лекар“ не почне да лечи вас или ваше ближње.

Системи провере можда неће моћи да одоле налету фалсификата, поготово ако се контрола врши површно.

Ко ће зауставити преваранте?

Док креатори вештачке интелигенције покушавају да уграде заштитне механизме, преваранти паралелно траже начине да их заобиђу. Оно што је некада захтевало знање, време и труд — сада је доступно скоро свима.

Државе и компаније морају хитно пооштрити систем провере докумената и увести нове технике за препознавање вештачки генерисаног садржаја. Али на крају — и ми, обични грађани, морамо бити опрезнији него икада.

Вештачка интелигенција је моћан алат. И као и сваки алат — може се користити за добро, али и за зло.
Питање је: хоће ли човечанство пронаћи равнотежу пре него што технологија измакне контроли?

До тада — будите пажљиви. Јер наредни „званични“ документ који вам неко покаже… можда није ни видео човека.

Анастасија Иванова/Минска правда

Бонус видео