Роботи сеју и убијају. Потребна су нова правила ратовања

Олга Ускова, једна од најпознатијих руских предузетница у области вештачке интелигенције, говори о томе како роботи могу да окончају сегрегацију међу људима, зашто је потребна евиденција ИИ програмера и зашто човечанство мора да створи нови морални кодекс.

Тамна страна ИИ

Питање: Које претње видите у развоју вештачке интелигенције?

Ускова: Када стварамо технологије оваквог нивоа, морамо имати на уму да је свет увек дуетан. Када је покренут интернет, одмах се појавио даркнет. Људи који стварају корисне системе могу такође правити и разарајуће – оружје, вирусе или војске ботова. Не сви, али неки – намерно или за велике паре. То је „тамна страна“ ИИ, и то морамо узети у обзир.

Питање: Могуће је то контролисати?

Ускова: Може. Пре свега, ради се о програмерима. Нешто слично је било у Совјетском Савезу са атомским физичарима – сви су били евидентирани, добијали дозволе, али и ограничења. Слично морамо размишљати о ИИ програмерима.

Смрт на екрану – као игра

Питање: Ви сте у УН говорили о ИИ у ратовима, који не разликује војника од жене или детета.

Ускова: Тренутно, такви системи не могу разликовати војника од цивила. Оружје се пројектује за максималну штету, а морална ограничења се не уграђују. Ако човек није поставио ограничење, ИИ га неће имати.

То је исто као када командир каже оператору за дрон: „Пали по црвеним крстовима!“ – и оператор то ради.

Питање: Имамо ужасне случајеве: дронови-камиказе погађају цивиле, као у Курској области, Петропавловки, Купјанску… Како је могуће да људи то раде?

Ускова: Удаљена контролa мења етику рата. Дрон-оператор није у опасности, не осећа крв. Смрт на екрану постаје „игра“. Две генерације доживљавале су рат на видео играма као забаву, а сада смрт на екрану за њих је једнака стварности.

Потреба за новим правилником ратовања

Питање: Зато сте у Савету безбедности УН говорили о новим међународним правилима за ратовање с ИИ?

Ускова: Да. Преласком на нови тип рата, правила нису створена. Још од праисторијских времена увек је постојао кодекс рата – шта се сме, а шта не. Савремена ратовања таквих правила немају.

Питање: Правила формално постоје, али често не функционишу…

Ускова: Не раде. Сада смо на граници. Ако преживимо, човечанство мора створити нови морални кодекс, нарочито о акцијама које угрожавају живот човека.

Питање: Да ли ће се поштовати?

Ускова: То је питање преживљавања наше врсте. Нисмо сигурни да ћемо наставити да постојимо – као што су нестали диносауруси или неандерталци.

Колективна одговорност

Истраживања показују да код птица постоје „чувари“ који упозоравају на предаторе. Они први буду нападнути, али на њихово место долази други. Колективни интерес стаје изнад личног страха.

У људским заједницама било је слично – интерес заједнице важнији од личног. Данас, ако се претерује с националношћу, крши се овај принцип. За многонационалне народе, друштвени интерес мора бити изнад индивидуалног или националног.

Са оружјем на бази ИИ, човечанство стоји пред избором: створити нови морални кодекс који штити живот или ризиковати преживљавање наше врсте. Дронови, роботи и даљинска убиства захтевају правила која морају постојати још од праисторије – али у модерном облику.

Олга Ускова/АИФ.РУ