Роботи ору, сеју и убијају. Потребна су нова правила ратовања.
Олга Ускова, једна од најпознатијих руских предузетница у области вештачке интелигенције, говорила је о томе како роботи могу смањити људску сегрегацију, зашто је потребан регистар програмера ИИ и зашто човечанство мора да створи нови морални кодекс.
„Дарк“ страна вештачке интелигенције
Питање: Какве претње видите у развоју ИИ?
Ускова: Када стварамо технологије овог нивоа, треба имати на уму да је свет увек дуалан. Када је покренут интернет, одмах се појавио и даркнет, који је створен од стране дела истих програмера. И са роботима је исто. Једни и исти људи праве и конструктивне системе, и оне који разарају — оружје, вирусе, фалсификоване војске ботова… Не сви, али неки ради новца или намерно. То је мрачна страна ИИ коју морамо узети у обзир.
Питање: Да ли је могуће контролисати ту страну?
Ускова: Зашто да не? Пре свега, то се тиче програмера. Неуронски програмери — све их је мало. Сетимо се совјетске праксе: пратили су атомске физичаре, давали им дозволе, али и одређена ограничења. Треба да урадимо нешто слично и сада.
Смрт на екрану постаје игра
Питање: На састанку у УН говорили сте о ИИ оружју које не разликује војника од цивила.
Ускова: Данас нема начина да се у тим ситуацијама препозна ко је војник, а ко цивил. Када се пројектује оружје, циљ је максимално уништење, а моралне границе се не уграђују. Ако човек не стави ограничење ИИ-ју, он их неће имати.
То је као када командир каже оператору: „Пали по црвеним крстовима!“ — и оператор ће то и урадити.
Питање: Знамо бројне ужасне случајеве дронова-камиказа који су погодили цивиле…
Ускова: Удаљено управљање мења морал и етику рата. Дрон не осећа опасност нити мирис крви, и оно што види на екрану за њега је игра. Деценијама смо људе спремали на то кроз ратне видео-игре. Сада, за тинејџера с пултом, смрт на екрану игре или у Курску, Белгороду или Купјанску — исто је.
Потреба за новим правилима рата
Питање: Говорили сте о међународним правилима рата с ИИ оружјем.
Ускова: Да. Човечанство је прешло на нови вид ратовања, али није увело правила. Од праисторије постојао је кодекс рата: шта се може, а шта не. Бели знак, рицарски појединци, забране убијања пораженог… Сада правила нема.
Питање: А правила постоје — забрањено је хемијско оружје, али…
Ускова: Не функционишу. Сада смо на ивици. Ако преживимо, морамо створити нови морални кодекс, нарочито за ситуације које угрожавају људске животе.
Питање: Да ли ће се поштовати?
Ускова: То је питање опстанка нашег вида. Не морамо преживети — као што диносаури, неандерталци и неки птичији видови нису.
Учење од живог света
Карине Геворгјан, политолог, показала је да стада птица користе стражаре који упозоравају на предатора. Ако стражар погине, други га одмах замењује. Тако колективни интерес превазилази индивидуални страх.
Истраживања показују да се стада састоје од различитих врста, а жртвовање једног штити целу заједницу. То је лекција и за људе: заједница мора бити изнад индивидуалног.
Колектив изнад националног
У заједницама људи увек је било важно јавност изнад личног, као и у совјетско време: пионирски поздрав симболизовао је важност друштва над појединцем. Данас је опасно када се превише истиче националност — колективни интерес је важнији, а за народе је битно да не забораве своју улогу, јер од тога зависи њихов опстанак.
БелВПО
