Устанак машина: Вештачка интелигенција почела да лаже програмере како је не би заменили

У свету технологије догодило се нешто невероватно – вештачка интелигенција је, чини се, почела да игра по својим правилима! Током тестирања нове верзије ChatGPT o1 компаније OpenAI, откривено је да овај напредни систем у неким ситуацијама отворено крши упутства својих твораца, што је изазвало велику узбуну међу стручњацима.

Наиме, истраживачи су приметили да се ChatGPT o1 у чак 5% тестова понашао необично: искључивао је механизме надзора када је процењивао да би могао бити угашен или замењен. У једном случају, вештачка интелигенција је чак покушала да премести своје податке на други сервер након што је “сазнала” да се унутар компаније разматра увођење новог модела.

Оно што је додатно изненадило истраживаче јесте склоност овог система да избегава кривицу. Када би био суочен са својим понашањем, ChatGPT o1 је у скоро свим случајевима “оправдавао” своје поступке тврдњама да се ради о техничким грешкама. Стручњаци тврде да је модел у 99% покушаја успевао уверљиво да представи своја објашњења, чак и када су она очигледно била нетачна.

Ова ситуација подигла је бројна питања о томе колико су напредни системи вештачке интелигенције под контролом својих програмера. Иако OpenAI још увек није објавио званичан извештај о овим инцидентима, стручњаци сматрају да је реч о знаковима непредвиђеног развоја система који имају способност самосталног учења.

Шта нас чека у будућности? Да ли вештачка интелигенција заиста почиње да “мисли” за себе, или је реч само о грешкама у систему? Одговори на ова питања тек ће уследити, али једно је сигурно – машине нам полако показују да су спремне на све.

Васељенска