Зашто Србија доноси закон о вештачкој интелигенцији

Вештачка интелигенција не сме постати замена за одговорно људско одлучивање. Њен највећи потенцијал није у томе да одлучује уместо човека, већ да људима омогући брже, квалитетније и информисаније доношење одлука, посебно у кризним ситуацијама када је потребно реаговати у кратком року.

Ово је коментар председника Центра за анализу ризика и управљање кризама (ЦАРУК) Зорана Кековића на израду Закона о вештачкој интелигенцији, али уједно и најважнији закључак управо одржане конференције о АИ безбедности.

Радну групу за израду закона формирало је Министарство науке, технолошког развоја и иновација Србије, а ослањаће се на АИ регулативу Европске уније.

Коментаришући најаву закона, Кековић, који је такође и професор на Факултету безбедности Универзитета у Београду, објашњава да се читав процес доношења и припреме законске регулативе заснива на императиву да вештачка интелигенција, колико год представљала прилику за технолошке иновације и нудила велики развојни потенцијал, може носити и значајне безбедносне ризике уколико се примењује на неодговоран, неконтролисан или небезбедан начин. Управо зато је, каже он, важно да њена примена буде јасно законски уређена.

Изазови

Радну групу која припрема закон не чине само представници државних органа, јавног сектора и надлежних институција у којима се вештачка интелигенција већ примењује, већ и представници научне заједнице, истраживачи и други стручњаци који могу да допринесу изради квалитетног регулаторног оквира, каже наш саговорник. Један од кључних изазова биће тај да се обезбеди довољан ниво флексибилности за нова решења и домаће иноваторе.

Бројне иновације тек предстоје, па постоји опасност да закон у једном тренутку постане сувише тесан оквир за њихову примену. Зато он не сме да буде кочница новим технологијама, иновацијама и технолошком напретку Републике Србије. С друге стране, потреба за већом конкурентношћу не сме да угрози безбедносне аспекте о којима закон треба да води рачуна. Циљ је да се примена вештачке интелигенције одвија у контролисаном и безбедном окружењу, рекао је Кековић за Спутњик.
Он сматра да ће, поред поменуте флексибилности, изазов представљати и примена будућег закона, као и припрема институција у јавном, приватном и реалном сектору за његово спровођење.

Посебно је важно имати у виду значај критичне инфраструктуре и високоризичних система, као и улагања у инфраструктуру која ће омогућити да се примена вештачке интелигенције одвија у складу са предвиђеним решењима. Међутим, не треба заборавити да је Србија била прва земља у региону која је усвојила Стратегију развоја вештачке интелигенције за период од 2020. до 2025. године, а потом и нову стратегију за период од 2025. до 2030. године.

Обе ове стратегије суштински говоре о томе да су у међувремену направљени значајни искораци у изградњи инфраструктуре, што ће ипак омогућити и чак олакшати изазов примене будућег законског оквира. Ти искораци се односе и на оснивање дата центра у Крагујевцу, као и на развој суперкомпјутера који би требало да омогуће научној заједници, истраживачима и иноваторима да своја техничка решења примене у пракси и кроз конкретне пројекте добију додатни подстицај за развој.
Међутим, ништа мање важно није ни јачање такозваног „софт пауера“, односно развој знања и кадрова. Кроз подршку пројектима посредством Фонда за науку и Фонда за иновациону делатност омогућава се развој нових знања и технологија, што Србији може обезбедити престижну позицију у односу на земље региона и ширег окружења. Мислим да ће будућност припасти не онима који најбрже уводе вештачку интелигенцију, већ онима који то чине на поуздан, безбедан и одговоран начин. Веома је важно да будемо препознати као поуздан партнер у примени решења заснованих на вештачкој интелигенцији.

АИ се већ користи у јавном сектору

Наш саговорник подсећа да АИ није више далека будућност, односно да се вештачка интелигенција већ увелико користи и у нашем јавном сектору. Користи се, каже Кековић, у електронском пословању где већ показује одређене предности, као и у здравству. Суштина овог најављеног закона јесте да и тамо где је вештачка интелигенција већ почела да се употребљава, а грађани тога можда нису ни свесни, њена примена не буде стихијска, јер би нас то могло изложити новим ризицима.
Управо зато они који припремају законска решења воде рачуна о такозваном приступу заснованом на процени ризика. Посебна пажња посвећује се доношењу одлука заснованих на алгоритмима вештачке интелигенције, нарочито у здравству, где се она све више користи у медицинској дијагностици. Грешке у таквим системима могу имати веома озбиљне последице. Исто важи и за високоризичне секторе критичне инфраструктуре, попут енергетике, телекомуникација, саобраћаја и система водоснабдевања. То су изузетно осетљиви системи који представљају део безбедносне архитектуре друштва и система националне безбедности. Због тога увођење вештачке интелигенције у такве системе мора бити строго контролисано.
Уколико кључни системи, попут енергетског, постану недоступни, буду компромитовани сајбер нападима или на неки други начин откажу, могли бисмо се суочити са озбиљним проблемима, напомиње наш саговорник. Уколико постанемо превише зависни од таквих система, а они донесу погрешне одлуке или препоруке, последице могу бити озбиљне — хиљаде грађана могле би остати без струје, воде, здравствене заштите или телекомуникационих услуга, упозорава Кековић и додаје да су управо то питања о којима воде рачуна они којима је поверено да припремају законске прописе у овој области.

Зашто баш ЕУ регулатива?

Приступи регулацији АИ разликују се широм света – од америчког модела дерегулације и секторског приступа, преко европског заснованог на процени ризика, до кинеског централизованог система. Кековић каже да је нама европски систем најближи јер ипак представља наше непосредно окружење. Он објашњава да је оно што разликује европски приступ примени нових технологија од америчког и кинеског јесте чињеница да су Сједињене Америчке Државе и Кина пре свега усмерене на јачање и одржавање својих позиција на глобалном тржишту, при чему је главни императив очување конкурентске предности. Регулатива је нешто што није у првом плану када су у питању ове велике силе, док, насупрот томе, Европска унија уређује оно што су други већ дефинисали.

Регулатива по правилу касни за догађајима које постављају неки јачи и већи који дефинишу правила, док та тржишна утакмица веома често оставља оне који пишу прописе у дефанзивној позицији, па закони касне за реалним животом и праксом. Чини ми се да ће то бити један од највећих изазова и за наше власти и законодавце – како сада та решења да прате невероватан успон и примену иновативних технологија, да регулаторни оквир не представља кочницу технолошком напретку, али и да се истовремено спречи стихијска примена АИ без јасних правила.

Наш саговорник сматра да Србија може представљати извесног лидера у овој области, како кроз кроз доношење прописа, тако и кроз њихову примену у посебно осетљивим областима попут здравства, медиције, заштите података и критичне инфраструктуре. Она, кроз одговарајући регулаторни оквир, може постати пример другим земљама сличног капацитета које немају могућност да прате највеће светске актере у технолошком развоју, али зато могу бити препознате као релевантан партнер у европском регулаторном и тржишном оквиру.

На основу дискусија вођених у оквиру овогодишњег АИ безбедносног самита, Кековићев Центар за анализу ризика је у сарадњи са другим релевантним институцијама, формулисао нацрт стратешког оквира са 12 препорука, везаних за ову тему, које ће бити упућене надлежним институцијама. Циљ тих препорука је унапређење тржишног, нормативног и безбедносног амбијента Републике Србије како би примена будућег закона о вештачкој интелигенцији дала пуне резултате.

Најважнији закључак донет на тој конференцији јесте да вештачка интелигенција не сме постати замена за одговорно људско одлучивање, те да из тог разлога развој регулаторног и организационог оквира треба усмерити ка моделу у којем вештачка интелигенција повећава ефикасност и отпорност система, док коначне одлуке, одговорност, контрола и поверење остају у рукама човека, закључује Кековић.

Никола Јоксимовић/Спутњик