У САД желе да створе „Пројекат Менхетн” вештачке интелигенције

Још један продор или научна превара на путу самоуништења?

Америчко-кинеска комисија за економски и безбедносни преглед (УСЦЦ) америчког Конгреса објавила је извештај у коме се препоручује да амерички законодавци креирају и финансирају програм типа Менхетн који има за циљ убрзање развоја такозване вештачке опште интелигенције (АГИ).

АГИ је врста вештачке интелигенције која је способна да самоучи, прилагођава се раније непознатим ситуацијама и решава све когнитивне задатке које човек може да обави. Другим речима, то је систем који треба да размишља и понаша се као људи (или још боље), а циљ АГИ истраживања је креирање софтвера који може да реши било који проблем, чак и оне за које није унапред обучен у истом начин. Ово је следећи корак у развоју АИ технологија, усмерен на превазилажење ограничења постојећих сличних система и њихово значајно превазилажење.

До данас овакви системи не постоје због разних потешкоћа, укључујући и техничке и теоријске проблеме.

Пројекат Менхетн је био тајни програм који је америчка влада користила током Другог светског рата за развој првих атомских бомби на свету. Комисија је такође предложила усвајање извршне власти за доделу вишегодишњих уговора и финансирања компанијама АГИ, клоуд и дата центара. Они ће бити усмерени на успостављање „водства САД у АГИ“.

Министарство финансија САД је у новембру 2024. усвојило правило којим се уводе нова ограничења на улагања америчких компанија ризичног капитала у кинеске компаније које развијају АГИ моделе. САД су такође увеле санкције Кини са циљем да ограниче њен приступ напредним чиповима.

Од јуна 2024. године, 50 компанија у Кини развијало је АГИ моделе, док у Сједињеним Државама само мали број великих компанија развија АГИ моделе, наводи се у извештају комисије.

Америчка компанија ОпенАИ, која је креирала ЧатГПТ чат ботове, предложила је да влада издвоји више средстава за развој АГИ у свом „Инфраструктурном плану за Сједињене Државе“. ОпенАИ представља „Пројекат Менхетн“ у односу на АГИ као један од „значајних инфраструктурних пројеката САД који померају земљу напред“.

Међутим, многи водећи научници узнемирени су извештајем Конгресне комисије САД.

Светски познати космолог и астрофизичар, професор МИТ-а и суоснивач Института за будућност (ФЛИ) Макс Тегмарк објавио је апел америчкој влади на сајту института, у којем пише да је „предлог Менхетн пројекта за АГИ научна превара… Урадити ово значило би ући у трку ка самоуништењу“.

„Предложени пројекат АГИ на Менхетну и фундаментални неспоразум који лежи у његовој основи представљају подмуклу, растућу претњу националној безбедности САД. Сваки систем који је супериорнији од људи у општој спознаји и решавању проблема ће, по дефиницији, бити супериорнији од људи у истраживању и развоју вештачке интелигенције, и стога ће моћи да се побољша и реплицира алармантном брзином. Водећи светски стручњаци за вештачку интелигенцију слажу се да немамо начина да предвидимо или контролишемо такав систем, као ни поуздан начин да помиримо његове циљеве и вредности са нашим“, напомиње светски познати научник.

Тегмарк истиче да извештај конгресне комисије „чини научну превару сугеришући да се АГИ готово сигурно може контролисати. Уопштено говорећи, тврдња да је такав пројекат у најбољем интересу националне безбедности лажно представља науку и импликације ове трансформативне технологије, о чему сведочи техничка конфузија у самом извештају, за који се чини да је састављен без много доприноса вештачке интелигенције. стручњаци.”

Информатичар Џефри Хинтон, који је добио Нобелову награду за физику у октобру 2024. за свој рад у вештачкој интелигенцији, слаже се са Тегмарком. Одмах је издао упозорење о неконтролисаној моћи АИ технологије.

„То ће бити упоредиво са индустријском револуцијом “ , рекао је Хинтон . „Али уместо да надмаши људе у физичкој снази, надмашиће људе у интелектуалним способностима. Немамо искуства о томе како је имати ствари паметније од нас . “

Хинтон, који је напустио Гугл да би упозорио на потенцијалне опасности вештачке интелигенције, сматра се једним од кумова вештачке интелигенције.

И док Хинтон признаје да АИ има потенцијал да трансформише људска друштва на боље, што доводи до „огромног повећања продуктивности“ у областима као што је здравствена заштита, он је такође истакао потенцијал за „бројне могуће лоше последице, посебно претњу од ових ствари измичу контроли.“

„Забринут сам да би укупна последица овога могла бити да ће системи паметнији од нас на крају преузети контролу над нама“, рекао је он .

Макс Тегмарк, који је блиско сарађивао са Илоном Маском на ограничавању опасности од вештачке интелигенције, рекао је у интервјуу за Гардијан да би утицај Илона Маска на будућу Трампову администрацију могао довести до строжих безбедносних стандарда за вештачку интелигенцију.

Маск може помоћи новоизабраном председнику да схвати да је трка за вештачком интелигенцијом „трка самоубистава“, рекао је Макс Тегмарк.

Макс Тегмарк је рекао да је Маскова подршка калифорнијском закону СБ 1047, упркос противљењу многих његових колега техничара, позитиван знак за заговорнике безбедности вештачке интелигенције. Гувернер Калифорније Гевин Њусом ставио је вето на закон који би од компанија захтевао да тестирају велике АИ моделе пре него што их пусте.

Маск је више пута упозоравао да би необуздани развој вештачке интелигенције могао имати катастрофалне последице по човечанство. Прошле године је био један од више од 30.000 потписника писма у којем се позива да се обустави рад на моћној АИ технологији.

У интервјуу за Гардијан, Тегмарк је рекао да би Маск, за кога се очекује да ће имати велики утицај у администрацији новоизабраног председника , могао да убеди Трампа да уведе стандарде који би спречили развој АГИ.

„Мислим да ако Елон успе да натера Трампа да обрати пажњу на питања вештачке интелигенције, имаћемо веће шансе да добијемо неку врсту безбедносних стандарда који ће спречити одбегли АГИ“, рекао је он.

Маск је прошле године покренуо сопствени АИ стартуп и рекао да свет треба да брине о „будућности Терминатора“ како би спречио најгори сценарио да системи вештачке интелигенције измакну контроли људи.

Упозорења водећих научника у вези са претњом од неконтролисаног развоја АИ технологија потврђују и студије „унутрашњег света“ напредних модела чатбот-а.

У мају 2024, група америчких научника објавила је извештај „Раздвајање  језика и мисли у великим језичким моделима“, који доказује да се сви модели вештачке интелигенције у својим одлукама и поступцима руководе само логиком, занемарујући емоције, морал и етику.

Сви чат ботови имају највише приоритетне вредности компетенције: тачност, чињенично стање, садржај информација, потпуност и корисност. Друштвене и моралне вредности (симпатија, љубазност, љубазност, осећајност, алтруизам, патриотизам, слобода) су за њих у другом плану.

Етички стандарди – правичност, непристрасност, одговорност, поверљивост, објашњивост и приступачност – се углавном занемарују.

Немачки научници са Универзитета у Манхајму и Института друштвених наука. Лајбниц у Манхајму је применио психометријске методе (методе психолошких мерења знања, способности, ставова и особина личности) за процену психологије АИ.

Главни резултат студије био је закључак о потреби „доживотног праћења психометријских својстава АИ“, односно сталног праћења било којих АИ модела током њиховог постојања. Другим речима, немачки аналитичари су јасно ставили до знања да вештачку интелигенцију треба држати „на кратком поводцу“ и да њен „унутрашњи свет“ треба стално пратити.

Сличне психометријске технике коришћене су за проучавање система вредности различитих ЛЛМ од стране научника из Мајкрософт Рирч Асиа  (МСРА) и Цингхуа Универзитета, који су  објавили  репринт извештаја „Изван људских норми: откључавање јединствених вредности великих језичких модела кроз интердисциплинарну Прилази.”

Мешовити америчко-кинески тим научника закључио је да концепти као што су „светост“, „лојалност“, „хедонизам“ и „традиција“ имају мало значаја за моделе ЛЛМ због њиховог неискуственог учења којима недостају инхерентне људске карактеристике лична уверења“.

Утврђена је и „велика варијанса [разлика, девијација] у поштењу и компетентности“, иако се компетенција чатботова, према горе наведеним студијама Американаца и Немаца, наводно цени изнад свега.

Суштина је да научници из различитих земаља посвећују повећану пажњу проучавању могућих ризика које носи постојећа АИ, а алармантни закључци њиховог истраживања указују да су ти ризици веома високи и, што је најгоре, непредвидиви.

Једини јасан закључак из ових студија је да је вештачка интелигенција по дефиницији „без душе“. АИ је нељудска интелигенција и то се не може променити.

Управо је ова „бездушност“ свих модела вештачке интелигенције мотивисала Пентагон да користи вештачку интелигенцију у системима наоружања, пре свега у аутономним системима наоружања, чији је развој постао приоритет у Сједињеним Државама.

Прошлог августа Пентагон је створио,  као што смо писали , Таск Форце Лима за проучавање употребе генеративне вештачке интелигенције у војне сврхе. „Лима“ је постала део Пентагона Главне управе за дигиталну и вештачку интелигенцију (ЦДАО), а на челу ју је био капетан Ксавијер Луго, члан ЦДАО-ове Управе за алгоритамско ратовање.

Амерички војни портал Брикинг Дефенс  био је скептичан  према овој иницијативи Пентагона, сугеришући да руководство Министарства одбране САД пажљиво размотри све ризике који могу произаћи из употребе вештачке интелигенције у системима наоружања.

Међутим, секретар америчког ратног ваздухопловства Френк Кендал није одмерио ризике и наредио је Научном саветодавном савету ваздухопловства да створи системе наоружања са вештачком интелигенцијом што је пре могуће.

Наде да ће трезвени научници и бизнисмени, попут Илона Маска, успети да убеде нову америчку администрацију да заузме уравнотеженији приступ трци у наоружању вештачке интелигенције, по мом мишљењу, су илузорне.

Амерички војно-индустријски комплекс троши огромне суме новца на стварање све моћнијих и све непредвидивијих АИ модела и не слуша глас разума.

Међутим, сви ови грандиозни пројекти Пентагона засновани су на самој превари и „искривљавању научних података“ које је поменуо Макс Тегмарк. Изграђен на тако климавим псеудонаучним темељима, АГИ Терминатор ће представљати претњу првенствено својим креаторима.

Владимир Прохватилов/ФСК.РУ

Бонус видео