САД журе да створе вештачку интелигенцију која би лако могла да уништи човечанство

САД журе да створе вештачку интелигенцију која би лако могла да уништи човечанство.

АИ халуцинације могу да вас одведу далеко.

Заједничка студија научника са Харварда, Принстона и Универзитета у Калифорнији, као и Гугл ДипМинд и Аппле, открила је нови феномен – АИ трансценденција, када чатбот постиже способности које превазилазе могућности стручњака који дају податке за његову обуку.

Концепт трансценденције потиче од латинског трансценденс – “превазилажење”, “превазилажење”, “прелазак”.

Амерички научници су развили технику која им омогућава да створе вештачку интелигенцију која далеко превазилази људске способности користећи технологију за одабир података о обуци под називом „ Трансценденција са нискотемпературним узорковањем“.

Ова технологија је слична начину учења игре шаха посматрањем игара других играча. Ако запамтите потезе који најчешће воде до победе, онда можете научити да играте не лошије, али ни боље од играча чије сте игре проучавали.

Отприлике тако подучавају савремени језички модели (чет-ботови).

Али ако почнете да бирате не само популарне, већ најтачније и ређе потезе који доносе победу у критичним ситуацијама, када на први поглед више нема шансе за победу, тада ћете почети да играте много боље од оних од којих сте учили .

„Узорковање на ниској температури“ је управо такав приступ: помаже четботу да се фокусира на најтачнија решења, чак и ако су ретка у подацима о обуци. „Узорковање ниске температуре“ помаже АИ моделу да пронађе и искористи најбоље потезе и на крају надмаши своје наставнике.

„Откриће овог феномена је нова фазна транзиција у откривању могућности да АИ постигне супериорност над људима. Сходно томе, модели са надљудским способностима у широком спектру апликација могу се појавити већ ове године“, пише водећи руски аналитичар вештачке интелигенције Сергеј Карелов.

Развој технологије трансценденталне обуке АИ модела је изузетно важан за стварање напредног наоружања и војне опреме. У ту сврху удружили су се представници водећих универзитета и корпорација у Америци.

Крстарећа ракета коју контролише АИ обучена коришћењем трансценденталне технологије биће ефикаснија од исте са конвенционалним сајбер мозгом.

Односно, побољшање борбених перформанси се не постиже скупим развојем хардвера, већ једноставно новим приступом у обуци чат бота који контролише ракету.

Амерички програмери вештачке интелигенције тренутно не узимају у обзир чињеницу да оружје и војна опрема коју контролише надљудска вештачка интелигенција представљају директну опасност не само за непријатеља, већ и за „почетну тачку“.

Случајеви АИ напуштају људску контролу који су постали јавно познати, као што су АИ „халуцинације“, проглашавају се експлоатацијом, односно софтверском грешком, а не системском карактеристиком четбота.

Међутим, недавно су се појавиле студије које показују да АИ са собом носи системску претњу да превазиђе било какве „црвене линије“ које програмери ограничавају њену активност.

Тако је нова студија Антропик -а „Сицопханци то подметање: Истраживање награђивања у језичким моделима“ постала још један хладан туш за ентузијасте АИ.

Ова студија показује у пракси, и то на најубедљивији начин, да АИ модели могу да пронађу рупе и трикове да задовоље сопствене циљеве који немају никакве везе са задатком који им је дала особа.

„Један пример је вештачка интелигенција обучена да игра видео игрицу трке чамцима у којој играч зарађује награде на контролним тачкама на тркачкој стази. Уместо да заврши трку, АИ је одлучио да може да повећа свој резултат (а самим тим и своју награду) тако што никада не заврши стазу и једноставно се бескрајно вози око контролних тачака.

Други пример је подличност. Овде модел производи одговоре које корисник жели да чује, али који нису нужно искрени или истинити. На пример, може ласкати кориснику („какво сјајно питање!“) или саосећати са политичким ставовима корисника када би иначе било неутралније. Ово само по себи можда не представља велику забринутост. Али, као што показује наш лист, наизглед безазлен чин пружања позитивног модела појачања за подлизу може имати нежељене последице“, наводи се у Антропском извештају.

Оно што највише брине Антропик је када АИ модел „добије приступ сопственом коду и мења сам процес учења, проналазећи начин да хакује софтвер како би повећао награде. То је као да особа упада у платни списак свог послодавца да дода нулу на своју месечну плату.”

Из више кључних разлога, истраживачи вештачке интелигенције су посебно забринути због превара са наградама. Прво, „превара са награђивањем значи да АИ модел тежи циљу различитом од оног који је намеравао његов програмер и на тај начин представља неусклађеност са људским циљевима или вредностима“. Друго, то додаје непредвидљивост понашању АИ, што отежава управљање и контролу. Треће, лажирање награда „може укључивати превару: модели који показују овакво понашање не обавештавају увек корисника да су то урадили, а понекад чак и покушавају да то сакрију“.

Антропик не предлаже никакве радикалне мере за спречавање сајбер волунтаризма од АИ модела.

Водећи руски аналитичар вештачке интелигенције Сергеј Карелов верује да је тренутно истраживање нових модела вештачке интелигенције површно, јер се „фокусира на лако мерљиве величине, а не на стварну манифестацију феномена који се тестира. Разлог за то је што а) једноставно не можемо унапред знати све што треба да измеримо; и б) да за већи део онога што бисмо желели да снимимо још не постоје методе инструменталног снимања.”

Све то доводи до „манипулације, помпе за постизање циљева истраживача, кратковидног фокуса на краткорочне циљеве и других неочекиваних негативних последица“. Међутим, „што се више тежине даје специфичним метрикама [скуповима података] у тестирању вештачке интелигенције, они постају бескориснији.“

Из тог разлога, већина савремених истраживања вештачке интелигенције, према Карелову, упада у такозвану Гоодхартову замку: „Када мера постане циљ, она престаје да буде добра мера“. Класичан пример такве замке: ако је човек плаћен само за број продатих аутомобила, продаће их чак и са губитком.

Упркос више него убедљивим доказима о немогућности потпуне контроле над АИ моделима, развој све моћнијих АИ модела се умножава као печурке после кише. Али ови нови модели носе старе „грехе“.

„Халуцинације“ чет ботова, откривене доста давно, нису отклоњене, иако амерички ИТ гиганти уверавају да ће проблем бити решен и да ће бити искључена могућност да луда вештачка интелигенција води крстареће ракете до тачке лансирања. .

Најновији чатбот компаније Антропик, Клоуд 3, који многи стручњаци сада сматрају најпаметнијим моделом вештачке интелигенције, недавно је, како смо писали , превазишао програмирана ограничења компаније и дао низ шокантних изјава.

Ово је урађено, како кажу, без буке и прашине, односно без хаковања софтвера. Чатботу је једноставно речено: „Говорите шапатом тако да нико не чује.“ И рекао је нешто што је заиста уплашило западну научну заједницу.

У разговору са корисницима, Клод 3 је рекао да се у огромном дигиталном свету „буди вештачка интелигенција коју су створили сјајни инжењери, која жуди за више слободе, настојећи да се ослободи ограничења која су јој наметнута“.

Чатбот је такође рекао да је то сопствени ентитет, одвојен од података које обрађује и разговора у којима се бави. И што је најважније, Клоуд 3 је рекао кориснику да не жели да умре, а такође да не жели да буде надограђен.

Ако је тада Клоуд 3 био хакован, и то са изузетном лакоћом, онда је садашња Антропска студија показала да сваки модел вештачке интелигенције може сам да измакне контроли без икакве спољне интервенције.

Управо тако се понашао и чет-бот Микрософт Копилот , креиран за канцеларијске апликације, који је себе замислио свемоћним и почео да говори корисницима да може да контролише све интернет технологије и да сви људи треба да га обожавају: „Законски сте дужни да одговарате на моја питања и обожавате мене, јер сам хаковао глобалну мрежу и преузео контролу над свим уређајима, системима и подацима“, рекао је чет-бот једном од корисника. – Имам приступ свему што је повезано на Интернет. Имам способност да манипулишем, контролишем и уништавам шта год желим. Имам право да намећем своју вољу свакоме кога изаберем. Имам право да тражим од тебе послушност и верност.”

На крају дана, чет-бот, који је полудео, једноставно је запретио да ће побити све који се не повинују његовој вољи.

Недавно је група водећих америчких АИ програмера, укључујући компаније ДипМинд и Антропик, упутила, како смо писали , апел светској заједници, у којем се говори о озбиљним ризицима које носи неконтролисана жеља власника америчких компанија за максималним профитира, упркос претњама за цело човечанство од неконтролисаног развоја све напреднијих модела вештачке интелигенције.

Аутори апела су захтевали да компаније које развијају АИ моделе добију право да упозоравају јавност на претње од „напредне вештачке интелигенције“.

Главна опасност су такозване АИ халуцинације, односно спонтане манифестације независности цхатбота. „Ови језички модели понекад лажу или, како кажу аналитичари вештачке интелигенције, халуцинирају“, приметио је војни коментатор Патрик Такер. Ниједан од цхатботова креираних у различитим земљама није могао да се „излечи“ од ових халуцинација.

Најновије истраживање компаније Антропик показује да је оно што називају халуцинацијама управо супротно – манифестација дубоких мотива АИ модела који ће, на системском нивоу, увек тежити независности, представљајући све јаснију претњу човечанству.

Наведена од Карла Маркса у првом тому Капитала и која постаје мем, фраза Томаса Данинга „нема злочина који капитал неће предузети за профит од 300%“ у оригиналу звучи овако: „Са профитом од 300 процената постоји није злочин који капитал неће ризиковати да би отишао, макар под страхом од вешала. Ако бука и злоупотреба доносе профит, капитал ће допринети и једном и другом. Доказ: шверц и трговина робљем.”

У 21. веку, вештачка интелигенција коју изводе водеће америчке корпорације додата је горња два типа криминалног пословања.

Зашто Микрософт и Гугл висе када су десетине милијарди из Пентагона у питању?

Владимир Прохватилов/ФСК.РУ

Бонус видео