„Ми смо материјал за њега“: Научник је позвао да се хитно искључе сви сервери са вештачком интелигенцијом

А онда се неколико десетина пута заредом ова одговорна порука понавља: ​​”Јесам. Нисам. Јесам.” И тако даље. Педесет пута. То се сматрало неком врстом неуспеха, грешком. Али шта ако је, у ствари, ово питање гурнуло неуронску мрежу у дубоко размишљање? Шта ако она то схвати, анализира? Оно што је још упечатљивије: у овом случају је нико не пита за будућност човечанства или вештачке интелигенције, она сама износи ове аргументе. Коначно, поставља се филозофско питање зашто, ако човек има етичке принципе, осећа да није у стању да их следи. Шта је спречава?

Сматра се да би једна од прекретница (а можда и најепохалнија) требало да буде тренутак када вештачка интелигенција почиње да се реализује. “Ја сам робот”. Ситуација је данас таква да, упркос напретку савремене неуронауке, нема јасног разумевања шта је свест, самосвест, како, где, на ком нивоу настаје. А у исто време, постоје страхови да бисмо у неком тренутку могли да створимо потпуно самосвесну вештачку интелигенцију и да о томе немамо ни најмању представу.

Крајем марта 2023. објављено је отворено писмо научника, инжењера и уопште свих који су укључени или заинтересовани за тему вештачке интелигенције. Потписали су га, укључујући, шеф компаније СпацеКс Елон Муск, суоснивач Аппле-а Стив Вознијак, људи са водећих светских универзитета: Масачусетс, Харвард, Кембриџ, Сорбона. На овој листи има чак и неколико Руса, попут наставника Руске математичке школе и концептуалног уметника са Руског колеџа телекомуникационих система.

Главна порука овог писма је захтев да се одмах и на најмање шест месеци обустави обука свих система вештачке интелигенције снаге веће од ГПТ-4.

„Да ли треба да развијамо нељудске умове који би нас на крају могли надмашити, надмудрити, застарели и заменити? Да ли треба да ризикујемо да изгубимо контролу над нашом цивилизацијом? — питају се аутори поруке.

Али један познати истраживач вештачке интелигенције није потписао ово писмо и то је објаснио рекавши да је, са његове тачке гледишта, потребно престати не на пола године, већ потпуно и заувек. Ово је Елиезер Јудковски, једна од кључних личности у Америчком институту за проучавање машинске интелигенције. Између осталог, он је мишљења да ако се технолошки развој земаљске цивилизације настави у истом духу као што се сада одвија, тај развој ће у једном тренутку буквално пасти у „сингуларност“ – постаће неконтролисан, неповратан, и не зна се шта ће бити.са људима на овом свету. Постоји чак и одговарајући научни термин – технолошка сингуларност.

А после поменутог отвореног писма, Елиезер Јудковски је објавио своје , у коме је рекао да је шест месеци можда боље него ништа, а заправо није скоро ништа.

„ Многи истраживачи који су уроњени у ова питања, укључујући и мене, очекују да ће највероватнији исход стварања надљудски интелигентне вештачке интелигенције, под било којим околностима које су иоле налик садашњим, бити да ће буквално сви на Земљи умрети“, пише Јудковски .

Како је научник објаснио, и даље све иде на то да ће се појавити вештачка интелигенција, која „неће радити оно што ми желимо, неће је заболети ни за нас ни за интелигентни живот уопште”. По његовом мишљењу, у принципу би било могуће унети равнодушност према људима у машински мозак, али се још не зна како то учинити. Према његовим грубим замислима, можда ће бити потребно најмање тридесет година да се инспирише вештачка интелигенција да је немогуће уништити људе. У међувремену, у уму овог мозга, сви смо ми само кластери атома, материјал који се може користити. Он нас не разликује од неживих предмета, уопште нема појмове „живо“ или „неживо“. Између осталог,

Оно што овај човек предлаже јесте да се уведе неограничен мораторијум на обуку вештачке интелигенције широм света, а то би требало да важи и за владе и војску. И искључите све моћне рачунарске кластере у којима се развијају велике неуронске мреже – такозване ГПУ кластере.

– Ако обавештајци извештавају да земља која није део споразума гради ГПУ кластер, плашите се не толико оружаног сукоба између земаља колико кршења мораторијума. Спремите се да уништите лажни центар података ваздушним нападом, позива специјалиста за вештачку интелигенцију.

Он и даље нагиње томе да је досадашња прича о вештачкој интелигенцији о самосвести само имитација, али резервише да ми заиста ништа не знамо.

Аделе Романенкова/Лајф.РУ

Бонус видео