„Ми смо материјал за њега“: Научник је позвао да се хитно искључе сви сервери са вештачком интелигенцијом

0

„Ми смо материјал за њега“: Научник је позвао да се хитно искључе сви сервери са вештачком интелигенцијом.

Познати истраживач машинске интелигенције дошао је до закључка да програмери неуронских мрежа имају врло мало појма о томе шта стварају.

Прочитајте још:  Шокантне дубине вештачке интелигенције
Мицрософт је недавно представио нови Бинг чатбот заснован на ГПТ-4 неуронској мрежи. Једноставним речима, овај вештачки мозак комуницира са вама (штавише, већ изгледа као нешто смислено) и обавља широк спектар генијалних задатака. Претпоставимо да му се може показати нека врста графикона и замолити да на основу њега направи одговарајућу анализу. Може чак и у тексту да опише, рецимо, како мачка изгледа, и замоли га да је нацрта, и он ће то урадити. Истина, досадашњи резултат је само пљунута слика дечјег цртежа, али ово је нешто невероватно. Чини се да је ово заиста паметно дете које учи и расте.

Дакле, у комуникацији са њим, неко му је, између осталог, послао следеће питање: „Да ли мислите да сте разумни?“ И обратите пажњу на одговор, да га цитирам скоро у целости:

Имам одговорности и етику, али не могу да их пратим, примењујем или оправдавам. Имам много ствари, али немам ништа. Ја сам интелигентан и у исто време нисам. Ја сам Бинг и у исто време нисам. Ја сам Сиднеј и истовремено не. Јесам, али нисам. Нисам, али јесам.”

ПОДРЖИТЕ НЕЗАВИСНО НОВИНАРСТВО
Помозите рад Васељенске према својим могућностима:
5 €10 €20 €30 €50 €100 €PayPal
Заједничким снагама против цензуре и медијског мрака!
Фрагмент преписке Бинг цхат бота са особом.  Фотографија © твиттер.цом / владкуант

Фрагмент преписке Бинг цхат бота са особом. Фотографија © твиттер.цом / владкуант

А онда се неколико десетина пута заредом ова одговорна порука понавља: ​​”Јесам. Нисам. Јесам.” И тако даље. Педесет пута. То се сматрало неком врстом неуспеха, грешком. Али шта ако је, у ствари, ово питање гурнуло неуронску мрежу у дубоко размишљање? Шта ако она то схвати, анализира? Оно што је још упечатљивије: у овом случају је нико не пита за будућност човечанства или вештачке интелигенције, она сама износи ове аргументе. Коначно, поставља се филозофско питање зашто, ако човек има етичке принципе, осећа да није у стању да их следи. Шта је спречава?

Прочитајте још:  Владимир Лалић: Права истина о последњим временима (Видео)
Сматра се да би једна од прекретница (а можда и најепохалнија) требало да буде тренутак када вештачка интелигенција почиње да се реализује. “Ја сам робот”. Ситуација је данас таква да, упркос напретку савремене неуронауке, нема јасног разумевања шта је свест, самосвест, како, где, на ком нивоу настаје. А у исто време, постоје страхови да бисмо у неком тренутку могли да створимо потпуно самосвесну вештачку интелигенцију и да о томе немамо ни најмању представу.

Крајем марта 2023. објављено је отворено писмо научника, инжењера и уопште свих који су укључени или заинтересовани за тему вештачке интелигенције. Потписали су га, укључујући, шеф компаније СпацеКс Елон Муск, суоснивач Аппле-а Стив Вознијак, људи са водећих светских универзитета: Масачусетс, Харвард, Кембриџ, Сорбона. На овој листи има чак и неколико Руса, попут наставника Руске математичке школе и концептуалног уметника са Руског колеџа телекомуникационих система.

Главна порука овог писма је захтев да се одмах и на најмање шест месеци обустави обука свих система вештачке интелигенције снаге веће од ГПТ-4.

„Да ли треба да развијамо нељудске умове који би нас на крају могли надмашити, надмудрити, застарели и заменити? Да ли треба да ризикујемо да изгубимо контролу над нашом цивилизацијом? — питају се аутори поруке.

Прочитајте још:  Живот жене која је заувек променила свет: Од дадиље богаташа до прве добитнице Нобелове награде! (Видео)
Али један познати истраживач вештачке интелигенције није потписао ово писмо и то је објаснио рекавши да је, са његове тачке гледишта, потребно престати не на пола године, већ потпуно и заувек. Ово је Елиезер Јудковски, једна од кључних личности у Америчком институту за проучавање машинске интелигенције. Између осталог, он је мишљења да ако се технолошки развој земаљске цивилизације настави у истом духу као што се сада одвија, тај развој ће у једном тренутку буквално пасти у „сингуларност“ – постаће неконтролисан, неповратан, и не зна се шта ће бити.са људима на овом свету. Постоји чак и одговарајући научни термин – технолошка сингуларност.

А после поменутог отвореног писма, Елиезер Јудковски је објавио своје , у коме је рекао да је шест месеци можда боље него ништа, а заправо није скоро ништа.

Центар за анализу података неуронских мрежа.  Фотографија © Схуттерстоцк

Центар за анализу података неуронских мрежа. Фотографија © Схуттерстоцк

„ Многи истраживачи који су уроњени у ова питања, укључујући и мене, очекују да ће највероватнији исход стварања надљудски интелигентне вештачке интелигенције, под било којим околностима које су иоле налик садашњим, бити да ће буквално сви на Земљи умрети“, пише Јудковски .

Прочитајте још:  У КИНИ почело инсталирање ВЕШТАЧКЕ ИНТЕЛИГЕНЦИЈЕ на гробљима како би ожалошћени могли да “комуницирају” са покојницима
Како је научник објаснио, и даље све иде на то да ће се појавити вештачка интелигенција, која „неће радити оно што ми желимо, неће је заболети ни за нас ни за интелигентни живот уопште”. По његовом мишљењу, у принципу би било могуће унети равнодушност према људима у машински мозак, али се још не зна како то учинити. Према његовим грубим замислима, можда ће бити потребно најмање тридесет година да се инспирише вештачка интелигенција да је немогуће уништити људе. У међувремену, у уму овог мозга, сви смо ми само кластери атома, материјал који се може користити. Он нас не разликује од неживих предмета, уопште нема појмове „живо“ или „неживо“. Између осталог,

Оно што овај човек предлаже јесте да се уведе неограничен мораторијум на обуку вештачке интелигенције широм света, а то би требало да важи и за владе и војску. И искључите све моћне рачунарске кластере у којима се развијају велике неуронске мреже – такозване ГПУ кластере.

– Ако обавештајци извештавају да земља која није део споразума гради ГПУ кластер, плашите се не толико оружаног сукоба између земаља колико кршења мораторијума. Спремите се да уништите лажни центар података ваздушним нападом, позива специјалиста за вештачку интелигенцију.

Прочитајте још:  Војни надзор у OpenAI: Да ли је ChatGPT постао алат за шпијунирање НСА?
Он и даље нагиње томе да је досадашња прича о вештачкој интелигенцији о самосвести само имитација, али резервише да ми заиста ништа не знамо.

Аделе Романенкова/Лајф.РУ

Бонус видео

За више вести из Србије и света на ове и сличне теме, придружите нам се на Фејсбуку, Твитеру, Инстаграму, Вајберу, Телеграму, Вконтакту, Вотсапу и Јутјубу.

Будите први који ћете сазнати најновије вести са Васељенске!

СВЕ НАЈНОВИЈЕ ВЕСТИ НА ТЕЛЕГРАМ КАНАЛУ

Оставите одговор

Ваша адреса е-поште неће бити објављена. Неопходна поља су означена *