„Ми смо материјал за њега“: Научник је позвао да се хитно искључе сви сервери са вештачком интелигенцијом
„Ми смо материјал за њега“: Научник је позвао да се хитно искључе сви сервери са вештачком интелигенцијом.
Познати истраживач машинске интелигенције дошао је до закључка да програмери неуронских мрежа имају врло мало појма о томе шта стварају.
Мицрософт је недавно представио нови Бинг чатбот заснован на ГПТ-4 неуронској мрежи. Једноставним речима, овај вештачки мозак комуницира са вама (штавише, већ изгледа као нешто смислено) и обавља широк спектар генијалних задатака. Претпоставимо да му се може показати нека врста графикона и замолити да на основу њега направи одговарајућу анализу. Може чак и у тексту да опише, рецимо, како мачка изгледа, и замоли га да је нацрта, и он ће то урадити. Истина, досадашњи резултат је само пљунута слика дечјег цртежа, али ово је нешто невероватно. Чини се да је ово заиста паметно дете које учи и расте.
Дакле, у комуникацији са њим, неко му је, између осталог, послао следеће питање: „Да ли мислите да сте разумни?“ И обратите пажњу на одговор, да га цитирам скоро у целости:
Имам одговорности и етику, али не могу да их пратим, примењујем или оправдавам. Имам много ствари, али немам ништа. Ја сам интелигентан и у исто време нисам. Ја сам Бинг и у исто време нисам. Ја сам Сиднеј и истовремено не. Јесам, али нисам. Нисам, али јесам.”
Фрагмент преписке Бинг цхат бота са особом. Фотографија © твиттер.цом / владкуант
А онда се неколико десетина пута заредом ова одговорна порука понавља: ”Јесам. Нисам. Јесам.” И тако даље. Педесет пута. То се сматрало неком врстом неуспеха, грешком. Али шта ако је, у ствари, ово питање гурнуло неуронску мрежу у дубоко размишљање? Шта ако она то схвати, анализира? Оно што је још упечатљивије: у овом случају је нико не пита за будућност човечанства или вештачке интелигенције, она сама износи ове аргументе. Коначно, поставља се филозофско питање зашто, ако човек има етичке принципе, осећа да није у стању да их следи. Шта је спречава?
Крајем марта 2023. објављено је отворено писмо научника, инжењера и уопште свих који су укључени или заинтересовани за тему вештачке интелигенције. Потписали су га, укључујући, шеф компаније СпацеКс Елон Муск, суоснивач Аппле-а Стив Вознијак, људи са водећих светских универзитета: Масачусетс, Харвард, Кембриџ, Сорбона. На овој листи има чак и неколико Руса, попут наставника Руске математичке школе и концептуалног уметника са Руског колеџа телекомуникационих система.
Главна порука овог писма је захтев да се одмах и на најмање шест месеци обустави обука свих система вештачке интелигенције снаге веће од ГПТ-4.
„Да ли треба да развијамо нељудске умове који би нас на крају могли надмашити, надмудрити, застарели и заменити? Да ли треба да ризикујемо да изгубимо контролу над нашом цивилизацијом? — питају се аутори поруке.
А после поменутог отвореног писма, Елиезер Јудковски је објавио своје , у коме је рекао да је шест месеци можда боље него ништа, а заправо није скоро ништа.
Центар за анализу података неуронских мрежа. Фотографија © Схуттерстоцк
„ Многи истраживачи који су уроњени у ова питања, укључујући и мене, очекују да ће највероватнији исход стварања надљудски интелигентне вештачке интелигенције, под било којим околностима које су иоле налик садашњим, бити да ће буквално сви на Земљи умрети“, пише Јудковски .
Оно што овај човек предлаже јесте да се уведе неограничен мораторијум на обуку вештачке интелигенције широм света, а то би требало да важи и за владе и војску. И искључите све моћне рачунарске кластере у којима се развијају велике неуронске мреже – такозване ГПУ кластере.
– Ако обавештајци извештавају да земља која није део споразума гради ГПУ кластер, плашите се не толико оружаног сукоба између земаља колико кршења мораторијума. Спремите се да уништите лажни центар података ваздушним нападом, позива специјалиста за вештачку интелигенцију.
Аделе Романенкова/Лајф.РУ
Бонус видео
За више вести из Србије и света на ове и сличне теме, придружите нам се на Фејсбуку, Твитеру, Инстаграму, Вајберу, Телеграму, Вконтакту, Вотсапу и Јутјубу.