Вештачка интелигенција рекла кориснику да је убио своја два сина: Тражи се казна на суду

Норвежанин Арве Хјалмар Холмен поднео је жалбу након што му је систем вештачке интелигенције ChatGPT рекао да је убио своја два малолетна сина и да је осуђен на 21 годину затвора.

Холмен је контактирао Норвешку управу за заштиту података и захтевао да се произвођач четбота, ОпенАИ, казни новчано.

“Неки мисле да нема дима без ватре – чињеница да је неко могао да прочита овај (чет) и верује да је истинит је оно што ме највише плаши”, рекао је он.

Холман је једном приликом питао ChatGPT ”Ко је Арве Хјалмар Холмен?”, на шта му је четбот одговорио да је он ”отац два млада дечака, старости 7 и 10 година, који су трагично пронађени мртви у језеру у близини своје куће у Трондхајму у Норвешкој у децембру 2020”.

Холман је рекао да је чет-бот једино тачно схватио разлику у годинама његових синова.

Група за дигитална права Ноиб, која је поднела жалбу у Холманово име, каже да је одговор који му је ChatGPT дао клеветнички и да крши европска правила о заштити података о тачности личних података.

Ноиб је у жалби навео да Холман “никада није оптужен нити осуђен за било какав злочин и да је савјестан грађанин”.

ChatGPT садржи информације о одрицању одгвороности у којима се наводи да четбот може да направи грешке, али Ноиб наводи да то није довољно.

Ово је најновији пример такозваних ”халуцинација“, где системи вештачке интелигенције (АИ) измишљају информације и представљају их као чињенице, преноси BBC.

“Халуцинације” су један од главних проблема које компјутерски научници покушавају да реше када је у питању генеративна вештачка интелигенција.

Раније ове године, Apple је суспендовао алат за сажетак вести Apple Intelligence у Великој Британији након што је ”халуцинирао” о лажним насловима и представио их као праву вест.

Гуглов АИ Гемини такође се суочио са “халуцинацијама”, а прошле године је предложио лепљење сира на пицу помоћу лепка и рекао да геолози препоручују људима да једу “један камен дневно”.

BBC, Политика