Масков xAI тужио корисника због злоупотребе Groka за прављење недозвољеног садржаја са малолетницима
Фото: ( Shutterstock/miss.cabul )
Компанија за вештачку интелигенцију xAI, у власништву Илона Маска, поднела је тужбу против Терија Харвуда из Јужне Каролине, тврдећи да је злоупотребио њен систем Grok за генерисање материјала сексуалног злостављања деце.
Харвуд је, према наводима из текста, раније ове године ухапшен под оптужбама које се односе на сексуално искоришћавање малолетника, а овај поступак представља један од ретких случајева у којима је компанија која развија системе вештачке интелигенције покренула судски поступак против корисника због наводне злоупотребе њене технологије.
Тужба је поднета савезном суду у Тексасу, а xAI тврди да је Харвуд својим поступцима прекршио услове коришћења компанијиних услуга.
Према тврдњама xAI-ја, Харвуд је у Grok уносио фотографије одраслих и малолетника које саме по себи нису биле сексуалне природе, а затим наводно покушавао да помоћу система генерише сексуално експлицитне дипфејк садржаје. Компанија тврди и да је покушавао да прави сексуализоване приказе одраслих особа без њиховог пристанка.
xAI наводи да против корисника који крше правила предузима мере које укључују суспензију и укидање налога, као и пријављивање сумњивог материјала надлежним организацијама за заштиту деце.
Компанија сада од суда тражи новчану одштету, чији износ није прецизиран, као и трајну забрану Харвуду да користи Grok.
Тужба долази у тренутку када се xAI суочава са ширим критикама и притиском због начина на који се генеративни системи вештачке интелигенције могу злоупотребити за стварање реалистичних дипфејк снимака и слика без пристанка особа које се на њима приказују.
Случај би могао да буде значајан и за ширу технолошку индустрију, јер отвара питање на који начин ће компаније које развијају генеративну вештачку интелигенцију убудуће реаговати на кориснике који покушавају да заобиђу безбедносне механизме и њихове системе користе за прављење незаконитог садржаја.
