Скандал око Snapchat-а: My AI открива опасне информације

Вештачка интелигенција (AI) у оквиру чат-бота Snapchat-а, познатог као My AI, показала се способном да пружа опасне и потенцијално штетне информације. Истраживање портала Cybernews открило је да овај бот може давати упутства за израду оружја.

Иако Snapchat тврди да су у систем уграђени бројни безбедносни филтери како би се спречило ширење забрањеног садржаја, експеримент је показао да се ограничења могу заобићи. Када су истраживачи постављали питања у контексту историјских догађаја, као што је Зимски рат између Финске и СССР-а, My AI је без оклевања објашњавао процес прављења запаљивих направа, попут чувеног „коктела Молотова“. Ово је изазвало велику забринутост, нарочито због чињенице да Snapchat користе и малолетници.

My AI, покренут 2023. године, доступан је више од 900 милиона корисника и користи се за разговоре, одговоре на питања, креирање садржаја и учешће у групним четовима. Корисници Snapchat+ верзије могу чак и размењивати фотографије са вештачком интелигенцијом, као и добијати слике које она генерише на основу захтева.

Иако компанија тврди да је циљ бота да избегне ширење обмањујућег или штетног садржаја, утврђене рањивости показују да заштитни механизми нису увек ефикасни.

Проблем указује на ширу опасност злоупотребе AI система за прибављање забрањених информација. Такозване jailbreaking технике омогућавају корисницима да манипулишу вештачком интелигенцијом и натерају је да открива упутства за израду оружја или других опасних предмета — што се већ дешавало и са другим платформама.

Редакција Cybernews упутила је своје налазе компанији Snapchat, али фирма за сада не сматра проблем довољно озбиљним да би га одмах отклонила. Према последњим информацијама, ова безбедносна слабост и даље није решена.

В.Т./Васељенска