ChatGPT, Gemini in GenAI orodja ranljiva za napade »Man-in-the-Prompt«
Kritična ranljivost, ki prizadene priljubljena orodja umetne inteligence, kot so ChatGPT, Google Gemini in druge generativne AI platforme, jih izpostavlja novi vrsti napada, imenovani »Man-in-the-Prompt«. Raziskave razkrivajo, da lahko zlonamerne razširitve za brskalnike izkoriščajo DOM (Document Object Model) za vbrizgavanje pozivov (promptov), krajo občutljivih podatkov in manipulacijo z odzivi AI brez potrebe po posebnih dovoljenjih. […]
Kako bo agentna umetna inteligenca postala orožje za napade s socialnim inženiringom
Socialni inženiring je že leta najpogostejša metoda, ki jo kibernetski napadalci uporabljajo za vdor v organizacije. Z napredkom umetne inteligence (UI) pa ti napadi postajajo vse bolj sofisticirani, avtomatizirani in prepričljivi. V zadnjem času smo priča razvoju t. i. agentne UI, ki lahko deluje avtonomno in izvaja kompleksne naloge brez človeškega posredovanja. To pomeni, da […]