ChatGPT, Gemini in GenAI orodja ranljiva za napade »Man-in-the-Prompt«
Kritična ranljivost, ki prizadene priljubljena orodja umetne inteligence, kot so ChatGPT, Google Gemini in druge generativne AI platforme, jih izpostavlja novi vrsti napada, imenovani »Man-in-the-Prompt«. Raziskave razkrivajo, da lahko zlonamerne razširitve za brskalnike izkoriščajo DOM (Document Object Model) za vbrizgavanje pozivov (promptov), krajo občutljivih podatkov in manipulacijo z odzivi AI brez potrebe po posebnih dovoljenjih. […]
Skrite slabosti AI SOC orodij, o katerih nihče ne govori
Če trenutno ocenjujete AI-platforme za varnostno-operativne centre (SOC), ste verjetno že naleteli na drzne obljube: hitrejša triaža, pametnejša odprava groženj in manj šuma. A pod površjem ni vsak AI enak. Številne rešitve temeljijo na vnaprej naučenih (pre-trained) modelih, ki so prilagojeni le peščici točno določenih primerov uporabe. In če je to morda delovalo včeraj, današnja […]