Prompt injection: prečo AI agent nesmie veriť textom, ktoré číta
Jazykový model nerozlišuje medzi pokynom a obsahom. Kto to vie, môže mu do webovej stránky podstrčiť vlastné príkazy.
Tag
Tag
Jazykový model nerozlišuje medzi pokynom a obsahom. Kto to vie, môže mu do webovej stránky podstrčiť vlastné príkazy.