პრომპტის ინექცია

პრომპტის ინექცია თავდასხმის ტექნიკაა, როდესაც მავნე ინსტრუქცია იმალება იმ შიგთავსში, რომელსაც AI კითხულობს — ვებგვერდში, ელფოსტაში ან დოკუმენტში — და მოდელს აიძულებს, რომ მომხმარებლის დავალების ნაცვლად თავდამსხმელის ბრძანება შეასრულოს. ის განსაკუთრებით საშიშია იმ AI აგენტებისთვის, რომლებსაც ინტერნეტის დათვალიერება ან დამოუკიდებლად მოქმედება შეუძლიათ, რადგან ერთი მოწამლული გვერდი მათ დაუგეგმავი ქმედებისკენ უბიძგებს.

Prompt injection is an attack technique where malicious instructions are hidden inside content an AI reads — a webpage, email, or document — tricking the model into following the attacker’s commands instead of the user’s actual task. It is especially dangerous for AI agents that can browse the web or act on their own, since a single poisoned page can push them toward an unplanned action.