← Fogalomtár
Fogalom
Prompt injection (prompt-befecskendezés)
Olyan támadás, amikor egy rosszindulatú bemenet megpróbálja felülírni az AI eredeti utasításait. Különösen veszélyes agenteknél és külső forrásokat olvasó rendszereknél.
Analógia
Mint amikor valaki hamis utasítást csempész egy hivatalos dokumentumba, és a titkárság azt jóhiszeműen végrehajtja.
Miért fontos?
Ha egy AI külső dokumentumokat, weboldalakat vagy emaileket dolgoz fel, egy rejtett utasítás félreviheti a működését. Üzleti környezetben ez adatvesztéshez, hibás műveletekhez vagy compliance-problémákhoz vezethet.