#主动攻击

3周前

关于 LLM 的安全，两种： 1. 来自外部用户的攻击，如 prompt injection，前提是默认 LLM 本身是纯净的好的。 2. LLM 本身有问题，如深埋的 LLM backdoor，可以被激活，主动对用户发起攻击。前者无所吊谓，后者值得重视。

#LLM安全 #prompt injection #LLM backdoor #外部攻击 #主动攻击