只需一次API调用,即可阻止越狱和提示攻击。
显然,大型语言模型容易受到提示注入攻击。我的提示注入扫描器会在攻击到达您的LLM模型之前扫描提示内容。返回的结果是一个风险评分指标。扫描速度快、成本低,并能根据您的反馈持续更新。