内容安全

结合业务规则、权限控制和人工复核构建内容安全防线。

输入侧

• 限制提示词长度、文件类型和图片大小
• 对高风险业务执行身份与权限检查
• 过滤密钥、密码和不必要的个人信息

输出侧

• 对面向用户的输出执行敏感内容检测
• 高影响决策保留人工确认
• 不要把模型输出直接当作系统指令执行

工具调用

所有工具参数都应视为不可信输入。执行前验证 Schema、资源归属和操作权限，对付款、删除、发送消息等操作增加确认。