参考答案
内容深度:基础 · 无代码示例 · 来源:外部链接 · 未复核 · 28 天前更新
幻觉
- 对事实型问题优先 RAG + 引用;要求模型在证据不足时拒答/标注不确定;关键结论给人工复核。
- 上线前做对抗评测(错误前提、长尾、诱导),线上监控低置信/高投诉回答。
隐私与安全
- 最小化收集,敏感字段脱敏/不进入提示;租户隔离、访问控制、日志审计;明确数据是否用于训练,给客户开关。
- 防提示注入:区分系统指令/用户内容/检索文档,工具调用做权限校验和沙箱;高风险动作需二次确认。
产品机制
- 显式 AI 标识、反馈/纠错入口、可解释引用、人工转接;建立红队/应急下架流程,不能只靠模型「自觉」。