搭建带人工确认的内容分流自动化
目标
建立一个不会直接发布或删除数据的内容分流流程。
前置条件
准备测试表单、接收队列和一个仅含模拟数据的工作区。
步骤
- 用新表单或消息作为触发器，只读取标题、正文和提交时间。
- 增加规则步骤，先过滤空内容、重复项和明显无效输入。
- 让 AI 输出固定 JSON：类别、摘要、风险提示和置信度。
- 校验 JSON 字段；解析失败或低置信度时进入人工队列。
- 所有结果先发送到审核表，只有人工选择“批准”才创建后续任务。
- 用正常、模糊、恶意提示和超长输入各测试一次。
预期结果
每条输入都有可查看的分类记录，任何外部写操作都需要人工批准。
排错
- JSON 不稳定：限制字段并加入结构校验。
- 重复创建任务：保存触发事件 ID 并在写入前去重。
- 敏感信息进入模型：在 AI 步骤前增加删除或遮盖规则。