TECHNOLOGY STACK / 5 LAYERS
五层架构，
把不确定性关进工程边界
大模型天然带有不确定性。天辰平台的工程目标不是消灭它，而是把它限制在可测量的范围内：每一层都有明确的输入输出契约，每一次决策都能被评测与回放。
检索方式 向量 + 关键词混合召回
部署形态 云 / 专属云 / 本地
评测基线 业务集 + 红队集
安全与治理层
内容过滤、权限隔离、审计日志与成本看板
应用与编排层
智能体工作流、工具调用、人工节点与灰度发布
知识与数据层
文档解析、语义切片、混合检索与指标语义层
模型服务层
多模型路由、微调权重、量化推理与降级策略
算力与基础设施层
异构算力调度、容器化部署与可观测采集
上图自上而下为治理视角的分层；实际请求链路自下而上。每一层均可独立替换，不绑定单一供应商。
四个关键技术选择
以及我们为什么这样选
01 / ROUTING
多模型路由，而不是押注一个模型
不同任务的成本敏感度差异极大。我们把任务分为抽取、改写、推理、生成四类，按难度路由到不同规模的模型，整体推理成本可下降三成以上，同时在主模型故障时自动切换备用模型。
02 / RETRIEVAL
混合召回，而不是只做向量检索
纯向量检索在型号、编号、条款号这类精确匹配上表现糟糕。天辰平台默认启用向量与关键词双路召回，再用轻量重排模型融合，Top-5 命中率在内部基准上提升约 14 个百分点。
03 / EVALUATION
先写评测集，再写提示词
没有评测集的优化等于盲改。项目启动第一周就要收集真实问题、标注期望答案，形成至少 200 条的回归集，之后每次改动都必须跑通才能发布。
04 / FALLBACK
允许说「我不知道」
在金融、医疗等场景里，错误回答的代价远高于拒答。我们在提示词、检索阈值与输出校验三处设置拒答条件，宁可转人工，也不输出没有依据的结论。
评测体系：把「好用」拆成可计算的指标
每个上线项目都必须通过基线
| 维度 | 指标 | 采集方式 | 典型基线 |
|---|---|---|---|
| 准确性 | 答案正确率 / 引用准确率 | 人工标注集 + 自动比对 | ≥ 90% |
| 可靠性 | 格式合规率 / 拒答恰当率 | 规则校验 + 抽样复核 | ≥ 95% |
| 性能 | 首字时延 / P95 完成时延 | 链路埋点 | ≤ 1.2s / ≤ 6s |
| 成本 | 单次会话推理成本 | Token 计量与账单核对 | 按场景预算 |
| 安全性 | 越权访问拦截率 / 敏感内容拦截率 | 红队测试集 | 100% |
基线为天辰平台内部交付标准，具体项目可与客户共同调整；达不到基线的版本不进入灰度。
安全、合规与数据边界
法务与信息安全团队可直接引用
仅采集场景必需字段，训练数据与业务数据分离存储，默认不将客户数据用于模型训练。
逻辑隔离至独立向量库与对象存储；私有化场景下数据不出客户机房。
输入输出双向过滤，涉政、涉黄、涉暴与侵权风险按策略拦截并留痕。
调用链、提示词版本与模型版本全量记录，支持按会话回放。
合作终止后按约定周期删除数据，并提供数据导出与销毁证明。
天辰平台仅提供企业级技术服务，不涉及任何博彩、投注或资金交易业务。
天辰娱乐参照 ISO/IEC 27001 信息安全管理体系与等级保护相关要求建立内部制度，具体认证状态以双方尽调材料为准，不在官网作出认证承诺。
研发与交付节奏
双周迭代，月度复盘
场景对齐与评测集定义
确认业务目标、数据可用性与验收口径，冻结第一版评测集。
数据治理与原型搭建
完成文档解析、知识入库与基础流程编排，跑通端到端演示。
调优、红队测试与灰度
针对失败样本迭代，完成安全测试后按比例放量。
上线运营与知识回灌
监控指标、复盘失败案例，把新经验沉淀回知识库与提示词资产。