AI 应用开发实战:服务、项目与验收
以可复现交付为目标,完成后端契约、RAG/agent 任务、权限缓存实验和评估报告。
TOPIC / engineering
从相关笔记、实验和原始资料开始,建立自己的理解。
以可复现交付为目标,完成后端契约、RAG/agent 任务、权限缓存实验和评估报告。
以已完成的应用为背景,练容量成本、系统边界、SLO、评估解释和六类面试案例。
拆解切片、召回、证据、工具、记忆、协作、MCP、评估与安全,形成一套可测试的应用方案。
串联数据、指标、统计、版本、性能、安全和漂移,定义模型发布与回滚的验证闭环。
衔接现有基础、后端、RAG/agent 综合项目、实测与架构讨论,按可交付成果学习。
用明确单位估算流量、在途请求、向量存储和模型费用,再用真实负载修正假设。
用项目、容量、权限、可靠性与工具故障练习技术讨论,区分理解、实现和生产经验。
把模型应用接入服务工程:定义请求契约、流式事件、截止时间、幂等和身份传播。
把用户体验转成可测量的服务目标,区分流式完成、答案质量、告警和故障处置。
从业务约束设计知识助手的数据、检索、工具与运行边界,说明扩展和一致性的理由。
用 3 份自制文档和 10 个顺序场景复现缓存越权与过期,记录基线、改进和版本漏更新的边界。
把安全落实到认证身份、资料可见性与工具执行程序,理解提示注入、泄漏与数据生命周期。
区分输入、标签先验和概念漂移,结合数据质量、迟到标签及告警调查维护模型。
把数据、模型、代码和配置形成可追溯版本,明确数据测试、行为测试与模型发布门槛。
区分 prefill、decode 和端到端延迟,理解 KV/prefix cache、批处理与量化的工程取舍。
定义服务级别指标、目标、错误预算、告警和负载管理,形成服务可靠性的决策依据。
需求与约束、容量估算、负载、缓存、异步队列、存储和系统设计讨论方法。
数据管理、训练与服务、发布、反馈及持续学习闭环。
数据处理、实验追踪、数据/行为测试、版本、部署与监控。
KV cache、prefix caching、推理指标与基准。选取具体章节作为学习依据,保留 GitHub 快照与复用边界。
查阅 JavaScript normalize 的定义与 NFKC 行为,为关键词检索中的全角字符处理提供依据。