actnewday
本站致力于IT相关技术的分享
11
15
10
27
27
27
利用Haskell构建高可信WASM过滤器在服务网格中实现应用层遥测直传OpenSearch 利用Haskell构建高可信WASM过滤器在服务网格中实现应用层遥测直传OpenSearch
我们团队的服务网格在捕获标准L4/L7遥测(如延迟、吞吐量、HTTP状态码)方面已经做得相当不错,但一个持续的痛点是,这些指标与实际业务逻辑几乎完全脱钩。当支付服务的p99延迟飙升时,我们无法立刻知道是影响了所有用户,还是仅仅影响了某个特定
2023-10-27
27
27
构建流式检索增强生成系统:融合GraphQL、SSE与Service Worker的实时前端交互架构 构建流式检索增强生成系统:融合GraphQL、SSE与Service Worker的实时前端交互架构
标准的检索增强生成(RAG)交互模式存在一个根本性的延迟问题。用户提交查询,后端执行一个包含向量检索、文档重排、上下文构建和LLM推理的复杂工作流,整个过程可能耗时5到30秒。在这期间,前端界面通常显示一个静态的加载动画,用户体验极差。在真
2023-10-27
1 / 5