actnewday
本站致力于IT相关技术的分享
构建流式检索增强生成系统:融合GraphQL、SSE与Service Worker的实时前端交互架构 构建流式检索增强生成系统:融合GraphQL、SSE与Service Worker的实时前端交互架构
标准的检索增强生成(RAG)交互模式存在一个根本性的延迟问题。用户提交查询,后端执行一个包含向量检索、文档重排、上下文构建和LLM推理的复杂工作流,整个过程可能耗时5到30秒。在这期间,前端界面通常显示一个静态的加载动画,用户体验极差。在真
2023-10-27
基于 Tonic 和 Consul 的 gRPC 服务集成 Cassandra 实现持久化死信队列 基于 Tonic 和 Consul 的 gRPC 服务集成 Cassandra 实现持久化死信队列
一个健壮的分布式系统中,消息或事件处理失败是常态而非意外。直接丢弃失败的请求是不可接受的,无限重试又可能导致系统雪崩。我们面临的第一个具体挑战是:为一个高吞吐的 Rust gRPC 服务(我们称之为OrderProcessor)设计一个可靠
Azure AKS 环境下 Lit 微前端的网关模式选型与架构实现 Azure AKS 环境下 Lit 微前端的网关模式选型与架构实现
当多个团队同时维护基于 Lit 的独立前端组件,并计划将它们统一部署到 Azure Kubernetes Service (AKS) 集群时,第一个架构岔路口便出现了:如何将这些分散的、独立部署的前端应用,聚合为单一、内聚的用户体验?这个问
构建支持平滑轮换的双密钥 gRPC 认证层并使用 Recoil 实现状态可视化 构建支持平滑轮换的双密钥 gRPC 认证层并使用 Recoil 实现状态可视化
问题的起点非常明确:一个核心的 Tonic gRPC 服务,负责处理高并发的业务请求,它依赖一个外部身份提供商(IdP)签发的 JWT 公钥来验证客户端身份。这个公钥并非永久有效,IdP 出于安全考虑,每小时都会轮换一次。最初的实现简单粗暴
2023-10-27
在BASE链上实现一个生产级Serverless中继服务的架构演进与成本控制 在BASE链上实现一个生产级Serverless中继服务的架构演进与成本控制
为我们的BASE链上dApp构建一个gasless中继服务(Relayer)最初听起来像个周末就能搞定的小项目。用户在前端发起一个操作,请求打到我们的API,API用服务端的钱包签名并广播交易。这个模式很直接,但真正投入生产环境的思考时,最
2023-10-27
构建基于mTLS与BASE原则的Algolia数据同步代理服务 构建基于mTLS与BASE原则的Algolia数据同步代理服务
在微服务架构中,将核心业务数据同步到外部SaaS平台(如Algolia)进行索引,是一个常见的需求。直接从各个业务服务调用Algolia API的方案,在系统规模扩大后会迅速演变成一场灾难:API密钥管理的混乱、重试与错误处理逻辑的重复实现
2 / 5