归档: 2023 | actnewday

2023

10

27

标准的检索增强生成（RAG）交互模式存在一个根本性的延迟问题。用户提交查询，后端执行一个包含向量检索、文档重排、上下文构建和LLM推理的复杂工作流，整个过程可能耗时5到30秒。在这期间，前端界面通常显示一个静态的加载动画，用户体验极差。在真

2023-10-27 后端架构

Server-Sent Events (SSE) Service Workers GraphQL NumPy 云服务商

27

一个健壮的分布式系统中，消息或事件处理失败是常态而非意外。直接丢弃失败的请求是不可接受的，无限重试又可能导致系统雪崩。我们面临的第一个具体挑战是：为一个高吞吐的 Rust gRPC 服务（我们称之为OrderProcessor）设计一个可靠

2023-10-27 分布式架构

Dead Letter Queue Tonic Consul Cassandra Rust gRPC

27

当多个团队同时维护基于 Lit 的独立前端组件，并计划将它们统一部署到 Azure Kubernetes Service (AKS) 集群时，第一个架构岔路口便出现了：如何将这些分散的、独立部署的前端应用，聚合为单一、内聚的用户体验？这个问

2023-10-27 软件工程与架构

Lit Azure AKS 网关与代理软件工程与架构

27

问题的起点非常明确：一个核心的 Tonic gRPC 服务，负责处理高并发的业务请求，它依赖一个外部身份提供商（IdP）签发的 JWT 公钥来验证客户端身份。这个公钥并非永久有效，IdP 出于安全考虑，每小时都会轮换一次。最初的实现简单粗暴

2023-10-27 后端架构

Tonic Rust gRPC 密钥管理 Recoil React

27

为我们的BASE链上dApp构建一个gasless中继服务（Relayer）最初听起来像个周末就能搞定的小项目。用户在前端发起一个操作，请求打到我们的API，API用服务端的钱包签名并广播交易。这个模式很直接，但真正投入生产环境的思考时，最

2023-10-27 后端架构

Vercel Functions Firestore Rome BASE

27

在微服务架构中，将核心业务数据同步到外部SaaS平台（如Algolia）进行索引，是一个常见的需求。直接从各个业务服务调用Algolia API的方案，在系统规模扩大后会迅速演变成一场灾难：API密钥管理的混乱、重试与错误处理逻辑的重复实现

2023-10-27 分布式架构

gRPC BASE Algolia mTLS Go Service Mesh