wellabb
本站致力于IT相关技术的分享
通过基础设施即代码构建基于 NestJS 与 SQLite 的边缘 TensorFlow 推理节点 通过基础设施即代码构建基于 NestJS 与 SQLite 的边缘 TensorFlow 推理节点
我们面临的挑战并非单纯的算法问题，而是规模化的工程落地问题：如何为一个由数百个、乃至数千个边缘计算节点组成的设备集群，提供一套可维护、可复现、高性能的 AI 推理方案。这些节点必须在网络不稳定的情况下自主运行，对本地数据进行实时分析，同时其
2023-10-27 架构与设计
TensorFlow SQLite 基础设施即代码 (IaC) 索引优化 NestJS
构建基于动态令牌与 DynamoDB 的零信任 WebSocket 安全网关 构建基于动态令牌与 DynamoDB 的零信任 WebSocket 安全网关
长连接的 WebSocket 协议，在本质上与现代云原生架构推崇的无状态、短生命周期原则存在冲突。一个典型的 WebSocket 认证流程——在连接建立时验证一次凭证，然后信任该 TCP 连接直至其断开——在零信任安全模型下是极度脆弱的。一
2023-10-27 架构设计
安全 Nginx WebSockets DynamoDB
敏捷迭代下基于Java与Serverless的时序数据摄入架构决策 敏捷迭代下基于Java与Serverless的时序数据摄入架构决策
团队接到了一个新需求：为一套工业物联网设备构建一个高吞吐的数据摄入后端。技术指标很明确：峰值 RPS (Requests Per Second) 预计达到5000，数据点必须在200ms内落盘，并且要求基础设施成本与实际流量严格挂钩。开发模
2023-10-27 架构设计
Java TimescaleDB Serverless 敏捷开发
构建流式Transformers模型的可观测前端：结合Ant Design的异步测试与性能度量 构建流式Transformers模型的可观测前端：结合Ant Design的异步测试与性能度量
为大语言模型（LLM）构建一个标准CRUD界面并不复杂，但当后端从RESTful API切换到流式（Streaming）API时，前端的复杂度会呈指数级增长。这不再是简单的请求-响应模型，而是一个需要精细管理连接生命周期、数据分块处理、UI
2023-10-27 前端工程
FastAPI Hugging Face Transformers 测试 Ant Design React
构建保护AI服务的Kong自定义Lua插件并采用Vitest进行集成测试 构建保护AI服务的Kong自定义Lua插件并采用Vitest进行集成测试
为数据科学团队的多个Python模型服务提供统一、高性能的API入口是当前架构面临的核心挑战。这些模型服务（通常基于FastAPI或Flask）计算成本高昂，且由不同团队维护，导致安全实践、输入验证和访问控制策略千差万别。将这些非功能性需求
2023-10-27 架构与设计
DevOps Kong AI Vitest 数据科学
构建异构系统全链路可观测性：整合Solid.js、Spring Boot与Celery的分布式追踪实践 构建异构系统全链路可观测性：整合Solid.js、Spring Boot与Celery的分布式追踪实践
凌晨两点，线上告警系统发来一条消息：用户ID 1a2b3c 的数据导出任务“已提交”，但超过30分钟未生成结果。排查开始。前端日志显示，用户在Solid.js界面上点击了导出按钮，前端应用成功收到了后端的 202 Accepted 响应。检
2023-10-27 可观测性
OpenTelemetry Spring Boot Celery Solid.js Docker Swarm
4 / 5