winunify
本站致力于IT相关技术的分享
  文章分类
数据工程 8 分布式架构 3 后端架构 7 云原生 1 安全架构 1 数据工程与存储 1 全栈架构 2 分布式系统 3 MLOps 3 DevOps 1
构建由 Axum 驱动的 Serverless MLOps 管道：集成 OpenFaaS、MLflow 与 SQL 实现 iOS 端模型按需个性化 构建由 Axum 驱动的 Serverless MLOps 管道：集成 OpenFaaS、MLflow 与 SQL 实现 iOS 端模型按需个性化
为移动端应用提供的机器学习模型，其生命力在于个性化。一个静态的、一刀切的模型在部署后很快就会因为用户行为数据的变化而变得迟钝。传统的中心化批量训练模式，周期长、成本高，无法满足对单一用户行为的实时响应。我们面临的挑战是：当特定用户在 iOS
2023-11-15 MLOps
MLflow Axum 关系型 (SQL) iOS 开发 OpenFaaS
利用 Tekton 与 Redis 构建缓存感知的向量嵌入生成流水线 利用 Tekton 与 Redis 构建缓存感知的向量嵌入生成流水线
团队的向量模型迭代一直是个痛点。每次对预处理逻辑或模型进行微调，都意味着需要对整个数GB的验证数据集重新生成嵌入向量，这个过程动辄数小时。我们的CI/CD流水线，原本是为了加速交付，现在却成了最主要的瓶颈。问题很明确：大量的计算是重复且不必
2023-10-27 MLOps
CI/CD Tekton Redis Python Vector 缓存
基于事件溯源与IaC构建BentoML模型的声明式部署基础设施 基于事件溯源与IaC构建BentoML模型的声明式部署基础设施
管理机器学习模型的生命周期是一项比想象中更复杂的任务。当团队从几个模型扩展到几十上百个时，依赖CI脚本、手动配置和环境变更记录的传统方式会迅速演变成一场灾难。模型版本、部署环境、资源配置之间的关系变得模糊不清，每一次发布都伴随着风险，而且几
2023-10-27 MLOps
BentoML 基础设施即代码 (IaC) Event Sourcing 分布式与中间件 Kit