AI 工程

Netflix MAPS 笔记:让推荐模型「看见」素材,冷启动就不冷了

Netflix 技术博客 MAPS 一文的学习笔记:素材个性化(海报、视频预览)长期受困于冷启动——新素材没有交互历史,模型把它当成不透明 ID,只能靠探索流量和人气启发式硬扛;解法是把 CLIP、MediaFM 等多模态向量直接拼进素材表示,让模型「看见听见」素材内容,偏好沿向量空间即时迁移;由此五个画布模型合并为一个,配合长期奖励加权和 IPS 离线评估,消融实验显示两个成分缺一不可(V3 在 short-panel 上提升 5.691%);视频侧 MediaFM 以 8000 万镜头训练、融合视觉音频文本三模态,排序 MediaFM > SeqCLIP > 纯 ID;另有线性探针代理任务低成本筛选向量、Embedding Store 解耦地基模型与下游上线。对工程师的启示:内容特征不工作时先找第二个阻塞因子,评估体系的纯度比模型更重要。
方糖猫 方糖猫 · · #Netflix · #多模态 · #CLIP
AI 工程

LiveTalking 源码解剖:一个开源实时数字人是怎么跑起来的

以 lipku/LiveTalking(插件化 fork 版)为样本,逐模块解剖一个真实开源实时数字人的架构:wav2lip/musetalk/ultralight 三种形象驱动方案怎么选、四线程三队列的渲染管线怎么省 GPU、逐环节耗时分析(哪些流式哪些攒批)、TTS 插件机制、aiortc 推流细节,附安装/模型/素材三级避坑清单、上线隐患分析,以及它距离商业级产品还差什么。适合读完概念篇后想动手的人。
方糖猫 方糖猫 · · #数字人 · #LiveTalking · #源码分析
AI 工程

数字人链路从 0 到精通:新人也能看懂的学习总结

用一条「耳朵-眼睛-大脑-嘴巴-脸-身体」的拟人化主线,拆解实时交互数字人的完整技术链路(VAD/ASR、视觉感知、LLM、TTS、口型驱动、渲染、WebRTC),附 Mermaid 架构图、延迟预算表、避坑清单、典型问题解决方案,以及元宇宙视角下的数字人定位。适合零基础新人建立全局认知。
方糖猫 方糖猫 · · #数字人 · #虚拟数字人 · #ASR
AI 工程

GenRec 笔记:Netflix 怎么把推荐排序器做成 LLM 原生

Netflix 技术博客原文研读:GenRec 是一个用 LLM 做推荐排序的系统——把用户历史、上下文、物品元数据全部文本化(verbalize),在 Netflix 自有语料上适配的基座 LLM 上再做排序后训练,挂一个目录感知打分头,用奖励加权损失对齐长期价值,线上 prefill-only 推理控成本。结果是:Phase-2 标注样本少用 10-40 倍,离线 MRR 反而高约 1.6%,大规模 A/B 测试短期和长期指标均显著为正。它的真正信号是:推荐系统的工程重心正在从特征工程转向上下文工程。
方糖猫 方糖猫 · · #Netflix · #GenRec · #推荐系统
AI 工程

Netflix 自建 LLM 推理平台笔记:四个层层相扣的决策

Netflix AI Platform 团队复盘其自建 LLM 推理平台的技术决策:引擎从 TensorRT-LLM 换成 vLLM(自定义架构免编译、调试性、可扩展钩子),打包选 Triton vLLM backend(JSON 配置动态生成 I/O 规格,代价是版本必须锁死),API 面同时暴露 gRPC 与 OpenAI 兼容接口(发现并补上了 response_format 被静默丢弃的坑),部署提供 Red-Black 与 Versioned 两种策略以应对 I/O schema 变更的协调难题;最硬核的一节是约束解码从 vLLM V0 逐请求串行(GIL 导致 CPU 随 batch 线性增长)迁移到 V1 批级处理并用 C++ 重写热路径,以及 partial prefill 和 preemption 两个状态机陷阱。对工程师的启示:性能瓶颈只在真实并发下现形,状态假设要在引擎语义变更时重新审计。
方糖猫 方糖猫 · · #Netflix · #LLM Serving · #VLLM
系统架构

Netflix 服务拓扑系统笔记:实时依赖地图是怎么被生产环境捶出来的

Netflix 技术博客服务拓扑系列的第二篇,讲怎么做而不是做了什么:为了实时服务依赖地图,他们用流式优先架构替掉批处理,靠反应式流背压扛住每秒百万级流记录,用三级分布式聚合管线解决网络中间件解析和热点节点两个看似无关的问题,并实现了拓扑的时间旅行查询。全文最有价值的不是架构图,而是 V1 上生产后连环暴露的九个瓶颈,以及一条贯穿始终的方法论:测量驱动,一次只修一个瓶颈,规模会定性改变一切结论。
方糖猫 方糖猫 · · #Netflix · #服务拓扑 · #流式处理
随笔

知止有定,能择其要

《此心不息,万物常新》的外功篇。内功管’持续更新自己’,这篇管’把更新投向哪里、把能力变成资产’:一张从体能地基到网络资产的职业资本地图,AI 时代的重新定价,赛道与团队的选择判据,输出阶梯与现实仪表盘,砍到骨头的最小配置与失效条件。最后交代力与命的分界——资产是可控的力,定价是不可控的命;用外功把命的边界往外推,用内功在边界里面安住。
方糖猫 方糖猫 · · #方法论 · #程序员成长 · #能力地图