Posts
·
#Netflix
·
#多模态
·
#CLIP
Netflix MAPS 笔记:让推荐模型「看见」素材,冷启动就不冷了
Netflix 技术博客 MAPS 一文的学习笔记:素材个性化(海报、视频预览)长期受困于冷启动——新素材没有交互历史,模型把它当成不透明 ID,只能靠探索流量和人气启发式硬扛;解法是把 CLIP、MediaFM 等多模态向量直接拼进素材表示,让模型「看见听见」素材内容,偏好沿向量空间即时迁移;由此五个画布模型合并为一个,配合长期奖励加权和 IPS 离线评估,消融实验显示两个成分缺一不可(V3 在 short-panel 上提升 5.691%);视频侧 MediaFM 以 8000 万镜头训练、融合视觉音频文本三模态,排序 MediaFM > SeqCLIP > 纯 ID;另有线性探针代理任务低成本筛选向量、Embedding Store 解耦地基模型与下游上线。对工程师的启示:内容特征不工作时先找第二个阻塞因子,评估体系的纯度比模型更重要。
阅读全文
Posts
·
#数字人
·
#LiveTalking
·
#源码分析
LiveTalking 源码解剖:一个开源实时数字人是怎么跑起来的
以 lipku/LiveTalking(插件化 fork 版)为样本,逐模块解剖一个真实开源实时数字人的架构:wav2lip/musetalk/ultralight 三种形象驱动方案怎么选、四线程三队列的渲染管线怎么省 GPU、逐环节耗时分析(哪些流式哪些攒批)、TTS 插件机制、aiortc 推流细节,附安装/模型/素材三级避坑清单、上线隐患分析,以及它距离商业级产品还差什么。适合读完概念篇后想动手的人。
阅读全文
Posts
·
#数字人
·
#虚拟数字人
·
#ASR
数字人链路从 0 到精通:新人也能看懂的学习总结
用一条「耳朵-眼睛-大脑-嘴巴-脸-身体」的拟人化主线,拆解实时交互数字人的完整技术链路(VAD/ASR、视觉感知、LLM、TTS、口型驱动、渲染、WebRTC),附 Mermaid 架构图、延迟预算表、避坑清单、典型问题解决方案,以及元宇宙视角下的数字人定位。适合零基础新人建立全局认知。
阅读全文
Posts
·
#创业
·
#Hacker News
·
#AI
从 HN 招聘帖看创业活路:740 家公司教我的事
Hacker News 每月的 Who is hiring 帖子是一份被低估的创业样本库——还在招人的公司,大概率是活下来的公司。我抓取了 2026 年 7 月(410 条)和 8 月(330 条)两期招聘帖做了统计和逐条阅读,归纳出五条当下仍然走得通的创业路径,以及一个月之间发生的风向变化。
阅读全文
Posts
·
#LLM
·
#大模型训练
·
#Transformer
大模型是怎么炼成的?LLM 训练全流程数学拆解(公式 + 演算 + 避坑)
用中学生能看懂的数学语言,拆解 LLM 从数据预处理、Tokenization、Transformer 前向传播、Attention 计算、Cross Entropy 损失、反向传播到 AdamW 优化、RLHF 的完整训练流程,附 Mermaid 图解、计算例子和避坑指南。
阅读全文
Posts
·
#Agent
·
#Multi-Agent
·
#AgentScope
Agent-Chat:基于 AgentScope 2.0 + Mem0 的多 Agent 群聊陪伴系统
介绍 我开发的Agent-Chat:一个开源的多 Agent 群聊陪伴系统。它用 FastAPI 提供实时 WebSocket 群聊,用 AgentScope 2.0 管理多个可配置人格的 AI Agent,用 DeepSeek 驱动对话,用 Mem0 + Qdrant + BGE 系列嵌入模型实现分层的长期记忆,让一群 AI 像真人朋友一样陪你聊天。
阅读全文
Posts
·
#Netflix
·
#GenRec
·
#推荐系统
GenRec 笔记:Netflix 怎么把推荐排序器做成 LLM 原生
Netflix 技术博客原文研读:GenRec 是一个用 LLM 做推荐排序的系统——把用户历史、上下文、物品元数据全部文本化(verbalize),在 Netflix 自有语料上适配的基座 LLM 上再做排序后训练,挂一个目录感知打分头,用奖励加权损失对齐长期价值,线上 prefill-only 推理控成本。结果是:Phase-2 标注样本少用 10-40 倍,离线 MRR 反而高约 1.6%,大规模 A/B 测试短期和长期指标均显著为正。它的真正信号是:推荐系统的工程重心正在从特征工程转向上下文工程。
阅读全文
Posts
·
#Netflix
·
#LLM Serving
·
#VLLM
Netflix 自建 LLM 推理平台笔记:四个层层相扣的决策
Netflix AI Platform 团队复盘其自建 LLM 推理平台的技术决策:引擎从 TensorRT-LLM 换成 vLLM(自定义架构免编译、调试性、可扩展钩子),打包选 Triton vLLM backend(JSON 配置动态生成 I/O 规格,代价是版本必须锁死),API 面同时暴露 gRPC 与 OpenAI 兼容接口(发现并补上了 response_format 被静默丢弃的坑),部署提供 Red-Black 与 Versioned 两种策略以应对 I/O schema 变更的协调难题;最硬核的一节是约束解码从 vLLM V0 逐请求串行(GIL 导致 CPU 随 batch 线性增长)迁移到 V1 批级处理并用 C++ 重写热路径,以及 partial prefill 和 preemption 两个状态机陷阱。对工程师的启示:性能瓶颈只在真实并发下现形,状态假设要在引擎语义变更时重新审计。
阅读全文
Posts
·
#GeekCast
·
#OpenCut
·
#视频剪辑
GeekCast vs OpenCut:两款视频编辑项目的功能对比
对比分析我开发的GeekCast(极客口播自动化剪辑工具)与开源项目 OpenCut 在定位、功能、架构与成熟度上的差异,帮助读者根据场景选择合适的视频编辑方案。
阅读全文
Posts
·
#Netflix
·
#服务拓扑
·
#流式处理
Netflix 服务拓扑系统笔记:实时依赖地图是怎么被生产环境捶出来的
Netflix 技术博客服务拓扑系列的第二篇,讲怎么做而不是做了什么:为了实时服务依赖地图,他们用流式优先架构替掉批处理,靠反应式流背压扛住每秒百万级流记录,用三级分布式聚合管线解决网络中间件解析和热点节点两个看似无关的问题,并实现了拓扑的时间旅行查询。全文最有价值的不是架构图,而是 V1 上生产后连环暴露的九个瓶颈,以及一条贯穿始终的方法论:测量驱动,一次只修一个瓶颈,规模会定性改变一切结论。
阅读全文