Posts
·
#数字人
·
#虚拟数字人
·
#ASR
数字人链路从 0 到精通:新人也能看懂的学习总结
用一条「耳朵-眼睛-大脑-嘴巴-脸-身体」的拟人化主线,拆解实时交互数字人的完整技术链路(VAD/ASR、视觉感知、LLM、TTS、口型驱动、渲染、WebRTC),附 Mermaid 架构图、延迟预算表、避坑清单、典型问题解决方案,以及元宇宙视角下的数字人定位。适合零基础新人建立全局认知。
阅读全文
Posts
·
#LLM
·
#大模型训练
·
#Transformer
大模型是怎么炼成的?LLM 训练全流程数学拆解(公式 + 演算 + 避坑)
用中学生能看懂的数学语言,拆解 LLM 从数据预处理、Tokenization、Transformer 前向传播、Attention 计算、Cross Entropy 损失、反向传播到 AdamW 优化、RLHF 的完整训练流程,附 Mermaid 图解、计算例子和避坑指南。
阅读全文
Posts
·
#Netflix
·
#GenRec
·
#推荐系统
GenRec 笔记:Netflix 怎么把推荐排序器做成 LLM 原生
Netflix 技术博客原文研读:GenRec 是一个用 LLM 做推荐排序的系统——把用户历史、上下文、物品元数据全部文本化(verbalize),在 Netflix 自有语料上适配的基座 LLM 上再做排序后训练,挂一个目录感知打分头,用奖励加权损失对齐长期价值,线上 prefill-only 推理控成本。结果是:Phase-2 标注样本少用 10-40 倍,离线 MRR 反而高约 1.6%,大规模 A/B 测试短期和长期指标均显著为正。它的真正信号是:推荐系统的工程重心正在从特征工程转向上下文工程。
阅读全文
Posts
·
#Netflix
·
#推荐系统
·
#生成式推荐
GenPage 学习笔记:Netflix 用一个 Transformer 直接生成整个首页
Netflix 技术博客的 GenPage 论文解读:把首页构建从「多级召回排序流水线」改写成「prompt 进、页面出」的序列生成问题——用户历史与请求上下文编码为自定义 token 序列作 prompt,decoder-only transformer 自回归生成含行、实体、布局的整个首页;训练照搬 LLM 配方(next-token 预训练 + WBC 或 RL 后训练),上线靠自定义 tokenizer、语义 embedding 融合解决冷启动、多节奏增量训练保鲜、约束解码执行业务规则、混合行解码压延迟。线上 A/B 对成熟多级系统核心指标显著提升且端到端延迟降 20%;离线最有价值的结论是:在当前阶段,丰富 prompt 的收益(WBC loss 降约 6.9%)远大于模型扩容 7.5 倍(降约 1.3%),且 RL 后训练在不含多样性目标的情况下反而提升了页面多样性。
阅读全文
Posts
·
#Agent Memory
·
#Mem0
·
#LLM
Agent Memory 科普:用 Mem0 给 AI 加上长时记忆
介绍 Agent Memory 的概念与分类,并以 GitHub 4.9 万星的 mem0 为例,讲解它如何作为长时记忆中间件,为 LLM 应用提供统一、可插拔的记忆能力。
阅读全文
Posts
·
#AI Agent
·
#React
·
#LLM
方糖猫 AI 视频平台:ReAct Agent 任务规划实战
分享我在方糖猫 AI 视频平台中,如何使用 ReAct Agent 将’文案 → 成片’的复杂流程拆解为可编排、可观测、可恢复的任务流水线。
阅读全文
Posts
·
#Netflix
·
#因果推断
·
#Agent
Netflix 的因果推断 Agent 工作流:没有标准答案时,怎么审计一个 AI
研读 Netflix 技术博客《A Human-Augmenting Agentic Workflow for Causal Inference》:观测性因果推断(OCI)没有 ground truth,无法拿结果对错来评估 agent,Netflix 的解法是 Principal-Actor-Critic 三角色的 actor-critic 工作流——agent 按模板化脚手架执行分析并跑全套设计诊断(协变量平衡、重叠性、安慰剂检验、敏感性分析),同时产出可复现的 notebook 和报告供人类做「过程审计」;案例里脚手架把估计值修正到裸调模型的四分之一,ACIC 2016 数据集评测显示 critic 能把好估计和坏估计分开,带脚手架的 LLM 十个数据集复原九个真值,裸调则全军覆没。
阅读全文
Posts
·
#RAG
·
#LLM
·
#向量检索
RAG 系统完全笔记:从检索器到生产部署
基于吴恩达 DeepLearning.ai《Retrieval Augmented Generation》课程,我自己梳理了RAG 的核心组件:检索器、向量库、文档分块、查询重写、重排序、LLM 生成与生产部署要点,并给出各环节的落地工具与最佳实践。
阅读全文
Posts
·
#LLM
·
#JSON Schema
·
#Pydantic
LLM 输出 JSON 不稳定:Schema + 重试的实战方案
分享在方糖猫和 GeekCast Engine 中,如何通过 JSON Schema、Pydantic 校验和分层重试机制,把 LLM 结构化输出的成功率稳定在 98% 以上。
阅读全文
Posts
·
#Prompt Engineering
·
#LLM
·
#AI 工程
AI 工程师的 Prompt 工程:不是玄学,是工程实践
从我开发的真实的 AI 开发 Prompt 规则库(keframework-aidev-promptkit)和 AI 视频生成管线的实践出发,系统拆解 Prompt 工程:接口化设计、上下文工程、分层规则、Memory Bank、PLAN/ACT 双模式、Agent 编排、幻觉控制、多模态提示与评估回归。
阅读全文
Posts
·
#Whisper
·
#LLM
·
#Remotion
口播视频自动剪辑:Whisper 词级时间轴 + LLM 视觉规划
分享我开发的 GeekCast Engine 口播自动剪辑平台的技术实现,包括 Whisper 词级转写、LLM 视觉元素规划、Remotion 组件化渲染与长视频 Token 限制处理。
阅读全文
Posts
·
#Netflix
·
#LLM
·
#后训练
Netflix 的 LLM 后训练框架:从「跑通脚本」到「管好四根支柱」
Netflix 技术博客介绍了其内部 LLM Post-Training Framework:后训练在大规模生产环境里本质是工程问题而非建模问题,框架围绕 Data、Model、Compute、Workflow 四根支柱提供标准化配方(SFT、DPO、RL、蒸馏),底层跑在 Mako、PyTorch、Ray、vLLM 之上。三个核心教训:从 SFT 的 SPMD 模型演进到 RL 的「单控制器 + SPMD」混合架构(集成 Verl 做编排);全面拥抱 Hugging Face 生态,用 AutoTokenizer 作为唯一事实源消除训练-推理 skew,并用 AI coding agent + logit verifier 自动桥接新模型架构;差异化价值投在 on-the-fly sequence packing(吞吐提升最高 4.7 倍)和 vocab size 对齐 64 这类深水区优化上。对工程师的启示:训练框架的价值不在堆组件,在于把分布式系统的坑变成配置项。
阅读全文