NVIDIA 与合作伙伴在 AI Day Singapore 展示东南亚 AI 进展
NVIDIA 在 9月22-23日的 AI Day Singapore 展示其与合作伙伴在东南亚推进 AI 从试点到生产的进展。
NVIDIA 在 9月22-23日的 AI Day Singapore 展示其与合作伙伴在东南亚推进 AI 从试点到生产的进展。
埃及 AI 生态正从赋能走向生产规模,NVIDIA 活动展示了本地开发者、初创和企业的行业应用。埃及 NVIDIA Deep Learning Institute 学员一年增长逾10倍,Hassan Allam Utilities 与 A15 拟投约 $400 million 建数据中心。
Hugging Face 介绍 tokenizers v1 release candidate,称其在 Apple M4 Max 单线程下对十个模型家族的编码速度较 v0.23 快 3 到 30 倍。
推荐理由:文章给出性能数据和实现拆解,可帮助判断 tokenizers v1 对训练与服务瓶颈的影响。
TRL v1.14 的 AsyncGRPOTrainer 现在可训练 LoRA adapter,并只把该 adapter 同步到 vLLM。
推荐理由:文章把 LoRA 适配器同步、HF Jobs 编排和瓶颈定位串成可复现实验,便于迁移到异步 RL 训练。
Hugging Face Blog 用 TRL 和 GRPO 微调 LFM2.5-350M,在 IFStruct 上把通过率从 22.6% 提升到 29.7%。
推荐理由:原文把训练数据改造、奖励函数和本地评测命令连在一起,便于复现实验并迁移到结构化输出任务。
作者用 TRL 和 OpenEnv 复现了让编码模型写 JavaScript 绘制水彩画的训练流程,并公开了参考池数据集、RL 环境、训练脚本和训练模型。流程让模型通过 p5.brush 生成约 150 行 JavaScript,用 gate、长度、pairwise judge 和 HPSv3 组成奖励,其中参考池包含 178 幅由作者手工评级的模型生成画作。
推荐理由:文章把审美奖励训练拆成数据池、环境、评审模型和成本,适合作为复现同类实验的工程参考。
Sentence Transformers v6.0 引入第四种模型类型 MultiVectorEncoder,用于 ColBERT-style late interaction retrieval,并给出完整训练方法。
推荐理由:文章把训练脚本、评测对比和索引压缩放在同一流程中,便于迁移到垂直领域检索场景。
Hugging Face 提出 Quantization-Aware Healing,将 GPT-OSS 120B 压缩到 60B 并量化为 MXFP4 后,在 9 个 benchmark 中有 7 个超过对应 60B bfloat16 checkpoint。QAH 直接从压缩前原始模型蒸馏,并用分块 KL-divergence loss 支持最长 32k tokens 的 healing。
Hugging Face Blog 介绍了 Strands Robots 中的流式数据闭环,用一个 agent 循环录制机器人演示、把 LeRobotDataset 同步到 Storage Bucket、从 Hub 流式读取训练,并将 checkpoint 部署回硬件。
推荐理由:文章把录制、同步、流式训练和部署串成同一流程,便于复用到机器人数据采集闭环。
OlmoEarth Studio 现在支持计算并导出由开源 OlmoEarth 基础模型生成的地球观测嵌入向量,用于下游分析。
Microsoft Research 介绍 CARE-X,这是一个面向胸部 X 光多任务解读的统一放射学 VLM 研究模型,可生成报告、做结构化预测并给出可调阈值的置信分数。
Multiverse Computing 的论文 Efficient Knowledge Distillation for LLMs: Offline Top-K Logits and a Fused Chunked KL Loss 提出两项系统改动,用于降低 LLM 知识蒸馏成本。
Google DeepMind 表示 WeatherNext AI 模型在 Nature 论文中达到气旋路径、强度和风结构预测的 state-of-the-art 准确率,平均让预报员多获得约 1 天预测准确性。
推荐理由:原文同时给出 Nature 论文评测、飓风季案例和开源入口,便于理解 AI 天气模型如何辅助预警。
企业 AI 的新瓶颈正从模型智能转向 GPU 利用率,闲置 GPU 像停场飞机一样持续消耗成本。GPU 成本按日历小时累积、产出按 compute hour 产生,API token 成本推动企业自建 GPU 集群,但按峰值配置会带来闲置。
NVIDIA 推出 Cosmos-H-Dreams,这是面向手术机器人的实时、动作条件生成式仿真模型。它将 Cosmos-H-Surgical-Simulator 蒸馏为因果、少步学生模型,并通过 FlashDreams 提供流式推理,在单张 NVIDIA RTX PRO 6000 上达到交互式运行约 ~160 frames per second。
推荐理由:原文同时交代蒸馏流程、FlashDreams 推理优化和开放资源,便于理解世界模型如何进入闭环机器人训练。
Grabette 发布为一个开源、低成本的手持夹爪系统,用于在没有机器人、实验室或遥操作装置的情况下记录机器人操作数据。它包含 Grabette 手持示教设备和 Gripette 机器人夹爪,BOM 成本分别约为 490€ 和 120€,并通过浏览器处理流程把采集片段上传到 HF Hub、运行 SLAM、转换为 LeRobot 数据集。
推荐理由:原文把硬件、采集流程和 LeRobot 数据格式串起来,展示低成本采集机器人操作数据的路径。
Mistral AI 发布 Robostral Navigate,这是其首个面向具身导航的 8B 模型,可用单个 RGB 摄像头和自然语言指令让机器人在环境中移动。
推荐理由:原文同时给出传感器配置、基准成绩和训练流程,便于比较具身导航路线的取舍。
Mistral AI 推出 Forge,帮助企业用专有知识训练面向内部流程的 AI 模型。Forge 支持预训练、后训练、强化学习、dense 与 MoE 架构,以及按需处理多模态输入。Mistral Vibe 等智能体可用它微调模型、寻找超参数、调度任务并生成合成数据。
Mistral AI 宣布作为创始成员加入 NVIDIA Nemotron Coalition,并与 NVIDIA 计划共同开发前沿开源 AI 模型。Mistral AI 将贡献专有训练技术、多模态能力和企业级微调工具,同时利用 NVIDIA 的计算资源、模型开发工具和合成数据生成流水线;文中还提到 Mistral AI 今天发布 Mistral Small 4。
OpenAI 研究发布 gpt-oss 可能带来的最坏前沿风险,重点评估开放权重 LLM 的潜在滥用能力。研究引入 malicious fine-tuning(MFT),通过在生物学和网络安全两个领域微调 gpt-oss,尝试诱发其最大能力。
OpenAI 研究了在错误响应上训练如何导致语言模型出现更广泛的未对齐,并识别出驱动这一行为的内部特征。该特征可以通过少量微调逆转。