标签: 推理
京东与华为达成战略合作,重点攻坚“广告低时延推理”核心技术
从合作公告获悉，双方将成立联合创新项目，重点攻坚“广告低时延推理”核心技术。合作范围涵盖从底层硬件、基础软件到上层应用的全面优化，着力建设更高效的容器亲和调度与服务质量保障能力，确保广告服务在大促等极端流量下的...
上交联合UCSD突破LLM推理瓶颈,模型代码全开源
在大语言模型（LLM）落地应用中，推理速度始终是制约效率的核心瓶颈。传统自回归（AR）解码虽能保证生成质量，却需逐 token 串行计算，速度极为缓慢；扩散型 LLM（dLLMs）虽支持并行解码，却面临训练成本高昂、质量下降及 KV ...
马里兰大学突破:AI实现侦探式渐进推理探索
比如分析一张交通事故照片既需要演绎推理来理解交通规则，又需要猜测推理来推断事故原因，还需要检索推理来收集相关证据。这种多元化的要求使得V-REX成为了一个更加全面和贴近实际应用的评估平台。四、模型规模与推理能力：...
上海交大突破:大语言模型实现高效实时推理
研究团队发现，模型的推理过程可以分为两个主要阶段，就像阅读理解考试中的两个步骤一样。第一个阶段叫做"预填充阶段"，类似于考生仔细阅读题目的过程。在这个阶段，AI需要理解整个输入问题，处理所有的上下文信息。这个阶段的...
破解效率成本矛盾中国电信研究院取得大模型分布式推理技术突破
本报讯日前，中国电信研究院依托中国电信云网融合大科创装置智算资源，联合北京大学在大模型分布式推理优化领域实现了重大技术突破，攻克大模型推理效率与硬件成本的核心矛盾，成功打造出一套高效率、低成本的企业级LLM推理...
AAAI 2026 Oral|LENS:基于统一强化推理的分割大模型
尤其是在处理需要多步、复杂推理的未知指令时，性能会显著下降，其根源在于 SFT 方法在训练中忽略了动态的、显式的推理过程。为了 shatter 这一能力天花板，我们引入了 LENS（Learning to Segment Anything with Unified ...
老黄200亿「钞能力」回应谷歌:联手Groq,补上推理短板
而他的这一连串技术剖析，纷纷指向了英伟达帝国防守最薄弱的那块领土—推理。推理方面，Groq LPU的速度远超GPU、TPU，以及目前所见的任何ASIC。这一观点得到大量网友点赞： GPU架构根本无法满足推理市场对低延迟的需求，片外...
VideoCoF推出创新视频编辑技术,无需Mask实现高精度时序推理!
Reasoning（推理）：模型先预测出「推理帧」（Reasoning Frame），即用高亮区域明确指出「哪里需要编辑」。Editing（编辑）：基于推理结果，精准生成目标视频。这种显式的推理过程，让模型学会了主动建立编辑指令与画面区域的...
15%全量Attention!RTPurbo」阿里Qwen3长文本推理5倍压缩方案
RTP-LLM 是阿里巴巴智能引擎团队自研的高性能大模型推理引擎，支持了淘宝、天猫、高德、饿了么等核心业务的大模型推理需求。智能引擎源自阿里巴巴搜索、推荐和广告技术，是阿里 AI 工程领域的先行者和深耕者。团队专注于 AI ...
刘宇宁分别以《开始推理吧》常驻MC、《地球超新鲜》第二季固定成员、《折腰》主演
刘宇宁分别以《开始推理吧》常驻MC、《地球超新鲜》第二季固定成员、《折腰》主演（搭档宋祖儿）及个人身份亮相，覆盖推理综艺、旅行综艺、古装剧集和个人领域。
被开门杀了只能认了车停在单位没监控，被磕了，没办法，这种没有办法找，也不好推理
被开门杀了只能认了 车停在单位没监控，被磕了，没办法，这种没有办法找，也不好推理，就当鸟拉了一个石子砸的吧
DeepSeek发布V3.2正式版:强化Agent能力,融入思考推理
DeepSeek-V3.2的目标是平衡推理能力与输出长度，适合日常使用，例如问答场景和通用Agent任务场景。在公开的推理类Benchmark测试中，DeepSeek-V3.2达到了GPT-5的水平，仅略低于Gemini-3.0-Pro；相比Kimi-K2-Thinking，V3.2的...
DynaAct:DeepSeek R1之外,探索大模型推理的另一条道路
在 R1 与 O1 引领「深度推理」浪潮之后，大模型推理领域正迎来新的分叉点！大模型推理的爆发，实际源于 scaling 范式的转变：从 train-time scaling 到 test-time scaling（TTS），即将更多的算力消耗部署在 inference 阶段。...
李曼玲开源新训练框架VAGEN,让AI智能体学会看懂并推理动态世界
为了验证这种显性推理的效果，研究团队对比了五种不同的推理策略，其中包括从完全不思考（NoThink）到自由发挥（FreeThink），再到只做状态估计或只做转换建模的各种组合。结果显示，完整的WorldModeling策略（同时包含状态...