排序 相关度 时间
共 460 条 · 0.285 秒
82搜索为您找到约 460 条结果
coreshub.cn 网页 综合
模型推理-基石智算
…力基础设施,助力 AI 技术快速应用于各行各业 灵活部署于智算平台、AI 云、软硬一体机与边缘节点,支持 NLP 与 CV 等多任务推理,如文本生成、情感分析、图像识别、目标检测等,提升推理效率、准确率与生成质量。 传统模式下,企业往往面临算力资源不足、维护成本高、响应速度慢等问题,限制了 AI 项目的快速推进。 AI 技术的快速发展使得非专业开发者难以快速上手,模型部署与优化…
2026-11-14 自动蜘蛛 相关度 57.1
kcool.cn 网页 综合
DeepSeek AI助手:开源推理大模型,深度思考与联网搜索 - K库网
DeepSeek是深度求索推出的AI助手,基于自研开源大模型,以强大推理能力著称,支持深度思考(R1)、联网搜索、长文本处理,API定价低,在代码和数学推理上表现突出。 DeepSeek是深度求索(DeepSeek)推出的AI助手,基于自研的开源大模型。深度求索由幻方量化创始人梁文锋创立,其DeepSeek系列模型在开源社区爆火,2025年初一度登顶多国App Store下载榜…
2026-11-15 自动蜘蛛 相关度 49.6
www.nvidia.cn 网页 综合
AI 智能体:专为推理、规划、行动而打造 | NVIDIA
…rs specific to your country. 加速基础设施、企业 AI 软件与先进的 NVIDIA AI 模型 用于进行推理、规划和行动的 AI 智能体的构建模块 经过优化的推理平台,用于高效的 AI 模型部署 由 AI 驱动的用于检测和防范威胁的网络安全解决方案 利用 NVIDIA AI 平台加速数据科学工作流 用于推理、编码、视觉、可扩展企业级应用的开放 AI …
2026-11-13 自动蜘蛛 相关度 49.5
www.niutoushe.com 网页 综合
聆思科技完成近5亿元B轮融资,资金用于端侧AI推理芯片研发 - 牛透社
聆思科技完成近5亿元B轮融资,资金用于端侧AI推理芯片研发 牛透社 7 月 10 日消息,聆思科技宣布完成 B 轮融资,融资金额达近 5 亿元,由安徽省与合肥市多家国资平台联合战略领投,深报一本、天智投资、科讯创投、盈科投资等跟投。 聆思科技专注于端侧大模型 AI 推理芯片研发。本轮资金将用于新一代端侧大模型 AI 推理芯片研发,公司首颗端侧大模型 AI 推理芯片 Nebula…
2026-11-15 自动蜘蛛 相关度 47.1
www.ai-observer.cn 资讯 科技
大语言模型推理成本优化:量化、蒸馏与批处理
大模型推理成本主要来自显存占用与算力消耗。量化把权重从高精度压到低比特,蒸馏用小模型学习大模型输出,批处理则提高硬件利用率。三者可以叠加,但要分别评估精度损失,尤其是长文本与多轮对话场景。 RAG 的思路是先检索、再生成:把业务文档切块存入向量库,用户提问时召回相关片段,连同问题一起交给模型。效果好坏取决于切块粒度、召回质量与提示词组织,模型本身反而不是唯一变量。 如果你正在做…
2026-04-15 智能观察 相关度 45.0
tech.meituan.com 网页 综合
SLM 生成式高并发推理引擎:延迟约束下的有效吞吐优化 | 美团 · 技术团队
搜索和推荐场景中想要使用语言模型提高在线效果,往往面临着在线极低延迟的约束,现有通用大模型推理引擎并非在这一延迟约束下设计,因此本文从「具有确定 decode 次数上界的请求」这一工作负载出发,重新设计在线执行路径:以静态 DAG 组织完整业务请求,结合 AOTInductor 编译、Packed Prefill、请求内 K/V 共享及选择性 FP8,系统性压缩调度与计算开销。…
2026-11-14 自动蜘蛛 相关度 44.6
www.qingcloud.com 网页 综合
青云云易捷-轻量化私有云 | K8s统一调度、AI推理支撑的VM容器混合负载平台 | 青云QingCloud
…AI】(如推荐系统、图像识别)。 价值:混合调度平台能将CPU/内存/GPU算力整合成统一资源池,研发/测试/生产的VM、容器、AI推理负载按需调度、弹性伸缩,解决算力孤岛、资源利用率低(如GPU闲时浪费)的问题。 场景:普遍面临CPU算力紧张、GPU算力昂贵且利用率低的问题。 价值:混合调度平台能实现CPU/GPU异构资源的统一调度,比如GPU闲时可按需分配给轻量容器业务,C…
2026-11-14 自动蜘蛛 相关度 43.2
tech.meituan.com 网页 综合
美团 LongCat-2.0 正式发布:在国产算力集群上完成全流程训练与推理的万亿参数模型 | 美团 · 技术团队
…30日,美团正式发布新一代万亿参数大模型 LongCat-2.0,并将对外开源。 作为业界首个在五万卡国产算力集群上完成全流程训练与推理的万亿参数模型(总参数 1.6 T,平均激活约 48 B,动态范围 33B~56B),LongCat-2.0 从零开始预训练,原生支持 1M 超长上下文,其架构设计自始至终围绕一个核心目标:让模型在真实的 Agentic Coding 任务中,…
2026-11-13 自动蜘蛛 相关度 42.2
www.caixin.com 网页 综合
智谱认领神秘模型“牛来” 测试期国产芯片提供全部推理算力_财新网_财新网
【财新网】8月26日晚间,智谱上线并开源GLM-5.3-Flash。该模型参数量低于GLM-5.3,价格为GLM-5.3的1/10,且在测试期间由国产芯片提供全部算力支持。 根据智谱发布的公告,GLM-5.3-Flash是GLM-5系列的首个原生多模态模型,有百万上下文,该模型参数320B,低于GLM-5.3及GLM-5.2的744B,且能力超过GLM-5.2。 GLM‑5.3…
2026-11-14 自动蜘蛛 相关度 28.5
www.pcsoft.com.cn 网页 综合
PC下载网—官方软件下载大全_绿色免费软件下载网站
…产品,由北京笔墨留香科技有限公司运营,汇集海量真人短剧、AI 短剧以及电影、小说、有声书等多元内容。平台覆盖都市爱情、古装逆袭、悬疑推理、玄幻修仙、打脸虐渣、豪门恩怨等多种题材,剧情节奏紧凑、更新频繁,用户可以按分类和榜单查找感兴趣的剧集。 暴风少年,准备好再次和兄弟们并肩作战了吗 Adobe Reader XI 谷歌浏览器 Microsoft Edge浏览器 WinRAR u…
2026-11-17 官方来源 相关度 17.9
第 1 / 46 页