抓取结果
NVIDIA AI 技术专区 NVIDIA AI 技术专区 NVIDIA AI 技术专区 NVIDIA技术博客在线研讨会NVIDIA 培训和认证 去全站搜索看看？ 登录 登录社区云 登录社区云，与社区用户共同成长 CSDN账号登录 NVIDIA AI 技术专区 邀请您加入社区 立即加入 欢迎加入社区 取消 确定 欢迎加入社区 取消 确定 搜索 NVIDIA 培训 | 限量 5 折首发——生成式 AI 全新 Professional 级别认证 NVIDIA AI 技术专区 2025-11-27 暂无图片 NVIDIA 培训 | AI 培训班新课发布，使用 Isaac 探索机器人仿真的巨大潜能 NVIDIA AI 技术专区 2025-11-20 暂无图片 2025年NVIDIA AI Open Day NVIDIA AI 技术专区 2025-11-20 释放算力潜能：TensorRT LLM ADP 平衡策略让推理吞吐量再提升 33% NVIDIA AI 技术专区 2025-10-31 暂无图片 NVIDIA 培训 | 免费报名开发者日 AI 实战培训和认证考试 NVIDIA AI 技术专区 2025-10-31 提问题 加入社区 NVIDIA AI 技术专区 https://nvidia.csdn.net 成员 分享最新的 NVIDIA AI Software 资源以及活动/会议信息，精选收录AI相关技术内容，欢迎大家加入社区并参与讨论。 欢迎加入社区 取消 确定 发布内容 类型 问答 讨论 标题 标签 无匹配数据 加载中 附件 添加附件 可以上传10M以内的文件，支持格式：zip,rar,7z,jpg,png,jpeg 注意：为提高问题回答效率，我们可能会把您的问题同步到CSDN等合作平台 取消 发布 专栏精选 AI Software AI Software AI 技术实践 AI 技术实践 线上/线下活动 线上/线下活动 NVIDIA 培训 | 限量 5 折首发——生成式 AI 全新 Professional 级别认证 NVIDIA 深度学习培训中心（DLI）发布全新 Professional 级别生成式 AI 认证科目NVIDIA-Certified Professional: Generative AI LLMs (NCP-GENL)，验证设计、训练和微调前沿大语言模型的技能。如果您是软件开发者，解决方案架构师，机器学习工程师，数据科学家或生成式 AI 的专家或资深爱好者 ，考取该项 NVIDIA 认证是您专 NVIDIA AI 技术专区 1天前 622 6 #人工智能 2025年NVIDIA AI Open Day 并以 verl 驱动的视觉语言模型强化学习为案例，为大家带来贯穿并行配置，内存估算到时序分析的强化学习工程方法论，展示我们在这一前沿领域的突破性成果。本次分享既涉及推理框架 TensorRT-LLM 在 DeepSeek-V3/R1 模型进行大规模专家并行部署的优化经验，也涵盖了 Blackwell 系列 GPU 通过 NVFP4 低精度进行推理部署来实现吞吐与模型精度兼顾的优化方案，以及针对面向 NVIDIA AI 技术专区 2025-11-20 14:06:06 328 3 #人工智能 NVIDIA 培训 | AI 培训班新课发布，使用 Isaac 探索机器人仿真的巨大潜能 课程结束后，学员将具备亲手搭建机器人仿真环境的能力，并能将合成数据工作流集成到其中，构建可扩展的仿真优先开发流程。由 NVIDIA 深度学习培训中心（DLI）举办的 NVIDIA AI 培训班推出机器人仿真开发新课程，欢迎热衷于机器人开发的工程师、研究人员、爱好者积极报名，系统掌握仿真环境搭建与开发流程，全面提升实战能力。11 月 27 日：使用 NVIDIA Isaac 加速机器人开发（2025 NVIDIA AI 技术专区 2025-11-20 14:05:00 634 8 #人工智能#机器人 TensorRT-LLM 1.2最新特性：如何用1行代码实现10倍推理加速？ TensorRT-LLM 1.2通过。 我就是全世界 2025-11-17 16:28:42 3263 35 #人工智能 使用 NVIDIA Grove 简化 Kubernetes 上的复杂 AI 推理 管理此类系统需要同步扩展和调度合适的 Pod，了解每个组件不同的配置和资源需求，按特定的顺序启动，并根据网络拓扑结构将它们部署在集群中。在图 1 中，PodClique A 代表前端组件，B 和 C 代表预填充主节点和预填充工作节点，D 和 E 代表解码主节点和解码工作节点。而开发的，它具有足够的灵活性，可以自然地映射到任何现实世界的推理架构，从传统的单节点聚合推理到具有多个模型的代理式。组，例如 NVIDIA AI 技术专区 2025-11-13 14:04:53 902 28 #人工智能 NVIDIA TensorRT LLM 1.2.0rc2z on ubuntu 25.10本地部署安装推理体验 本文记录了在Ubuntu 25.10系统上部署NVIDIA TensorRT LLM 1.2.0rc2的过程。作者使用Intel i5-1240P处理器和RTX2060 SUPER显卡的机器，尝试通过pip安装时遇到连接问题，最终通过指定NVIDIA PyPI源成功下载。但在安装过程中遭遇硬盘空间不足和依赖冲突问题，随后更换到配备4060Ti显卡的机器重新安装，又遇到大量依赖项安装需求。整个部署过 JesseCooper 2025-11-10 19:06:07 3034 4 #ubuntu#linux 在 AutoDL 上部署 TensorRT-LLM 实践 TensorRTLLM 1.0 实战 pluschen 2025-11-08 19:45:14 1779 26 #语言模型#深度学习 在windows 的WSL环境部署TensorRT 本文介绍了在WSL 2中安装TensorRT-LLM的详细过程。由于Windows下依赖包安装困难，选择使用WSL 2。关键步骤包括：创建conda环境、安装CUDA 12.9工具包（需注意WSL特有安装方式）、配置环境变量、安装必要库（如libopenmpi-dev）以及TensorRT-LLM本身，成功完成了所有组件的安装。最后通过官方示例验证了安装效果，能正常运行TinyLlama模型并生成 sanredfish 2025-11-06 22:29:24 2611 15 #windows#人工智能 Tensorrt-llm的基础演示使用#TensorRTLLM 1.0实战# 本文介绍了TensorRT-LLM的快速安装部署方法。TensorRT-LLM是NVIDIA推出的开源大语言模型推理优化库，能显著提升推理速度并降低成本。文章详细讲解了在Ubuntu 22.04系统下使用conda创建Python 3.10虚拟环境，通过pip安装TensorRT-LLM及其依赖的完整流程，并提供了安装验证代码。最后展示了一个简单的使用示例，包括模型量化配置、加载量化模型以及文本生 jdk12123 2025-11-06 09:44:34 2296 8 #nlp NVIDIA TensorRT LLM 1.0 心得 一开始想直接 pip install，结果发现官方 PyPI 包对驱动版本要求很严，折腾半天依赖冲突，干脆改用 NGC 上的官方 Docker 镜像（nvcr.io/nvidia/tritonserver:24.07-trtllm-python-py3）。拉下来之后启动容器，挂载本地模型目录，省去了环境配置的麻烦。另外，文档虽然齐全，但示例分散在 GitHub 和官网，新手容易迷路。，顺手在本地部 翎刿 2025-11-04 12:05:56 2264 7 加载更多 欢迎加入社区 取消 确定 NVIDIA AI 技术专区 加入社区 欢迎加入社区 取消 确定 提供社区服务与技术支持 提供社区服务与技术支持 ©1999-2023北京创新乐知网络技术有限公司 京ICP备19004658号
网站标题
NVIDIA AI 技术专区
关键词
NVIDIA AI 技术专区
站点描述
NVIDIA AI 技术专区 -分享最新的 NVIDIA AI Software 资源以及活动/会议信息，精选收录AI相关技术内容，欢迎大家加入社区并参与讨论。