AI · AGENTS · KNOWLEDGE
本地与开源模型
整理公开模型、本地运行和模型卡资料。
内容目录
2 条内容技术动态本地与开源模型NVIDIA 发布 DIN Deploy:用 C++ 与 TensorRT RTX 构建本地 AI 应用 NVIDIA 开发者博客介绍了开源项目 DIN Deploy,提供结合 ONNX Runtime 与 TensorRT RTX 执行提供器的 C++ 示例,覆盖语音识别、交互式分割和图像生成,并给出 DGX Spark 上的 GPU/CPU 性能对比。开发文档本地与开源模型Qwen3 项目说明:Qwen3-2507 更新与本地部署要点 Qwen3 仓库介绍了 Qwen3-2507 系列(Instruct 与 Thinking 两种变体,235B-A22B、30B-A3B、4B 三种规模)的能力改进、上下文长度支持,以及 Transformers、llama.cpp、Ollama、vLLM、SGLang 等运行与部署方式。