产品介绍
Forge 能够自动将 PyTorch 模型转化为经过优化的 CUDA 和 Triton 内核。32 个 AI agent 并行运行，各自尝试不同的优化策略，例如张量核心、内存合并和内核融合。在性能基准测试之前，一个评判器会验证每个内核的正确性。我们在 Llama 3.1 8B 模型上实现了比 torch.compile 快 5 倍的推理速度，在 Qwen 2.5 7B 模型上快 4 倍。适用于任何 PyTorch 模型。提供单个内核的免费试用。如果性能未超越 torch.compile，将全额退还积分。
适合谁关注
- 开发者和技术团队
- 正在评估 AI 工具或智能体落地的团队
可借鉴场景
- 快速理解 Forge Agent 的定位、核心能力和 Product Hunt 热度
- 判断“将缓慢的 PyTorch 模型转化为高速 GPU 内核的集群智能体”这类需求是否值得做竞品调研
- 沿着 硬件、移动与平台、开发者工具 继续发现同类产品和替代方案
- 筛选高票产品，观察海外用户当前愿意投票支持的产品形态
110
投票数
4
评论数
1月23日
发布日期
作者自荐
总结
Forge Agent 瞄准了 AI 模型部署中的核心性能瓶颈——推理速度。它通过创新的"集群智能体"架构，将原本需要专家手动进行的底层 GPU 内核优化过程自动化、并行化。其核心价值在于，它并非提供一个固定的优化方案，而是让 32 个 agent 并行探索多种优化策略（如张量核心、内存合并），并通过一个"评判器"确保正确性，这类似于一个自动化的、大规模的 A/B 测试过程。目标用户是希望将 PyTorch 模型高效部署到生产环境，但又缺乏底层 CUDA 优化专长的 AI 工程师和团队。其"性能不达标则退款"的承诺，显示了团队对技术效果的强大信心。潜在挑战在于，对于极其复杂或非标准的模型架构，其自动化优化策略的普适性和最终效果可能面临考验。
GitMemo免费开源
把 AI 对话保存到你的 Git 知识库
本地优先，支持 macOS 与 Android。剪贴板、截图、笔记和文件都能集中保存、搜索、同步。
获取安装包
大家好，Product Hunt！ 如果性能未能超越 torch.compile， 将全额退还积分！！ 在 B200 上的真实结果： Llama 3.1 8B：比 torch.compile 快 5 倍 Qwen 2.5 7B：快 4 倍 SDXL UNet：快 3 倍