Introduction

RunInfra是YC孵化团队RightNow做的模型推理API,专门托管开源大模型,比如Kimi K3、DeepSeek V4.1 Flash、GLM-5.3这些。一个API Key同时兼容OpenAI和Anthropic两套SDK,原本写好的代码改个地址就能接。

它主打的是“缓存便宜”。智能体每一轮对话都会把大段上下文重新发一遍,RunInfra会把同一会话固定路由到同一个热副本上,官方说缓存命中率能到98%,缓存输入最低0.01美元/百万token,优化一直做到GPU内核层。

另外还推出了编程套餐,可以给Claude Code、opencode等20多种编程智能体当后端,Starter 10美元/月起,额度每5小时和每周重置。适合自己跑智能体、对token账单敏感的开发者。


Visits:12
Updated:2026-11-06
1
Zlibrary
Zlibrary is known as the world's largest digital library, containing 9,826,996 e-books and 84,837,646 journal articles. From various well-known literary works, science and engineering, humanities and arts, to academic papers, etc.! Support PDF, epu
2
LinkFox AI
为跨境电商提供的AI工具
3
HeyGen
AI数字人视频生成
4
堆友AI
堆友是Alibaba Design打造的设计师全成长周期服务平台,围绕品质、效率、技能、成就、收入五大用户价值布局平台能力,全力服务设计师,旨在成为设计师的好朋友。 堆友历经大厂设计师团队多轮打磨雕刻,集海量高品质3D素材、实时在线渲染、多元场景功能应用、轻便好学易上手等多重优势于一身的设计神器,更自带免费可商用属性,为专业设计师、运营工友、学生小白、社交达人提供了一个零成本的在线设计站点和资源库。
5
PixPix
AI电商套图与视频生成
6
OptimizerAI
AI音效生成器,基于文本或音频生成无限高质量声音。
7
Riffusion
生成式AI乐器,能够根据文本提示创建、重混和分享高品质歌曲。
8
StockTune
StockTune provides AI-generated royalty-free music for content creators to use without attribution.
9
PDF Converter
Free online tool for converting and editing PDF files.
10
高性价比人生指南HowToLiveBetter
手机里还有哪些会员在自动扣费?常用邮箱的密码,有没有和其他网站重复?租房合同里,押金到底什么时候退? 这些事单独拿出来,都不算复杂。但没人提醒的时候,很容易踩坑。今天分享一个 GitHub 60.5k
1
Zlibrary
Zlibrary is known as the world's largest digital library, containing 9,826,996 e-books and 84,837,646 journal articles. From various well-known literary works, science and engineering, humanities and arts, to academic papers, etc.! Support PDF, epu
2
LinkFox AI
为跨境电商提供的AI工具
3
HeyGen
AI数字人视频生成
4
堆友AI
堆友是Alibaba Design打造的设计师全成长周期服务平台,围绕品质、效率、技能、成就、收入五大用户价值布局平台能力,全力服务设计师,旨在成为设计师的好朋友。 堆友历经大厂设计师团队多轮打磨雕刻,集海量高品质3D素材、实时在线渲染、多元场景功能应用、轻便好学易上手等多重优势于一身的设计神器,更自带免费可商用属性,为专业设计师、运营工友、学生小白、社交达人提供了一个零成本的在线设计站点和资源库。
5
PixPix
AI电商套图与视频生成
6
OptimizerAI
AI音效生成器,基于文本或音频生成无限高质量声音。
7
Riffusion
生成式AI乐器,能够根据文本提示创建、重混和分享高品质歌曲。
8
StockTune
StockTune provides AI-generated royalty-free music for content creators to use without attribution.
9
PDF Converter
Free online tool for converting and editing PDF files.
10
高性价比人生指南HowToLiveBetter
手机里还有哪些会员在自动扣费?常用邮箱的密码,有没有和其他网站重复?租房合同里,押金到底什么时候退? 这些事单独拿出来,都不算复杂。但没人提醒的时候,很容易踩坑。今天分享一个 GitHub 60.5k