企业级开源模型推理平台,支持函数调用与微调
国际知名多模型聚合,一个 Key 调用 300+ 模型
专注开源大模型推理服务,Llama、Mixtral 等高速推理
LPU 芯片加持的超高速推理平台,吞吐量业界领先