Higress
手机扫我访问

Higress

用于AI Agent开发和LLM API管理的AI原生API网关。

网址标签: #ai-代码编程与辅助 #新出AI

AI-native API gateway for AI Agent development and LLM API management.

什么是Higress.AI?

Higress是一个基于Istio和Envoy的AI原生API网关,支持用Go/Rust/JS编写的Wasm插件进行扩展。它提供AI网关、MCP服务器托管、Kubernetes入口控制器、微服务网关和安全网关。Higress AI网关提供多种模型灵活切换与回退重试、大模型内容安全与合规、语义缓存、多API Key均衡、Token配额管理与限流、大模型流量灰度、调用成本审计等功能,帮助企业开发Agent、管理LLM API。

如何使用 Higress.AI?

Higress可以用于开发AI Agents和管理LLM API。它提供多模型切换、内容安全、语义缓存、API Key均衡、Token管理、流量灰度和成本审计等功能。它还支持将现有的RESTful API转换为MCP服务器。

Higress.AI 的核心功能

AI网关
MCP服务器托管
Kubernetes入口控制器
微服务网关
安全网关
多模型灵活切换与回退重试
大模型内容安全与合规
语义缓存
多API Key均衡
Token配额管理与限流
大模型流量灰度
调用成本审计

暂无评论...
贡献者

admin
admin

共发布1.8万个产品

去看看
产品评分

目前还没有人对该AI工具打分哦~