MeowCLI

花月喵梦 · nekohy.MeowCLI

一个用于 CLI 反代的项目,追求更高性能,更优调度

一个注重高性能与调度的 API 转发服务 特性 - 开箱即用,支持 SQLite / PostgreSQL,并通过 sqlc 生成代码以优化查询性能 - 冷启动/重启秒恢复状态 - 跟随对话/定时同步额度,综合 5 小时与 7 天窗口的额度,重置时间和错误率评分,优先选择更优凭据,而不是随机选择 - 单凭据每 Tier 隔离,一个模型不可用不会影响其他 - 可以单独指定某模型的调用套餐类型(如 pro/free),也可指定调用顺序 - 请求失败后自动触发基于 Retry-After 或指数退避的临时熔断 - atomic 和 otter 缓存层,规避高延迟 SQL 操作 - 支持自定义插件,可快速进行自己想要的请求改写(详见 plugin/readme.md) - 支持创建多个 Key 用于内部分发 - 前端使用 Nuxt SSG 构建,且符合 MD3 风格

winget install --id nekohy.MeowCLI --exact --source winget

Latest 1.4.4

Release Notes

Installer type: portable

Architecture Scope Download SHA256
x64 Download DFAD83120620631CE8E011DC6FF6E8008A1E75ED1D2EC12674F70D3183EA510F
arm64 Download 23AE34140D4922024EDD30079FFD90071B16B19E6DFE585E85EA181BA4B14A50

Details

Homepage
https://github.com/nekohy/MeowCLI
License
GPL-3.0
Publisher
花月喵梦
Support
https://github.com/nekohy/MeowCLI/issues

Tags

人工智能代理大语言模型