日榜

面向 Apple Silicon Mac 的 Gemma 4 26B-A4B 本地推理运行时，旨在让 8 GB 内存设备在不完整载入模型的情况下运行该模型。可通过原生 macOS 应用、命令行接口或本地 OpenAI 兼容服务进行文本问答、指令执行、对话和图片内容理解。

面向开发者和安全团队的开源 AI 渗透测试工具，可对获授权的应用、API、基础设施和云系统进行侦察、漏洞利用与验证，并通过实际概念验证减少误报；支持协作测试、生成修复补丁、复现材料和合规报告，适用于应用安全、快速渗透、漏洞赏金及持续集成检测。

这是一个帮助 AI 编程代理压缩回复、日志、代码、差异和搜索结果的工具，减少冗余信息，同时保留代码、命令、路径及完整错误。典型用途包括精简代理输出、生成提交信息和可执行的代码审查结果。

用于大语言模型推理与服务的库，支持多种模型架构、硬件平台、量化方式和解码算法。它可用于部署兼容 OpenAI 等接口的模型服务，并提供流式输出、结构化输出、工具调用及分布式推理等能力。

提供统一 OpenAI 格式接口的 AI Gateway 和 Python SDK，用于访问 100 多个模型提供商及聊天、嵌入、图像、音频等能力。它解决不同提供商在 SDK、认证、请求格式和错误类型上的差异，适用于应用集成及团队集中管理模型访问、权限和成本。

为 AI 助手和智能代理提供记忆层，保存用户偏好、会话信息与代理状态，并支持持续学习和个性化交互。典型用途包括个性化对话、客户支持、医疗记录管理，以及根据用户行为调整生产力工具和游戏体验。

这是一个面向手机和电脑的 MoE 模型本地推理项目，支持在纯 CPU 和内存受限设备上运行超过可用 RAM 容量的模型。典型用途包括通过 Android 应用在手机上进行大型 MoE 模型对话，以及在桌面设备上运行超出内存容量的模型并查看运行状态。