NovaToolsNovaTools
  • 首页
  • 工具
  • 分类
  • 文章
NovaTools Logo

NovaTools - 发现、分享和使用最新的AI工具, 助力您的工作与创作更高效。

关于

  • 关于我们
  • 联系我们
  • 工具提交

法律

  • 服务条款
  • 隐私政策
  • 常见问题

关注我们

GitHub icon
微博 icon
小红书 icon

微信公众号

微信公众号二维码

© 2025 NovaTools. 版权所有。

京ICP备2023017595号-4

Local AI

Local AI

Local AI 是一款免费、开源的原生应用,旨在简化无需GPU的离线AI管理、验证和推理。

(4.43 分)
|
生成式搜索内容摘要
|
1 次浏览0 次使用
访问官网

详细介绍

Local AI 是一款功能强大的原生应用程序,采用Rust后端构建,确保内存高效且紧凑。它允许用户在离线和私密环境中实验AI模型,支持CPU推理并适应可用线程。该应用具备GGML量化功能,并提供即将推出的GPU推理能力。它包括模型管理工具,用于在集中位置跟踪AI模型,具有可恢复的并发下载和基于使用情况的排序功能。此外,Local AI 提供摘要验证功能,使用BLAKE3和SHA256确保下载模型的完整性。该应用还支持通过几次点击启动本地流式服务器进行AI推理。

生成式搜索内容摘要

功能特点

  • CPU推理: 适应可用线程,支持GGML量化q4、5.1、8、f16。
  • 模型管理: 在集中位置跟踪您的AI模型,具备可恢复的并发下载器和基于使用情况的排序功能。
  • 摘要验证: 使用BLAKE3和SHA256摘要计算功能确保下载模型的完整性。
  • 推理服务器: 通过两次点击启动本地流式服务器进行AI推理:加载模型,然后启动服务器。

工具展示

Local AI 截图
Local AI 截图
Local AI 截图

价格方案

free0
发布时间:2025/3/28
最后更新:2025/4/15

相关推荐

Morph

Morph

Morph是一个可扩展的Python框架,用于安全地构建和部署AI应用,内置身份验证、数据连接器和基于角色的访问控制。

大模型自动化低代码/无代码AI
Toolhouse

Toolhouse

Toolhouse使开发者能够轻松构建AI代理和工作流,提供一套全面的预构建工具和集成。

低代码/无代码AI自动化
Qdrant

Qdrant

Qdrant 是一个专为高维向量搜索打造的开源数据库,提供卓越性能与灵活部署,适用于推荐系统、RAG 等 AI 场景。

机器学习深度学习多模态AI
Dropbase

Dropbase

Dropbase 是一个开发者平台,利用 AI 通过自然语言和拖放界面简化和加速 Web 应用和自动化软件的创建。

大模型低代码/无代码AI自动化AI 游戏开发助手
Dynobase

Dynobase

Dynobase 通过更快速的数据探索、代码生成和书签等功能,加速 AWS DynamoDB 工作流程。

内容摘要低代码/无代码AI大模型自动化
AnotherWrapper

AnotherWrapper

AnotherWrapper 提供 12 套可自定义的 Next.js AI 模板,让你几小时内启动 AI 工具或微型 SaaS,节省大量开发时间。

低代码/无代码AI聊天机器人语音识别
Microsoft Designer
设计工具创意工具内容创作

Microsoft Designer

微软出品的智能设计工具,帮你快速制作出专业水准的社交媒体图、邀请函、数字明信片和各种精美图片,让你的创意瞬间成真!

Veo
视频创作内容创作创意工具

Veo

Veo 是 Google DeepMind 推出的先进视频生成模型,提供高质量的视频创作能力,并持续更新迭代。

免费
医疗聊天
数据脱敏 & 隐私保护生成式搜索内容摘要

医疗聊天

一站式AI医疗助手,支持人类与兽医诊疗,快速生成个性化诊断与治疗方案。