Sanctum 允许您在设备上本地运行和交互功能齐全的开源大语言模型,确保您的数据被加密且永远不会离开您的设备。
Sanctum 是一款私人AI工具,旨在将生成式AI的强大功能带到您的桌面上。它使用户能够直接在设备上下载和运行功能齐全的开源大语言模型(LLMs)。通过设备上的加密和处理,Sanctum 确保您的数据保持私密和安全,永远不会离开您的设备。该工具支持 MacOS 12+ 和 Windows 10+,Linux 支持即将推出。Sanctum 还与 Hugging Face 集成,允许用户通过平台直接访问和交互数千个 GGUF 模型。