😀 Huggingface Chat 的聊天客户端*
*
✨* Features*
- 支持加载任意本地 GGUF 模型
- 支持使用 Huggingface 云端模型推理
- 支持网络搜索
- 快捷键呼出
🙋♂️ 使用体验
拥有最多开源模型的平台,Huggingface,在推出 Web 版的聊天软件后,终于也推出了 MacOS ~~桌面版~~启动器版(尚不支持窗口)。
用户可以在桌面版中和云端的 AI 进行对话,也可以和本地的 AI 模型进行对话。目前用户可以自由倒入本地模型,但云端上不支持倒入任意模型。
本地模型个人使用上还有 Bug, Llama error: SwiftLlama is not initialized。云端模型的速度不算太快,第一个 Token 生成需要 3-5s 左右。相比较,ChatGPT 的客户端只需要 1-2s 左右,Token 生成速度也会更快。
👻 对比
相较于 ChatGPT 客户端,Huggingface 客户端的能力比较局限。目前尚不支持屏幕截图,Agent,上传文件,GUI 等一系列功能。
和 Huggingface Chat Web 相比,功能也非常局限,不支持 Agent,不支持工具,支持的云端模型倒都是 7 个。
🥉 总结
Huggingface 背靠自己的模型平台,开发的 AI 聊天软件能给用户更多的模型选择自由。虽然闭源模型目前开来性能更胜一筹,但对于想要更对隐私的用户来说,Huggingface Chat 桌面版会是众多选择中名字最大的那一个。目前提供同样功能的有 Ollma + 任何 AI 客户端,Ollam Web 客户端等等。
信息来源:TG频道@NewlearnerChannel