Jan：一款简洁界面的本地AI桌面应用

Original 思辨view kate人不错

2024-07-24

最近用了好几款本地大模型快速安装的软件，之前介绍了Ollama、LM Studio，今天介绍下Jan。

https://jan.ai/

https://github.com/janhq/jan

Jan支持Mac M1/ M2/ M3、Mac (Intel)、Windows、Linux系统。

除了本地模型，它也支持OpenAI API。

它支持的本地模型还特别少，而且单个模型还只支持一种规格，但架不住它颜值高。官方介绍1月会支持更多的模型。

等不及的伙伴们，可以通过它的导入功能导入模型。

https://jan.ai/guides/using-models/import-manually/

它也像 LM Studio附带了一个内置的API服务器，可以作为OpenAI的API的本地替代品。

对比Ollama、LM Studio，Jan比Ollama多了对话UI，内置API服务器，比LM Studio少模型，但是界面要好看很多。

对话体验

Mistral Instruct 7B Q4模型在我Mac M1 Max 32G的电脑上的运行生成速度20-30token/s。

可设置参数如下

Jan还在开发中，它的文档功能做得不错。

如果有伙伴只是想简单体验下本地大模型，强烈推荐Jan，好看可用。

继续滑动看下一个

kate人不错

向上滑动看下一个