一、前言

Jan是一款被视为ChatGPT的有力替代品的免费软件。它是一款开源的、可在用户自己的计算机上运行的AI软件,并且具有本地API服务器功能。Jan附带了本地优先、AI原生和跨平台扩展框架,使其具备了强大的跨平台能力,无论是Windows、Mac还是Linux系统,都能轻松应对。同时,其本地优先的设计理念保证了数据处理的效率和安全性。

Jan的主要功能实际上是作为扩展构建在框架之上的。它兼容大多数操作系统,如Windows、Mac、Linux,并且可以通过llama.cpp进行GPU加速,以提升处理效率。此外,Jan还支持多种开源模型,如通过llama.cpp的GGUF、TensorRT-LLM的TensorRT等,为用户提供了更广泛的选择。

在数据保护方面,Jan非常注重用户数据的隐私和安全。所有数据都存储在用户的本地文件系统中,不会上传到任何服务器,从而避免了数据泄露的风险。用户可以自由管理自己的数据,包括删除、导出、迁移等操作,甚至可以迁移到其他平台。

对于开发人员来说,Jan也提供了极大的灵活性。他们可以通过扩展进行功能定制,满足不同的开发需求。此外,Jan的本地API服务器模式也使得开发人员可以更加便捷地进行开发和测试。


二、安装使用

1、安装包下载

2024-02-16_134648.jpg


2024-02-16_135825.jpg


2、使用方法

  • 这里以Windows系统为例,下载安装包后直接安装执行。进入系统后,首先选择安装AI模型文件。

2024-02-16_140640.jpg


  • 进入模型选择窗口后,可以根据自己的需求下载相应的AI模型文件。

2024-02-16_141246.jpg


  • 如果你的显卡为NVIDIA系列,可以设置开启GPU。

2024-02-16_141718.jpg


  • 3、如果你的系统没有安装NVIDIA CUDA,那么首先将显卡驱动更新后,安装CUDA工具包

2024-02-16_142644.jpg


Jan作为一款开源的ChatGPT替代品,不仅具备了强大的跨平台能力和数据处理效率,还非常注重用户数据的隐私和安全。它提供了广泛的选择和灵活性,无论是对于普通用户还是开发人员来说,都是一个值得尝试的选择。