三步搭建属于你的AI搜索引擎FreeAskInternet:让GPT-3.5 Turbo可联网 + 国内直连 !
AI智库导航-aiguide.cc为您提供最新的AI新闻资讯和最新的AI工具推荐,在这里你可以获得用于营销的AI聊天机器人、AI在商业管理中的应用、用于数据分析的AI工具、机器学习模型、面向企业的AI解决方案、AI在商业客户服务中的应用、AI和自动化工具等。
FreeAskInternet介绍
FreeAskInternet 是一个完全免费、私密且在本地运行的搜索聚合器和答案生成器,使用 LLM,无需 GPU。用户可以提问,系统将使用 searxng 进行多引擎搜索并将搜索结果与 ChatGPT3.5 LLM 结合起来,根据搜索结果生成答案。所有过程在本地运行,不需要 GPU 或 OpenAI 或 Google API 密钥。
FreeAskInternet的主要功能特点
- 完全免费:无需任何API密钥,降低了使用门槛。
- 本地化运行:不依赖GPU,可在任何计算机上运行,确保了广泛的适用性。
- 私密性:所有数据处理都在本地完成,保护了用户隐私。
- 支持多种搜索引擎:通过searxng进行多引擎搜索,提高了搜索的全面性。
- AI答案生成:将搜索结果与ChatGPT3.5等LLM结合,生成智能化的答案。
- 易于部署:通过Docker Compose可快速轻松地完成部署。
- 移动友好:支持Web和移动设备访问,提供了便捷的使用体验。
FreeAskInternet的工作原理
- 系统在 ChatGPT-Next-Web(本地运行)中获取用户输入的问题,并调用 searxng(本地运行)在多个搜索引擎上进行搜索。
- 爬取搜索结果链接内容并传递给 ChatGPT3.5(使用 OpenAI ChatGPT3.5,通过本地运行的 FreeGPT35),要求 ChatGPT3.5 根据这些内容作为参考回答用户的问题。
- 将答案流式传输到 ChatGPT-Next-Web 聊天界面。
FreeAskInternet的主要应用场景
- 个人使用:为普通用户提供智能、私密的搜索体验。
- 教育机构:可作为教学辅助工具,帮助学生和教师快速获取信息。
- 企业应用:用于企业内部知识管理和信息查询。
- 开发与研究:为开发者和研究人员提供一个可定制和扩展的搜索与AI结合的平台。
如何使用FreeAskInternet
- 克隆FreeAskInternet的GitHub仓库到本地。
- 使用Docker Compose启动服务。
- 在浏览器中输入本地地址(如http://localhost:3000)访问FreeAskInternet界面。
- 在界面中输入问题,系统将进行搜索并生成答案。
如何部署 FreeAskInternet 的详细步骤
1. 获取 FreeAskInternet 项目
首先,你需要从 GitHub 上克隆 FreeAskInternet 项目到你的本地计算机。
git clone https://github.com/nashsu/FreeAskInternet.git
2. 进入项目目录
克隆完成后,进入项目目录。
cd ./FreeAskInternet
3. 启动 Docker Compose
使用 Docker Compose 启动项目。这将自动下载所需的 Docker 镜像并启动相关的服务。
docker-compose up -d
4. 访问 Web 界面
启动完成后,你应该能够通过以下地址访问 FreeAskInternet 的网络界面:
默认地址:http://localhost:3000旧的网络界面地址:http://localhost:3030
5. 获取和设置 API 令牌
FreeAskInternet 使用了一些外部服务,如 Kimi、Qwen、ZhipuAI 等,你需要获取这些服务的 API 令牌并进行设置。
获取令牌
你可以参考 LLM-Red-Team 项目提供的服务来获取令牌。
设置令牌
具体的设置方法可以参考项目的 README 文件或相关文档。
6. 使用自定义 LLM(如 ollama)
如果你希望使用自定义的 LLM(如 ollama),可以按照以下步骤进行设置:
启动 ollama 服务
export OLLAMA_HOST=0.0.0.0
ollama serve
设置 ollama URL
在 FreeAskInternet 的设置中,你需要设置 ollama 的 URL。注意使用你的计算机的 IP 地址,而不是 localhost/127.0.0.1,因为在 Docker 中你无法访问 localhost。
7. 更新到最新版本
当你需要更新 FreeAskInternet 到最新版本时,可以执行以下命令:
cd ./FreeAskInternet
git pull
docker compose down
docker compose rm backend
docker compose rm free_ask_internet_ui
docker image rm nashsu/free_ask_internet
docker image rm nashsu/free_ask_internet_ui
docker-compose up -d
FreeAskInternet 项目感谢以下项目的支持:
ChatGPT-Next-Web: https://github.com/ChatGPTNextWeb/ChatGPT-Next-WebFreeGPT35: https://github.com/missuo/FreeGPT35Kimi/Qwen/ZhipuAI: https://github.com/LLM-Red-Teamsearxng: https://github.com/searxng/searxng