ollama + OpenAI Translator
介绍 Ollama
Ollama 是一个开源框架,旨在简化在本地运行大型语言模型的过程。它通过将模型权重、配置和数据捆绑到一个包中,优化了设置和配置的细节,包括GPU使用情况,使得用户能够更加方便地在本地部署和使用大型语言模型。
Ollama 支持多种模型,包括但不限于 Llama 2
、Code Llama
、Mistral
、Gemma
等。此外,它还允许用户根据自己的特定需求定制和创建自己的模型。这意味着开发者可以利用Ollama框架来微调模型,以适应特定的应用场景或提高模型在特定任务上的表现。
Ollama 目前支持 macOS 和 Linux 平台,并且已经发布了 Windows 平台的预览版。安装过程非常简单,用户只需访问Ollama的官方网站,下载对应平台的安装包即可。安装完成后,通过简单的命令行操作,用户就可以启动和运行大型语言模型。例如,要运行 Gemma 2B 模型,只需执行命令 ollama run gemma:2b
。
此外,Ollama 还提供了与模型交互的API,允许用户通过编程方式与模型进行交互,这为自动化任务和集成到其他应用程序提供了便利。
总的来说,Ollama 是一个强大的工具,它使得在本地运行和定制大型语言模型变得更加容易和高效,尤其适合那些希望在本地环境中利用大型语言模型的开发者和研究者。
介绍 OpenAI Translator
openai-translator 项目是一个基于 ChatGPT API 开发的工具,它提供了划词翻译的浏览器插件和跨平台桌面端应用。这个项目旨在利用 OpenAI 的先进技术,为用户提供一个不仅仅是翻译,还具备文本润色和摘要功能的多语言翻译工具。关键特点:
- 多模式功能:提供翻译、润色和摘要三种模式。
- 多语言支持:支持55种不同语言之间的相互翻译、润色和摘要。
- 流式模式:支持流式翻译,适合长文本的连续翻译。
- 自定义翻译文本:用户可以根据自己的需求定制翻译文本。
- 一键复制:翻译后的文本可以一键复制。
- 文本到语音(TTS):提供文本朗读功能。
- 跨平台支持:适用于所有主流操作系统(Windows、macOS 和 Linux),并且可以在浏览器和桌面端使用。
- 支持截图翻译:可以翻译截图中的文本。
- 词汇本支持:支持词汇本功能,并能基于词汇本中的单词生成记忆辅助。
- 同时支持 OpenAI 和 Azure OpenAI Service:可以根据需要切换使用 OpenAI 或 Azure OpenAI Service。