很多LLM通过网页提供使用，但是大多数时候需要的是个随手打开随手问操作，之后就不再需要的LLM助手。打开浏览器会降低效率，于是aichat就出现了。aichat 使用 Rust 语言编写，是一个大型语言模型（LLM）命令行界面（CLI）工具 。支持命令模式（CMD）和交互模式（REPL）， ...

CloudFlare近期推出了无服务器 GPU 驱动推理，可以使用多个AI模型，包括大语言模型、翻译、图像识别、语音转换等。其中的大语言模型，使用了meta的llama-2-7b-chat-int8模型。本人一直使用OpenAI的ChatGPT，想试一下自己部署，所以按照文档，整理出如下部 ...