闲置一个树莓派4B，正好之前的N1退休了，于是在给树莓派4B装上了OpenWrt，作为旁路由替代N1的工作。具体流程包括：OpenWRT系统安装1.1 下载定制版系统1.2 刷写镜像旁路由设置系统基础设置3.1 更新与安装必要软件包3.2 更换语言为中文分区扩容应用软件的设置5.1 新增软 ...

TensorFlow不知道又干了什么，最近脑子抽风，删掉了conda相关的安装教程。只剩下pip和docker了，而pip安装在Ubuntu22.04上需要额外的折腾才能正常跑起来。下面把conda安装教程记录一下。安装miniconda具体的步骤可以找其他教程，其实一路确认就可以了。cu ...

llama.cpp是一个量化模型并实现在本地CPU上部署的程序，使用c++进行编写。将之前动辄需要几十G显存的部署变成普通家用电脑也可以轻松跑起来的“小程序”。不久前写过使用CloudFlare Workers 创建自己的AI程序，基于meta llama-2-7b大语言模型，但是 Wor ...

CloudFlare近期推出了无服务器 GPU 驱动推理，可以使用多个AI模型，包括大语言模型、翻译、图像识别、语音转换等。其中的大语言模型，使用了meta的llama-2-7b-chat-int8模型。本人一直使用OpenAI的ChatGPT，想试一下自己部署，所以按照文档，整理出如下部 ...

Linux系统后台挂程序跑着的时候，screen是不二选择（非要二的话，那就选tmux），但是因为缓存或者输出量的原因，有时候切回screen里面并不能显示全部的记录，这个时候开始使用-L日志输出功能，并手动指定输出文件，就可以保存所有的记录。screen -L -Logfile /pat ...