llama.cpp是一个量化模型并实现在本地CPU上部署的程序，使用c++进行编写。将之前动辄需要几十G显存的部署变成普通家用电脑也可以轻松跑起来的“小程序”。不久前写过使用CloudFlare Workers 创建自己的AI程序，基于meta llama-2-7b大语言模型，但是 Wor ...

CloudFlare近期推出了无服务器 GPU 驱动推理，可以使用多个AI模型，包括大语言模型、翻译、图像识别、语音转换等。其中的大语言模型，使用了meta的llama-2-7b-chat-int8模型。本人一直使用OpenAI的ChatGPT，想试一下自己部署，所以按照文档，整理出如下部 ...

Linux系统后台挂程序跑着的时候，screen是不二选择（非要二的话，那就选tmux），但是因为缓存或者输出量的原因，有时候切回screen里面并不能显示全部的记录，这个时候开始使用-L日志输出功能，并手动指定输出文件，就可以保存所有的记录。screen -L -Logfile /pat ...

自2020年树莓派4B发布之后，时隔两年，树莓派再次推出新品：树莓派5系列，价格喜人，4BG版本仅售60美元。此次新品带来了更强的性能，CPU从A72结构直接变成了A76结构，使用同款架构的著名CPU有麒麟980、高通骁龙855等，并且支持加密扩展。L2缓存达到512K，并配备了2M的L3 ...

TelePic是一个基于 Telegraph 网站的图床项目。它使用 PHP 和 jQuery 编写，可以将图片上传到 Telegraph 服务器并获取代理后的链接。通过Nginx Basic HTTP authentication实现了只有特定用户才能上传图片，通过SQLite3实现只有 ...