低显存

AirLLM - 4GB 显存跑 70B 大模型

突破显存限制，在单张 4GB GPU 上运行 70B 参数大模型推理，让消费级显卡也能跑大模型。