高效量化和低精度训练工具库,减少模型训练和推理的计算资源消耗 https://github.com/TimDettmers/bitsandbytes
高效量化和低精度训练工具库,减少模型训练和推理的计算资源消耗