标签:参数冗余

LoRA中到底有多少参数冗余?新研究:砍掉95%都能保持高性能

LoRI 技术通过大幅减少 LoRA 的可训练参数,显著降低了大型语言模型微调的资源成本,同时保持了强劲的模型性能。 研究团队在数学推理、代码生成、安全对齐以...