由马里兰州大学、纽约大学等机构的研究人员提出的NEFT(une)微调方式，是一种新的正则化技术，旨在提高微调监督（SFT）模型的性能。这种方法已被HuggingFace收录进TRL库。NEFTune的核心思想是在训练阶段向嵌入层中加入噪声，以避免过拟合，从而提高模型性能。实验结果显示，使用NEFTune微调后的Llama 2模型在某些数据集上的性能提升了至少10%，在Alpaca数据集上甚至翻倍。
