近年来，大语言模型的迅速发展在自然语言处理领域引起了广泛关注，催生了金融行业智能化转型的新机会。保险公司在日常运营中，面临着大量文本材料的处理需求，尤其是在法规解析和合规审查等方面，对于语言理解和文本处理的能力显得尤为重要。因此，在内部审计等专业环节中，应用大语言模型展现了巨大的潜力。尽管有潜在应用优势，实际落地中的挑战却仍然存在，包括算力受限、数据结构化不足，以及专业性与实际需求的脱节等问题。
前提，本文探讨了如何将小参数量的大语言模型进行微调，以适应保险公司内部审计的特定需求。微调技术（Fine-Tuning）是机器学习中的一种操作手段，旨在通过额外的训练数据来优化预训练模型的性能。在资源受限的情况下，使用轻量化的微调技术（如LoRA，低秩自适应）逐渐成为理想选择。
在实际应用中，选择高频、专业性强的审计底稿问题分析场景作为研究对象。这一选择源于其年度审计项目频次高达4000-5000件，且常规项目通常具有较高的时效性。将大语言模型引入这一流程，预计能够显著提升工作效率。在硬件与模型选择上，考虑到成本，我们决定采用NVIDIA T4显卡，并选择具有较高综合能力的Qwen2.5-1.5B作为基础模型。
在微调数据集构建过程中，我们从公司积累的约4万条审计底稿中筛选出2.5万条高质量的“审计问题—分析—整改建议”数据。这一过程通过规则清洗与人工筛选确保了数据的专业性与完整性。将数据划分为训练集与验证集，以便于后续模型的评估与调整。针对不同任务需求，我们设置了Zero-Shot能力的评估指标，以确保模型在未见过的问题上同样具有较强的应对能力。
在微调训练中引入了PEFT（参数高效微调）框架与LoRA方法，通过冻结模型的大部分预训练参数，缩小了显存需求。这一理念在微调过程中得到了体现，经过多轮实验，我们最终确定了Rank=8的超参数设定，有效控制了模型参数的训练，节省了大量资源。为了进一步提高模型的表现，我们还运用RLHF（基于人类反馈的强化学习）技术，通过专家评分迭代优化，确保模型持续贴合审计专业需求。
随着推理框架的选用，我们避免了复杂的集成化部署方案，选择了VLLM高速推理框架来提升效率。测试显示，在20-30个问题并发推理的情况下，模型显存占用保持在11GB以内，推理速度达到了85-122 tokens/s，满足了审计场景的性能需求。
在实际应用过程中，尽管模型表现出一定的幻觉现象（如输出格式不符合、内容与逻辑矛盾等），但总体比例较低，且在部分问题类别中表现超过了一般审计人员。在对1819条实际问题的试用中，模型达到了一般业务水平及以上的评价约86%，部分问题甚至超过90%。Zero-Shot问题的表现也强调了模型在通用性上的潜力。
实验结果也表明，经过“PEFT+RLHF”微调的模型在性能和资源消耗方面表现出色。与同样条件下未经微调的基座模型相比，资源需求显著降低，算力节约率达到95.31%。这些结果证实了小参数模型在特定领域中的有效应用，展示了其为中小型企业以低成本拥抱AI的可能性。
此次探索中，充分评估与POC验证的过程至关重要，确立了训练数据的数量及质量对微调效果的核心影响。在未来的工作中，我们计划在小参数模型的应用中继续深耕，尝试结合更先进的MoE（混合专家系统）架构，以探索在有限硬件资源和推理效率下的最优解。同时，构建领域知识增强框架，融合轻量化的RAG技术，持续降低幻觉现象的影响。我们的目标是继续降低高质量AI服务的应用门槛，从而为保险行业的智能化转型提供可复制的技术路径。
这种创新的探索实践不仅为保险行业的内部审计提供了一种新的工具和方法，也为未来如何有效应用小参数大语言模型开辟了新的视野，赋予了中小企业在数字化转型中更大的想象空间。