用元脑企智EPAI"玩转"大模型应用开发，1人1月开发智能售前助手

北京2024年9月14日 /美通社/ -- 对于每一位IT售前而言，与数万字的招标文件打交道是"工作日常"，他们不仅需要在几百页的招标文件中抽丝剥茧找到关键信息，还要在瞬息万变的市场中迅速捕捉商机。面对多元化、专业化的IT业务需求，每一个细节都不容有失。

在人工智能技术飞速发展的今天，要让IT售前将大模型能力融入到招投标这项专业性极强的工作中，就像"西天取经"一样难关重重：AI助手如何精准掌握大量格式不一且随时更新的产品资料？如何理解售前业务逻辑？能否确保数据安全？

浪潮信息售前团队先行先试，基于企业大模型开发平台元脑企智EPAI（Enterprise Platform of AI），零代码完成企业知识库构建、模型微调、应用开发等工作，简单高效、低门槛地打造出售前助手"元小智"，赋能日常售前业务，实现智慧化变革，团队工作效率提升3-5倍。

做一个好用的售前助手，到底有多难？

面对日益增长的业务需求，浪潮信息售前团队决定用大模型技术变革售前业务，加速推进业务体系的智能化转型。在对市面上多种工具进行测试后发现：AI助手在阅读、理解、分析和处理长文本方面表现优异，但是要想将大模型应用到专业化、精细化和低容错的招投标业务中，还有非常繁琐的开发工作需要完成。

第一难，如何构建浪潮信息全业务线产品信息知识库，并让大模型实现高精准、高效率的检索。浪潮信息的业务资料覆盖了服务器、存储、网络、虚拟化、安全等多种IT基础设施领域，大到产品迭代型号，小到插槽数量、板卡规格，繁杂的信息不仅多如牛毛，还分成了pdf、doc、xls、html、json等多种格式进行存储，难以进行统一转换。此外，要想确保模型对有效信息进行精准检索，还涉及到复杂的结构化、非结构化信息提取、数据向量化、召回测试、检索优化等多个环节，需要对RAG系统进行整体优化，以提高检索精度。

第二难，如何快速、高效地完成模型微调，提升基础大模型对于售前业务的理解能力。售前业务具有特定的行文格式、专业术语，大模型需要能够进行专业化的内容输出，因此需要构建高质量的微调数据集进行模型微调。这不仅需要对行业、企业数据进行清洗和过滤，还要基于提取出的高质量数据合成、生成、构建，以满足微调过程中对数据量的需求。这些繁琐的准备工作，需要开发人员具备丰富的大模型微调经验，时间周期长、最终结果不可控，试错成本高。

最后，考虑到招投标文件包含大量企业隐私数据，不能上传至云端大模型进行训练推理，企业模型必须完成私有化本地开发，以及部署易用的大模型应用，在确保数据绝对安全的同时确保应用的高可用。

化解三难，元脑企智EPAI降低大模型开发门槛

卓越的大模型应用开发工具是释放AI生产力的关键。企业大模型开发平台元脑企智EPAI提供了全链路、高可用的系列工具，将专业的大模型应用开发流程进行了界面化封装，有效降低大模型应用开发门槛，零代码即可完成大模型应用开发的全流程工作。

浪潮信息售前团队使用元脑企智EPAI，完成了企业知识库构建、模型微调、应用开发与服务上线，实现了企业知识的高效利用、售前场景下的模型能力提升与便捷的应用开发部署，跑通大模型应用落地全流程，成功打造出智能售前助手"元小智"。

• 轻松构建企业知识库，提高回复精准度：依托元脑企智EPAI的知识库工具，自动完成结构化、非结构化数据的解析和存储。售前团队将整理出的1500多份pdf、docx、xls等格式的业务资料、产品信息、行业研报进行统一处理，构建起公司8大业务线全部在售产品的知识库，将繁杂的企业知识转换为大模型"最强外挂"。
  为了提升知识库检索生成效果，元脑企智EPAI的RAG系统完成了各个环节的全链路优化，特别是通过自研模型替代传统Rerank模型，实现整体精度提升。通过混合检索策略，多次调整、验证不同参数配置下的检索精度，找到最佳的检索配置，有效提高知识库检索问答的质量，满足售前专家精准快速查找产品信息的业务需求。

知识库检索配置测试

• 高效微调数据治理，提升模型专业能力：基于元脑企智EPAI的微调数据处理工具，售前人员从业务资料、产品信息等文档中，自动抽取生成微调数据集；然后通过多种参数阈值设定，针对微调数据进行自动打分，剔除低质量数据，完成高质量数据的过滤与筛选，最终形成数十万条高质量微调数据，减少数据处理的时间和成本。通过元脑企智EPAI的零代码微调工具，结合内置的经专业算法人员调优的超参数配置，实现最佳的微调效果，构建起符合业务需求的专用模型。
• 快捷开发本地应用，实现开箱即用：元脑企智EPAI内置对话式应用支持多轮对话、长文本分析、单文档对话、网络检索等交互功能，可在本地完成模型部署上线服务，轻松满足使用大模型的多种功能需求。

浪潮信息售前团队在元脑企智EPAI的加持下，大大缩短了应用开发周期，1人1月即可完成模型微调、应用开发，成功打造出售前助手"元小智"，为售前人员的工作注入智慧生产力。

投标效率提升3-5倍，元脑企智EPAI加速释放大模型价值

基于元脑企智EPAI打造的对话式智能售前助手"元小智"能够阅读数万字、上百页的招标文件，招标关键信息识别准确率达85%，秒级提取客户核心需求，将招标文件平均分析时间从天级缩短到分钟级以下。"元小智"可以快速查阅浪潮信息全系列在售产品及方案的相关内容，生成对应的产品优势、核心参数等投标支撑信息，免去售前人员在海量产品文件中逐一查阅的重复性劳动。此外，结合网络检索功能，"元小智"能够辅助售前人员快速了解同类产品信息，释放50%的分析时间。

未来，浪潮信息将基于元脑企智EPAI，为业内提供"算力+平台+服务"一站式解决方案，持续加速大模型应用创新与发展，让大模型应用开发不再复杂。