当前,我国大模型产业蓬勃发展,从建到用,正在成为政府和企业推进数字产业升级的重要抓手。与此同时,伴随更加海量的数据、更复杂的场景与更高昂的成本,大模型产业入局者的门槛也越来越高,产业亟需“开箱即用”的0-1开发方案。
为推动我国大模型产业发展,中科可控联合捷通华声共同发布量知大模型训推一体机。该系统软硬兼备,拥有“高性能、高安全、更便捷”三大核心优势,可为相关产业研发提供强劲助力。
首先,一体机能够为大模型计算提供充分的性能保障。以中科可控服务器作为底层算力支撑,采用异构解耦合设计架构,搭载国产CPU处理器与GPU异构加速卡,性能强劲!该架构可随需调整,针对不同算法引擎提供性能加速,对于主流大模型预训练引擎可实现秒级返回首字;一秒生成百字内容;单卡支持多个并发,单台8卡服务器可满足企业AI大模型部署应用需求。
其次,在高性能的基础上,提供了安全可靠的开发环境。一体机搭载全国产核心器件,从CPU、GPU到存储与网络设备,全面支持信创,且支持国密算法、可信计算等多种先进安全方案,充分在数据处理过程中更好地为用户提供高质量安全保障。新系统还可支持企业私有化部署,确保数据不脱离企业内网,实现数据物理隔离安全。
第三,拥有更加便捷的开发体验。新一体机不仅预置多种主流预训练AI大模型引擎,还可根据用户需求将知识库问答、知识图谱、敏感词汇检测、OCR识别、AI生图等组件按需部署,更自带对话、创作、分析等全方位大模型应用,用户无需开发,即刻提升易用性。在使用过程中,量知一体机可提供数据挖掘及微调训练平台,训推一体,让模型优化更便捷。同时,新系统还对功能应用进行API封装,使二次开发及系统集成更加简单,部署模式上支持一揽子交付,实现开箱即用。
基于三大核心优势,量知大模型训推一体机已能够广泛应用于智慧政务、金融、企业办公等重点领域。在实际应用中,量知大模型支持自动完成数据标注和问答知识库构建,在智能客服服务过程中提供更准确、更优质、自然多样的话术,提供更深层次的数据分析,预测客户意图,生成热点和舆情研判结论等。此外,量知大模型提供的智能文档分析、会议转写、合规分析、AI生图等多种功能应用正在帮助更多的机构企业成员提升工作效率,广泛服务于千行百业数字化升级转型。