写在前面：元宇宙、虚拟数字人概念火爆的2021，高质量训练数据资源正成为雄心勃勃的AI企业们解锁更强智能的关键燃料，通过对话国内唯一A股上市数据服务商海天瑞声，我们试图探讨隐藏于这场新兴技术浪潮幕后的基石角色，如何运用技术解决智能化升级过程中的核心痛点。

2022年，再不关注虚拟数字人，你就落伍啦！

在刚刚过去的一年，AI虚拟主播、虚拟学生、虚拟员工轮番上岗，成为元宇宙与人工智能两大领域最热门的技术赛道之一。

▲万科首位数字化员工崔筱盼获得万科总部最佳新人奖

有些虚拟数字人已经表现得灵性十足，不仅发音标准自然、身体动作流畅，就连眨眼频率、口型与声音的匹配等细节都惟妙惟肖。

这些火遍大江南北的特殊生命体，通过越来越多元的形象定制、舒适的交互体验，逐渐转变为拥有更接近真实人类智商和情感的新型社会角色。

而「多模态技术」，正是打破单一感官的藩篱，让AI虚拟形象越来越像人类的秘密武器。

一、破圈而来，“完美”虚拟人离不开的多模态

数据，是将真实世界与虚拟世界连接的桥梁。

在现实世界中，数据天然以「多模态」的形式存在，人类通过综合运用视觉、听觉、触觉、嗅觉等多种感官，来接触和理解大千世界。

为了探索实现通用人工智能（AGI）的路径，人工智能（AI）从单模态走向多模态已是大势所趋。

以前，Siri等语音助手只有声音没有脸，搜索只能依靠输入文字，机器看不懂照片的深层含义。

如今，借助多模态技术，AI实现了图像、视频、音频、语义文本等多维度资源的融合互补，不仅决策更加精准，还在行为和智商上更接近人类。

新冠疫情亦催化了多模态技术的落地进程。在隐私安全保护重视程度日益加强的趋势下，多模态生物识别凭借更高的准确率和安全性，正取代基于指纹、人脸等单一生物特征的身份识别方法。

而深藏多种黑科技的AI虚拟主播，亦是基于多模态技术的快速演进，成为感知智能迈向认知智能阶段的重要探索。

它们的精致面容、流畅表达、优美体态，离不开微表情追踪、语音识别、语音合成、自然语言理解、动作捕捉等丰富技术的支撑。

▲虚拟数字人技术架构（来源：《2020年虚拟数字人发展白皮书》）

其中，AI手语主播要解决的技术难点尤其复杂。为了照顾到听障人士的需求，它需要具备实时将中文、英文等语音“翻译”成连贯手语的能力。

但手语有一套独特的语法体系，如果来一段央视押韵狂魔朱广权的段子“冷空气非常强，但他强任他强，清风拂山岗，他横任他横，秋裤保健康”，那就极度考验AI手语主播的理解和翻译水准了。

要做到实时精确演示手语，AI主播需先将语音转化成文字，再将健听人士的文本语序转化成手语语序，最后基于手语数据集进行手语合成，将相同的信息以视觉的形式传递给听障人士。

在此过程中，获得符合需求的训练数据成为了最具挑战性的问题之一。

这是因为，作为一种视觉语言，手语语言远比语音语言模态复杂，既包含手型、手部位置等手控信息，又包含表情、口动、体态等非手控信息。

如果从2D视频来采集手语运动过程中的数据，则不可避免会遇到动作被遮挡、人脸五官各区域区分不明显、空间深度信息缺失等问题。

综合看来，通过专业设备采集的3D多模态数据，已经成为优化特定垂直场景AI虚拟数字人的智能化水平中，为数不多的解决方案之一。

怎样获得高品质的多模态训练数据库？AI基础数据服务商的商业价值开始日益凸显。

二、优质算法“杀手锏”：高质量数据背后的技术试炼

数据、算法、算力被并称为「AI三要素」，数据质量的高低，往往决定AI算法模型的性能上限。

随着AI应用逐渐普及，位于基础设施层的AI数据服务行业正发展地风生水起。根据知名市研机构IDC报告，到2025年，中国AI数据采标服务市场规模预计将增至123.4亿元。

▲2020-2025年中国AI基础数据服务市场规模预测（来源：IDC中国）

但如果你认为AI基础数据服务是个纯人工作坊，那你就太小瞧这个行业的技术含量了。

尤其是多模态技术爆发以来，相应的对多模态数据需求的增长，逐步暴露了“作坊式”数据采标团队“人海”战术的短板，整个数据市场正向满足客户长尾需求演进，对服务商技术属性的要求一再加码。

如何制定与算法匹配的数据方案？如何同步采集不同模态的数据？如何处理丢失的数据？如何保证不同模态数据的精准对齐？这些都极度考验AI数据服务商的技术能力。

以获评国家工信部新一代人工智能产业创新重点任务揭榜优胜单位、国家专精特新“小巨人”企业、国家重点软件企业的海天瑞声为例，这家企业在中国AI基础数据采标服务市场中排名前列，也是A股唯一的AI数据服务上市公司，其多模态训练数据解决方案最近获得了智东西2021年度AI生产力创新奖。

根据其IPO文件，AI数据服务的核心技术可分为三个层次：训练数据生产（包括设计、采集、加工、质检），平台工具（一体化数据处理平台）以及基础研究（语音识别、语音合成、计算机视觉、训练数据集设计技术等）。

其中，在训练数据生产层，多语种多模态训练数据设计技术、采集及标注技术是高质量训练数据的生产基础。

首先在设计阶段，为了满足AI算法的需求，AI数据服务商需深入理解客户算法和应用场景，设计与之最优匹配的多模态训练数据结构，并制定合理的原料数据采集方案。

通过设计多设备采集方案，以便同时获取人发出的语音、视频画面、精细唇部动作等不同模态的信息，便于客户匹配自身算法模型框架，实现视觉、听觉等融合的多维度交互。整个过程非常考验AI数据服务商的技术储备和工程能力。

其次，在实际的采集环节中，数据损耗是常事，且造成损耗的原因迥异，而有经验的AI数据服务商能用技术快速找出解法。

我们继续以AI手语合成主播为例，采集手语数据会用到装有传感器的手套，这些手套由于并非专为手语而设计，因此在采集过程中难免会出现数据丢失的问题，一个动作很可能要做上百帧的数据修复，耗时耗力。

发现这一问题后，海天瑞声技术研发团队迅速启动应对方案，历经半个月研发出一款与硬件采集设备相匹配的自动导出、修复工具，极大提升了数据的处理效率。

修复好数据，还要应对「精细对齐」的挑战。

在虚拟数字人、智能座舱等场景中，越来越多应用开始将语音识别和计算机视觉结合，以提高理解人类意图的准确率。

像这样需用多个摄像头、传感器等设备来采集数据的应用，又带来新的难题——如何将不同设备记录的影像、声音等数据，实现同步标注对齐？

▲不同通道录制的语音数据不对齐情况示例

大规模标注数据本来就是AI模型进一步优化性能的瓶颈，而多模态数据不仅标注工作量是单模态的数倍，还要解决多设备采集数据同步难的问题，这会进一步增加后续数据加工难度。

对此，海天瑞声的解决思路是自研多通道采集工具和数据同步技术，多通道采集工具支持4路甚至更多语音数据同时录入、自动对齐整合，数据同步技术可实现多通道采集原料数据的自动对齐，并做到多音频文件起始点自动对齐误差小于1毫秒，大幅提升训练数据生产效率和质量。

借助数据同步技术，唇形动作与声音的对齐能精确到毫秒级，这也是可以避免虚拟数字人说话时音画不同步、对不上口型等尴尬局面背后的重要因素之一。

三、为更强智能输送燃料，多模态数据强势崛起

哪个AI应用不想实现更高的准确率、更自然贴心的交互能力呢？在更强智能需求的拉动下，基于多模态数据的AI算法模型日渐成为主流。

例如公安、金融等场景的身份鉴定，电商场景下的智能客服交互，未来自动驾驶场景的舱内舱外交互等等，数据准确率越高，有助于抵御越多的安全风险。而多模态生物识别不仅有助于保护信息安全，还能应对单一模态无法有效识别的戴口罩、手指磨茧、整容等特殊情况。

▲单一生物识别技术的特点（来源：零壹智库、东方财富证券研究所）

可以看到，如今AI垂直应用场景呈现碎片化特征，对多模态数据的需求更加复杂和长尾化。

这些新业务场景需求的变化，更为考验AI数据服务商处理复杂交叉业务场景数据的综合能力。

因此AI数据服务商必须具备与客户算法团队平行沟通的技术储备，理解客户希望用数据解决什么问题、设计什么结构的模型，才能用最小代价，给出高效高质的数据集解决方案，保证客户算法取得尽可能好的落地效果。

在这样的趋势下，海天瑞声等头部品牌数据服务商的资源优势将被进一步放大。

从海天瑞声的IPO文件可以看到，这家公司已经积累了近千个自有知识产权的训练数据产品、服务微软、阿里巴巴、腾讯、百度、三星、字节跳动、亚马逊、科大讯飞、商汤科技、中国科学院、清华大学等超过500家国内外客户，并持有信息安全认证证书ISO/IEC 27701及管理体系认证证书ISO/IEC 27001。

▲2018-2020年海天瑞声前五大客户情况（根据IPO文件整理）

过去三年，海天瑞声的前五大客户呈现高复购率，足见其产品的高粘性。

无论是知名科技公司的背书，还是经年累月沉淀的多语种语言学家团队资源和稳定合作的供应商、客户等上下游资源，都使得兼具技术壁垒与业务经验的品牌数据服务商，更易成为确保多模态数据高效高质交付的首选。

结语：多模态终将主导智能产业未来

AI算法要想高质量，多模态数据得跟得上。

过去一年，应用场景的创新和机器学习算法的流行继续带动训练数据需求爆发式增长。

在多模态大模型、虚拟数字人等热门技术方向的驱动下，持续探索更强智能的AI应用，对高质量多模态训练数据资产的需求愈发迫切。

当前多模态技术仍处于起步阶段，多维度信息的转化和融合尚不成熟，在真实场景下的泛化能力较为受限，距离实现人类级别的多模态感知能力还有较长的路要走。

这需要研发多模态AI应用的企业或研究机构与AI基础数据服务商长期磨合，摸索出更加符合人类认知习惯的前沿多模态技术，帮助AI全面理解真实世界，最终更好地服务于未来的人类社会。（文章转载自：智东西 ）

文章纠错