9月24日，脉脉创始人兼CEO林凡在《Fan谈大模型》节目中表示，端侧大模型的落地，将成为重要的技术原点，大模型的发展将使更多白领工作平台化。端侧大模型头部公司面壁智能CEO李大海认为，中国在端侧大模型领域与美国差距不大，多模态等技术已经领先美国。
iPhone16内存制约Apple Intelligence表现 AI功能远没有达到理想状态
《Fan谈大模型》由脉脉创始人兼CEO林凡担任节目主理人，是职场社区和社交平台脉脉联合腾讯新闻小满工作室共同打造的原创直播节目。栏目希望能搭建一个多维度的交流平台，对话正在用AI改变世界，以及正在被AI改变的企业家，解读最新的大模型技术与应用进展，解答个人在AI时代的困惑。
首期节目中，林凡对话面壁智能CEO李大海，畅谈《iPhone 16来了，真正的AI手机离我们还有多远？》。李大海认为，新一代AI手机、新一代智能汽车都会变成“超级智能体”，基于端侧模型的智能计算，贴身陪伴用户、更懂用户，并帮助用户建立和世界的交互。但目前iPhone 16的AI功能远远没有达到理想状态。
李大海透露，手机内存对端侧模型的影响显著。在今年7月，AI产品榜以面壁智能端侧大模型产品MiniCPM为Benchmark 对国际主流品牌手机的大模型性能做了评测，更小参数、更高知识密度的模型在端侧优势尽显，已成为行业共识。就像iPhone 16的内存只有8G，能够运行的模型产品就不会太大，一定程度上会制约Apple Intelligence表现。综合来看，端侧AI对存储、能耗、算力的平衡要求很高，需要同时考虑到手机等硬件在待机、续航、并行任务处理方面的表现。
林凡在谈及端侧大模型给用户交互形式带来的变化时说，端侧大模型的落地，将成为重要的技术原点，交互形式将发生本质的变化。李大海同样认为，未来的AI硬件会像现在的大模型软件一样，分成Copilot（助手）和Agent（智能体）两种类型，比起Copilot，Agent能够自主与环境互动，做出更自主的决策。未来，会出现很多的Agent 类型的硬件。
端侧大模型中国与美国差距较小甚至领先
林凡和李大海均表示，在云端大模型领域，中国相对落后于美国1-2年，但在端侧大模型领域，双方差距不大，在部分技术方面，中国已经处于国际领先水平。李大海透露，端侧大模型自2024年开始成为AI新趋势，面壁早在今年2月1日就以率先发布了第一代面壁小钢炮MiniCPM旗舰端侧模型，能力胜出Mistral-7b, 谷歌Gemma等国际性能标杆模型，凭借以小博大、高效低成本的特点在国际舞台惊艳亮相。前不久发布的MiniCPM 3.0还带动整个行业，迎来端侧ChatGPT时刻，以4B参数达到了庞然大物GPT3.5性能水平。在高效稀疏化架构创新方面，面壁首创发布2.8倍推理提速的稀疏化端侧模型。中国和美国的端侧大模型技术起步时间相当，在过去的一年里，包括面壁智能在内的很多国内大模型公司在Agent方面亦做了很多探索。如今，在端侧模型的多个领域差别不大，甚至在多模态技术等方面比较领先。
林凡认为，中国的云端模型受到美国对硬件的限制，在算力上有较大的差距。而端侧大模型主要受内存等硬件配置的制约，目前中国的智能终端产品硬件配置相对较高，算力不存在瓶颈。加上中国在端侧大模型的算法方面也有一些前沿的探索，因此，双方在端侧大模型领域没有明显的差距，甚至发生了美国斯坦福大学学生AI团队“抄袭”面壁智能大模型产品的事件。
大模型时代，白领工作将逐渐平台化
作为“懂AI又懂中国职场”的企业家，林凡表示，大模型的发展会推动未来组织构建形式发生巨大变化。移动互联网将外卖员、网约车司机等蓝领的工作平台化了，AI的崛起会让很多白领的工作逐渐平台化。
在林凡看来，虽然AI让“一人公司”成为可能，但前提是这个“一人公司”要通过AI把任务拆解之后，再交给每一个具体的人来执行。未来，白领工作会越来越“灵活”。这个“灵活”不是代表说真的没工作干了“被迫灵活”，而是说未来组织的构建的形式会发生巨大的变化，公司可能要么就是一个人的公司，要么就是越来越大的平台来去整合所有这些劳动力的资源。因此，未来除了部分大公司会保留”科层制“，更多的白领会受雇于一个分发各种工作任务的“平台”，像”U盘“一样即插即用。未来的职场，雇佣关系、组织结构都将发生深刻的改变。
提及大模型企业的人才要求，李大海表示，面壁智能公司希望吸引更多“AI原生人才”，即以「借助AI解决一切问题」内化为底层思考方式。AI原生人才应借鉴大模型的学习机制，追求更高效的工作方式，把每次工作结果的反馈当作自我训练和微调的契机，持续优化迭代自己，以实现个人潜能的最大化。
据了解，《Fan谈大模型》节目自9月24日首播，后续几期将在今年10月陆续上线。
