01 / TECHNOLOGY EVOLUTION

从视觉感知走向多模态智能

融合图像、视频、文本与语音,连接场景识别、任务推理与动作执行,拓展大模型和物理 AI 的产业应用

看见信息,识别场景

从图像与视频中识别对象、状态和事件,积累目标检测与视频分析能力

目标检测 / 视频结构化 / 场景分析

关联信息,理解上下文

融合视觉、语音、文本与业务信息,研究跨模态表达和场景理解

图文理解 / 多源融合 / 语义关联

连接知识与任务推理

围绕模型服务、智能体与工具调用,探索可追溯的产业工作流

知识关联 / 任务推理 / 模型服务

让智能走向真实环境

面向机器人与智能装备,研究环境理解、动作执行与反馈学习

具身智能 / 世界模型 / 端云协同

数据与模型 · 高性能算力 · 评测与部署 · 现场反馈

02 / RESEARCH DIRECTIONS

面向真实环境的物理 AI

围绕机器人、智能装备与网联系统,探索数据、模型、仿真和部署的协同研发

01 / EMBODIED AI

具身智能

研究机器人数据采集、数据加工、训练与强化学习,探索容器化运行和 Kubernetes 任务编排,连接仿真评测与设备部署

数据工作流策略适配端云协同
02 / WORLD MODELS

世界模型与仿真

研究场景重建、合成数据与策略回放,构建可重复的仿真评测环境,连接策略训练与实机验证

场景生成合成数据策略评测
03 / CONNECTED SYSTEMS

智能网联

面向车路云与低速无人系统,探索多源感知、边缘推理和云端训练的协同,研究复杂通信环境下的实时响应

多源感知边缘推理协同验证
具身智能数据飞轮

从指令和观测理解任务

融合自然语言指令、相机图像与设备状态,识别目标物体及取放位置

任务输入 / 目标识别 / 状态采集

将场景理解转化为动作策略

围绕任务分解、动作生成与策略适配,研究模仿学习和强化学习的协同

多模态理解 / 策略训练 / 动作生成

在仿真与受控场景中验证

通过离线回放、仿真测试与受控实机,研究机械臂取放、执行反馈与设备协同

策略回放 / 仿真评测 / 部署验证

让执行反馈进入下一轮训练

分析任务完成情况与失败原因,回流观测和动作数据,持续研究策略泛化

任务评测 / 失败归因 / 数据回流

数据采集与处理→策略训练→仿真评测→部署验证

03 / INFERENCE ENGINEERING

让算力转化为稳定的推理服务

面向长上下文、多步骤任务与多模态推理,协同优化计算、通信、缓存与调度,兼顾模型质量、服务响应和运行成本

TOKEN FACTORY / 一体化架构

连接模型服务、推理优化与异构算力

从硬件纳管到应用服务,以六层架构贯通异构算力、模型运行与 Token 运营

  1. 01应用场景
  2. 02模型服务
  3. 03Token 运营
  4. 04推理优化
  5. 05算力调度
  6. 06硬件纳管
Token Factory 六层架构:应用场景、模型服务、Token 运营、推理优化、算力调度和硬件纳管;推理前端经 KV 感知路由连接预填充与解码资源池,下接分层缓存与 Kubernetes 异构调度,运维和运营管理贯穿各层
架构分层与关键链路
应用与模型服务
连接智能体、编程助手、知识库和行业应用,组织模型目录、功能验证、性能评估、镜像仓库与服务端点
Token 运营
围绕网关、API Key、租户配额、模型路由和使用计量,关联调用、质量、费用与追踪记录
推理优化
请求由统一前端进入 KV 感知路由,结合缓存命中、负载和服务目标选择 Worker;Prefill 计算上下文并向 Decode 传输 KV,两类资源池可独立扩缩
算力调度与硬件纳管
以 Kubernetes 组织异构设备、任务队列和多集群资源,连接跨域算力调度与域内 Prefill / Decode 协同

监控、权限、租户隔离与计量贯穿各层,分层缓存与资源编排适配不同模型及硬件环境

A / 调度与执行

计算分工与弹性调度

围绕 Dynamo 与推理引擎协同,研究 Prefill / Decode 分离、并行策略和异构资源调度,优化不同任务负载下的资源利用

B / 缓存与传输

缓存复用与高速传输

研究 KV 缓存复用、主机内存卸载与跨节点传输,评估命中率、搬运开销和首 Token 响应时延之间的关系

C / 环境与复现

环境标准化与运行复现

记录模型、精度、引擎、驱动与网络配置,固化部署模板和测试负载,跟踪模型加载、运行与恢复过程

围绕 Dynamo、TensorRT-LLM、vLLM、SGLang 等生态,持续开展模型适配与推理性能研究

04 / FDE PRACTICE

面向产业现场的部署工程

连接业务、算法与基础设施,从任务适配到现场部署,将研发成果融入产业工作流

现场部署工作流从任务定义到持续运行

从现场任务开始

围绕业务目标、数据条件与服务要求,定义模型任务和评测基线

场景梳理 / 任务拆解 / 指标定义

打通运行环境

连接模型、数据流程与算力资源,完成接口、依赖和部署环境集成

环境配置 / 接口适配 / 资源编排

在真实负载中验证

结合现场数据和目标负载评测质量、时延与稳定性,完善异常处理机制

质量评测 / 性能验证 / 故障演练

沉淀持续运行能力

固化部署模板、评测配置与运行文档,支持交付后的监控、维护和迭代

模板复用 / 运行支持 / 持续优化

客户与场景伙伴

连接业务场景、行业经验与现场反馈

范特工程团队

协同算力环境、模型部署、工作流集成与评测

模型与设备伙伴

联合开展模型适配、设备集成与运行验证

05 / MAAS ROADMAP

模型与工作流服务平台

基于统一身份与接口接入的集成基础,持续研发 MaaS 平台,连接数据准备、模型适配、部署评测和运行计量,提升模型应用的工程效率

平台研发方向
数据 / 模型 / 工作流 / 运行管理
任务与工作流入口业务目标 → 数据与模型 → 部署与评测 → 运行反馈
01

数据与资产管理

组织数据集、标注、场景资产和模型权重,记录来源、版本及使用范围

02

训练与模型适配

围绕任务配置训练、后训练或微调流程,保留实验参数与产物关联

03

模型部署与服务

沉淀环境模板、引擎适配与服务接口,记录资源配置和发布版本

04

工作流编排

连接模型、工具与业务步骤,跟踪执行状态、异常分支和人工复核

05

评测与回放

组织质量评测、性能测试和任务回放,形成版本间可比较的结果

06

计量与运行追踪

关联调用、资源、成本与输出,支持问题定位和持续优化

连接任务、模型与工具,积累可复用的工程能力

面向行业应用,持续沉淀模型适配、工作流编排与运行管理模块
06 / VALIDATION & MEASUREMENT

贯穿研发与交付的评测体系

从模型基线到完整工作流,综合评估任务质量、响应效率、资源消耗与运行稳定性,以可复现的实验推动持续优化

查看技术评测指标
验证维度核心指标评测条件
任务质量结果正确性、任务完成率、失败类型;具身任务补充动作与场景约束测试集、评判规则、样本数、任务版本与人工复核结果
响应与吞吐首 Token 时延 TTFT、每输出 Token 耗时 TPOT、兼顾质量与时延的有效吞吐输入输出长度、并发、请求分布、预热条件及 P50 / P95 分位数
缓存与通信缓存命中、跨节点传输开销、模型加载时间与网络瓶颈冷暖缓存、复用前缀、缓存容量、网络拓扑和实际数据路径
能耗与成本单位有效产出的能耗与成本,结合持续运行条件比较统计时段、功耗测量范围、资源费用及基础设施与运营费用口径
稳定性与恢复长时间运行、异常请求、节点故障与服务恢复表现运行时长、失败请求、故障条件、恢复过程与已知限制
可复现的环境

关联硬件、模型、软件版本与测试负载,保持实验条件和优化过程可追溯

质量与效率协同

结合模型输出质量与服务响应,综合评估有效吞吐、能耗和运行成本

仿真与实测联动

连接离线回放、仿真测试与目标环境实测,分析模型在真实任务中的表现

评测覆盖模型适配、推理优化与具身任务,服务于研发迭代和工程交付

CONTACT US

携手推进产业智能研发

联合探索大模型、推理工程与物理 AI

0510–81999881周一至周五 09:00–18:00