基于原数据的SMG实现系统及方法
申请人信息
- 申请人:上海交通大学
- 申请人地址:200240 上海市闵行区东川路800号
- 发明人: 上海交通大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 基于原数据的SMG实现系统及方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311482405.9 |
| 申请日 | 2023/11/9 |
| 公告号 | CN117493043A |
| 公开日 | 2024/2/2 |
| IPC主分类号 | G06F9/54 |
| 权利人 | 上海交通大学 |
| 发明人 | 李超; 侯小凤; 唐鹏; 徐诚; 过敏意 |
| 地址 | 上海市闵行区东川路800号 |
摘要文本
上海交通大学获取“一种透气窗帘布”专利技术，一种基于原数据的SMG实现系统及方法，包括：设置于DSP输入端的原始数据缓存区、数据缓存区创建和控制模块、DSP控制处理模块、多模态选择模块和自适应多模态计算模块，原始数据缓存区临时存储来自传感器的原始模态数据，多模态选择模块通过神经网络判断原始模态数据中模态数据的重要度后，将重要的模态数据输出至DSP进行处理，数据缓存区创建和控制模块为应用实现创建、读、写数据缓存区，DSP控制处理模块提供系统调用，自适应多模态计算模块通过构建并训练神经网络后，在线根据输入的模态进行自适应的模态融合计算并给出计算结果。本发明通过预先进行多模态门控处理，对进入DSP的模态数据进行提前筛选，以保证不需要的模态数据不经过DSP，从而避免DSP造成不必要的能量和执行时间浪费。。更多数据：
专利主权项内容
1.一种基于原数据的SMG实现系统，其特征在于，包括：设置于DSP输入端的原始数据缓存区、数据缓存区创建和控制模块、DSP控制处理模块、多模态选择模块和自适应多模态计算模块，其中：原始数据缓存区临时存储来自传感器的原始模态数据，多模态选择模块通过神经网络判断原始模态数据中模态数据的重要度后，将重要的模态数据输出至DSP进行处理，数据缓存区创建和控制模块为应用实现创建、读、写数据缓存区，DSP控制处理模块提供系统调用，自适应多模态计算模块通过构建并训练神经网络后，在线根据输入的模态进行自适应的模态融合计算并给出计算结果；所述的原始模态数据，当计算任务启动时，调用reqRAW(...)函数获取得到图像和声音两种模态数据；所述的多模态计算是指：根据多模态选择模块得到的结果从DSP中获取相应的处理后的模态数据，将不同的模态输入到对应的特征提取网络中提取特征，然后进行融合，最后计算结果。