面向服务器无感知计算场景的函数间数据直接传递方法
摘要文本
来自：www.macrodatas.cn 本发明公开了面向服务器无感知计算场景的函数间数据直接传递方法，包括步骤：用作前端API端点的网关接收外部函数请求，执行负载平衡，并将其转发到节点内引擎；节点内引擎分派请求给函数，并根据QPS决定通知该函数是否和下游函数之间建立DTCs；若函数间不能建立DTCs，则同节点函数间和跨节点函数间分别采用IPC和Fabric传输方式数据传输；若函数间能建立DTCs，则同节点函数间和跨节点函数间分别采用DTC_over_IPC和DTC_over_Fabric传输方式建立有状态连接，实现函数间数据直接传递。本发明通过在频繁调用的函数间建立有状态连接，在数据传输过程中解耦控制流与数据流，不仅可实现低延迟、直接数据传输，并且可极大降低控制面的开销。
申请人信息
- 申请人:天津大学
- 申请人地址:300072 天津市南开区卫津路92号
- 发明人: 天津大学
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 面向服务器无感知计算场景的函数间数据直接传递方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202410015520.3 |
| 申请日 | 2024/1/4 |
| 公告号 | CN117834709A |
| 公开日 | 2024/4/5 |
| IPC主分类号 | H04L67/141 |
| 权利人 | 天津大学 |
| 发明人 | 赵来平; 刘国威; 曲雯毓; 段兆麟; 苏志远; 亓开元 |
| 地址 | 天津市南开区卫津路92号 |
专利主权项内容
1.面向服务器无感知计算场景的函数间数据直接传递方法，其特征在于：包括以下步骤：S1、用作前端API端点的网关接收外部函数请求，执行负载平衡，并将其转发到节点内引擎；S2、节点内引擎分派请求给上游函数，并根据“建立通道后所产生的收益是否足以覆盖建立开销”决定，通知所述上游函数是否和下游函数之间建立DTCs；S3、若根据“建立通道后所产生的收益是否足以覆盖建立开销”决定，节点内引擎通知上游函数和下游函数之间不能建立DTCs，则同节点函数之间采用IPC的传输方式进行数据传输，跨节点函数之间采用Fabric的传输方式进行数据传输；S4、若根据“建立通道后所产生的收益是否足以覆盖建立开销”决定，节点内引擎通知上游函数和下游函数之间能够建立DTCs，则同节点函数间采用DTC_over_IPC的传输方式建立有状态连接，通过使用Linux FIFO建立全双工连接，实现节点内函数间数据直接传递；跨节点函数间采用DTC_over_Fabric的传输方式建立有状态连接，通过使用RDMA在节点之间建立全双工连接，实现跨节点函数间数据直接传递。 （macrodatas.cn）