← 返回列表
一种数据自采集的模型推理服务系统及方法
申请人信息
- 申请人:深圳市魔数智擎人工智能有限公司
- 申请人地址:518000 广东省深圳市南山区粤海街道北邮科技大厦1505-1507
- 发明人: 深圳市魔数智擎人工智能有限公司
专利详细信息
| 项目 | 内容 |
|---|---|
| 专利名称 | 一种数据自采集的模型推理服务系统及方法 |
| 专利类型 | 发明申请 |
| 申请号 | CN202311496254.2 |
| 申请日 | 2023/11/10 |
| 公告号 | CN117472964A |
| 公开日 | 2024/1/30 |
| IPC主分类号 | G06F16/2455 |
| 权利人 | 深圳市魔数智擎人工智能有限公司 |
| 发明人 | 许靖; 柴磊; 刘清华 |
| 地址 | 广东省深圳市南山区粤海街道北邮科技大厦1505-1507 |
摘要文本
深圳市魔数智擎人工智能有限公司取得“一种透气窗帘布”专利技术，本发明提供了一种数据自采集的模型推理服务系统及方法，包括：按照异步推理服务器部署模型环境场景，自适应选择系统可识别的模型依赖库文件，获取训练后持久化存储模型；根据推理任务选择调用设定格式规范；设定异步推理输入接口源，配置接口相应参数，进行异步推理接口数据输入；配置准备接入的数据库及接口源，在输入数据库连接信息后进行连接测试；自动判定连接测试结果，进行异步推理数据库表数据输入；根据异步推理接口数据输入及异步推理数据库表数据输入，选择多个训练后持久化存储模型所在容器资源配额及每个模型的部署节点数，判定是否有重复数据字段，进行数据自采集模型部署异步推理服务；具备良好的扩展性和并发处理能力。
专利主权项内容
1.一种数据自采集的模型推理服务系统，其特征在于，包括：持久化模型创建分系统，按照异步推理服务器部署模型环境场景，自适应选择系统可识别的模型依赖库文件，进行模型训练后持久化存储，获取训练后持久化存储模型；根据推理任务选择调用设定格式规范，按照设定格式规范制定模型基本描述文件；异步推理接口数据输入分系统，设定异步推理输入接口源，配置接口相应参数，进行模型的异步推理接口数据输入；异步推理数据库表数据输入分系统，配置准备接入的数据库及接口源，在输入数据库连接信息后进行连接测试；自动判定连接测试结果，进行模型的异步推理数据库表数据输入；配额部署异步推理分系统，根据异步推理接口数据输入及异步推理数据库表数据输入，选择多个训练后持久化存储模型所在容器资源配额及每个模型的部署节点数，判定是否有重复数据字段，进行数据自采集模型部署异步推理服务。