字跳网络申请服务请求调度专利,提高模型服务系统的整体处理效率

字跳网络申请服务请求调度专利,提高模型服务系统的整体处理效率
2024年11月11日 13:55 金融界网站

本文源自:金融界

金融界2024年11月11日消息,国家知识产权局信息显示,北京字跳网络技术有限公司申请一项名为“服务请求调度方法、装置、电子设备及存储介”的专利,公开号CN 118916130 A,申请日期为2024年7月。

专利摘要显示,本公开实施例提供一种服务请求调度方法、装置、电子设备及存储介质,通过响应于针对目标功能的调用请求,生成至少一个处理任务,处理任务用于调用目标功能对应的模型服务处理目标数据;根据调用请求对应的场景信息,从多个任务队列中,确定目标任务队列,并将处理任务发送至对应的目标任务队列中,其中,场景信息表征运行目标功能时的应用场景,目标任务队列具有与场景信息对应的调用优先级;基于目标任务队列的调用优先级,调用目标任务队列,并执行目标任务队列内的处理任务,得到对应的模型服务返回的目标功能的执行结果。提高模型服务系统的整体处理效率和响应速度,从而提高终端设备一侧用户的使用体验。

财经自媒体联盟更多自媒体作者

新浪首页 语音播报 相关新闻 返回顶部