国家知识产权局信息显示，昆仑元人工智能技术（上海）有限公司申请一项名为“基于循环神经网络的键值缓存管理方法及系统”的专利，公开号CN122985400A，申请日期为2026年7月。
专利摘要显示，本申请涉及一种基于循环神经网络的键值缓存管理方法及系统，其包括构建基于循环神经网络的访问模式预测器，根据大语言模型推理过程中KV缓存块的历史访问状态序列预测各缓存块在未来窗口内的访问概率；基于所述访问概率执行新生成缓存块的准入决策，将其分配至GPU显存或CPU内存；当GPU显存容量超限时，根据预测访问概率从低到高选取淘汰对象并迁移至CPU内存；根据被淘汰时的概率分数通过单调保留时长映射函数确定各块在CPU内存中的差异化保留步数，超期则释放；在推理服务运行过程中持续采集访问轨迹数据，对预测器进行在线增量更新。
天眼查资料显示，昆仑元人工智能技术（上海）有限公司，成立于2024年，位于上海市，是一家以从事软件和信息技术服务业为主的企业。企业注册资本232.4004万人民币。通过天眼查大数据分析，昆仑元人工智能技术（上海）有限公司共对外投资了5家企业，参与招投标项目5次，财产线索方面有商标信息16条，专利信息15条，此外企业还拥有行政许可2个。
编辑：李雯
责编：张静雯
监审：李悠
终审：梁启明
免责声明：本文来源于网络转载，转载此文目的在于传递更多信息，不代表本网的观点和立场。仅供学习交流使用，不构成商业目的。版权归原作者所有。若有来源标注错误或侵犯了您的合法权益，请作者持权属证明与本网联系，我们将及时更正、删除，谢谢。联系电话：010-53681967
