首页 > 其他分享 >模型调用异常问题分析

模型调用异常问题分析

时间:2023-06-08 16:34:42浏览次数:38  
标签:缓存 DI type 模型 调用 key model 异常

现象

业务卡件,报错:模型输入项获取发生异常

原因

现在模型接入是支持页面配置的,定时会将数据库的模型参数加载到缓存中,代码运行时模型参数都是直接从缓存中获取的

下午新增模型时,业务人员配错了模型参数

DI->MODEL1,model_key->mdoel1,model_type->130,

此时加载到缓存中,然后业务对该模型进行了修改,改为了

DI->MODEL2,model_key->mdoel1,model_type->130,

这时候由于缓存map是以DI作为主键并且缓存的刷新是直接更新而没有做清空处理

  加载模型数据到缓存

这时候缓存再次将这条数据加入内存中,即此时缓存中对应了两个模型,即产生了脏数据

DI->MODEL1,model_key->mdoel1,model_type->130

DI->MODEL2,model_key->mdoel1,model_type->130

然后在模型输入项获取时会将模型model_key和model_type取出组成一个map,mdoel_key作为主键

   

这时候由上面的缓存记录可以看到,有两条模型参数对应同一moedl_key,就抛异常了;

处理办法

重启应用以刷新缓存,清掉脏数据

改进措施

1、业务层面:模型元数据配置按使用场景进行隔离

2、安全层面:模型配置增加审核机制

3、编码层面:加强异常数据场景测试


作者:上好佳28
链接:https://www.jianshu.com/p/27a77075715c
来源:简书
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。

标签:缓存,DI,type,模型,调用,key,model,异常
From: https://www.cnblogs.com/yogayao/p/17466885.html

相关文章

  • java Comparator.comparing 排序异常
    今天在Java中使用 Comparator.comparing方法排序时遇到一个异常,明明已经使用了Comparator.comparing从小到大排序,但是1-10以内的顺序还好,>10的时候排序就乱了代码如下:List<MyRouteLongitudeAndLatitudeVo>collectVos=myRouteLongitudeAndLatitudeVos......
  • 异常值检验(1)
    OutlierDetectionGeneralizedESDTest数据集:\(\left\{x_{1},x_{2},\ldots,x_{n}\right\}\)原假设\(H_{0}\):数据集中不存在异常值。备择假设\(H_{1}:\)最多存在\(r\)个异常值。计算统计量:\[R_{i}=\frac{\max(x_{i}-\bar{x})}{s}\]其中,\(\bar{x}\)为......
  • 风景归来,回忆重生:领略《回旋赋》的诗情画意——体验国内AI模型
    事先声明:1.本博客中的有关诗文均系国内的AI聊天机器人所作,非CHATGPT所作2.在本博客之前的本作者的所有诗文作品均系作者创作,非任何AI所作先看诗2023.6.8:UPD:第一首也不回文!!!!!!后半首没有"竝前疚"回旋赋回旋赋,舟船启,纤纤秋士,竝前疚,愁多情更多,相思心腹,缘分姻缘,恒河沰。沰中水浸......
  • 脑机接口 | 面向步态&神经电生理研究的非人灵长类模型与系统
    近期,海南大学生物医学工程学院脑机芯片神经工程团队在FrontiersinNeuroscience期刊上发表了题为《面向步态&神经电生理研究的非人灵长类模型与系统》的学术论文。海南大学生物医学工程学院梁丰研副教授为第一作者,殷明教授为通讯作者。海南大学为第一作者单位和通讯单位。大脑皮......
  • 利用异构语言学图增强汉语预训练语言模型
    中文预训练模型利用上下文字符信息学习表示,却忽略了语言学知识,如单词和句子信息。因此,我们提出了一个称为异构语言学图(HLG)的无任务增强模块,通过整合语言学知识来增强预先训练的汉语模型。具体而言,我们构建了一个层次异质图来建模汉语的特征语言学结构,并采用基于图的方法来总结和具......
  • 如何快速使用ChatGPT AI语言模型
    如何快速使用ChatGPTAI语言模型测试日期:2023年6月初1.打开浏览器访问:https://gpt.aigcfast.com2.输入问题后,点击“发送”按钮。3.说明:大型语言模型AI答案会随即给出;支持手机和电脑等各种设备请自我考量隐私和信息的正确性,只做一个临时推荐,有效期不确定,本文将持续更新......
  • 李开复谈AI和大语言模型的竞争格局和未来展望:谁将引领人工智能的下一个飞跃?
    原创|文BFT机器人李开复谈AI和大语言模型的竞争格局和未来展望:谁将引领人工智能的下一个飞跃?01AI2.0时代下:壮志凌云,自强不息5月28日,在2023中关村论坛“人工智能大模型发展论坛”上,创新工场董事长兼首席执行官李开复的演讲主要围绕,在AI2.0时代下,中国的大模型发展应该做到壮志凌云......
  • SpringBoot 全局异常处理
    SpringBoot全局异常处理在使用SpringBoot开发Web应用时,异常处理是必不可少的一部分。在应用中,异常可能会出现在任何地方,例如在控制器、服务层、数据访问层等等。如果不对异常进行处理,可能会导致应用崩溃或者出现未知的错误。因此,对于异常的处理是非常重要的。在SpringBoo......
  • Midjourney AI绘画中文教程详解(完整版)模型、命令、参数与各种高级用法
     我有一种预感,您一下子看不完这篇内容,您得【收藏】一下,以便下次接着看~~ MidjourneyAI绘画中文教程,Midjourney是一款2022年3月面世的AI绘画工具,创始人是DavidHolz。 只要输入想到的文字,就能通过人工智能产出相对应的图片,耗时只有大约一分钟,这个工具不仅能绘画,还能做海报,UI设......
  • JVM内存结构&Java内存模型&Java对象模型
    1.JVM内存结构Java代码是运行在虚拟机上的,而虚拟机在执行Java程序的过程中会把管理的内存划分为若干个不同的数据区域。其中有些区域是随着虚拟机进程的启动而存在,而有些区域则依赖用户线程的启动和结束而建立和销毁。而这些区域会被划分为五个区域,具体的如下:方法区:方法区与是......