首页 > 其他分享 >推荐系统工程架构

推荐系统工程架构

时间:2024-05-04 13:11:07浏览次数:22  
标签:候选 视频 系统工程 架构 推荐 用户 召回 排序 精排

推荐系统简介

计算原理

我们把每个用户/视频表示成空间中的一个点。 如果两个点越接近,就认为这个用户对这个视频的喜欢程度越高,反之越低。 用户点赞这个视频就拉近两点,没点赞就拉远两点的距离。这样就组成了整体推荐系统  

推荐系统流程

 

从海量视频中召回用户感兴趣的视频,经过粗排模型初步筛选用户最感兴趣的几百条视频,分数最高的前几百,然后通过效果更好的精排模型再计算一遍分数,之后应用一些业务规则插,打散,送入系统混排广告,最后返回给用户。  

名词介绍

候选/物料库

从一堆候选品中选择一些物品给用户,满足用户不明确的需求,候选品的数量很大,百万千万甚至是亿万级别。 候选集是一个庞大的,集海量物品为一体的大仓库。推荐系统的上限受制于候选量级的数量。  

召回

  • 难点:召回作用的对象是候选集,由于候选量巨大,召回所面临的压力也是巨大的,特别是时延方面
  • 数量级:从千万,亿级别的候选中粗筛,产出万余条数据
  • 作用:缩小候选集,缩小提供给用户的范围,从候选商品中进行粗筛,通过简单的模型筛选出几百到几十件商品
  • 特点:数据量大,模型简单,响应快,使用的特征量少
 

排序

  • 粗排:对召回结果进行排序,topK送入精排。粗排的打分量远远高于精排,大概是1w条。
  • 精排:最纯粹的排序,机器学习模块。目标只有一个,就是找到最准确的预测
  • 重排:业务排序层,机器学习返回的排序不一定完全符合业务要求,还要兼顾结果的多样性,流行度,新鲜度等指标,然后还要插入广告,用来对当前排序好的结果根据业务偏好再次排序。提权,打散,隔离,强插
 

标签:候选,视频,系统工程,架构,推荐,用户,召回,排序,精排
From: https://www.cnblogs.com/ak918xp/p/18172208

相关文章

  • 架构每日一学 2:架构师六个生存法则之一:架构必须有且仅有一个目标(一)
    本文首发于公众号:腐烂的橘子为什么有的架构活动没有正确的目标?在每个架构活动启动之前,必须有且仅有一个正确的目标,这是架构设计的起点[1]。何为正确?正确就是要与公司的战略目标相匹配。否则系统会变得复杂和无序。架构活动为什么需要目标?看看下面的情形你是否遇到过:公司一......
  • C# 搭建一个 基于ISqlSugarClient 三层架构框架 涉及数据库仓储 然后中间又有业务逻辑
    要在C#中搭建基于ISqlSugarClient的三层架构框架,你需要定义数据访问层(DAL)、业务逻辑层(BLL)和表现层(UI)。下面是一个完整的例子,涉及数据库仓储、业务逻辑层,以及依赖注入。这个例子基于ASP.NETCoreMVC构建,使用ISqlSugarClient来处理数据访问。这个例子中,我们将使用User作为一个简单......
  • 高并发缓存架构实战和优化
    参考资料:图灵课堂-https://vip.tulingxueyuan.cn 中小公司Redis缓存架构以及线上问题分析直接写入数据库,然后更新redis;正常低并发情况下,这种情况是暂时不会出现问题的,因为并发量并不高,不会出现各种各样的并发问题。大厂线上大规模商品缓存数据冷热分离实战使用缓存,主要是......
  • 底层架构
    一:角色分类(1)Coordinator协调器:协调器服务监视数据服务器上的历史服务。他们负责将区段分配给特定服务器,并确保区段在历史服务器之间保持良好的平衡。(2)Overlord:控制数据摄入任务的分配,Overlord服务监视数据服务器上的MiddleManager服务,并且是将数据摄取到Druid。他们负......
  • 架构每日一学 1:成为一名架构师,你必须具有“战略意图”
    本文首发于公众号:腐烂的橘子前言最近学习了《郭东白的架构课》,受益良多。作为一名普通程序员,有时候不禁想问公司里的架构师大牛是怎么成长的,为什么他可以是一名架构师,而我们只能在公司里写代码做需求?郭在文章中提出了很多超出以往认知的观点,让我重新审视了架构师这个职业。除......
  • 从0到10Wqps,大厂的智能客服平台,如何实现架构演进?
    文章很长,且持续更新,建议收藏起来,慢慢读!疯狂创客圈总目录博客园版为您奉上珍贵的学习资源:免费赠送:《尼恩Java面试宝典》持续更新+史上最全+面试必备2000页+面试必备+大厂必备+涨薪必备免费赠送:《尼恩技术圣经+高并发系列PDF》,帮你实现技术自由,完成职业升级,薪......
  • Redis持久化、主从与哨兵架构详解
    参考图灵课堂https://zhuanlan.zhihu.com/p/443951927https://blog.csdn.net/weixin_37548768/article/details/124538778?spm=1001.2014.3001.5502https://www.runoob.com/redis/redis-transactions.html   redis支持持久化到磁盘,这样可用进一步保证数据的完整性。re......
  • 推荐一个教程,适用于想学python但是只学点基础知识用于刷题的
    省流:https://www.bilibili.com/video/BV1Lk4y117Cb?p=1&vd_source=4a339d299e165d8fe38b9926c5240eae我以前一直使用Java刷题,但是随着刷题的数量越来越多,越发感觉Java真的不适合用来刷题,看leetcode里面的大佬们基本都是清一色的c++和python,所以我也是想学点python用于刷题,花了......
  • 强烈推荐,企业级消息推送神器:Austin,让沟通无处不在!
    PDF格式公众号回复关键字:ZKCH002开源一个支持email,短信,语音,服务号,小程序,企业wx,钉钉,飞书,APP推送等消息类型的推送系统随着企业数字化程度越来越高,不同的系统通过消息推送来增强业务流程的通信效率和协调性场景越来越多。以下是一些具体系统中使用到消息推送的业务场景客户关......
  • [好物推荐] 编程字体推荐
    推荐一些编程中使用的功能性字体1.中英文混合字体写代码的注释更好看,也适用于中文显示乱码的编程环境,如老版本的matlab中YaHei-Consolas-Hybrid.ziphttps://www.lanzoub.com/i648hxiFiraCodePingFang-Retina.ttfhttps://www.lanzoub.com/i6488ja2.窄英文等宽字体适......