华为云企业级redis揭秘第五期:高斯redis在im场景中的应用-星辰平台

发表于 2021/03/17 14:43:32 2021/03/17
【摘要】 云数据库gaussdb(for redis)作为华为云旗下企业级redis,致力于为客户提供稳定可靠、超高并发,且能够极速弹性扩容的kv存储服务。

        即时通讯(instant messaging,简称im)是一个实时通信系统,允许两人或多人使用网络实时的传递文字消息、文件、语音与视频。微信、qqim类产品在这个高度信息化的互联网时代已成为生活必备品,im系统中最核心的部分是消息系统,消息系统中最核心的功能是消息的同步、存储和检索。

  • 消息同步:将消息完整的、快速的从发送方发送至接收方。消息同步系统最重要的衡量指标是消息传递的实时性、完整性、顺序性以及支撑的消息规模。
  • 消息存储:即消息的持久化,传统消息系统通常支持消息在接收端的本地存储,数据基本不具备可靠性。现代消息系统支持消息在云端存储,从而实现消息漫游:账号可在任意客户端登陆查看所有历史消息。
  • 消息检索:消息一般是文本,所以支持全文检索也是必备的能力之一。传统消息系统通常来说基于本地存储的消息数据来构建索引,支持消息的本地检索。而现代消息系统支持消息的在线存储以及存储过程中构建索引,提供全面的消息检索功能。


       上图为im系统的应用场景,可用于聊天,游戏、智能客服等诸多行业。不同行业对im系统的成本、性能、可靠性、时延等指标的需求是不同的,架构设计需要进行平衡。接下来将介绍im系统架构设计所涉及到的一些基本概念。

2.1 传统架构 vs 现代架构 


传统架构

  • 先同步后存储。
  • 在线消息同步和离线消息缓存。
  • 服务端不会对消息进行持久化,无法支持消息漫游。

现代架构

  • 先存储后同步。
  • 划分消息存储库与消息同步库。消息存储库用于全量保存所有会话消息,主要用于支持消息漫游。消息同步库,主要用于接收方的多端同步。
  • 提供消息全文检索能力。

2.2 读扩散vs 写扩散 

     《2020微信数据报告》指出,截至20209月,微信月活跃用户数为10.825亿,日消息发送次数450亿次,日音视频呼叫成功次数4.1亿次。面临这么多的消息,如何保证消息传递的可靠性、一致性并且有效的降低服务器或者客户端的压力是十分具有技术挑战的。其中,采用何种读写模型对im系统至关重要,这里介绍两种模型:读扩散和写扩散。



       如上图所示,用户b与每个聊天的人(a1,a2,a3)都有一个信箱(一种数据结构的抽象,用于存储消息),b在查看聊天信息时需读取所有有新消息的信箱。im系统里的读扩散通常是每两个相关联的人就有一个信箱。

读扩散的优点:

  • 写操作(发消息)轻量,不管是单聊还是群聊,只需要往相应的信箱写一次即可。
  • 每一个信箱天然就是两个人的聊天记录,可以方便查看和搜索聊天记录。

读扩散的缺点:

  • 读操作(读消息)很重,存在读放大效应。



如上图,在写扩散中,用户(b1,b2,b3)都只从自己的信箱里读取消息,但写(发消息)的时候,对于单聊跟群聊处理如下:

  • 单聊:往自己的信箱跟对方的信箱都写一份消息;同时,如果需要查看两个人的聊天历史记录的话还需要再写一份。
  • 群聊:发信息时需要针对所有群成员的信箱都写一份消息。群聊使用的是写扩散模型,而写扩散很消耗资源,因此微信群有人数上限(目前是500)。

写扩散优点:

  • 读操作很轻量,只需要读取自己的邮箱。
  • 可以很方便实现消息的多终端同步。

写扩散缺点:

  • 写操作很重,尤其是对于群聊来说。

2.3 推模式 vs 拉模式 vs 推拉结合模式


im系统中,消息的获取通常有三种模式:

  • 推模式(push)新消息到达时由服务器主动推送给所有客户端;需要客户端和服务器建立长连接,实时性很高,对客户端来说只需要接收处理消息即可;缺点是服务端不知道客户端处理消息的能力,可能会导致数据积压。
  • 拉模式(pull)由前端主动发起拉取消息的请求,为了保证消息的实时性,一般采用推模式,拉模式一般用于获取历史消息;因客户端拉取新消息的时间间隔不好预设,太短可能会导致大量的连接拉取不到数据,太长导致数据接收不及时。
  • 推拉结合模式:兼顾pushpull两种模式的优点。新消息来临时服务器会先推送一个新消息到达的通知给前端,前端接收到通知后就向服务器拉取消息。



   上图为im系统的总体架构图,client双方通信会经过server转发来完成消息传递。其核心为消息存储库和消息同步库。这两种库对存储层的性能有极高的要求。

  • 支撑海量数据存储:对于消息存储库来说,如果需要消息永久存储,则随着时间的积累,数据规模会越来越大,需存储库支持容量无限扩展以应对日益增长的消息数据。
  • 低存储成本:消息数据具有明显的冷热特征,大部分查询集中在热数据,冷数据需要一个低成本的存储方式,否则随着时间的积累,数据量不断膨胀,存储成本会不断上升。
  • 数据生命周期管理:不管是对于消息数据的存储还是同步,数据都需要定义生命周期。存储库是用于在线存储消息数据本身,通常需要设定一个较长周期的保存时间。而同步库是用于写扩散模式的在线或离线推送,通常设定一个较短的保存时间。
  • 极高的写入吞吐:绝大部分im类场景,通常是采用写扩散模型,写扩散要求底层存储具备极高的写入吞吐能力,从而应对消息洪峰。
  • 低延迟的读:消息系统通常应用于在线场景,具备较高的实时性,读取延迟应尽可能低。

        im系统的核心是存储层,其性能差异将直接影响im系统的用户体验。目前存储层可选择的数据库产品有很多,如hbase、开源redis等等。选择何种数据库,需根据业务规模、成本、性能等指标来进行综合选择。这里介绍一种nosql数据库:高斯redis,在性能和规模上,可以满足im系统对存储层的严格要求:海量数据存储、低存储成本、生命周期管理、写入吞吐大、读取时延低。

4.1 高斯redis简介

       高斯redis是华为云数据库团队自主研发且兼容redis5.0协议的云原生数据库,采用计算存储分离架构。存储侧使用自研的存储系统,容量无限扩展、强一致、高可靠。计算侧基于 lsm 存储引擎实现,通过将大量的随机写转换为顺序写,从而极大的提升了数据写入性能,同时也通过读缓存、bloom filter 等极大优化了读取性能。下图是高斯redisim场景的优势介绍。



4.2基于高斯redisim应用案例:

       下图是基于高斯redisim系统模型图,这里我们使用stream作为基本数据结构。redis stream不仅可以作为消息存储容器,还实现了生产者、消费者等基本模型,具有im系统的基本功能,如消息订阅,分发、增加消费者等,用户可基于高斯redis快速构建一套im系统。创建一个群聊时,在redis中对应地为该群聊创建一个stream队列。在发送消息时,每个用户都将消息按照时间顺序添加到stream队列中,保证了消息的有序性。stream是一个持久化的队列,可保证信息不丢失。



       高斯redis通过一系列技术创新实现了读写性能水平扩展,秒级扩容,低成本以及自动备份等功能, 可作为im系统的存储层,其优异的读写性能和高级特性将会极大助力im应用.同时,高斯redis在开源redis的基础之上,较好平衡了性能和成本,能够广泛应用在智慧医疗、流量削峰、计数器等领域。


本文作者:华为云数据库gaussdb(for redis)团队

杭州/西安/深圳简历投递:[email protected]

gaussdb(for redis)产品星辰平台主页:

更多技术文章,关注gaussdb(for redis)官方博客:

【星辰平台的版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区),文章链接,文章作者等基本信息,否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件至:进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容。
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。