Java高并发架构设计的介绍(图文)

本篇文章给大家带来的内容是关于java高并发架构设计的介绍(图文),有一定的参考价值,有需要的朋友可以参考一下,希望对你有所帮助。

序言

高并发经常会发生在有大活跃用户量,用户高聚集的业务场景中,如:秒杀活动,定时领取红包等。

为了让业务可以流畅的运行并且给用户一个好的交互体验,我们需要根据业务场景预估达到的并发量等因素,来设计适合自己业务场景的高并发处理方案。

视频课程推荐→:《千万级数据并发解决方案(理论+实战)》

在电商相关产品开发的这些年,我有幸的遇到了并发下的各种坑,这一路摸爬滚打过来有着不少的血泪史,这里进行的总结,作为自己的归档记录,同时分享给大家。

立即学习“Java免费学习笔记(深入)”;

一丶服务器架构

业务从发展的初期到逐渐成熟,服务器架构也是从相对单一到集群,再到分布式服务。

一个可以支持高并发的服务少不了好的服务器架构,需要有均衡负载,数据库需要主从集群,nosql缓存需要主从集群,静态文件需要上传cdn,这些都是能让业务程序流畅运行的强大后盾。

服务器这块多是需要运维人员来配合搭建,具体我就不多说了,点到为止。

大致需要用到的服务器架构如下:

服务器

均衡负载(如:nginx,阿里云SLB)

资源监控

分布式

数据库

主从分离,集群

DBA 表优化,索引优化,等

分布式

nosql

主从分离,集群

主从分离,集群

主从分离,集群

redis

mongodb

memcache

cdn

html

css

js

image

并发测试

高并发相关的业务,需要进行并发的测试,通过大量的数据分析评估出整个架构可以支撑的并发量。

测试高并发可以使用第三方服务器或者自己测试服务器,利用测试工具进行并发请求测试,分析测试数据得到可以支撑并发数量的评估,这个可以作为一个预警参考,俗话说知己自彼百战不殆。

第三方服务:

阿里云性能测试

并发测试工具:

Apache JMeter

Visual Studio性能负载测试

Microsoft Web Application Stress Tool

实战方案

通用方案

日用户流量大,但是比较分散,偶尔会有用户高聚的情况;

场景: 用户签到,用户中心,用户订单,等

服务器架构图:

3506066316-5bcae6e3b6b4e_articlex.png

说明:

场景中的这些业务基本是用户进入APP后会操作到的,除了活动日(618,双11,等),这些业务的用户量都不会高聚集,同时这些业务相关的表都是大数据表,业务多是查询操作,所以我们需要减少用户直接命中DB的查询;优先查询缓存,如果缓存不存在,再进行DB查询,将查询结果缓存起来。

更新用户相关缓存需要分布式存储,比如使用用户ID进行hash分组,把用户分布到不同的缓存中,这样一个缓存集合的总量不会很大,不会影响查询效率。

方案如:

用户签到获取积分

计算出用户分布的key,redis hash中查找用户今日签到信息

如果查询到签到信息,返回签到信息

如果没有查询到,DB查询今日是否签到过,如果有签到过,就把签到信息同步redis缓存。

如果DB中也没有查询到今日的签到记录,就进行签到逻辑,操作DB添加今日签到记录,添加签到积分(这整个DB操作是一个事务)

缓存签到信息到redis,返回签到信息

注意

这里会有并发情况下的逻辑问题,如:一天签到多次,发放多次积分给用户。

我的博文[大话程序猿眼里的高并发]有相关的处理方案。

用户订单

这里我们只缓存用户第一页的订单信息,一页40条数据,用户一般也只会看第一页的订单数据

用户访问订单列表,如果是第一页读缓存,如果不是读DB

计算出用户分布的key,redis hash中查找用户订单信息

如果查询到用户订单信息,返回订单信息

如果不存在就进行DB查询第一页的订单数据,然后缓存redis,返回订单信息

用户中心

计算出用户分布的key,redis hash中查找用户订单信息

如果查询到用户信息,返回用户信息

如果不存在进行用户DB查询,然后缓存redis,返回用户信息

其他业务

以上例子是一个相对简单的高并发架构,并发量不是很高的情况可以很好的支撑,但是随着业务的壮大,用户并发量增加,我们的架构也会进行不断的优化和演变,比如对业务进行服务化,每个服务有自己的并发架构,自己的均衡服务器,分布式数据库,nosql主从集群,如:用户服务、订单服务;

消息队列

秒杀、秒抢等活动业务,用户在瞬间涌入产生高并发请求

场景:定时领取红包,等

服务器架构图:

3506066316-5bcae6e3b6b4e_articlex.png

说明:

场景中的定时领取是一个高并发的业务,像秒杀活动用户会在到点的时间涌入,DB瞬间就接受到一记暴击,hold不住就会宕机,然后影响整个业务;

像这种不是只有查询的操作并且会有高并发的插入或者更新数据的业务,前面提到的通用方案就无法支撑,并发的时候都是直接命中DB;

设计这块业务的时候就会使用消息队列的,可以将参与用户的信息添加到消息队列中,然后再写个多线程程序去消耗队列,给队列中的用户发放红包;

方案如:

定时领取红包

一般习惯使用 redis的 list

当用户参与活动,将用户参与信息push到队列中

然后写个多线程程序去pop数据,进行发放红包的业务

这样可以支持高并发下的用户可以正常的参与活动,并且避免数据库服务器宕 机的危险

一级缓存

高并发请求连接缓存服务器超出服务器能够接收的请求连接量,部分用户出现建立连接超时无法读取到数据的问题;

因此需要有个方案当高并发时候时候可以减少命中缓存服务器;

这时候就出现了一级缓存的方案,一级缓存就是使用站点服务器缓存去存储数据,注意只存储部分请求量大的数据,并且缓存的数据量要控制,不能过分的使用站点服务器的内存而影响了站点应用程序的正常运行,一级缓存需要设置秒单位的过期时间,具体时间根据业务场景设定,目的是当有高并发请求的时候可以让数据的获取命中到一级缓存,而不用连接缓存nosql数据服务器,减少nosql数据服务器的压力

比如APP首屏商品数据接口,这些数据是公共的不会针对用户自定义,而且这些数据不会频繁的更新,像这种接口的请求量比较大就可以加入一级缓存;

服务器架构图:

1594222573-5bcae783cd07a_articlex.png

合理的规范和使用nosql缓存数据库,根据业务拆分缓存数据库的集群,这样基本可以很好支持业务,一级缓存毕竟是使用站点服务器缓存所以还是要善用。

静态化数据

高并发请求数据不变化的情况下如果可以不请求自己的服务器获取数据那就可以减少服务器的资源压力。

对于更新频繁度不高,并且数据允许短时间内的延迟,可以通过数据静态化成JSON,XML,HTML等数据文件上传CDN,在拉取数据的时候优先到CDN拉取,如果没有获取到数据再从缓存,数据库中获取,当管理人员操作后台编辑数据再重新生成静态文件上传同步到CDN,这样在高并发的时候可以使数据的获取命中在CDN服务器上。CDN节点同步有一定的延迟性,所以找一个靠谱的CDN服务器商也很重要。

3698118732-5bcae79fc4ed0_articlex.png

以上就是Java高并发架构设计的介绍(图文)的详细内容,更多请关注【创想鸟】其它相关文章!

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。

发布者:PHP中文网,转转请注明出处:https://www.chuangxiangniao.com/p/2089461.html

(0)
上一篇 2025年2月24日 11:31:09
下一篇 2025年2月24日 00:06:32

AD推荐 黄金广告位招租... 更多推荐

相关推荐

  • java面试之数据库性能优化

    顺分面试题: 你都用过哪些数据库,数据库优化操作 (推荐教程:java教学视频) 回答: 立即学习“Java免费学习笔记(深入)”; 1、根据服务层面 配置mysql性能优化参数; 2、从系统层面增强mysql的性能:优化数据表结构 ① 将…

    2025年2月24日
    200
  • javascript在web开发中吗

    JavaScript是在web开发中的;JavaScript是web开发领域中的一种功能强大的编辑语言,主要用于开发交互式的web页面;对于制作一个网页而言,HTML、CSS和JavaScript分别代表了结构、样式和行为,结构是网页的骨架…

    2025年2月24日
    200
  • js正则表达式和php正则表达式有什么区别

    区别:1、PHP正则表达式支持“(? 本教程操作环境:Windows10系统、javascript1.8.5&&PHP7.1版、Dell G3电脑。 js正则表达式和php正则表达式有什么区别 总体上,PHP的正则比标准ja…

    2025年2月24日
    200
  • Node.js中怎么使用Redis?原来这么简单!

    node中怎么使用redis?下面本篇文章给大家介绍一下node.js中使用redis的方法,你会发现原来这么简单,希望对大家有所帮助! 之前的文章中我们其实留了两个可以用redis优化的地方: 一个是我们的在做登录时,通过JWT已经实现了…

    2025年2月24日 数据库
    200
  • Java架构怎么应用于不同的产品

    当我们架设一个系统的时候通常需要考虑到如何与其他系统交互,所以我们首先需要知道各种系统之间是如何交互的,使用何种技术实现。 1. 不同系统不同语言之间的交互 现在我们常见的不同系统不同语言之间的交互使用WebService,Http请求。W…

    2025年2月24日 数据库
    200
  • Java嵌入数据引擎从SQLite到SPL实例分析

    可以在java应用中嵌入的数据引擎看起来比较丰富,但其实并不容易选择。redis计算能力很差,只适合简单查询的场景。spark架构复杂沉重,部署维护很是麻烦。h2hsqldbderby等内嵌数据库倒是架构简单,但计算能力又不足,连基本的窗口…

    数据库 2025年2月24日
    200
  • Java开发者必会的大数据工具和框架有哪些

    1、mongodb——最受欢迎的,跨平台的,面向文档的数据库。 MongoDB是一个基于分布式文件存储的数据库,使用C++语言编写。旨在为Web应用提供可扩展的高性能数据存储解决方案。应用性能高低依赖于数据库性能,MongoDB则是非关系数…

    2025年2月24日 数据库
    200
  • Java语言中的ORM框架介绍

    随着现代软件开发的趋势,大部分应用程序都需要与数据库进行交互。传统上,我们需要在代码中显式编写sql语句来查询或更新数据库。然而,这种方式具有很多缺点,例如不易于维护和容易出错。为了解决这些问题,orm(对象关系映射)框架应运而生,它允许我…

    数据库 2025年2月24日
    200
  • 轻松入门Java与腾讯云云数据库MongoDB的对接方法

    轻松入门java与腾讯云云数据库mongodb的对接方法 随着云计算和大数据技术的快速发展,云数据库成为了企业数据存储和管理的首选解决方案之一。作为现代开发人员,了解如何在Java应用程序中使用云数据库是非常重要的。本文将介绍如何使用Jav…

    数据库 2025年2月24日
    200
  • 如何使用Java编写CMS系统的数据同步模块

    如何使用Java编写CMS系统的数据同步模块 引言:随着信息时代的发展和互联网的普及,内容管理系统(CMS)在各行各业中得到了广泛的应用。在不同的用户群体中,对内容进行管理需要涉及到多个数据源的同步,这就需要一个高效可靠的数据同步模块来实现…

    2025年2月24日
    200

发表回复

登录后才能评论