基于排队理论的容器云弹性伸缩策略研究

弹性伸缩技术是灾害应急云计算中心的关键技术之一，基于合理的伸缩策略调整服务单元数量，有效解决高并发场景下应用的稳定性和性能等问题。Kubernetes作为目前主流的容器云管理平台，内置的HPA弹性伸缩策略，可能存在着资源供应过度和供应不足等问题。针对这一问题，提出了一种基于Kubernetes的容器云弹性伸缩策略ESBQT，利用排队理论构建满足平均请求响应时间最小约束条件下的Pod服务单元数供给优化模型。实验测试表明，ESBQT策略面临大流量、高并发请求时，资源供给更加合理，有效保证了应用的性能和稳定性。     

基于LVS＋KEEPALIVED的高可用负载均衡研究与应用

本文针对网络服务商普遍面临的的高并发访问量导致响应速度迟缓的问题进行分析,研究了基于LVS（Linux虚拟服务器）和KEEPALIVED（交换机制软件）的高可用负载均衡的原理,实现了一个可伸缩的、高可用的并具有容错容灾能力的负载均衡系统,该系统采用VS/DR的模式搭建,系统基于IP层和基于内容请求分发的负载平衡调度解决算法,将这些算法在Linux内核中进行实现,并对系统的高可用和负载均衡进行实验,实验证明,该负载均衡系统能对客户的请求进行分流,能有效减轻单个服务器的负载压力.     

智慧路灯远程监控平台的设计与实现

为实现城市路灯的实时监控,及时了解照明设备是否正常运转,达到系统智能、节能等目的,设计并实现了基于服务器集群的路灯远程监控管理软件。与传统的监控方式相比,易于扩展并且能够处理高并发访问请求,有效避免访问量过大而导致过载问题。通过Nginx分别将HTTP请求和TCP通信连接分发给集群中的服务器,提高了服务器在高负载情况下的工作效率。使用Redis作为关系型数据库的缓存数据库,将Session容器中的全局变量保存在Redis中,实现Session的同步和共享,保证了数据的一致性。测试结果表明系统通信稳定、界面友好,使用Nginx负载均衡大大提升了系统的性能,同时便于未来的系统扩展。     

基于Kubernetes云平台的弹性伸缩方案设计与实现

容器技术可为多个业务需求及其依赖组件提供独立的应用资源,在现实生产环境中由于容器中的业务需求不断变化,使得与其对应的应用资源在线负载处于动态变化中,面临固定资源容量规划不能满足在线负载变化的困境。为解决该问题,设计一种基于Kubernetes云平台的弹性伸缩方案。该方案通过集成Prometheus监控系统来自定义指标与采集业务指标,并结合HPA、VPA等组件,实现包括自定义指标和不同维度伸缩方法相结合的最佳弹性伸缩方法。通过集成Grafana页面显示和报警等组件,实现实时查看弹性伸缩状态变化以及伸缩预警功能,以实时观测集群健康状态,使得集群操作更加友好、便于维护。实验结果表明,在不同压力测量测试下,该弹性伸缩方案具有随负载增加扩大集群规模的作用,能够增强应用集群的高可用能力。     

基于云平台的高并发WebGIS服务

随着Internet技术的发展,传统的WebGIS服务器在面对大用户群高并发访问时会出现服务延迟甚至拒绝服务的现象.针对该问题,本文提出了一种基于云平台的应对高并发的WebGIS服务器架构.架构使用云平台为WebGIS服务器提供弹性计算和存储资源,并从负载均衡、缓存设计、数据库集群三方面缓解高并发瓶颈.选择开源服务器端软件GeoServer作为WebGIS应用实验部署.实验数据表明使用缓存机制明显降低了WebGIS服务响应时间.与单物理服务器相比,云平台WebGIS服务器集群架构能够有效处理高并发请求,且随着集群规模扩展,云平台WebGIS系统能够获得良好的加速比.     

一种动态的客户端负载均衡机制

互联网应用的并发用户数量不仅多变并且这种变化常常不可预测.将系统容量配置为固定值的惯用做法在面临多变的请求时常常会导致两种结果,一种是因为配置过低而引起用户的不满,另一种则因为配置过高而造成计算资源的浪费.而通过运用云架构按需提供、按使用收费的能力,系统具有了实时地按需配置计算资源的能力.然而静态的客户端负载均衡方法作为一种主要的负载均衡技术很难适应云架构条件下更加易变的集群结构.本文提出了一种动态的客户端负载均衡机制.通过引入分布式的集群视图更新、控制流等技术,该机制在保持客户端负载均衡机制分布式、可伸缩性强的基础上,又为集群节点的动态加入与退出和负载均衡策略的动态调整提供了有效的支持.同时,本文分析了该机制在一个开源JEE应用服务器PKUAS中的关键实现问题,并通过实验从多方面验证了该机制的有效性.     

基于web应用的高并发业务处理研究之负载均衡

随着信息时代的到来、互联网技术的高速发展,随之而来的不可避免的一个至关重要的问题就是web系统性能的好坏。当多个用户同时访问同一个资源,当同一时刻服务器接收到数以亿计甚至更多的请求,引起的网路堵塞或者是服务超载会出现请求失败、系统响应缓慢,甚至会导致web网站的崩溃,这种高并发性问题引起的后果是难以想象的。本文针对web系统的高并发业务处理方式之负载均衡方式进行相对深入的研究,将对三种实现负载均衡的方式进行详解。可根据情况合情合理地选择合适的负载均衡方式,以提高系统对高并发业务处理的响应速度,提高系统的整体性能。本文对大型web系统的性能提高有一定的帮助作用。     

应用服务器动态负载均衡的设计与实现

在一个多层的数据库应用系统中,应用程序服务器的负载均衡能力为各个客户端应用程序的正常运行提供了一系列的安全保障.分析了在应用程序服务器上实现动态负载均衡的关键需求.设立多个负载均衡协调器实现负载均衡的分布性,以防止单点失误.采用多种负载均衡算法来提高负载均衡的效率.具备有较好的位置和访问的透明性,能将客户的请求透明地分发到后端的应用程序服务器上处理.具有容错性和灵活性,能从错误中自动恢复过来.     

面向气象领域的应用支撑系统

面向地市级气象领域的应用需求，针对目前存在的信息系统可靠性低、可扩展性差、应用端高并发处理能力弱等问题，本文采用虚拟化技术，负载均衡策略配置及与虚拟化的联动技术，设计并搭建了虚拟化资源平台，实现动态资源的扩展与回收.同时，设计了一种基于应用的负载均衡方法，并在实际的气象领域中进行了应用.目前，该系统已经投入业务使用，为市县两级气象应用提供稳定、高效的应用支撑，取得较好的应用效果.     

基于Nginx负载均衡的动态改进算法

随着过去几十年互联网服务的指数增长,各大网站的访问量急剧上升。海量的用户请求使得热门网站的网络请求率可能在几秒钟内大规模增加。一旦服务器承受不住这样的高并发请求,由此带来的网络拥塞和延迟会极大地影响用户体验。负载均衡是高可用网络基础架构的关键组件,通过在后端引入一个负载均衡器,将工作负载分布到多个服务器来缓解海量并发请求对服务器造成的巨大压力,提高后端服务器和数据库的性能以及可靠性。而Nginx作为一款高性能的HTTP和反向代理服务器,正越来越多地应用到实践中。文中将分析Nginx服务器负载均衡的体系架构,研究默认的加权轮询算法,并提出一种改进后的动态负载均衡算法,实时收集负载信息,重新计算并分配权值。通过实验测试,对比不同算法下的负载均衡性能,改进后的算法能有效提高服务器集群的性能。     

一种基于云计算的动态可扩展应用模型

可扩展性对于很多互联网企业而言是非常重要的。如果按照访问量峰值需求配置资源,则成本很高,资源利用率很低。云计算提供了一个强大的计算模式,允许用户按需访问资源。基于虚拟云计算环境中阈值,提出一个动态可扩展的Web应用模型,该模型通过一个前端负载平衡器,将用户的访问请求路由安装在云计算环境中虚拟机上的Web服务器上。又提出了一个动态扩展算法用于自动扩展虚拟服务器的数量。根据提出的模型和算法,通过实验模拟,当用户访问量激增时,系统的响应时间不会显著延长,完全可以满足实际的需求。     

边缘计算网络中面向负载均衡的调度机制

考虑边缘计算网络中的负载均衡需求,提出一种基于集中控制的调度机制。首先决定在哪些网络节点部署边缘计算功能,再针对用户的数据和请求,在满足相关负载均衡约束的前提下通过调度尽量降低流量的平均端到端延迟。评估结果表明,边缘计算节点的数量、计算资源和网络资源的负载均衡程度均可能影响流量的平均端到端延迟。只需选择少量合适的节点作为边缘计算节点,再将计算资源和网络资源的负载均衡调配到合适程度即可有效降低平均端到端延迟。     

一种基于负载反馈的分布式数字集群动态负载均衡算法

针对传统负载均衡算法不能满足公网数字集群系统高并发用户请求和快速呼叫建立等需求,提出一种基于负载反馈的分布式数字集群动态负载均衡算法,实现公网数字集群系统负载均衡,提高用户容量。首先建立参与MCPTT服务器的静态负载和动态负载监控机制和指标;然后利用加权轮询算法为用户分配参与MCPTT服务器,并通过用户请求的处理获得复合负载参数;根据负载指标的反馈更新参与MCPTT服务器权值以动态调整服务器负载。仿真结果表明,该算法的负载均衡效果优于传统算法和其他动态反馈算法,负载均衡度更小、用户请求响应延迟更低。     

基于LVS的服务器负载均衡技术

高并发负载一直是网络应用系统面临的挑战。通过建立负载均衡机制,可以在服务器集群中合理分配服务器负载来解决这个问题,实现网络应用服务的高伸缩性、高可靠性。文章阐述了利用LVS构建软负载均衡的原理和方法,并结合实际应用案例对 LVS 负载均衡架构配置进行了实例演示。系统实际运行结果表明该架构可以很好满足高并发负载访问。     

云环境中基于LVS集群的负载均衡算法

为了解决传统负载均衡技术应用到云计算环境中引发的新问题,提出一种云环境下基于LVS集群分组负载均衡算法。该算法首先根据硬件性能计算各节点的权值,将性能相同(或近似相同)的服务器分为一组,每组节点数量相等(或近似相等),负载均衡器定期地收集各节点CPU、内存、I/O、网络利用率以及响应时间,动态改变节点的权值,使用改进算法选择该组内最佳节点,并计算节点的综合负载和组负载。最后再次使用改进算法由组负载均衡器选择集群最佳节点,并进行任务请求的合理分配,从而解决因并发量过大而引起的时延等问题。实验结果表明,与加权轮询算法(WRR)和加权最少连接算法(WLC)相比,本算法能够在并发量较大的情况下维持较短的响应时间和较高的吞吐率,使集群负载更加均衡。     

一种集群式并行VOD系统的研究与实现

在VOD(Video—on—Demand)中，采用并行服务器体系结构可以分散用户请求，减轻服务器局部压力和网络局部流量，扩大视频应用的规模。给出了一种集群式并行VOD系统的体系结构，重点讨论了动态负载平衡、磁盘Cache和流式拷贝3种关键技术。     

一种改进的Kubernetes弹性伸缩策略

Kubernetes是目前主流的容器云编排和管理系统,其内置的伸缩策略是通过监测衡量指标并与阈值比较计算,从而实现伸缩的功能.该策略主要存在单一衡量指标和响应延迟问题:单一指标在衡量多种资源消耗的复杂应用时存在明显缺陷;响应延迟问题会造成应用在一段时间内的服务质量无法得到保障.针对上述问题,提出了一种改进的Kuber?...     

面向多租约SaaS应用的负载均衡机制研究与实现

随着云计算的普及,SaaS作为一种新的软件交付模式得到了越来越广泛地关注.为了支持高速业务发展带来的大量用户的访问请求,多租约SaaS应用需要负载均衡机制以支持可扩展性.本文从对多租约SanS应用用户需求的分析入手,提出了一种面向租约功能类型的服务器负载模型和面向租约用户非功能需求的执行请求按需分配算法,设计了一个面向多租约SanS 应用的负载均衡系统.实验表明本文提出的面向多租约SaaS应用的负载均衡机制能在满足不同租约用户需求的同时提高系统整体执行效率.