电子商务系统结构浙江大学电子服务研究中心1第4章性能建模及分析4.1排队论及其应用4.1.1排队论的概念4.1.2排队系统的分类4.1.3排队系统的问题求解4.1.4排队论的应用4.2性能建模概念4.2.1简单模型的性能分析4.2.2性能模型概述4.2.3服务时间和服务需求4.2.4队列、等待时间和响应时间4.2.5性能定律4.2.6瓶颈和可扩展性分析4.3电子商务网站性能模型的解决方案4.3.1性能模型的解决方案4.3.2单队列法4.3.3队列网络4.3.4多类型电子商务系统结构浙江大学电子服务研究中心2第4章性能建模及分析4.4服务器软件竞争模型4.4.1竞争模型实例4.4.2电子商务网站中的软件竞争4.4.3为软件竞争建模4.5电子商务网站工作负载分析4.5.1Web流量的工作负载特性4.5.2客户行为描述4.5.3从HTTP日志到CBMG4.5.4从HTTP日志到CVM4.5.5在资源级别上描述工作负载4.5.6电子商务网站基准测试程序4.6网站性能分析实践电子商务系统结构浙江大学电子服务研究中心3商务模型功能模型客户模型资源模型商务过程要素顾客行为模型功能结构导航IT体系结构和设备商务视角技术视角内部因素外部因素这个参考模型由四层组成,分成两个主要单元。上层单元集中于商务的特性以及通过电子商务站点提供服务的过程。下层单元集中于客户与站点交互的方式以及他们对站点基础设施资源提出的要求。电子商务系统结构浙江大学电子服务研究中心44.1排队论(数学基础)•应用场合(公用电话、售票、网站、银行等)•三要素:顾客、服务台、服务•分类:–顾客到达的性质:顾客数量、到达形式、到达时间间隔–排队规则:等待、损失–服务规则:FCFS、LCFS、PR、SIRO–服务台数量和排队方式:单服务台单队列、多服务台单队列、多服务台多队列、多服务台串联服务电子商务系统结构浙江大学电子服务研究中心5排队论中的常用标记•n-系统中的客户数•λ-顾客到达的平均速率(p/s)•μ-平均服务速率(p/s)•Pn(t)-时刻t系统中有n个顾客的概率•c-服务台的个数•M-顾客相继到达的时间间隔服从负指数分布•D-顾客相继到达的时间间隔服从定长分布•Ek-顾客相继到达的时间间隔服从k阶Erlang电子商务系统结构浙江大学电子服务研究中心6排队系统的符号表示•[A/B/C]:[d/e/f]–A-顾客到达的概率分布(M、D、Ek…)–B-服务时间的概率分布(M、D、Ek…)–C-服务台个数(N)–d-排队系统的最大容量(N)–e-顾客源的最大容量(N)–f-排队规则(FCFS、LCFS…)•例如:[M/M/1]:[∞/∞/FCFS]电子商务系统结构浙江大学电子服务研究中心7三种分布函数•Poisson分布–Poisson流的定义:平稳、无后效、普通、有限–λ-顾客到达的平均速率•负指数分布–到达客户数服从λ-Poisson,则到达时间间隔服从λ-负指数分布–μ-平均服务速率•k阶Erlang分布–负指数分布的随机变量之和服从k阶Erlang分布电子商务系统结构浙江大学电子服务研究中心8基本排队模型[M/M/1]:[∞/∞/FCFS]•基本排队模型处于概率稳态的条件0λ(到达速率)μ(离去速率)•系统中有n个顾客的概率为Pn(t)=ρn(1-ρ),ρ=λ/μ,n=0,1,2…•系统的运行指标–系统中的平均顾客数L=ρ/(1-ρ)–队列中的平均顾客数Lq=ρ2/(1-ρ)=ρL电子商务系统结构浙江大学电子服务研究中心9基本排队模型[M/M/1]:[∞/∞/FCFS]•系统的运行指标–系统空闲的概率P0=1-ρ–系统忙碌的概率1-P0=ρ–顾客在系统中的停留时间XX服从参数为μ–λ的负指数分布–顾客在系统中的平均逗留时间WW=1/(μ–λ)电子商务系统结构浙江大学电子服务研究中心10基本排队模型[M/M/1]:[∞/∞/FCFS]•系统的运行指标–顾客在队列中的平均逗留时间WqWq=ρ/(μ–λ)电子商务系统结构浙江大学电子服务研究中心11例题1•高速公路入口处设有一个收费通道,汽车到达服从Poisson分布,平均到达速率为100辆/小时,收费时间服从负指数分布,平均收费时间为15秒/辆,求:1.收费处空闲的概率;2.收费处忙碌的概率;3.系统中分别有1,2,3辆车的概率;电子商务系统结构浙江大学电子服务研究中心12例题1解答λ=100辆/小时,1/μ=15秒/辆=〉μ=240辆/小时ρ=λ/μ=100/240=5/121.空闲概率:P0=1-ρ=1-5/12=0.5832.忙碌概率:1-P0=ρ=0.4173.系统中有1辆车的概率:P1=ρ(1-ρ)=0.243系统中有2辆车的概率:P2=ρ2(1-ρ)=0.101系统中有3辆车的概率:P3=ρ3(1-ρ)=0.0421电子商务系统结构浙江大学电子服务研究中心13例题2•高速公路入口处设有一个收费通道,汽车到达服从Poisson分布,平均到达速率为200辆/小时,收费时间服从负指数分布,平均收费时间为15秒/辆,求:1.系统中的平均车辆数L;2.队列中的平均车辆数Lq;3.车辆在系统中的平均逗留时间W;4.车辆在队列中的平均时间Wq电子商务系统结构浙江大学电子服务研究中心14例题2解答λ=200辆/小时,1/μ=15秒/辆=〉μ=240辆/小时ρ=λ/μ=200/240=5/6L=ρ/(1-ρ)=5/6/(1-5/6)=5Lq=ρ2/(1-ρ)=ρL=5/6*5=4.17W=1/(μ–λ)=1/(240-200)=0.025h=90sWq=ρ/(μ–λ)=ρW=5/6*90=75s电子商务系统结构浙江大学电子服务研究中心15Little公式•L=λW•Lq=λWq•L=Lq+ρ•W=Wq+1/μ电子商务系统结构浙江大学电子服务研究中心16有限队列模型[M/M/1]:[N/∞/FCFS]•系统中有k个顾客的概率为Pk(t)=1/(N+1),k=0,1,2…N•系统的运行指标–系统中的平均顾客数L=ρ/(1-ρ)–[(N+1)ρN+1/(1-ρN+1)]–队列中的平均顾客数Lq=L–ρ[1-ρN(1-ρ)/(1-ρN+1)]=L–ρ(1-PN)–令λe=λ(1-PN),ρe=λe/μ则Lq=L–ρe电子商务系统结构浙江大学电子服务研究中心17有限队列模型[M/M/1]:[N/∞/FCFS]•系统的运行指标–顾客在系统中的平均逗留时间WW=L/λe–顾客在系统中的平均逗留时间WWq=Lq/λe=W–1/μ电子商务系统结构浙江大学电子服务研究中心184.2性能建模及其分析•性能模型的概念•性能模型的作用•性能模型的需求信息•性能模型的基本原理•建立简单的性能模型电子商务系统结构浙江大学电子服务研究中心19性能模型的概念•性能模型表达了工作负载使用系统资源的方法,描述了决定系统性能的主要因素。这些模型使用由资源模型和工作负载模型提供的信息。•性能模型被用来计算传统的性能度量标准如响应时间、吞吐量、利用率和平均队列长度,以及新的面向商务的性能度量标准,诸如收入总额或者损失总额•可以分为两个范畴:分析模型和仿真模型电子商务系统结构浙江大学电子服务研究中心20分析模型•分析模型通过公式来详细说明系统的不同部件之间的交互。•例如HTTP事务响应的最小可能时间:•RTmin=RTT+请求时间min+站点处理时间+答复时间min•其中RTT是网络传输的固有的环路时间,•请求时间min=请求大小/带宽是将请求发送到电子商务站点所需的最小时间,•站点处理时间是电子商务站点处理请求所花的时间,•答复时间min=答复大小/带宽是将答复从电子商务站点发送给客户的所需的最小时间。电子商务系统结构浙江大学电子服务研究中心21仿真模型•仿真模型通过运行一个仿真程序来模拟一个真实系统的行为。•一个仿真程序的结构是基于被仿真的系统的状态和改变系统状态的事件的。•仿真程序通过计算事件和系统相关条件的持续时间来测量性能。仿真的最主要的好处是它的通用性。电子商务系统结构浙江大学电子服务研究中心22性能模型的作用性能模型帮助我们理解复杂系统的定量行为:–在电子商务和基于网络的应用程序的基础结构的设计中,各种问题要求使用模型来测量可供选择的系统。–大部分电子商务应用程序是在多级环境中操作的。电子商务应用程序通常是由在不同主机上运行的过程组合而成的。应用程序在设计时通常没有考虑到网络花费。所以,模型可以被用来分析分布式应用程序的性能和评估网络的影响。电子商务系统结构浙江大学电子服务研究中心23性能模型的作用(续)•复杂应用程序的性能调整是一个巨大的领域。当一个电子商务应用程序出现了性能问题时,解答问题的强制步骤是调整基础的系统。这个意味着测量系统并且试着指出性能问题的根源:应用程序设计、性能匮乏、负载超额或者是基础结构的问题(即网络、服务器、ISP)。•性能模型可以通过回答假设性分析问题,而不是在生产环境中进行任何变化,来帮助发现性能问题。电子商务系统结构浙江大学电子服务研究中心24性能模型的作用(续)•在Internet上进行商务活动意味着要处理不可预测的通信量。同时,客户要求电子商务公司在响应时间、可用性和可靠性方面提供高质量的服务。•面对这样多的风险,容量规划是电子商务的关键技术。容量规划的核心是它预测站点性能的能力,容量规划必须能够预测一个给定配置的站点在执行由客户生成的给定的工作负载时站点的性能。电子商务系统结构浙江大学电子服务研究中心25建模/预测范例性能分析性能建模性能预测真实系统收集数据性能测量建立模型获得参数解答模型验证模型设计系统的性能确认模型修改模型电子商务系统结构浙江大学电子服务研究中心26客户端/服务器端交互图(CSID)•一个CSID包括节点(矩形和圆圈)和连接这些节点的箭头。CSID的节点表示在执行电子商务功能期间对客户端和/或服务器端的访问。•圆形节点通常代表执行电子商务功能期间涉及的服务器,圆圈节点内部的标注(如WS、AS、DB)指出了服务器的名称。•CSID中的弧线用[p,m]类型的对来标注,其中p是消息发送的概率,m是消息的字节大小。通过CSID中的节点表示的客户和服务器的各种资源的消耗在对同一个客户端或服务器端的不同访问中可能是不同的。电子商务系统结构浙江大学电子服务研究中心27服务时间和服务需求•电子商务事务的定义•服务时间构成–服务器上的服务时间–通信网络的服务时间•队列、等待时间和响应时间电子商务系统结构浙江大学电子服务研究中心28服务时间和服务需求•电子商务事务(Transaction)的定义:–一个电子商务的事务被定义为一个来自客户的要求执行电子商务站点所提供的功能的请求。–考虑被一个电子商务事务使用的任意一个资源i。这里有不同层次的资源。我们可能正在研究高层次的资源,如付款和认证服务器。或者我们对低层次的资源感兴趣,如处理器和服务器的磁盘或者一个LAN的段,甚至是一个路由器。一个事务在它结束之前,可能需要访问资源i多次。电子商务系统结构浙江大学电子服务研究中心29队列、等待时间和响应时间•电子商务中的事务在其执行过程中,必须使用许多不同的资源,例如网络服务器、数据库服务器和付款服务器。每当一个事务或者请求访问一个资源时,它必须排在队列里以等待使用这个资源。•响应时间=等待时间+服务时间(4.14)•这里响应时间是指每次对资源的访问中,事务花在排队和获得服务上的时间。电子商务系统结构浙江大学电子服务研究中心30性能定律•利用率定律–利用率=到达速率*每事务平均服务时间/队列资源数•强制流模型–平均吞吐量=平均访问对列数*单位时间完成事务数•服务需求定律–服务需求=系统吞吐量*利用率•Little定律–黑盒子中的客户的平均数量=黑盒子的吞吐率*客户平均停留时间电子商务系统结构浙江大学电子服务研究中心31利用率定律•系统中的资源i的利用率Ui定义为资源忙碌的时间比例。•所以,如果我们在τ秒内监视队列i,发现资源在Bi秒内忙碌,它的利用率Ui就是Bi/τ。•假设在相同的时间τ内,系统结束了C0个事务。这表明