网站建设技术服务费记什么科目,松江做公司网站,怎么做卖花的网站,网站建设实验七目录 微服务架构概念
服务治理
服务调用
服务网关 服务容错
链路追踪
SpringcloudAlibaba组件
Nacos
负载均衡
Ribbon
Fegin
Sentinel
高并发测试
容错方案 Sentinel入门
Feign整合Sentinel 微服务架构概念 服务治理
服务治理就是进行服务的自动化管理#xf…目录 微服务架构概念
服务治理
服务调用
服务网关 服务容错
链路追踪
SpringcloudAlibaba组件
Nacos
负载均衡
Ribbon
Fegin
Sentinel
高并发测试
容错方案 Sentinel入门
Feign整合Sentinel 微服务架构概念 服务治理
服务治理就是进行服务的自动化管理其核心是服务的自动注册与发现。
服务注册:服务实例将自身服务信息注册到注册中心。
服务发现:服务实例通过注册中心获取到注册到其中的服务实例的信息通过这些信息去请求它们提供的服务。
服务剔除:服务注册中心将出问题的服务自动剔除到可用列表之外使其不会被调用到。 服务调用
在微服务架构中通常存在多个服务之间的远程调用的需求。目前主流的远程调用技术有基于HTTP的RESful接口以及基于TCP的的RPC协议。 REST(Representational State Transfer)
这是一种HTTP调用的格式更标准更通用无论哪种语言都支持http协议
RPC (Remote Promote Call) 一种进程间通信方式。允许像调用本地服务一样调用远程服务。RPC框架的主要目标就是让远程服务调用更简单、透明。RPC框架负责屏蔽底层的传输方式、序列化方式和通信细节。开发人员在使用的时候只需要了解谁在什么位置提供了什么样的远程服务接口即可并不需要关心底层通信细节和调用过程。
区别和联系 服务网关
随着微服务的不断增多不同的微服务一般会有不同的网络地址而外部客户端可能需要调用多个服务的接口才能完成一个业务需求如果让客户端直接与各个微服务通信可能出现 1.客户端需要调用不同的url地址增加难度。 2.在一定的场景下存在跨域请求的问题。 3.每个微服务都需要进行单独的身份认证针对这些问题API网关顺势而生。 API网关直面意思是将所有API调用统一接入到API网关层由网关层统一接入和输出。一个网关的基本功能有:统一接入、安全防护、协议适配、流量管控、长短链接支持、容错能力。有了网关之后各个API服务提供团队可以专注于自己的的业务逻辑处理而API网关更专注于安全、流量、路由等问题。 服务容错
在微服务当中一个请求经常会涉及到调用几个服务如果基中某个服务不可用没有做服务容错的话极有可能会造成—连串的服务不可用这就是雪崩效应。我们没法预防雪崩效应的发生只能尽可能去做好容错。
服务容错的三个核心思想是 不被外界环境影响 不被上游请求压垮 不被下游响应拖垮 链路追踪
随着微服务架构的流行服务按照不同的维度进行拆分一次请求往往需要涉及到多个服务。互联网应用构建在不同的软件模块集上这些软件模块有可能是由不同的团队开发、可能使用不同的编程语言来实现、有可能布在了几千台服务器横跨多个不同的数据中心。因此就需要对一次请求涉及的多个服务链路进行日志记录性能监控即链路追踪。 SpringcloudAlibaba组件
Nacos
下载安装
# 下载源码 git clone https://github.com/alibaba/nacos.git
启动
# Linux ./startup.sh -m standalone
# Windows startup.cmd
导入Nacos依赖
dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-nacos-discovery/artifactId
/dependency
application.yml文件配置
spring:application:name: usercloud:nacos:server-addr: localhost:8848discovery:cluster-name: SH //集群
发现这个服务的各个实例并获取每个实例的host和port代码如下 AutowiredDiscoveryClient discoveryClient;GetMapping(/user/{id})public User user(PathVariable(id) Long id){ListServiceInstance user1 discoveryClient.getInstances(user);for (ServiceInstance serviceInstance : user1) { System.out.println(http://serviceInstance.getHost():serviceInstance.getPort());}}
负载均衡
通俗的讲,负载均衡就是将负载(工作任务,访问请求进行分摊到多个操作单元(服务器,组件)上进行执行。根据负载均衡发生位置的不同,一般分为服务端负载均衡和客户端负载均衡。 服务端负载均衡指的是发生在服务提供者—方,比如常见的nginx负载均衡。 客户端负载均衡指的是发生在服务请求的一方,也就是在发送请求之前已经选好了由哪个实例处理请求。 Ribbon
负载均衡使用Ribbon组件为Springcloud中的一个组件
导入依赖 dependency groupIdorg.springframework.cloud/groupId artifactIdspring-cloud-starter-netflix-ribbon/artifactId /dependency
配置文件
Configuration
public class RestTemplateConfiguration {BeanLoadBalancedpublic RestTemplate restTemplate(){return new RestTemplate();}
}
在不同的服务调用的时候只需要调用服务名就可以调用该服务其中是以轮询的方式访问服务中的各个实例。这里设置一个订单微服务和一个用户微服务通过查询订单返回订单信息订单中有用户信息所有需要根据订单中的用户id调用用户微服务进行查询然后进行赋值返回订单信息代码如下 AutowiredOrdersMapper ordersMapper;String urlhttp://user/user/;AutowiredRestTemplate restTemplate;GetMapping(/order/{id})public Orders orders(PathVariable(id) Long id){Orders orders ordersMapper.selectById(id);User forObject restTemplate.getForObject(url orders.getUserId(), User.class);User user feign.findbyId(orders.getUserId());orders.setUser(user);return orders;}
上面是轮询模式如果负载均衡改成随机模式可以在订单服务中的application.yml文件中进行下面配置
user: //调用的微服务名称ribbon:NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRule
Fegin
Feign是Spring Cloud提供的一个声明式的伪Http客户端它使得调用远程服务就像调用本地服务一样简单只需要创建—个接口并添加—个注解即可。 Nacos很好的兼容了Feign, Feign默认集成了Ribbon,所以在Nacos下使用Eegin默认就实现了负载均衡的效果。
导入依赖 dependency groupIdorg.springframework.cloud/groupId artifactIdspring-cloud-starter-openfeign/artifactId /dependency
在Springboot主启动类上添加
EnableFeignClients
配置接口
FeignClient(user)//指定调用哪个微服务名称
public interface Feign {GetMapping(/user/{id})User findbyId(PathVariable(id) Long id);
}
修改对应上面的代码 AutowiredFeign feign;GetMapping(/order/{id})public Orders orders(PathVariable(id) Long id){Orders orders ordersMapper.selectById(id);User user feign.findbyId(orders.getUserId());orders.setUser(user);return orders;}
Sentinel
Sentinel是阿里巴巴开源的一款断路器实现本身在阿里内部已经被大规模采用非常稳定。
在微服务架构中我们将业务拆分成一个个的服务服务与服务之间可以相互调用但是由于网络原因或者自身的原因服务并不能保证服务的100%可用如果单个服务出现问题调用这个服务就会出现网络延迟此时若有大是的网络涌入会导致瘫痪。这里通过举例子说明上面的代码假如订单服务在调用用户服务的时候发生异常导致线程无法释放请求堵塞在这里然后在高并发场景下大量的请求又都会占用在这里就会导致系统崩溃。
高并发测试 然后我们来测试一下高并发情况首先修改订单服务的调用用户微服务的方法修改代码如下 GetMapping(/order/{id})public Orders orders(PathVariable(id) Long id){Orders orders ordersMapper.selectById(id);User user feign.findbyId(orders.getUserId());//模拟调用延迟try {Thread.sleep(2000);} catch (InterruptedException e) {e.printStackTrace();}orders.setUser(user);return orders;}
然后添加一个测试方法 GetMapping(/test)public String test(){return 测试高并发;}
在访问订单微服务的test方法的时候访问速度特别快然后使用Jmeter进行压测 在进行压测的时候然后访问test方法一直在打圈然后验证了我们的实验结果。在分布式系统中,由于网络原因或自身的原因,服务一般无法保证100%可用。如果一个服务出现了问题调用这个服务就会出现线程阻塞的情况此时若有大量的请求涌入就会出现多条线程阻塞等待进而导致服务瘫痪。由于服务与服务之间的依赖性故障会传播会对整个微服务系统造成灾难性的严重后果这就是服务故障的“雪崩效应”。 雪崩发生的原因多种多样有不合理的容量设计或者是高并发下某一个方法响应变慢亦或是某台机器的资源耗尽。我们无法完全杜绝雪崩源头的发生只有做好足够的容错保证在一个服务发生问题不会影响到其它服务的正常运待。也就是“雪落而不雪崩”。
容错方案
要防止雪崩的扩散我们就要做好服务的容错容错说白了就是保护自己不被猪队友拖垮的一些措施下面介绍常见的服务容错思路和组件。常见的容错思路有隔离、超时、限流、熔断、降级这几种下面分别介绍一下。
隔离 它是指将系统按照一定的原则划分为若干个服务模块各个模块之间相对独立无强依赖。当有故障发生时能将问题和影响隔离在某个模块内部而不扩散风险不波及其它模块不影响整体的系统服务。常见的隔离方式有:线程池隔离和信号量隔离。
这里说明一下线程池隔离方法为微服务中的每个方法分配一个线程池如下图 超时
在上游服务调用下游服务的时候设置一个最大响应时间如果超过这个时间下游未作出反应就断开请求释放掉线程。 限流
限流就是限制系统的输入和输出流量已达到保护系统的目的。为了保证系统的稳固运行,一旦达到的需要限制的阈值,就需要限制流量并采取少量措施以完成限制流量的目的。 熔断
在互联网系统中当下游服务因访问压力过大而响应变慢或失败上游服务为了保护系统整体的可用性可以暂时切断对下游服务的调用。这种牺牲局部保全整体的措施就叫做熔断。 服务熔断—般有三种状态:。
熔断关闭状态(Closed) 服务没有故障时熔断器所处的状态对调用方的调用不做任何限制。
熔断开启状态(Open) 后续对该服务接口的调用不再经过网络直接执行本地的fallback方法。
半熔断状态(Half-Open) 尝试恢复服务调用允许有限的流量调用该服务并监控调用成功率。如果成功率达到预期则说明服务已恢复进入熔断关闭状态;如果成功率仍旧很低则重新进入熔断关闭状态。
降级 降级其实就是为服务提供一个托底方案一旦服务无法正常调用就使用托底方案。 Sentinel入门
Sentinel (分布式系统的流量防卫兵)是阿里开源的一套用于服务容错的综合性解决方案。它以流量为切入点从流量控制、熔断降级、系统负载保护等多个维度来保护服务的稳定性。 Sentinel的主要功能就是容错主要体现为下面这三个:流量控制 流量控制在网络传输中是一个常用的概念它用于调整网络包的数据。任意时间到来的请求往往是随机不可控的而系统的处理能力是有限的。我们需要根据系统的处理能力对流星进行控制。Sentinel作为一个调配器可以根据需要把随机的请求调整成合适的形状。熔断降级 当检测到调用链路中某个资源出现不稳定的表现例如请求响应时间长或异常比例升高的时候则对这个资源的调用进行限制让请求快速失败避免影响到其它的资源而导致级联故障。 Sentinel对这个问题采取了两种手段:
通过并发线程数进行限制 Sentinel通过限制资源并发线程的数量来减少不稳定资源对其它资源的影响。当某个资源出现不稳定的情况下例如响应时间变长对资源的直接影响就是会造成线程数的逐步堆积。当线程数在特定资源上堆积到一定的数量之后对该资源的新请求就会被拒绝。堆积的线程完成任务后才开始继续接收请求。
通过响应时间对资源进行降级 除了对并发线程数进行控制以外Sentinel还可以通过响应时间来快速降级不稳定的资源。当依赖的资源出现响应时间过长后所有对该资源的访问都会被直接拒绝直到过了指定的时间窗口之后才重新恢复。
Sentinel和 Hystrix的区别 两者的原则是一致的,都是当一个资源出现问题时,让其快速失败不要波及到其它服务但是在限制的手段上,确采取了完全不一样的方法: Hystrix采用的是线程池隔离的方式,优点是做到了资源之间的隔离,缺点是增加了线程切换的成本。Sentinel采用的是通过并发线程的数基和响应时间来对资源做限制。
系统负载保护 Sentinel同时提供系统维度的自适应保护能力。当系统负载较高的时候如果还持续让请求进入可能会导致系统崩溃无法响应。在集群环境下会把本应这台机器承载的流量转发到其它的机器上去。如果这个时候其它的机器也处在一个边缘状态的时候Sentinel提供了对应的保护机制让系统的入口流量和系统的负载达到一个平衡保证系统在能力范围之内处理最多的请求。 整合Sentinel
dependencygroupIdcom.alibaba.cloud/groupIdartifactIdspring-cloud-starter-alibaba-sentinel/artifactId
/dependency
从Releases · alibaba/Sentinel · GitHub中下载sentinel客户端然后java -jar 运行即可一般默认端口为8080端口访问8080端口即可账号密码都是sentinel。
application.yml文件中注册这里在用户微服务里进行注册。sentinel客户端就可以检测到。
spring:application:name: usercloud:nacos:server-addr: localhost:8848discovery:cluster-name: SHsentinel:transport:dashboard: localhost:8080
在客户端如何使用限流规则和降级规则等等由于不太好写这方面的操作这里进行省略。
Feign整合Sentinel
Sentinel 适配了 Feign 组件。但默认是关闭的。需要在配置文件中配置打开它在配置文件增加以下代码
feign:sentinel:enabled: true
容错类
//容错的工厂类泛型传递对应的接口
Component
Slf4j
public class Fallback implements FallbackFactoryFeign {public Feign create(final Throwable throwable) {return new Feign() {public User findbyId(Long id) {log.error(String.valueOf(throwable));User usernew User();user.setId((long) -1);return user;}};}
}
Feign接口 FeignClient(value user,fallbackFactory Fallback.class)//指定调用哪个微服务名称
public interface Feign {GetMapping(/user/{id})User findbyId(PathVariable(id) Long id);
}
订单服务业务修改代码如下
GetMapping(/order/{id})public Orders orders(PathVariable(id) Long id){Orders orders ordersMapper.selectById(id);
// User forObject restTemplate.getForObject(url orders.getUserId(), User.class);User user feign.findbyId(orders.getUserId());if(user.getId()-1l) {orders.setUser(user);return orders;}orders.setUser(user);return orders;} 这篇文章到此结束未完待续剩余内容下篇文章见
