服装企业网站策划书,自己做网站自己买服务器,mooc网站建设,企业培训师资格证报考2022简介#xff1a; 常用的限流算法有漏桶算法和令牌桶算法#xff0c;guava的RateLimiter使用的是令牌桶算法#xff0c;也就是以固定的频率向桶中放入令牌#xff0c;例如一秒钟10枚令牌#xff0c;实际业务在每次响应请求之前都从桶中获取令牌#xff0c;只有取到令牌的请…简介 常用的限流算法有漏桶算法和令牌桶算法guava的RateLimiter使用的是令牌桶算法也就是以固定的频率向桶中放入令牌例如一秒钟10枚令牌实际业务在每次响应请求之前都从桶中获取令牌只有取到令牌的请求才会被成功响应获取的方式有两种阻塞等待令牌或者取不到立即返回失败下图来自网上 ratelimite原理图 本次实战我们用的是guava的RateLimiter场景是spring mvc在处理请求时候从桶中申请令牌申请到了就成功响应申请不到时直接返回失败。
常用的限流算法有漏桶算法和令牌桶算法guava的RateLimiter使用的是令牌桶算法也就是以固定的频率向桶中放入令牌例如一秒钟10枚令牌实际业务在每次响应请求之前都从桶中获取令牌只有取到令牌的请求才会被成功响应获取的方式有两种阻塞等待令牌或者取不到立即返回失败下图来自网上 ratelimite原理图
本次实战我们用的是guava的RateLimiter场景是spring mvc在处理请求时候从桶中申请令牌申请到了就成功响应申请不到时直接返回失败。
实例
1、添加guava jar包 dependencygroupIdcom.google.guava/groupIdartifactIdguava/artifactIdversion18.0/version/dependency2、AccessLimitService.java 限流服务封装到一个类中AccessLimitService提供tryAcquire()方法用来尝试获取令牌返回true表示获取到
Service
public class AccessLimitService {//每秒只发出5个令牌RateLimiter rateLimiter RateLimiter.create(5.0);/*** 尝试获取令牌* return*/public boolean tryAcquire(){return rateLimiter.tryAcquire();}
}3、Controller层每次收到请求的时候都尝试去获取令牌获取成功和失败打印不同的信息
Controller
public class HelloController {private static SimpleDateFormat sdf new SimpleDateFormat(yyyy-MM-dd HH:mm:ss);Autowiredprivate AccessLimitService accessLimitService;RequestMapping(/access)ResponseBodypublic String access(){//尝试获取令牌if(accessLimitService.tryAcquire()){//模拟业务执行500毫秒try {Thread.sleep(500);}catch (InterruptedException e){e.printStackTrace();}return aceess success [ sdf.format(new Date()) ];}else{return aceess limit [ sdf.format(new Date()) ];}}
}4、测试十个线程并发访问接口 public class AccessClient {ExecutorService fixedThreadPool Executors.newFixedThreadPool(10);/*** get请求* param realUrl* return*/public static String sendGet(URL realUrl) {String result ;BufferedReader in null;try {// 打开和URL之间的连接URLConnection connection realUrl.openConnection();// 设置通用的请求属性connection.setRequestProperty(accept, */*);connection.setRequestProperty(connection, Keep-Alive);connection.setRequestProperty(user-agent,Mozilla/4.0 (compatible; MSIE 6.0; Windows NT 5.1;SV1));// 建立实际的连接connection.connect();// 定义 BufferedReader输入流来读取URL的响应in new BufferedReader(new InputStreamReader(connection.getInputStream()));String line;while ((line in.readLine()) ! null) {result line;}} catch (Exception e) {System.out.println(发送GET请求出现异常 e);e.printStackTrace();}// 使用finally块来关闭输入流finally {try {if (in ! null) {in.close();}} catch (Exception e2) {e2.printStackTrace();}}return result;}public void access() throws Exception{final URL url new URL(http://localhost:8080/guavalimitdemo/access);for(int i0;i10;i) {fixedThreadPool.submit(new Runnable() {public void run() {System.out.println(sendGet(url));}});}fixedThreadPool.shutdown();fixedThreadPool.awaitTermination(Long.MAX_VALUE, TimeUnit.SECONDS);}public static void main(String[] args) throws Exception{AccessClient accessClient new AccessClient();accessClient.access();}
}部分请求由于获取的令牌可以成功执行其余请求没有拿到令牌我们可以根据实际业务来做区分处理。还有一点要注意我们通过RateLimiter.create(5.0)配置的是每一秒5枚令牌但是限流的时候发出的是6枚改用其他值验证也是实际的比配置的大1。 以上就是快速实现限流的实战过程此处仅是单进程服务的限流而实际的分布式服务中会考虑更多因素会复杂很多。 RateLimiter方法摘要
修饰符和类型方法和描述doubleacquire() 从RateLimiter获取一个许可该方法会被阻塞直到获取到请求doubleacquire(int permits)从RateLimiter获取指定许可数该方法会被阻塞直到获取到请求static RateLimitercreate(double permitsPerSecond)根据指定的稳定吞吐率创建RateLimiter这里的吞吐率是指每秒多少许可数通常是指QPS每秒多少查询static RateLimitercreate(double permitsPerSecond, long warmupPeriod, TimeUnit unit)根据指定的稳定吞吐率和预热期来创建RateLimiter这里的吞吐率是指每秒多少许可数通常是指QPS每秒多少个请求量在这段预热时间内RateLimiter每秒分配的许可数会平稳地增长直到预热期结束时达到其最大速率。只要存在足够请求数来使其饱和doublegetRate()返回RateLimiter 配置中的稳定速率该速率单位是每秒多少许可数voidsetRate(double permitsPerSecond)更新RateLimite的稳定速率参数permitsPerSecond 由构造RateLimiter的工厂方法提供。StringtoString()返回对象的字符表现形式booleantryAcquire()从RateLimiter 获取许可如果该许可可以在无延迟下的情况下立即获取得到的话booleantryAcquire(int permits)从RateLimiter 获取许可数如果该许可数可以在无延迟下的情况下立即获取得到的话booleantryAcquire(int permits, long timeout, TimeUnit unit)从RateLimiter 获取指定许可数如果该许可数可以在不超过timeout的时间内获取得到的话或者如果无法在timeout 过期之前获取得到许可数的话那么立即返回false 无需等待booleantryAcquire(long timeout, TimeUnit unit)从RateLimiter 获取许可如果该许可可以在不超过timeout的时间内获取得到的话或者如果无法在timeout 过期之前获取得到许可的话那么立即返回false无需等待
举例来说明如何使用RateLimiter想象下我们需要处理一个任务列表但我们不希望每秒的任务提交超过两个
//速率是每秒两个许可
final RateLimiter rateLimiter RateLimiter.create(2.0);
void submitTasks(List tasks, Executor executor) {for (Runnable task : tasks) {rateLimiter.acquire(); // 也许需要等待executor.execute(task);}
}官方文档http://ifeve.com/guava-ratelimiter
