博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
Logtail提升采集性能
阅读量:6948 次
发布时间:2019-06-27

本文共 1346 字,大约阅读时间需要 4 分钟。

hot3.png

默认性能限制

为防止滥用消耗过多机器资源,我们对默认安装的Logtail进行了一系列的资源限制。默认安装的Logtail最多日志采集速度为20M/s,20个并发发送。

其他资源限制请参考:启动参数  中的默认配置。

采集能力

单核能力

如果放开发送流控,Logtail默认单核的能力大致如下(具体根据不同正则、日志类型、采集提取的key数量、机器配置等会有一定浮动):

   

极简模式

正则模式

分隔符模式

JSON模式

单核能力

(单核100%CPU)

采集速度

100MB/s

20MB/s

35MB/s

30MB/s

内存占用

80

80

80

80

采集速度

0.1 MB/s(200条/s)

CPU占用(单核)

0.3%

0.6%

0.5%

0.5%

内存占用

32

32

32

32

采集速度

1 MB/s(2000条/s)

CPU占用(单核)

1.3%

5.0%

3.5%

3.5%

内存占用

32

32

32

32

备注:测试环境

CPU :Intel(R) Xeon(R) CPU E5-2682 v4 @ 2.50GHz
MEM : 64GB
OS : Linux version 2.6.32-220.23.2.ali1113.el5.x86_64

多核能力

Logtail默认只开一个线程处理数据,如果开启多核,性能会有提升,但并不是线性关系,实测最多开到8个线程后,性能几乎没有上涨。

  • 极简模式最高性能可达:440MB/s
  • 正则最高性能可达:70MB/s
  • 分隔符最高性可达:75MB/s
  • JSON最高性能可达:75MB/s

日志格式建议

根据您的使用目的,合理选择对应的日志格式

  1. 搬数据:使用极简模式,性能最高
  2. 数据分析:多字符分隔符>单字符分隔符>JSON模式>正则模式
  3. Java堆栈类型数据:正则模式
  • 注意:正则模式采集性能和正则优化有非常大关系。

如何放开资源限制

可通过调整Logtail的启动参数来放开默认的资源限制,下面我们推荐2种配置方式:

  • 注意:Logtail使用短连接发送数据,如果发送并发过高,建议调整服务器的tcp参数,防止过多time_wait
  • 调整方式:sudo sysctl -w net.ipv4.tcp_tw_timeout=5

单核小资模式

在配置文件末尾追加以下两个参数,注意JSON需合法。

{    ...    "max_bytes_per_sec" : 50000000,    "send_request_concurrency" : 50}

多核极致模式

在配置文件末尾追加以下几个参数,需保证,注意JSON需合法。

  • 注意:需保证 cpu_usage_limit > process_thread_count
{    ...    "cpu_usage_limit" : 5,    "process_thread_count" : 4,    "max_bytes_per_sec" : 50000000,    "send_request_concurrency" : 50}

本文为云栖社区原创内容,未经允许不得转载。

转载于:https://my.oschina.net/u/1464083/blog/3059193

你可能感兴趣的文章
oracle锁
查看>>
Android攻略--单位转化器UC--Units Converter(学习笔记)
查看>>
js 的强制 类型 转换cast, 伪对象?
查看>>
jsfl 全选
查看>>
MySQL安装与配置
查看>>
为什么开发移动端web不使用jQuery
查看>>
查询结果列传行
查看>>
RH253读书笔记(4)-Lab 4 The Domain Name System
查看>>
Inside SharePoint 2010 (3): Developing a SharePoint Solution (Class Library Project)
查看>>
【玩转开源】BananaPi R2——移植RPi.GPIO 到 R2
查看>>
mysql之事务详解
查看>>
弱引用和弱事件
查看>>
[Linux/Ubuntu] vi/vim 使用方法讲解
查看>>
Java基础-运行原理及变量(01)
查看>>
理解ASP.NET MVC中的ActionResult
查看>>
Java实时读取日志文件
查看>>
sql反模式分析2
查看>>
杭电oj--Tickets(dp)
查看>>
java反射机制
查看>>
下拉框点链接js
查看>>