第四篇 基于nacos搭建分布式项目 分布式系统日志(skywalking+es)
项目所需 maven + nacos + java8 + idea + git + mysql + redis + skywalking + es
本文主要从客户下单时扣减库存的操作,将链路日志模拟出来,网关系统/用户系统/商品系统/订单系统
基于nacos搭建分布式项目 分布式系统日志链路
- 场景
- 为什么使用skywalking
- skywalking
- apache-skywalking-apm
- apache-skywalking-java-agent
- 版本推荐
- 启动成功的页面
- 看几张部署后的图
- 接下来安装部署es+ kibana
- 项目中要加入的信息
- 启动项目
- 结尾
场景
当项目分布式部署之后,各个系统的日志会分布在不同的系统内部,排查线上问题很不方便,业务量大的场景日志更是难找。怎么把同一个请求链路的日志连接在一起呢。比如下单操作,进入网关后要查用户信息,确认用户信息之后,查看商品库存是否可用,之后下单,这一个操作四个系统都有调用,去排查问题难上加难。这个时候可以加入一个唯一id用来标识同一链路,日志id从进入网关开始创建,通过HTTP头、RPC协议等将链路id在服务间传递,把他们存储在db服务中就可以通过唯一id查询到。
为什么使用skywalking
楼主公司的方案是将链路日志通过队列写入es,然后自己写的一套日志系统去查es,通过响应时间去分析性能。楼主网上查阅下来觉得skywalking+ es也有挑战,并且skywalking默认支持性能监控等,易用性较好。
skywalking
SkyWalking 是一款开源的 应用性能监控(APM, Application Performance Management) 和 分布式追踪系统,专为微服务、云原生和容器化架构设计。它由Apache软件基金会孵化并毕业为顶级项目,主要用于帮助开发者监控、诊断分布式系统的性能问题。
SkyWalking通过Java Agent在运行时动态注入追踪代码,自动记录。是不是觉得和aop很像,但他比aop更强大,aop只对Spring容器管理的Bean有用,Agent是在类加载时修改字节码文件,对项目中的所有类都可以监控和增强。
核心插件放在下面了,8.9.0版本的Agent和apm是分开的。
apache-skywalking-apm
这个插件是SkyWalking 的核心后端服务(Observability Analysis Platform,OAP),负责接收、分析和存储来自各种探针(Agent)的监控数据。
下载执行目录下/bin/startup.sh ,如果启动之后http://127.0.0.1:8080/无法进入控制台 查看日志信息即可,基本上开封急用。楼主是因为版本选择有问题看logs里面的文件排查到的。
apache-skywalking-java-agent
这个插件是Java 应用的探针(Agent),通过字节码增强技术无侵入式地收集应用性能数据。
依赖 skywalking-apm(OAP 服务)接收和存储数据,本身不处理或展示数据。
下载之后修改目录下/config/agent.config里面的
agent.service_name=my-service
collector.backend_service=127.0.0.1:11800
版本推荐
SkyWalking的使用资料还很少,java8建议用这个版本,8.9.0 往上就不支持java8了。
https://archive.apache.org/dist/skywalking/8.9.0/apache-skywalking-apm-8.9.0.tar.gzhttps://archive.apache.org/dist/skywalking/java-agent/8.9.0/apache-skywalking-java-agent-8.9.0.tgz
启动成功的页面
看几张部署后的图
接下来安装部署es+ kibana
java8建议使用6.8.23版本的,超过该版本不支持了。
https://artifacts.elastic.co/downloads/elasticsearch/elasticsearch-6.8.23.tar.gzhttps://www.elastic.co/downloads/past-releases#kibana
之后在skywalking目录下的config/application.yml 修改storage.selector 为elasticsearch即可。默认配置 端口是9200.
配置完成后 重新启动SkyWalking。
项目中要加入的信息
pom版本
<dependency><groupId>org.apache.skywalking</groupId><artifactId>apm-toolkit-logback-1.x</artifactId><version>8.9.0</version></dependency><!-- SkyWalking Agent(可选,推荐通过启动参数指定) --><dependency><groupId>org.apache.skywalking</groupId><artifactId>apm-toolkit-trace</artifactId><version>8.9.0</version></dependency>
/resources目录下加入logback-spring.xml
<configuration><!-- 注册自定义 Converter --><conversionRule conversionWord="tid" converterClass="org.apache.skywalking.apm.toolkit.log.logback.v1.x.LogbackPatternConverter" /><appender name="STDOUT" class="ch.qos.logback.core.ConsoleAppender"><encoder><!-- 使用 %tid 直接引用 --><pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%tid] [%thread] %-5level %logger{36} - %msg%n</pattern></encoder></appender><appender name="GRPC_LOG" class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.log.GRPCLogClientAppender"><encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder"><layout class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.mdc.TraceIdMDCPatternLogbackLayout"><Pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%tid] [%thread] %-5level %logger{36} -%msg%n</Pattern></layout></encoder></appender><root level="INFO"><appender-ref ref="STDOUT" /><appender-ref ref="GRPC_LOG" /></root>
</configuration>
启动项目
通过命令行启动
java -javaagent:你的地址/skywalking-agent/skywalking-agent.jar \-Dskywalking.agent.service_name=goods-service \-Dskywalking.collector.backend_service=localhost:11800 \-jar target/你的包.jar
观察控制台会自动写入es,通过kibana页面检索。
结尾
第一篇快速部署一套分布式服务
第二篇 基于nacos搭建分布式项目 网关
第三篇 搭建分布式项目 分布式事务(分布式锁+事务)
希望本文可以帮到你。