Spring Cloud Config是Spring Cloud一个全新的项目，依赖版本仓库（比如Git、SVN）实现分布式系统外部配置的集中管理。
文中Spring Cloud的版本是Dalston.SR4，可能在其他之后的版本有修改。
最近这段时间在学习Spring Cloud，准备在项目中使用。Spring Cloud不能简单的算是一个框架，而应该认为是一个微服务的整体解决方案，它集成了Spring Boot、Netflix等等很多非常优秀的框架，很多组件开箱即用。也正是因为它集成了这么多框架，致使其版本不够稳定，即使是SR的版本，也存在这样那样的问题。甚至有的上一个版本没有问题，这个版本就出问题了。
前段时间对自己的项目进行代码质量扫描，曾经以为自己的代码质量算是不错的，结果发现一堆的bug或者smell code，灵魂受到1w点伤害。
可以想到，在时间紧、任务中的情况下，代码质量绝对是不能够保证的，虽然功能算是完整，但是可能就在某个隐藏的角落，就有无数的bug在潜伏着，所以有时间的话都对自己的代码进行代码质量检查吧。虽然不能保证有完美的代码，但是可以把bug数降低，也可以根据扫描的结果养成良好的编程习惯。
身为程序员就得严谨。
闲言碎语不再讲。
本文主要是介绍通过Jenkins Pipeline与SonarQube集成，对代码进行扫描，这里使用的是Jenkins2.19.1，SonarQube6.4。
java.lang.OutOfMemoryError这个错误是比较经典的错误了，经过JDK不断的迭代，服务器硬件的不断升级。。。总之，社会在发展，时代在进步。很多错误已经消失在时代的浪潮中。我也是很久没有见过这个错误了，以至于都以为在Java的世界中不会再碰到这个错误。结果，就在最疏忽的时候碰到了TA，真是，心中一万只神兽奔袭而过，狠狠的践踏了我这颗上了年纪的心脏啊。
吐槽完毕，言归正传。
Java刚刚出现的年代，有一个相比于其他语言的优势就是，内存回收机制。不需要明确的调用释放内存的API，java就自动完成，这个过程就是Garbage Collection，简称GC。这对以懒著称的程序猿们来说，绝对是重大利好。但是，凡事有利必有弊，可以肯定的是，Java语言是人创造的，GC也是人编写的代码，绝对不是机器自动完成的。也就是说，GC的过程是另外一群程序猿根据可能出现的情况，预设了GC条件，把符合回收条件的内存空间释放出来。一旦被占用的内存空间不符合释放的条件，GC没办法清理，那就会适时出现java.lang.OutOfMemoryError。这个错误就是提醒我们这群程序猿，写GC程序的程序猿不知道这种情况怎么处理，为了安全也不便处理，谁使用Java就自己看着解决吧。
说起来，java.lang.OutOfMemoryError有几种分类的，这次碰到的是java.lang.OutOfMemoryError: GC overhead limit exceeded，下面就来说说这种类型的内存溢出。
最近在写一个应用监控的项目，使用netty作为数据传输。因为刚开始写，没有使用Protobuf之类的作为编码工具，只是使用的是netty自带的LengthFieldBasedFrameDecoder作为报文解析工具，自定义编码解码类，实现数据传输。
本来一切正常，结果在昨天测试的过程中，传输的数据体总是少16个字符，甚是奇怪。
陆续的把Hadoop集群部署、HDFS的HA配置)完成，把ResourceManager的HA配置好之后，Hadoop集群配置也算是完整了，可以满足小型中型生产环境Hadoop集群搭建的需要。如果真要搭建超大型的Hadoop集群，这些只能算是参考，还需要修改很多其他参数，使性能更好一些。
ResourceManager（RM）负责跟踪集群中资源使用情况，调度应用程序（比如MapReduce作业）。在Hadoop 2.4之前，ResourceManager存在单点故障，需要通过其他方式实现HA。官方给出的HA方案是Active/Standby两种状态ResourceManager的冗余方式，类似于HDFS的HA方案，也就是通过冗余消除单点故障。
对Hadoop有过了解的都知道，Hadoop经历过很长一段时间的版本号混乱和架构调整，YARN是Hadoop 2.0（或者早期的0.23.x）提出的资源管理、任务调度框架。解决了很多Hadoop 1.0（或者0.21.x、0.22.x）时代的痛点。
随着发展，YARN不仅仅是Hadoop的资源调度框架，还成为一个通用的资源调度管理器，可以将各种各样的计算框架通过YARN管理起来，比如Strom、Spark等。
YARN的基本思想是将资源管理和作业调度/监控的功能分为独立的守护进程。分别是一个全局的 ResourceManager（RM） 和每个应用程序的 ApplicationMaster（AM）。应用程序可以是一个job作业或者一组job作业的有向无环图（DAG）。
ResourceManager负责系统中的所有应用程序的资源分配。NodeManager负责每台机器中容器代理、资源监控（cpu，内存，磁盘，网络），并将这些情况报告给ResourceManager或Scheduler。
每个应用的ApplicationMaster是一个框架特定的库，从ResourceManager协商资源，并与NodeManager共同执行监听任务。
从结构上看，YARN是主/从架构，一个ResourceManager，多个NodeManager，共同构成了数据计算框架。
本文是在hadoop集群部署(yarn)基础上增加的配置内容，因为那篇缺少HDFS的HA配置，在生产环境不够完整。
hadoop官方提供了两种HDFS的HA配置方案，两种方案殊途同归，但是需要的钱、精力和技术不同。
如果对HDFS架构熟悉的话（如果不熟悉，可以通过HDFS架构了解），就应该知道，NameNode通过FsImage和EditLog两个文件管理DataNode的数据，Secondary NameNode会定期合并EditLog，以减少NameNode启动时的安全检查。EditLog文件存储的是对文件的一条条的操作，也就是说，只要保证有另外一个NameNode的EditLog文件一直与当前正在运行的NameNode的EditLog文件是一样的，那就可以随时使用新的NameNode替换老的NameNode。官方目前给出的两种HA方案也大体是这样：
客观的说，Secondary NameNode也算是对NameNode的备份，但是使用Secondary NameNode需要手动处理，不如QJM和NFS两种可以自动处理简单，所以没有被列入HA解决方案中。
但是，这两种方案在部署方式上差别比较大。QJM需要启动几个JournalNode即可，NFS需要挂在一个共享存储。因为条件限制，我只能通过QJM的方式实现HDFS的HA，如果想看NFS方案，可以直接看官方文档。
前段时间搭建了一套Hadoop集群的测试环境，因为服务器故障，废了。这几天闲来无事，想着把Storm用Yarn管理起来，于是再来一遍，同时也梳理下Hadoop组件中的一些概念。所谓书读百遍其义自见，不熟的系统多搭几遍，总会熟悉了，也就是所谓的刻意练习吧。
先简单的说下。
Hadoop文件存储的基础是HDFS(Hadoop Distributed File System)，HDFS的实现依赖于NameNode和DataNode，DataNode用来存储具体数据，NameNode用来管理多个DataNode中分别存储的是什么。
理解起来也不难，因为HDFS是分布式的文件系统，也就是有很多机器用来存储数据，一个大文件可能分布在多个机器上，也可能是一台机器上，具体分布在哪些或哪个机器上，每块数据块的副本在哪，得需要一个总管来管理，这个总管就是NameNode，具体存储机器的就是DataNode。
简单的说完了，接下来就复杂的说。
这几天压测预生产环境，发现TPS各种不稳。因为是重构的系统，据说原来的系统在高并发的时候一点问题没有，结果重构的系统被几十个并发压一下就各种不稳定。虽然测试的同事没有说啥，但自己感觉被啪啪的打脸。。。
于是各种排查，最先想到的就是JVM参数，于是优化一番，希望能够出一个好的结果。尽管后来证明不稳定的原因是安装LoadRunner的压测服务器不稳定，不关我的系统的事，不过也是记录一下，一是做个备份，二是可以给别人做个参考。