• Kubernetes
    catagories:
  • Kubernetes

1. 概述

cAdvisor对Node机器上的资源及容器进行实时监控和性能数据采集,包括CPU使用情况、内存使用情况、网络吞吐量及文件系统使用情况,cAdvisor集成在Kubelet中,当kubelet启动时会自动启动cAdvisor,即一个cAdvisor仅对一台Node机器进行监控。kubelet的启动参数—cadvisor-port可以定义cAdvisor对外提供服务的端口,默认为4194。可以通过浏览器访问。项目主页:http://github.com/google/cadvisor。

1.2. Heapster

是对集群中的各个Node、Pod的资源使用数据进行采集,通过访问每个Node上Kubelet的API,再通过Kubelet调用cAdvisor的API来采集该节点上所有容器的性能数据。由Heapster进行数据汇聚,保存到后端存储系统中,例如InfluxDB,Google Cloud Logging等。项目主页为:https://github.com/kubernetes/heapster。

1.3. InfluxDB

是分布式时序数据库(每条记录带有时间戳属性),主要用于实时数据采集、事件跟踪记录、存储时间图表、原始数据等。提供REST API用于数据的存储和查询。项目主页为http://InfluxDB.com。

1.4. Grafana

通过Dashboard将InfluxDB的时序数据展现成图表形式,便于查看集群运行状态。项目主页为http://Grafana.org。

1.5. 总体架构图

其中当前Kubernetes中,Heapster、InfluxDB、Grafana均以Pod的形式启动和运行。Heapster与Master需配置安全连接。

2. 部署与使用

2.1. cAdvisor

例如:http://14.152.49.100:4194/api/v1.3/machine 获取主机信息。

2.2. Service

2.2.1. heapster-service

heapster-service.yaml

influxdb-service.yaml

  1. apiVersion:v1
  2. kind:Service
  3. metadata:
  4. label:null
  5. name:monitoring-InfluxDB
  6. spec:
  7. type:Nodeport
  8. ports:
  9. - name:http
  10. port:80
  11. targetPort:8083
  12. - name:api
  13. port:8086
  14. targetPort:8086
  15. Nodeport:8086
  16. selector:
  17. name:influxGrafana

2.2.3. grafana-service

grafana-service.yaml

  1. apiVersion:v1
  2. kind:Service
  3. metadata:
  4. label:
  5. kubenetes.io/cluster-service:"true"
  6. kubernetes.io/name:monitoring-Grafana
  7. namespace:kube-system
  8. spec:
  9. type:Nodeport
  10. ports:
  11. port:80
  12. targetPort:8080
  13. Nodeport:8085
  14. selector:
  15. name:influxGrafana

使用type=NodePort将InfluxDB和Grafana暴露在Node的端口上,以便通过浏览器进行访问。

2.2.4. 创建service

  1. kubectl create -f heapster-service.yaml
  2. kubectl create -f InfluxDB-service.yaml
  3. kubectl create -f Grafana-service.yaml

2.3. ReplicationController

2.3.1. influxdb-grafana-controller

influxdb-grafana-controller-v3.yaml

2.3.2. heapster-controller

  1. apiVersion:v1
  2. kind:ReplicationController
  3. metadata:
  4. k8s-app:heapster
  5. name:heapster
  6. version:v6
  7. name:heapster
  8. namespace:kube-system
  9. spec:
  10. replicas:1
  11. selector:
  12. name:heapster
  13. version:v6
  14. template:
  15. metadata:
  16. labels:
  17. k8s-app:heapster
  18. version:v6
  19. spec:
  20. containers:
  21. - image:gcr.io/google_containers/heapster:v0.17.0
  22. name:heapster
  23. command:
  24. - /heapster
  25. - --source=kubernetes:http://192.168.1.128:8080?inClusterConfig=flase&kubeletHttps=true&useServiceAccount=true&auth=
  26. - --sink=InfluxDB:http://monitoring-InfluxDB:8086

Heapster设置启动参数说明:

1、–source

配置监控来源,本例中表示从k8s-Master获取各个Node的信息。在URL的参数部分,修改kubeletHttps、inClusterConfig、useServiceAccount的值。

2、–sink

配置后端的存储系统,本例中使用InfluxDB。URL中主机名的地址是InfluxDB的Service名字,需要DNS服务正常工作,如果没有配置DNS服务可使用Service的ClusterIP地址。

2.3.3. 创建ReplicationController

  1. kubelet create -f InfluxDB-Grafana-controller.yaml
  2. kubelet create -f heapster-controller.yaml

3. 查看界面及数据

3.1. InfluxDB

访问任意一台Node机器的30083端口。

4. 容器化部署

4.1. 拉取镜像

  1. docker pull influxdb:latest
  2. docker pull cadvisor:latest
  3. docker pull grafana:latest
  4. docker pull heapster:latest

4.2. 运行容器

4.2.1. influxdb

4.2.2. cadvisor

  1. #cadvisor
  2. docker run --volume=/:/rootfs:ro --volume=/var/run:/var/run:rw --volume=/sys:/sys:ro --volume=/var/lib/docker/:/var/lib/docker:ro --publish=8080:8080 --detach=true --link influxsrv:influxsrv --name=cadvisor cadvisor:latest -storage_driver=influxdb -storage_driver_db=cadvisor -storage_driver_host=influxsrv:8086

4.2.3. grafana

  1. #grafana
  2. docker run -d -p 3000:3000 -e INFLUXDB_HOST=influxsrv -e INFLUXDB_PORT=8086 -e INFLUXDB_NAME=cadvisor -e INFLUXDB_USER=root -e INFLUXDB_PASS=root --link influxsrv:influxsrv --name grafana grafana:latest

4.2.4. heapster

    4.3. 访问

    在浏览器输入:PORT