- Kubernetes
catagories: - Kubernetes
1. 概述
cAdvisor对Node机器上的资源及容器进行实时监控和性能数据采集,包括CPU使用情况、内存使用情况、网络吞吐量及文件系统使用情况,cAdvisor集成在Kubelet中,当kubelet启动时会自动启动cAdvisor,即一个cAdvisor仅对一台Node机器进行监控。kubelet的启动参数—cadvisor-port可以定义cAdvisor对外提供服务的端口,默认为4194。可以通过浏览器访问。项目主页:http://github.com/google/cadvisor。
1.2. Heapster
是对集群中的各个Node、Pod的资源使用数据进行采集,通过访问每个Node上Kubelet的API,再通过Kubelet调用cAdvisor的API来采集该节点上所有容器的性能数据。由Heapster进行数据汇聚,保存到后端存储系统中,例如InfluxDB,Google Cloud Logging等。项目主页为:https://github.com/kubernetes/heapster。
1.3. InfluxDB
是分布式时序数据库(每条记录带有时间戳属性),主要用于实时数据采集、事件跟踪记录、存储时间图表、原始数据等。提供REST API用于数据的存储和查询。项目主页为http://InfluxDB.com。
1.4. Grafana
通过Dashboard将InfluxDB的时序数据展现成图表形式,便于查看集群运行状态。项目主页为http://Grafana.org。
1.5. 总体架构图
其中当前Kubernetes中,Heapster、InfluxDB、Grafana均以Pod的形式启动和运行。Heapster与Master需配置安全连接。
2. 部署与使用
2.1. cAdvisor
例如:http://14.152.49.100:4194/api/v1.3/machine 获取主机信息。
2.2. Service
2.2.1. heapster-service
heapster-service.yaml
influxdb-service.yaml
apiVersion:v1
kind:Service
metadata:
label:null
name:monitoring-InfluxDB
spec:
type:Nodeport
ports:
- name:http
port:80
targetPort:8083
- name:api
port:8086
targetPort:8086
Nodeport:8086
selector:
name:influxGrafana
2.2.3. grafana-service
grafana-service.yaml
apiVersion:v1
kind:Service
metadata:
label:
kubenetes.io/cluster-service:"true"
kubernetes.io/name:monitoring-Grafana
namespace:kube-system
spec:
type:Nodeport
ports:
port:80
targetPort:8080
Nodeport:8085
selector:
name:influxGrafana
使用type=NodePort将InfluxDB和Grafana暴露在Node的端口上,以便通过浏览器进行访问。
2.2.4. 创建service
kubectl create -f heapster-service.yaml
kubectl create -f InfluxDB-service.yaml
kubectl create -f Grafana-service.yaml
2.3. ReplicationController
2.3.1. influxdb-grafana-controller
influxdb-grafana-controller-v3.yaml
2.3.2. heapster-controller
apiVersion:v1
kind:ReplicationController
metadata:
k8s-app:heapster
name:heapster
version:v6
name:heapster
namespace:kube-system
spec:
replicas:1
selector:
name:heapster
version:v6
template:
metadata:
labels:
k8s-app:heapster
version:v6
spec:
containers:
- image:gcr.io/google_containers/heapster:v0.17.0
name:heapster
command:
- /heapster
- --source=kubernetes:http://192.168.1.128:8080?inClusterConfig=flase&kubeletHttps=true&useServiceAccount=true&auth=
- --sink=InfluxDB:http://monitoring-InfluxDB:8086
Heapster设置启动参数说明:
1、–source
配置监控来源,本例中表示从k8s-Master获取各个Node的信息。在URL的参数部分,修改kubeletHttps、inClusterConfig、useServiceAccount的值。
2、–sink
配置后端的存储系统,本例中使用InfluxDB。URL中主机名的地址是InfluxDB的Service名字,需要DNS服务正常工作,如果没有配置DNS服务可使用Service的ClusterIP地址。
2.3.3. 创建ReplicationController
kubelet create -f InfluxDB-Grafana-controller.yaml
kubelet create -f heapster-controller.yaml
3. 查看界面及数据
3.1. InfluxDB
访问任意一台Node机器的30083端口。
4. 容器化部署
4.1. 拉取镜像
docker pull influxdb:latest
docker pull cadvisor:latest
docker pull grafana:latest
docker pull heapster:latest
4.2. 运行容器
4.2.1. influxdb
4.2.2. cadvisor
#cadvisor
docker run --volume=/:/rootfs:ro --volume=/var/run:/var/run:rw --volume=/sys:/sys:ro --volume=/var/lib/docker/:/var/lib/docker:ro --publish=8080:8080 --detach=true --link influxsrv:influxsrv --name=cadvisor cadvisor:latest -storage_driver=influxdb -storage_driver_db=cadvisor -storage_driver_host=influxsrv:8086
4.2.3. grafana
#grafana
docker run -d -p 3000:3000 -e INFLUXDB_HOST=influxsrv -e INFLUXDB_PORT=8086 -e INFLUXDB_NAME=cadvisor -e INFLUXDB_USER=root -e INFLUXDB_PASS=root --link influxsrv:influxsrv --name grafana grafana:latest
4.2.4. heapster
4.3. 访问
在浏览器输入:PORT