• 适用场景：linux系统，已经搭建好kubernetes1.4及以上的集群，没有配置CA等认证,已经搭建DNS,其它情景仅作参考。

• 如果还没有搭建DNS,请参考kubernetes中部署DNS搭建。

• 相关的yaml文件已经上传到本人的github，需要用到的国外镜像也一并被我替换成了阿里云镜像，可直接下载使用

相关文章：

• kubernetes中搭建spark集群 (一)
• kubernetes中搭建spark集群 (二)
• kubernetes中搭建spark集群 (三)

上节kubernetes中搭建spark集群 (一)说到spark mater和worker节点的ui都是单独的，没法在一个UI里实现查看，点击worker UI里的==back to master==也是返回不了master的UI的。并且此时集群外也无法访问我们的spark集群，这篇文章将重点介绍如何合并这些UI。

解决多UI合并和对外开放问题

这里以我集群中已经启动的spark集群为例

如下图所示，外部没法正常访问集群中的spark集群，而且每个spark节点都有自己的UI用户界面,没法实现一个端口访问所有的UI

针对这一情况，这里使用一个代理来实现合并，通过一个Python脚本创建了一个轻量级的HTTP服务器，它将所有的请求代理给你的Spark Master和Spark Workers。所有你需要做的是创建一个单一的SSH通道到这个代理，代理将转发所有的请求到相应的节点上。

具体的实现过程如下：

1.创建代理POD

a.文件spark-ui-proxy-controller.yaml内容

kind: ReplicationController apiVersion: v1 metadata:   name: spark-ui-proxy-controller spec:   replicas: 1   selector:     component: spark-ui-proxy   template:     metadata:       labels:         component: spark-ui-proxy     spec:       containers:         - name: spark-ui-proxy           image: registry.cn-hangzhou.aliyuncs.com/sjq-study/spark-ui-proxy:1.0           ports:             - containerPort: 80           resources:             requests:               cpu: 100m           args:             - spark-master:8080           livenessProbe:               httpGet:                 path: /                 port: 80               initialDelaySeconds: 120               timeoutSeconds: 5 

• 其中相关镜像已替换成阿里云镜像，可以直接下载使用。

b.创建RC

$ kubectl create -f spark-ui-proxy-controller.yaml 

c.查看验证

$ kubectl get pods |grep spark-ui spark-ui-proxy-controller-gkx2v   1/1       Running            0          5h 

• 已经running！

d.创建services

文件spark-ui-proxy-service.yaml 内容：

kind: Service apiVersion: v1 metadata:   name: spark-ui-proxy spec:   type: NodePort   ports:     - port: 80       targetPort: 80       nodePort: 8082   selector:     component: spark-ui-proxy 

• 这里我将端口映射到了主机的8082端口，这样外部就可以通过该端口访问spark集群的工作界面了。

• 创建

$ kubectl create -f spark-ui-proxy-service.yaml 

e.查看验证

$ kubectl get svc |grep spark-ui spark-ui-proxy   192.168.3.158   <nodes>       80:8082/TCP         4h 

可以看出集群给services分配了一个192.168.3.158的集群IP,那么在集群内就可以通过这个Ip+port来访问spark集群的用户界面了。

实际搭建验证

a.集群外部通过暴露的端口进行访问，

这里我的主机IP为192.168.122.10,,,从ui-proxy映射的端口为8082,则访问http://192.168.122.10:8082

• 点击master中的任意worker节点均可跳转到相应的worker节点的Ui,并且点击worker中的==back to master==也能成功跳转到master

b.集群内部访问

集群内通过主机的Ip+映射的port也能直接访问，或通过ui-proxy-service的IP(192.168.3.158)+port也能实现正常访问，

• 未完待续！

相关文章：

• kubernetes中搭建spark集群 (一)
• kubernetes中搭建spark集群 (二)
• kubernetes中搭建spark集群 (三)

声明！以上内容纯属个人原创！转载请标注出处，谢谢！

如果本文有帮助到你，希望能动动小手点个赞。 如有错误请多指正！如有雷同！纯属巧合！