为什么需要MetalLB和Ingress

在Kubernetes集群中，尤其是裸机（Bare Metal）环境下，存在两个常见的网络访问挑战：

1. LoadBalancer类型服务的实现：Kubernetes没有为裸机集群提供网络负载均衡器(LoadBalancer类型的服务)的内置实现
2. 服务暴露管理：当有多个服务需要被集群外部访问时，为每个服务单独暴露端口既不安全也不便于管理

这就是MetalLB和Ingress出现的原因 - MetalLB为裸机集群提供LoadBalancer能力，而Ingress则提供了统一的入口管理和路由功能。

最近公司有项目想在 k8s 集群中运行 GPU 任务，于是研究了一下。下面是部署的步骤。

1. 首先得有一个可以运行的 k8s 集群. 集群部署参考 kubeadm安装k8s

2. 准备 GPU 节点

2.1 安装驱动

curl -fsSL https://mirrors.aliyun.com/nvidia-cuda/ubuntu1804/x86_64/7fa2af80.pub | sudoapt-key add -
echo"deb https://mirrors.aliyun.com/nvidia-cuda/ubuntu1804/x86_64/ ./"> /etc/apt/sources.list.d/cuda.list
 
apt-get update
apt-get install-y cuda-drivers-455

自动扩缩容架构图

[]

我们先来看一下自动扩缩容的原理，在k8s中HPA这个模块的逻辑会定时请求api server 获取相应的pod或者CRD或者其他资源的指标信息，这些指标信息是用户创建HPA的yaml配置文件时指定的。

api server收到请求后，根据请求的api group，api version 转发给内部的api service服务进行处理，当我们想让k8s借用prometheus的相关指标进行扩缩容时，就需要在集群里用api service的方式安装prometheus adapter，它会将发往api server的请求经过包装，转发到prometheus服务器获取对应指标信息，然后将结果经过封装返回给客户端即HPA模块。HPA模块收到指标后，在根据自身配置文件中的target值判断是否需要进行自动扩缩容。