如何在Kubernetes中实现GPU亲和性调度

在Kubernetes中实现GPU亲和性调度可以通过配置Pod的nodeAffinity来实现。nodeAffinity允许你定义节点选择规则，以确保Pod被调度到具有特定GPU的节点上。以下是一个基本的示例，展示了如何在Pod配置中设置GPU亲和性调度。

示例配置

apiVersion: v1
kind: Pod
metadata:
name: gpu-pod
spec:
containers:
- name: my-container
image: my-image
affinity:
nodeAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
nodeSelectorTerms:
- matchExpressions:
- key: nvidia.com/gpu.product
operator: In
values:
- "nvidia-a100"  # 指定需要nvidia a100类型的GPU
resources:
limits:
nvidia.com/gpu: 1  # 限制使用1个GPU
requests:
nvidia.com/gpu: 1  # 请求1个GPU

解释

1. nodeAffinity: 这部分定义了节点亲和性规则。

• requiredDuringSchedulingIgnoredDuringExecution: 这是一个硬性调度规则，表示Pod必须满足所有条件才能被调度。
• nodeSelectorTerms: 定义了一组匹配条件。
• matchExpressions: 定义了具体的匹配规则，这里指定了节点必须具有nvidia.com/gpu.product标签，并且其值为nvidia-a100。

1. resources: 这部分定义了Pod的资源限制和请求。

• limits: 限制了Pod可以使用的GPU数量为1个。
• requests: 请求了1个GPU资源。

注意事项

• 节点标签: 确保你的节点已经正确打上了GPU类型的标签，例如nvidia.com/gpu.product=nvidia-a100。
• 资源请求和限制: 合理设置GPU的资源请求和限制，以确保资源不会被过度分配或浪费。

通过这种方式，你可以确保需要GPU资源的Pod被调度到具备相应GPU的节点上，从而优化资源利用和提高应用性能。