Skip to content

Latest commit

 

History

History
147 lines (126 loc) · 4.34 KB

dataset_across_namespace_with_csi.md

File metadata and controls

147 lines (126 loc) · 4.34 KB
Raw

示例 - Dataset缓存跨Namespace访问(CSI机制)

本示例用来演示如何一份Dataset缓存数据，如何跨Namespace使用：

  • Namespace ns-a 创建 Dataset demo 和 AlluxioRuntime demo
  • Namespace ns-b 创建 Dataset demo-ref 和 ThinRuntime demo-ref，其中demo-ref mount的路径为dataset://ns-a/demo

前提条件

在运行该示例之前，请参考安装文档完成安装，并检查Fluid各组件正常运行：

$ kubectl get pod -n fluid-system
alluxioruntime-controller-5b64fdbbb-84pc6   1/1     Running   0          8h
csi-nodeplugin-fluid-fwgjh                  2/2     Running   0          8h
csi-nodeplugin-fluid-ll8bq                  2/2     Running   0          8h
dataset-controller-5b7848dbbb-n44dj         1/1     Running   0          8h
thinruntime-controller-7dcbf5f45-xsf4p          1/1     Running   0          8h

其中，thinruntime-controller是用来支持Dataset跨Namespace共享，alluxioruntime-controller是实际的缓存。

CSI机制跨Namespace共享数据集缓存

1. 创建Dataset和缓存Runtime

在 default 命名空间下，创建phy Dataset和AlluxioRuntime

$ cat<<EOF >ds.yaml
apiVersion: data.fluid.io/v1alpha1
kind: Dataset
metadata:
  name: phy
spec:
  mounts:
    - mountPoint: https://mirrors.bit.edu.cn/apache/spark/
      name: spark
---
apiVersion: data.fluid.io/v1alpha1
kind: AlluxioRuntime
metadata:
  name: phy
spec:
  replicas: 1
  tieredstore:
    levels:
      - mediumtype: MEM
        path: /dev/shm
        quota: 1Gi
        high: "0.95"
        low: "0.7"
EOF

$ kubectl create -f ds.yaml

2. 创建引用的Dataset和Runtime

在 ref 命名空间下，创建：

  • 引用的数据集refdemo，其mountPoint格式为dataset://${origin-dataset-namespace}/${origin-dataset-name}；

注：

  1. 当前引用的数据集，只支持一个mount，且形式必须为dataset://（即出现dataset://和其它形式时，dataset创建失败），Spec中其它字段无效；
$ kubectl create ns ref

$ cat<<EOF >ds-ref.yaml
apiVersion: data.fluid.io/v1alpha1
kind: Dataset
metadata:
  name: refdemo
spec:
  mounts:
    - mountPoint: dataset://default/phy
EOF

$ kubectl create -f ds-ref.yaml -n ref

### 创建Pod并查看数据

在 default 命名空间下，创建Pod

```shell
$ cat<<EOF >app.yaml
apiVersion: v1
kind: Pod
metadata:
  name: nginx
spec:
  containers:
    - name: nginx
      image: nginx
      volumeMounts:
        - mountPath: /data_spark
          name: spark-vol
  volumes:
    - name: spark-vol
      persistentVolumeClaim:
        claimName: phy
EOF

$ kubectl create -f app.yaml

在 ref 命名空间下，创建Pod：

$ cat<<EOF >app-ref.yaml
apiVersion: v1
kind: Pod
metadata:
  name: nginx
spec:
  containers:
    - name: nginx
      image: nginx
      volumeMounts:
        - mountPath: /data_spark
          name: spark-vol
  volumes:
    - name: spark-vol
      persistentVolumeClaim:
        claimName: refdemo
EOF

$ kubectl create -f app-ref.yaml -n ref

查看 ref 空间下 app nginx pod 状态正常运行，并查看挂载的数据：

$ kubectl get pods -n ref -o wide
NAME         READY   STATUS    RESTARTS   AGE   IP              NODE      NOMINATED NODE   READINESS GATES
nginx        1/1     Running   0          11m   10.233.109.66   work02    <none>           <none>

# 查看pod内的数据路径，spark 是 default命名空间下名为 `phy` 的 Dataset 的路径
$ kubectl exec nginx -n ref -it -- ls /data_spark
spark

查看 default 空间下的pod信息：

  • 只存在一个AlluxioRuntime集群，即缓存只有一份；
  • 因为 ref 命名空间下的 nginx pod 调度在node133上，因此多了一个phy-fuse-nmf88；
$ kubectl get pods -o wide
NAME             READY   STATUS    RESTARTS   AGE     IP              NODE      NOMINATED NODE   READINESS GATES
nginx            1/1     Running   0          5m9s    10.233.109.65   work02    <none>           <none>
phy-fuse-59tw2   1/1     Running   0          10s     172.16.2.133    node133   <none>           <none>
phy-fuse-nmf88   1/1     Running   0          5m9s    172.16.1.10     work02    <none>           <none>
phy-master-0     2/2     Running   0          7m2s    172.16.1.10     work02    <none>           <none>
phy-worker-0     2/2     Running   0          6m29s   172.16.1.10     work02    <none>           <none>