我正在编写yaml以从YAML文件实例化DataProc集群。我想在群集中添加lzo压缩,以便覆盖文件中的属性。到目前为止,我编写的YAML文件如下:
placement:
managedCluster:
clusterName: batch-job
config:
gceClusterConfig:
zoneUri: asia-south1-a
masterConfig:
diskConfig:
bootDiskSizeGb: 15
bootDiskType: pd-standard
machineTypeUri: n1-standard-4
softwareConfig:
imageVersion: 1.4-ubuntu18
properties:
core:io.compression.codecs: org.apache.hadoop.io.compress.GzipCodec,org.apache.hadoop.io.compress.DefaultCodec,org.apache.hadoop.io.compress.BZip2Codec,com.hadoop.compression.lzo.LzoCodec,com.hadoop.compression.lzo.LzopCodec
core:io.compression.codec.lzo: com.hadoop.compression.lzo.LzoCodec
workerConfig:
diskConfig:
bootDiskSizeGb: 15
machineTypeUri: n1-standard-4
numInstances: 2
当我尝试使用命令运行此文件时
gcloud dataproc workflow-templates instantiate-from-file --file ${FILE_NAME}
我说错了
ERROR: (gcloud.dataproc.workflow-templates.instantiate-from-file) File not found /usr/local/Caskroom/google-cloud-sdk/latest/google-cloud-sdk/lib/googlecloudsdk/schemas/dataproc/v1/PropertiesValue.yaml
我检查了此路径,它具有YAML的验证文件,但不存在PropertiesValue.yaml文件。在SoftwareConfig.yaml文件中,他们说属性标记ref是PropertiesValue.yaml文件。
我想念什么吗,请帮帮我。
文件googlecloudsdk/schemas/dataproc/v1/PropertiesValue.yaml
确实丢失。这是一个可以在此处跟踪的错误:
https://issuetracker.google.com/140882062
[gcloud dataproc
从使用v1beta2 API切换到v1时,显然是在Google Cloud SDK 262版本中引入了该错误。
至少有两种解决方法:
a)使用Google Cloud SDK 261版。
b)将文件googlecloudsdk/schemas/compute/alpha/PropertiesValue.yaml
复制到丢失的位置(请参见上文)。该文件是通用键/值映射的架构,并不特定于Compute或Dataproc。确切的路径取决于您的安装方法和操作系统,请与错误消息进行比较。