spring-cloud-gcp-bigquery 相关问题


如何使用BigQueryToPostgresOperator

我是在 GCP 上使用 apache-airflow 的新手,我正在尝试在 Dataproc 无服务器内的 DAG 上使用 BigQueryToPostgresOperator 将表从 Bigquery 发送到 Cloud SQL,特别是发送到


本地运行测试时如何禁用 Spring Cloud Google Secret Manager 4.x+?

我们使用的是 spring boot 3.2,我们正在尝试将 spring-cloud-gcp-starter-secretmanager 从版本 3.2.1 升级到 4.9.0。当我们这样做时,我们的集成测试会失败,并显示: java.lang.


如何禁用所有启用的API/服务?

每当我在 GCP 中创建一个新项目时,它都会预加载许多我不想要的 API/服务: BigQuery API BigQuery 迁移 API BigQuery 存储 API ...


如何使用 GCP Translation API 处理 BigQuery 中的表?

我的 BigQuery 中有一个表,如下所示 文章标题作者 いい天気です 井上 富士山绝景 小二郎 …… 文章标题栏是一些日文文章。我想使用 GCP


如何删除所有 Google Cloud Platform (GCP) 资源中的资源级权限

如何删除所有 Google Cloud Platform (GCP) 资源中的资源级权限? 例如,计算虚拟机实例可共享给另一个 GCP 用户,而无需分配 IAM 角色。有没有...


使用 Terraform Cloud 和 Google 提供商向 GCP 进行身份验证

我有以下代码用于在我的 GCP 项目中配置 GCS 存储桶 我正在使用 Terraform Cloud,并且已使用 GCP 的应用程序默认凭据进行了身份验证 我创建了一个环境变量...


Dataflow Tensorflow Transform 将转换后的数据写入 BigQuery

在 GCP Dataflow 管道中,我尝试将转换组件中的转换数据写入 Bigquery 中,但出现以下错误。首先,如果有人能让我知道是否...


BigQuery 中的循环(SQL - GOOGLE CLOUD)

我想知道如何在bigquery中执行循环来创建一个仅更改其名称和where子句的表。 基本上作为一个例子: 例如,我想创建表三...


Google Cloud Spanner 和 Cloud SQL 有什么区别?

我是 GCP 堆栈的新手,所以我对列出的几种用于存储数据的技术感到非常困惑: https://cloud.google.com/products/databases 具体来说,我对...之间的差异感兴趣


将 localstack 与 Spring Cloud AWS 2.3 一起使用时出现未知主机

“ResourceLoader”与 AWS S3 可以很好地处理这些属性: 云: 亚马逊: s3: 端点:s3.amazonaws.com <-- custom endpoint added in spring cloud aws 2.3 creden...


使用 Spring Cloud LoadBalancer 进行基于请求的粘性会话配置

我使用 Spring Cloud LoadBalancer 对基于请求的粘性会话进行了以下配置 春天: 云: discovery.client.simple.instances: 打个招呼: -实例ID:说-


使用 Google Workload Federation Identity 对本地应用程序进行身份验证

我们在本地服务器中有一个正在运行的应用程序。我想创建一个从 GCP 读取 BigQuery 表的应用程序。 我被限制使用服务帐户密钥,但这不是......


如何将数据从 Google Big Query 导出到 PostgreSQL

我有一个表存储在 BigQuery 中,我想在 PostgreSQL 数据库中创建该表+数据的副本。这个 PostgreSQL 位于 Google Cloud SQL 中。 此导出每天都会发生,即


Spring Cloud Gateway 返回 404 未找到错误

我尝试使用 Reactive 和 MVC Spring Cloud API 网关,但在两次尝试中我都在 Postman 中收到 404 Not Found 错误响应。 我只有一个用户服务和一个发现服务器(尤里卡)...


“Eureka-Server”在运行“Spring Cloud Config Server”时看不到其属性

在“Eureka-Server”中,“application.properties”文件包含以下属性: spring.config.import=configserver:http://localhost:8888 spring.application.name=eserver ...


使用 ruby 3.2 部署的 GCP App Engine Rails 应用程序向 foreman start 添加参数,然后失败

我正在使用 google cloud build 来部署我的 Rails 应用程序。最近我将 ruby 版本升级到了 3.2。我使用 foreman 作为 app.yaml 中的入口点(不带参数)并添加了


spring webclient负载均衡

以前从未使用过带负载平衡的Web客户端,我休闲了https://spring.io/guides/gs/spring-cloud-loadbalancer/并实现了Web客户端负载均衡器,现在我正在尝试使用helthchecks和


Spring Cloud Gateway 错误 403:禁止

上下文 我正在创建一个基于微服务的项目。我使用 Angular 15 作为前端,使用 Spring 3.0.2 作为后端。我使用 Keycloack 20.0.3 进行前端和后端身份验证。我...


Spring 云函数应用程序无法在 AWS Lamdba 上找到函数

我正在尝试在 AWS Lamdba 上部署我的 Spring Cloud 函数,但它看起来像我的函数 没有添加到函数目录中,所以我认为我的 bean 注册有问题,但不能


Spring-Cloud-Stream serde SerializationException 会阻止消息在被消费和修改后被发布

我的配置如下: 春天: 应用: 名称:交易丰富器应用程序 一体化: 轮询器: 固定延迟:5000 云: 溪流: 卡夫卡: 绑定...


GCP 提醒短信费用

有谁知道Google如何对使用GCP提醒短信收费? GCP 结算中是否按短信/通知数量收费? 每个 GCP 项目有门槛吗? 我们有多少个电话号码...


如何重置附加到bigquery列的策略标签?

我正在使用脚本将策略标签设置为 bigquery 列(例如名称列),但我不知道如何继续使用 Python 脚本回滚此更改 从 google.cloud 导入 bigquery


访问 BigQuery 中的开放数据库时出现问题

当我想访问位于美国的数据库时,我在使用 BigQuery 时遇到了问题,出现此错误消息: 访问被拒绝:表 bigquery-publick-data:new_york.citibike_trips:用户不访问


部署 GCP 功能时,服务帐户不断恢复为默认值,从而导致错误

部署第二代环境 GCP 功能时,尽管我选择了 c...


MongoDB 到 Bigquery(批量)数据流模板 - UDF 不起作用

我们正在尝试按计划将 mongoDB 中的当前数据加载到 bigquery 中。目前正在尝试使用谷歌云的数据流服务与 MongoDB 到 Bigquery(批量)模板一起使用...


Bigquery 中的合并阶段是什么?

想要了解 Bigquery 中的合并阶段是什么以及在什么情况下会在计划中看到此阶段。我在bigquery文档中没有找到有关此阶段的信息。 注意:我没有使用


GCP:如何仅在某些域上使用VPN

我已经在AWS VPC和GCP VPC之间设置了HA VPN,现在我可以从GCP访问AWS上的私有资源,我的问题是,是否可以仅对某些资源使用VPN?使用他们的域名...


我收到存储桶 GCP 的访问被拒绝错误

这是结构 从负载均衡器 -> 存储桶 GCP 桶不公开。 我需要仅通过负载均衡器在 GCP 存储桶访问上部署前端。 就像在 AWS 中一样,我们仅使用 Cloudfront 访问 S3,而不是


在 Google Cloud Build 期间在 Google Cloud SQL 上运行 node.js 数据库迁移

我想在 Cloud Build 过程中运行用 node.js 编写的数据库迁移。 目前,正在执行数据库迁移命令,但 Cloud Build 进程似乎正在执行...


NodeJS 我当前的 Google Cloud 函数名称是什么?

我想使用当前Google Cloud Function的名称来驱动一些逻辑。如何确定我的 Google Cloud Function 名称是什么?


从 Postgres 读取数据并写入 Google BigQuery 时架构不匹配

我创建了一个 pyspark 脚本来通过 Dataproc 将数据从 PG DB 迁移到 Google Bigquery,但是在 dataproc 上运行日志时遇到错误 引起的:java.lang.NullPointerExcepti...


使用 Sequelize 将 Cloud Run Node 应用连接到 Cloud SQL

我正在尝试在 Google Cloud Run 上部署 Nodejs 应用程序,该应用程序应该使用 Sequelize ORM 连接到 Cloud SQL MySQL 数据库。 如果我使用云 sql ins 的本地代理,它工作正常...


删除 Firestore 到 BigQuery 扩展的更改日志中的旧行

我正在使用 Firebase Extension Stream Firestore to BigQuery 将数据导出到 BQ。 它工作得很好,我已经使用它好几年了。 然而,桌子的大小正在开始......


在 Terraform for GCP 中允许帐户和角色时出现错误

我正在尝试将角色分配给 GCP 项目中 Terraform 文件中的用户,但出现以下错误: 错误:请求“创建 IAM 成员角色/compute.networkAdmin 用户:som...


将 Langchain 与 BigQuery 结合使用 - 包含 RECORD 字段的表出现错误

我正在尝试使用 Langchain、BigQuery 和 Vertex LLM 构建一个简单的文本到查询管道。 启动 langchain SQLDatabase 对象工作正常 从 sqlalchemy 导入 * 来自 sqlalchemy.engine ...


将 Bigquery SQL 转换为物化视图

我有这个bigquery sql命令,它以某种格式从数据库获取数据。我希望它处于物化视图中,但出现以下错误 增量物化视图可能不使用 ARRAY 函数...


如何提高 GCP 中的级联湖 vCPU 速度(3.1 至 3.8 GHz)

我们采用了GCP C2(计算优化)类型的ubuntu机器,具有4vcpu,16-G RAM,200G SSD,其中装有intel Cascade Lake CPU。谷歌文档表明其速度为 3.8Ghz,但是机器


如何使用具有列表列表值的字典从 Bigquery 中的表进行查询

我有一个bigquery表如下 idx 信息 1 {'columns':['name','age'], data:[['Sheldon', 29], ['Raj',28]]} 2 {'columns':['姓名','年龄'], 数据:[['伦纳德', 28], ['霍华德',29]]} 信息是一个字符串


如何在 Python 中的 Bigquery 的 SQL 查询中使用变量?

我正在用 python 编写一个函数,该函数应该为 BigQuery 创建查询以提取某些数据。该函数的目标是创建一个传递用户 ID 的查询。此查询...


bigquery 操作在欧洲西部超时 3

我们所有的数据集在 BigQuery 中的位置都是 europe-west3,直到上周末为止一直运行良好。突然,所有读取查询都无法检索任何数据并导致操作超时。当我们改变...


如何在 gcp“搜索和对话”中列出数据存储

我正在尝试找到一种方法来列出使用 GCP Python 客户端库在“搜索和对话”中创建的所有数据存储。 例如(下图),我目前有 2 个数据存储 test1-dat...


将 Bigquery 中的每条记录作为文件下载到 GCS

我们可以通过bq extract或其他方式将Bigquery中的每条记录下载到GCS吗?我尝试下载整个表格,单独阅读它们并创建文件,但是否有一个不寻常的...


GCP 函数调用来自不同项目的基于日志的指标

我想聚合来自不同 GCP 项目的一些日志,以便获得总数。我在每个项目中创建了基于日志的指标来计算特定日志实例,但现在我必须


Google Cloud - 将用户信息从 IAP 传递到 Cloud Run

我有一个受身份感知代理 (IAP) 保护的内部 Cloud Run 服务。是否可以从应用程序内的 IAP 访问用户信息(例如正在使用该服务的电子邮件)? ...


如何在 Cloud Composer 2 的 KerbenetesPodOperator 中指定非默认计算类

我正在 Cloud Composer 2 中使用 KurbenetesPodOperator 创建 pod 来执行 Spark 作业。 默认情况下,当您使用


在 BigQuery 中加载 JSON / 从位置 ... 开始的行中出现 JSON 解析错误:解析器在字符串结尾之前终止

我正在尝试使用 Airflow GoogleCloudStorageToBigQueryOperator 在 BigQuery 中加载 350MB JSON 文件。 作业总是停在某个位置 N (N 永远不会改变),并出现以下错误: 读取时出错...


无法使用 Docker 访问 GCP 上部署的应用程序。我怎样才能使其可用?

我刚刚使用 Docker 容器将 Web 应用程序部署到 GCP 实例。我对此很陌生,这是我第一次这样做。问题是我无法通过外部IP访问该应用程序。我只有


在 GCP 计算引擎代码服务器上运行 django 时出现 CORS 问题

我正在开发一个 Django 项目。为此,我在个人笔记本电脑上以及在 GCP 计算引擎上运行的远程代码服务器实例 (VS Code Remote) 上工作。 我在 https://dev 上运行代码远程。


“无法访问数据库服务器”尝试将 Google Cloud SQL 连接到 PostgreSQL Prisma 数据库

我第一次尝试在我的项目中使用 PostgreSQL 数据库和 Prisma。但是,我无法连接到我在 Google Cloud 上创建的 Cloud SQL 实例。当我运行 npx prisma db p...


是否可以在 Google Cloud Shell 中使用 Jupyter Notebook?

我尝试过的: 启动 Google Cloud shell 须藤 pip 安装 jupyter jupyter 笔记本 --generate-config 将以下内容添加到 ~/.jupyter/jupyter_notebook_config.py c.NotebookApp.ip = 'localhost' c.


© www.soinside.com 2019 - 2024. All rights reserved.