s3-bucket 相关问题


无法从S3存储桶下载文件。 (Langchain + s3)

我正在编写一个项目,使用s3来存储文件pdf,并使用langchain来连接和加载文件。 这是我的代码: const loader = new S3Loader({ bucket: process.env.BUCKET, key: filekey, // 示例: test/


为什么我的存储桶名称位于 R2 对象的键中?

我在无服务器函数中使用 Cloudflare R2 和 @aws-sdk/client-s3。 在这里,我尝试将一个对象添加到我的存储桶('my-bucket'); 从“@aws-sdk/


Django - Oracle Cloud Bucket 与 django-storages 集成

我已将 django-storages 配置为指向 OCI 存储桶。下面是配置: AWS_S3_ACCESS_KEY_ID = env('AWS_BUCKET_KEY') AWS_SECRET_ACCESS_KEY = env('AWS_BUCKET_SECRET')


将 localstack 与 Spring Cloud AWS 2.3 一起使用时出现未知主机

“ResourceLoader”与 AWS S3 可以很好地处理这些属性: 云: 亚马逊: s3: 端点:s3.amazonaws.com <-- custom endpoint added in spring cloud aws 2.3 creden...


从另一个 S3 存储桶访问私有 S3 存储桶

我有一个 React 应用程序部署到 S3 存储桶,还有另一个私有 S3 存储桶,我在同一 AWS 账户中存储图像和文档。目前,我使用 AWS 在前端显示图像......


使用kafka密钥的kafka s3连接器分区

如何使用 kafka msg key 作为 s3 连接器中的分区标准或 我怎样才能获得密钥并将其存储在 s3 对象中 谢谢!


AWS/S3/boto3:无法使用 presigned_url 将文件上传到存储桶

我有以下代码来获取 presigned_url: s3_client = boto3.client('s3', endpoint_url=AWS_ENDPOINT) presigned_url = s3_client.generate_presigned_url('get_object', ...


gsutil - 查找文件和文件夹

是否有类似 find 或 grep 的命令可用于搜索我的 Google Bucket? 我只能找到 ls,但这并不完全是我所需要的。我想搜索特定的文件夹名称和文件名称,


使用 preSignedUrl 上传/发布任意目录/文件到 S3

我正在尝试找出一种方法将文件发送到 S3 到具有任意“目录”和“文件名”的签名 URL。了解 S3 没有目录。 我能成功...


仅在文件夹中 s3 同步更改文件的最佳方式

我有一项工作,克隆存储库,然后 s3 将更改文件同步到 s3 存储桶。我只想同步已更改的文件。由于首先克隆了存储库,因此文件始终具有新的时间戳,因此 s3 同步


从 AWS S3 同步中排除 macOS 隐藏文件

我正在将与 macOS 一起使用的外部硬盘驱动器的全部内容同步到 S3 存储桶。我想排除所有 macOS 隐藏文件。 我试过了: aws s3 同步 --dryrun --排除“^\.” --


如何使用 Oracle Cloud Bucket 系统配置 Wordpress Media Cloud 插件

尽管我是一名经验丰富的前端开发人员,但我对 DevOps 和云基础设施的含义还算不上菜鸟。 太棒了; 我不知道如何填写必要的值来集成媒体云世界...


我们可以将 s3 位置传递到 Dag 文件夹到 Ec2 实例 Apache Airflow 吗

如何将 S3 位置传递到文件airflow.cfg 中的 dag 文件夹中。 目前我的airflow.cfg 看起来像:- dags_folder = /home/airflow/airflow/dags 我想使用 s3 位置的 dags。我该怎么办...


使用 Kinesis Firehose for JSON 重新格式化发送到 S3 的 CloudWatch 日志

我有一个工作设置,可以使用 Kinesis Firehose 将 CloudWatch 日志发送到 S3 存储桶。不幸的是,S3 中的文件不包含格式正确的 JSON。格式正确的 JSON 数组...


将 S3 私有文件作为流返回

我目前正在为一个项目开发一条路线,我需要从 S3 获取特定文件,读取其内容,并以二进制形式返回。我不能只使用 S3 文件 url,因为它是私有的,而且是


您可以使用流而不是本地文件上传到S3吗?

我需要创建一个 CSV 并将其上传到 S3 存储桶。由于我正在动态创建文件,因此如果我可以在创建文件时将其直接写入 S3 存储桶而不是写入,那就更好了...


我使用AWS DataSync从本地到Amazon S3,如果我删除本地数据,它会同步到Amazon S3吗?

AWS DataSync 是否会将已在本地删除的文件同步到 Amazon S3,以便该文件从两个位置都消失/删除?如果是的话我可以关闭这个功能吗?如何? 我已阅读文档...


Kafka Connect S3 Sink 添加元数据

我正在尝试将元数据添加到 kafka 的输出到 S3 存储桶中。 目前,输出只是来自 kafka 主题的消息的值。 我想用下面的东西把它包起来......


使用匿名Cognito身份将文件上传到S3

我有一个 iOS 客户端,可以使用匿名 Cognito Identity 和 Amplify SDK 成功将文件上传到 S3。 现在我尝试使用 CLI 模拟相同的上传,但失败了...


Glue Dynamic Frame 比普通 Spark 慢得多

在下图中,我们使用三种不同配置运行相同的胶水作业,以了解如何写入 S3: 我们使用动态帧写入S3 我们用纯spark框架写信给S...


“名称‘boto3’未定义”

我正在尝试创建基本的 Lambda 函数来连接到 S3,然后执行其余的操作,但我在开始连接到 S3 时陷入困境,并在运行代码时遇到以下错误。 导入


CDK - 调用 PutBucketNotificationConfiguration 操作时发生错误(AccessDenied):

我正在尝试使用 CDK 包添加 S3 事件通知。此 CDK 包在账户 A 中部署了一个 lambda 函数,每次将 S3 对象添加到账户 B 的“testfolder/”中时都会触发...


localstack AWS S3 连接被拒绝,没有错误

我正在运行 localstack 3.0.2 来使用 aws-java-sdk 作为使用 TestContainers 的集成测试来测试 Spring Boot 应用程序。我需要模拟查询大量 S3 对象,因此我生成一个 ...


制作Moviepy视频并使用python Flask将其保存到S3

问题陈述: 我在尝试使用 Python 中的 OpenAI API 从 YouTube 视频转录音频时遇到错误。我的目标是将音频保存到 S3 存储桶,然后传递...


使用 python 将大文件传输到 S3 存储桶中

我必须从外部源下载文件并将它们上传到S3存储桶中,到目前为止我发现适用于小文件,但似乎无法上传稍大的文件。 ...


使用单个 API 调用检查 aws s3 存储桶中是否存在 10 个对象

我正在使用 javascript AWS SDK 限制条件: 我不需要这 10 个对象的内容,只想知道它们是否存在 我想为 AWS S3 创建一个 API


如何避免在微前端(Single-spa)应用程序中对 importmap.js 进行缓存

2 个微前端和根应用程序通过 AWS Cloudfront 分发部署在 S3 存储桶中。 在我的 s3 存储桶中,文件存储在以下结构中 app1_281(反应微前端) app2_13 ...


从 S3 下载文件到 /tmp 时 AWS Lambda 函数中的数据丢失

我在AWS中编写了一个Lambda函数,用于将文件从S3位置下载到/tmp目录(本地Lambda空间)。 我可以下载该文件,但是文件大小在这里发生变化,不确定...


Lambda 函数无法读取未定义的属性(读取“存储桶”)

Lambda 未获取使用 SNS 主题创建的 s3 通知对象的事件详细信息 Lambda 未获取使用 SNS 主题创建的 s3 通知对象的事件详细信息 我创建了一个 AWS SNS 主题并且


Terraform - 创建带有名称的 S3 存储桶;保留现有的存储桶

在我们的开发环境中,我们希望为每个开发人员提供 S3 存储桶。我正在尝试将这些存储桶的管理迁移到 Terraform。这是在一个新帐户中进行的,所以有...


AWS-Lambda 函数 (Python) 从 S3 复制文件 - 执行操作 - 将输出存储在另一个 S3 中

我正在寻找一些指导,如果有人可以引导我走向正确的方向。 场景:必须用 Python 编写一个 Lambda 函数,该函数能够执行以下任务; Lambda 被触发


为什么要在 Galaxy S3 的 2.3.3 API 中开发应用程序? [已关闭]

我最近正在开发一个应用程序并且一直在研究。我首先在 4.1.2 API 中编写了我的 Android 应用程序,这是 Galaxy S3 的 API。但今天,因为我犯了一个错误,所以我重新开始...


创建分区时,Athena Iceberg 目前不支持查询类型

我在 Athena 中运行以下 sql 来创建分区 ALTER TABLE 数据库.表 ADD 分区(分区一='123',分区二='456') 位置 's3:///data/


AWS CloudWatch Logs 未创建

我正在尝试使用 AWS Glue 运行 ETL 作业,将数据从 Redshift 获取到 S3。 当我运行爬网程序时,它成功连接到 Redshift 并获取架构信息。相关日志已创建...


Micronaut Key Store Path中可以设置S3路径吗?

我有一个使用 Micronaut 3.9.x(从 Micronaut 1 迁移)的 lambda 应用程序,它使用 HttpClient 并具有指向我的资源文件夹内的证书的 SSL 配置。我有


Redshift 慢速 COPY 命令

我有一堆数据(100 列和大约 30M 行),我想从 S3 复制。复制速度非常慢 -3-4 小时。我在目标表上定义了一个 dist 键和排序键。 我想知道什么


Airflow 有什么方法可以直接从 s3 中选取我的 DAG 文件吗?

Airflow 只能从“/dags”文件夹或特定的 Github 存储库中选取 DAG。 我们还有其他方法可以让 Airflow 从中选择 DAG 吗?


如何通过 s3 存储桶读取 Delta Lake 表

从这里的文档可以看出,可以使用 deltalake::open_table 方法来打开位于文件系统上的 delta Lake 表。这一点我已经能够做到了。 但我没有...


React Native 展会图像缓存键功能

我正在尝试将 expo-image 包与预签名的 S3 图像一起使用。但是,即使我之前已经加载过图像,加载图像也需要几秒钟的时间。由于...


如何在axios中获取onUploadProgress?

我对如何使用 axios 上传进度事件有点困惑。实际上我正在将大量文件存储到 aws s3 中。那么,如何获取上传进度呢?我需要 onUploadProgr 这个函数...


无法访问跨账户S3存储桶

我正在尝试设置存储桶策略以允许跨帐户访问。 我的存储桶中有以下设置,但从 AWS SDK 调用时仍然出现“访问被拒绝”错误。 { “版本”:“...


liip_imagine 使用 aws s3 生成错误的缓存 url(liip_imagine、vich_uploader、flysystem)

我目前在 liip_imagine 的配置上遇到问题。 我的设置: 交响乐6.4 vichuploader 2.3 利匹马嗪 2.12 联赛/飞行系统 aws/aws-sdk-php 我首先用fly安装了vichuploader...


使用预签名 URL 时 AWS S3 访问被拒绝

当我尝试从后端生成的签名 URL 获取图像时,出现错误。 这是控制台中出现的错误: 当我进入该链接时,会出现以下内容: 这...


Heroku 在部署时按预期执行collectstatic?

我设置了 Django 来收集静态文件并使用 django-storages 将它们复制到 S3 中,当我显式运行时,这就像一个魅力 heroku运行python管理.py收集静态 不过,我...


如何从 Java 中的 MIME 类型确定适当的文件扩展名

我正在将文件上传到 Amazon s3 存储桶,并有权访问 InputStream 和包含文件 MIME 类型但不包含原始文件名的字符串。由我来实际创建......


AWS EMR 集群中元数据的 AWS 粘合数据目录

我们计划使用AWS EMR集群来处理json和parquet文件。我有一个基本问题,我们真的需要 aws 数据目录来处理存储在 S3 中的 json 和 parquet 文件...


在 Databricks 中使用 AutoLoader 时是否可以不合并镶木地板?

在 Databricks 中使用 AutoLoader 时是否可以不合并镶木地板? 问题是,我想将数据从 S3 存储桶直接复制到 Azure Blob 存储,而不合并它。只需 1:1 复制...


AWS SageMaker 端点:调用 boto3.client("s3") 时出现超出最大递归深度错误

当我尝试在已部署的 SageMaker 端点(对于 TensorFlow 模型)上调用 .predict() 时,遇到最大递归深度超出错误。我已将日志语句放入推理脚本中,


如何在 AWS Batch 作业定义 json 中指定输入和输出卷 S3 路径?

我正在尝试使用 EC2 或 Fargate 后端来运行 AWS Batch 作业。以下示例适用于 EC2 实例 AFAIK。我已经调整了我的 docker 容器,以便能够安装输入和...


Django/AWS - 调用 HeadObject 操作时发生错误 (403):Forbidden

我正在尝试设置 Django 项目以在 AWS S3 存储桶上托管静态图像,但是当我尝试通过 Django 管理面板上传图像时,出现以下错误 这些是我在 Django 中的设置


© www.soinside.com 2019 - 2024. All rights reserved.