amazon-kinesis 相关问题

Amazon Kinesis是一种全面管理的服务,用于大规模实时处理流数据。

将 AWS Kinesis Firehose 配置到特定 S3 文件夹

我正在尝试配置AWS Firehose以写入特定的s3目录。为此,在 Firehose 控制台的前缀部分,我给出了“Sample/”。附上屏幕截图。 即使在这之后...

回答 1 投票 0

Kinesis Stream 上 PutRecord 的 Lambda 函数 ETIMEDOUT 错误

我正在用 JS 编写一个非常简单的 lambda。其主要目的是从 SQS 获取消息(我从 AWS 控制台手动触发),然后通过 put 记录发布到 kinesis 流。我...

回答 1 投票 0

无法从 EKS 容器写入 Kinesis

我正在账户 A 中的 EKS 上运行容器,并且需要写入另一个账户(账户 B)中的 Kinesis 流(firehose)。 我正在使用 boto3,在本地运行时我使用用户 IAM 凭证集...

回答 1 投票 0

如何在不丢失数据的情况下部署 Kinesis Data Analytics

我们有一个复杂的 IoT 系统,其中 AWS Kinesis Flink 应用程序收集数据、处理数据并将新数据包转发到另一个系统。我们收集了很多小数据,比如来自

回答 1 投票 0

如何使用 Cloudformation 将基于资源的策略添加到 AWS kinesis 流

我想从外部 AWS 账户写入 Kinesis,我设法通过向 kinesis 流添加基于资源的策略来做到这一点。有没有办法将基于资源的策略添加到 kinesis 流 u...

回答 1 投票 0

Kinesis Firehose 到带有扩展名的 S3 对象名称

我正在将 JSON 数据流式传输到 Kinesis Firehose 中,然后将它们放入 S3 此自定义前缀:short_date=!{timestamp:yyyy-MM-dd}/。我知道 Firehose 不会将其识别为 JSON 数据...

回答 3 投票 0

AWS kinesis 信令通道:将视频录制到 aws s3

我有一个具体要求。我需要从网络浏览器记录我的网络摄像头。我可以使用 AWS Kinesis Signaling 通道流式传输我的网络摄像头。因此,我需要知道流媒体视频是否可以

回答 1 投票 0

如何使用 AWS DMS 中的“SchemaName.TableName”分区键将数据迁移到 Amazon Kinesis 数据流?

我正在尝试设置 DMS 将数据推送到 kinesis 流,并使用基于架构和表名称的分区键。目的是获取给定表命中单个分片的所有 cdc 事件,打赌...

回答 1 投票 0

Spark Kinesis Stream Scala 示例尝试遵循 Spark 文档,但不产生输出

我正在尝试使用 Spark 流处理来自 Kinesis 流的数据。 我使用 https://spark.apache.org/docs/latest/streaming-kinesis-integration.html 作为编写代码的参考 对象 TimeAndLa...

回答 1 投票 0

DynamoDb Kinesis Data Stream 订购保证

我正在研究 DynamoDb 流与 DynamoDb Kinesis Data Streams。 Kinesis Data Streams 文档如下: Kinesis 数据流记录的显示顺序可能与 i...

回答 1 投票 0

一个项目中有 2 个版本的 amazon-kinesis-client 库

我有一个项目使用“software.amazon.kinesis:amazon-kinesis-client:2.5.0”库相当长一段时间来消耗来自kinesis流的事件。 最近我们开始使用“org”。

回答 1 投票 0

通过 Kinesis Video Streams 将音频流式传输到 Amazon Connect

我想要实现的目标如下。 在 Amazon Connect 中,当我创建带有 Start Streaming Data 块的流时,它开始流式传输到 Kinesis Video Stream,我可以调用 lambda 函数...

回答 1 投票 0

每15分钟触发一次Lambda函数,通过设备ID处理Kinesis数据,计算平均值,并存储在DB中

我正在使用 AWS Kinesis Data Streams 和 Lambda 函数开发无服务器架构。我想实现以下目标: 以 15 分钟为单位从 Kinesis 流中读取数据,从 ...

回答 1 投票 0

用于将数据拆分和流式传输到多个第 3 方账户的 AWS 架构

毫无疑问,给猫剥皮的方法有很多种。但通常的一种比其他的要好。 如果我有一个由规则捕获并发送到 lambda 函数进行处理的数据流。拉姆达

回答 1 投票 0

在 Databricks 中调用一次 Trigger 来处理 Kinesis Stream

我正在寻找一种方法来触发我的 Databricks 笔记本一次来处理 Kinesis Stream 并使用以下模式 导入 org.apache.spark.sql.streaming.Trigger // 加载您的流数据帧 维...

回答 3 投票 0

为什么这个 Lambda 函数没有运行更多并发执行?

我有一个连接到 AWS Kinesis 数据流的 AWS Lambda 函数。最近流中的数据量显着增加,但是 Lambda 的并发执行数量

回答 1 投票 0

带有 MSK 源和 lambda 转换器的 Firehose 支持动态分区吗?

根据文档,我没有看到任何地方提到 MSK 不支持动态分区。 但是,当我从控制台创建 Firehose 流时,我没有看到启用动态分区

回答 1 投票 0

在 Java 中使用 FlinkKinesisConsumer 时如何提供会话令牌?

我尝试使用用户 A 承担角色 R1,并使用 R1 承担不同帐户中的 R2。我已经创建了一个 StsClient 来获取我不知道的 accessKeyId、secretKeyId 和 sessionToken...

回答 1 投票 0

如何将 AWS DMS 的更改放入 AWS KINESIS 中的特定分片

我有一个数据库,其中有 40 个表,我正在使用 AWS DMS 从这些表中获取数据更改并将它们推送到 AWS KINESIS 流中,其中有 2 个分片,最终,我的两个 consu...

回答 1 投票 0

在类路径中找不到任何实现“org.apache.flink.table.factories.DynamicTableFactory”的标识符“kinesis”工厂

我正在尝试按照存储库 https://github.com/aws-samples/pyflink-getting-started.git 使用 apache flink 1.15.2 运行 pyhon 作业 该存储库列出了 4 个步骤,我陷入了第一步,即 1) 本地

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.