Amazon Kinesis是一种全面管理的服务,用于大规模实时处理流数据。
将 AWS Kinesis Firehose 配置到特定 S3 文件夹
我正在尝试配置AWS Firehose以写入特定的s3目录。为此,在 Firehose 控制台的前缀部分,我给出了“Sample/”。附上屏幕截图。 即使在这之后...
Kinesis Stream 上 PutRecord 的 Lambda 函数 ETIMEDOUT 错误
我正在用 JS 编写一个非常简单的 lambda。其主要目的是从 SQS 获取消息(我从 AWS 控制台手动触发),然后通过 put 记录发布到 kinesis 流。我...
我正在账户 A 中的 EKS 上运行容器,并且需要写入另一个账户(账户 B)中的 Kinesis 流(firehose)。 我正在使用 boto3,在本地运行时我使用用户 IAM 凭证集...
如何在不丢失数据的情况下部署 Kinesis Data Analytics
我们有一个复杂的 IoT 系统,其中 AWS Kinesis Flink 应用程序收集数据、处理数据并将新数据包转发到另一个系统。我们收集了很多小数据,比如来自
如何使用 Cloudformation 将基于资源的策略添加到 AWS kinesis 流
我想从外部 AWS 账户写入 Kinesis,我设法通过向 kinesis 流添加基于资源的策略来做到这一点。有没有办法将基于资源的策略添加到 kinesis 流 u...
Kinesis Firehose 到带有扩展名的 S3 对象名称
我正在将 JSON 数据流式传输到 Kinesis Firehose 中,然后将它们放入 S3 此自定义前缀:short_date=!{timestamp:yyyy-MM-dd}/。我知道 Firehose 不会将其识别为 JSON 数据...
AWS kinesis 信令通道:将视频录制到 aws s3
我有一个具体要求。我需要从网络浏览器记录我的网络摄像头。我可以使用 AWS Kinesis Signaling 通道流式传输我的网络摄像头。因此,我需要知道流媒体视频是否可以
如何使用 AWS DMS 中的“SchemaName.TableName”分区键将数据迁移到 Amazon Kinesis 数据流?
我正在尝试设置 DMS 将数据推送到 kinesis 流,并使用基于架构和表名称的分区键。目的是获取给定表命中单个分片的所有 cdc 事件,打赌...
Spark Kinesis Stream Scala 示例尝试遵循 Spark 文档,但不产生输出
我正在尝试使用 Spark 流处理来自 Kinesis 流的数据。 我使用 https://spark.apache.org/docs/latest/streaming-kinesis-integration.html 作为编写代码的参考 对象 TimeAndLa...
DynamoDb Kinesis Data Stream 订购保证
我正在研究 DynamoDb 流与 DynamoDb Kinesis Data Streams。 Kinesis Data Streams 文档如下: Kinesis 数据流记录的显示顺序可能与 i...
一个项目中有 2 个版本的 amazon-kinesis-client 库
我有一个项目使用“software.amazon.kinesis:amazon-kinesis-client:2.5.0”库相当长一段时间来消耗来自kinesis流的事件。 最近我们开始使用“org”。
通过 Kinesis Video Streams 将音频流式传输到 Amazon Connect
我想要实现的目标如下。 在 Amazon Connect 中,当我创建带有 Start Streaming Data 块的流时,它开始流式传输到 Kinesis Video Stream,我可以调用 lambda 函数...
每15分钟触发一次Lambda函数,通过设备ID处理Kinesis数据,计算平均值,并存储在DB中
我正在使用 AWS Kinesis Data Streams 和 Lambda 函数开发无服务器架构。我想实现以下目标: 以 15 分钟为单位从 Kinesis 流中读取数据,从 ...
用于将数据拆分和流式传输到多个第 3 方账户的 AWS 架构
毫无疑问,给猫剥皮的方法有很多种。但通常的一种比其他的要好。 如果我有一个由规则捕获并发送到 lambda 函数进行处理的数据流。拉姆达
在 Databricks 中调用一次 Trigger 来处理 Kinesis Stream
我正在寻找一种方法来触发我的 Databricks 笔记本一次来处理 Kinesis Stream 并使用以下模式 导入 org.apache.spark.sql.streaming.Trigger // 加载您的流数据帧 维...
我有一个连接到 AWS Kinesis 数据流的 AWS Lambda 函数。最近流中的数据量显着增加,但是 Lambda 的并发执行数量
带有 MSK 源和 lambda 转换器的 Firehose 支持动态分区吗?
根据文档,我没有看到任何地方提到 MSK 不支持动态分区。 但是,当我从控制台创建 Firehose 流时,我没有看到启用动态分区
在 Java 中使用 FlinkKinesisConsumer 时如何提供会话令牌?
我尝试使用用户 A 承担角色 R1,并使用 R1 承担不同帐户中的 R2。我已经创建了一个 StsClient 来获取我不知道的 accessKeyId、secretKeyId 和 sessionToken...
如何将 AWS DMS 的更改放入 AWS KINESIS 中的特定分片
我有一个数据库,其中有 40 个表,我正在使用 AWS DMS 从这些表中获取数据更改并将它们推送到 AWS KINESIS 流中,其中有 2 个分片,最终,我的两个 consu...
在类路径中找不到任何实现“org.apache.flink.table.factories.DynamicTableFactory”的标识符“kinesis”工厂
我正在尝试按照存储库 https://github.com/aws-samples/pyflink-getting-started.git 使用 apache flink 1.15.2 运行 pyhon 作业 该存储库列出了 4 个步骤,我陷入了第一步,即 1) 本地