spark-java 相关问题

Spark是一个受Ruby的Sinatra启发的轻量级Web应用程序框架。请勿使用有关APACHE SPARK的问题。

如何从一个udf中访问广播变量,并且广播变量是在另一个类中定义的,而这个udf是被调用的。

如何从一个UDF中访问广播变量,而广播变量是在另一个类中定义的,这个UDF被调用。* 这个UDF在不同的文件中 * 包 com.abc 公共类 ....

回答 1 投票 0

使用Apache Spark在多个对子上有效地进行卡方积的计算。

旧的上下文我在我的数据集上做一个计算,要求每个元素都要与自身结合,即通过在JavaPairRDD上执行mapToPair >,...

回答 1 投票 1


[使用Spark Performance进行Cassandra全表扫描

我需要扫描包含生产中1亿条记录的表。搜索将在第一个聚类关键字上进行。要求是找到唯一的分区键...

回答 1 投票 0

我们如何更改spark输出的文件名[sparkJava]

无论如何,我想更改spark输出文件名,Spark在AWS S3中编写。

回答 1 投票 0

无法从Eclipse将Spark与Hortonworks沙箱连接

我无法连接写在eclipse上的spark代码。下面是代码,请指导我如何做。导入java.util.Arrays会有所帮助。导入org.apache ....

回答 1 投票 1

在Spark Java中具有空数据集的带有标题(列名)的csv打印csv文件

我必须在.csv文件中打印数据集,但条件是1),如果数据集为空,那么我只能在csv文件(如ID | FIRSTNAME | LASTNAME |中)打印标题(带有管道分隔符的列名) ...

回答 1 投票 0

如何在未实现Serializable的情况下在spark中使用map?

我在代码中使用了map(),并且抛出了NotSerializableException,因此我实现了Serializable。还有其他方法可以克服此异常,或者map始终使用Serializable吗?数据集

回答 1 投票 -1

写入CSV时数据集列的停止顺序

我想将数据集写入CSV文件,但是我不希望列以升序(或其他任何顺序)排序。例如。表:字符串ID;字符串名称;琴弦时代+300更多字段CSV ...

回答 1 投票 -1

当不带水印的流数据帧/数据集上存在流聚合时,不支持追加输出模式

我正在尝试解决我的问题。我有一个要加载到Spark的kafka流。来自Kafka主题的消息具有以下属性:bl_iban,列入黑名单,时间戳。所以有IBANS,关于...

回答 1 投票 0

如何编写使用Java用文本文件分隔的spark数据框选项卡

我有一个Spark Dataset,其中包含许多列,这些列必须使用制表符分隔符写入文本文件。使用csv可以轻松地指定该选项,但需要建议如何处理文本...

回答 1 投票 0

Heroku Procfile命令Java

我一直在尝试设置命令以启动我的Heroku Java Spark应用程序。它说找不到或加载主类。我已经尝试过命令的许多变体,其中...

回答 1 投票 0

类路径资源[public]无法解析为URL,因为它不存在(SPARK)

当我在Spark中运行服务器时,出现以下错误:我的主程序如下:这是我的项目结构,并将其添加到pom.xml文件中: ...

回答 1 投票 0

Exception java.util.NoSuchElementException:无。在Spark数据集save()操作中获取

[当我尝试将数据集作为实木复合地板保存到s3存储时,出现异常“ java.util.NoSuchElementException:None.get”:异常:java.lang.IllegalStateException:无法执行...

回答 1 投票 0

Android mediaPlayer渐进式下载“由对等方重置连接”

我在使用Android MediaPlayer时遇到问题,在播放之前,我先将整首歌曲缓存到内存中,然后决定从我用SparkJava编写的api中播放歌曲。所以现在...

回答 1 投票 0

如何将Apache Spark设置为具有更多核心(从属)?

我使用Java或编码不是很好,但是我需要在Intelij idea IDE中使用Apache Spark(Java API)运行大型数据集。我不太了解如何设置它以拥有一个主机和一些从机。 ...

回答 1 投票 0

SparkJava awaitStop()方法即使在初始化后也立即返回,但尚未调用stop()]]

我有一个用SparkJava 2.9.1构建的小型REST服务,其中包括用于更改服务的绑定IP地址和端口的API。如果更改了这些设置,我想停止当前服务...

回答 1 投票 0

SparkJava:如何在我的before()过滤器中验证OAuth令牌?

我有一个用Spark-java(不是Apache Spark)编写的非常简单的Web服务器,并且希望从初始请求中收集Auth令牌,并将其发送到辅助URL以进行针对...的验证]]

回答 1 投票 0

如何为在Tomcat上运行的Sparkjava提供静态内容作为过滤器

我们有一个由Sparkjava微型框架构建的Web服务。它具有使用HTML,CSS,javascript的UI。它由Sparkjava的嵌入式Jetty服务器提供服务,并且一切正常。现在我们要...

回答 1 投票 0

将值从Spark Java追加到Cassandra Map列中

我有3列的cassandra表。 id文本,值文本,映射map 可以说示例数据如下:id |价值|映射-------------------------------------...

回答 1 投票 1

© www.soinside.com 2019 - 2024. All rights reserved.