mapreduce 相关问题

MapReduce是一种使用大量节点处理某些类型的可分发问题的大型数据集的算法

在mongodb中与first或last进行聚合时,如何仅选择非null值?

我的数据表示一个字典,该字典接收大量更新和可能的新字段(将元数据添加到帖子中)。就像这样:> db.collection.find(){_id:...,'A':'apple','B'...

回答 3 投票 2

根据pyspark中的图邻接表表示生成2跳投影

我已从以下边缘的输入文件中在pyspark rdd中将邻接列表作为[键,值]对生成:7 10 7 8 7 4 8 9 8 5 9 5 9 10 10 6 4 5 5 6 4 6 1 4 1 3 2 3 2 ...

回答 1 投票 1

如何从通过python转换为字符串的冻结集中提取值?

我正在多部分地研究python map / reduce。我的第一个地图打印到标准输入,以便第一个reduce可以将其拾取。映射的结果如下所示:Frozenset([4])14 ...

回答 1 投票 0

在特定情况下避免在Apache Spark sql数据框中使用具有相同域的多个列的多个联接

我被要求通过数据帧在apache spark sql(java api)中做一些事情,我认为如果按照幼稚的方法执行,我的确会花费很多(我仍在以幼稚的方法工作...

回答 1 投票 0

批量处理中加入Vs减少

[Join和Reduce在批处理方面有什么主要区别?

回答 1 投票 1

如何打印出现的单词?

我在使用Mapreduce函数时遇到问题,现在我知道如何从mrjob.job导入MRJob类MRWordCounter(MRJob):def mapper(self,key,line):for word in ...

回答 1 投票 -3

Hadoop如何处理没有键值结构的文件

我是Hadoop的新手,正在学习Map Reduce范例。在本教程中,我遵循的观点是,映射缩减方法倾向于基于Key -...

回答 1 投票 0

将MapReduce参数提供给配置单元查询

有什么方法可以将map reduce参数提供给配置单元查询?例如我正在这样做,并且它不会在MR作业中设置该参数。蜂巢(默认)>设置mapreduce.map.output.value.class = org.apache ....

回答 1 投票 0

使用Java在Spark中进行映射

我具有以下格式的文件名myFile:1,A,2,B 1,A,3,C 2,B,4,DI想要将每行的第二个索引值映射到该行本身:A -> 1,A,2,BA-> 1,A,3,CB-> 2,B,4,D ...

回答 1 投票 -3

MongoDB-具有时间序列存储的MapReduce

我有一个基于时间序列存储模型的架构。我现在正在尝试将一些聚合管道转换为MapReduce模型,但是在...

回答 1 投票 0

MapReduce代码到Spark代码的转换

我有一个Mapper类,如下:公共静态类MyMapper扩展了Mapper {字符串行; String [] strList;字符串outputKey; @Override ...

回答 1 投票 -3

MapReduce找不到符号[重复项]

我再次寻求您的技术支持。我的代码中收到多个“找不到符号错误”。我该如何解决该错误?我也有转换变量类型的问题。对于某些...

回答 2 投票 -1

整理列表的字典(深度为2级)

我正在尽全力解决这个问题,但这还不够灵活。在我的Python脚本中,我有一个字典列表字典。 (实际上,它会更深一些,但该水平不是...

回答 3 投票 5

获取唯一元素数

我是编程的新手,所以对获得独特的数据组合感到困惑。这是我的数据集:客户,交易,日期,产品,成本X,1,02 / 02,A,10.99 X,1,02 / 02,B,4.99 X,2、04 / 02,A,9。 ..

回答 1 投票 1

MongoDB Map-Reduce:一个文档是否需要合并到所有其他符合条件的文档中?

甚至不确定是否可以使用正确的术语来问这个问题,但是我们开始吧。我有一个集合,正在使用MapReduce对其执行聚合任务。我无法使用聚合...

回答 2 投票 1

CouchDB视图每个键减少一个文档

我正在尝试使用SofaDb视图解决似乎很简单的问题,但我的结果集甚至还没有接近目标。而不是更新文档,而是创建一个新的...

回答 1 投票 0

我们可以使用map reduce程序求解数字的阶乘吗?

我们可以使用map-reduce程序求解数字的阶乘吗?如果是,那么映射器和化简器将如何交互?

回答 1 投票 0

TEZ参数等效于“ mapreduce.map.failures.maxpercent”

在使用MR的早期Hadoop版本中,我们有一个set参数来忽略一定百分比的顶点故障。在不推荐使用MR的新版本中,是否存在任何等效参数...

回答 1 投票 0

mrunit-使用mrunit.mapreduce.MapDriver不调用自定义记录读取器

我正在修改记录读取器中的MapReduce程序,并希望编写一个供映射器使用的测试用例,以调用自定义的InputFormat或记录读取器。我已经修改了记录读取器的测试用例,但是...

回答 1 投票 0

如何使用MapReduce在python中相乘矩阵?

假设我有两个如下所示的2X2矩阵。 A,0,0,1 A,0,1,0 A,1,0,0 A,1,1,1 B,0,0,2 B,0,1,3 B,1,0,4 B ,1,1,5例如B,1,0,4表示矩阵B,第1行,col 0,值4。我如何使用...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.