mapreduce 相关问题

MapReduce是一种使用大量节点处理某些类型的可分发问题的大型数据集的算法

Mapper类中静态字段引起的NullPointerException

我有一个 HBase MapReduce Bulkload 应用程序,其中包含一个自定义的 MyMapper 类,它有一个在应用程序运行期间使用的静态字段解析器,当我配置作业时,我使用 ...

回答 1 投票 0

字数统计应用程序未在 hadoop 上运行

这是我第一次使用 hadoop,所以我开始使用基本程序,即字数统计。在我的本地机器上它工作得很好。真正的问题是我无法在

回答 1 投票 0

当我尝试在 dplyr group_map 函数中使用 defuse-inject 模式时失败

以下是我想要实现的示例。 图书馆(dplyr) tbl.数据<- tidyquant::tq_get(c("GS", "C", "BAC")) to.xts <- function(group, group_key,

回答 3 投票 0

如何在hadoop流中跳过失败的地图任务?

我正在运行一个hadoop流式mapreduce作业,它总共有26895个map任务。但是,有一个处理某个输入的任务总是失败。所以我设置mapreduce.map.failures.maxpercent=1,并想 ...

回答 1 投票 3

Hive : Tez如何增加AM容器的内存?

我试图运行一个hive查询,设置yarn.nodemanager.vmem-check-enabled=false; 设置hive.strict.checks.cartesian.product=false; select count(*) from db1.tb1 a where a.col1='2015-07-13' and a.col2=' ...

回答 1 投票 0

MapReduce图灵完备吗?

关于MapReduce框架和图灵完备性,我有两个问题。首先,由于MapReduce不是一种实际的编程语言(它更像是一套处理数据的规则),......

回答 1 投票 3

当key在循环中的值等于key时,在for循环外访问key的值。

我有两个字典列表: sftoap = [{'0060z000023GQYKAA4': 'ID-2522'}, {'0060z000023GQZNAA4': 'ID-2523'}, {'0060z000023GQidAAG': 'ID-2524'}] opp_products = [{'Opportunity_ID__c': '...

回答 2 投票 0

在scala上使用hadoop有哪些选择?

We are starting a big-data based analytic project and we are considering to adopt scala (typesafe stack).I would like to know various scala API'sprojects which are available to do hadoop , map reduce programs. 我想知道各种scala API'sprojects哪些是可以做hadoop,map ...

回答 5 投票 24

Java Map Reduce Split方法

假设我们有一个像下面这样的.csv文件。国家,num1,num2,备注 美国,1,1,字符串1 美国,1,2, "字符串2,字符串3,字符串1 "我需要拆分每一行的Map-Reduce任务。的 "问题",因为你...

回答 1 投票 0

从hadoop1迁移到hadoop2后,如何恢复hadoop Map reduce作业的性能?

从hadoop 1.0.3 ->hadoop 2.8.5迁移后,Hadoop Map reduce作业性能(执行作业时间)下降(5min->15min),详情如下。我有Hadoop Map reduce作业在AWS EMR中执行。

回答 1 投票 0

将MongoDB中的聚合操作翻译成MapReduce。

几天来,我一直试图将这个查询翻译成MapReduce。具体来说,我需要计算出有多少辆不同的汽车行驶了 "N "公里。查询:db.adsb.group({ "key": { ...

回答 1 投票 1

part-r-00000没有这样的文件或目录。

我试图运行AggregateWordCount这个例子,但我得到了这个错误,当我使用这个代码运行Wordcount时,一切都很正常。!binbash # 通过运行wordcount测试hadoop集群 # ...

回答 1 投票 0

如果数据太大,需要1个减速器(RHadoop)怎么办?

我是大数据和Hadoop的新手。我试着用mapreduce找中位数。据我所知,maper将数据传递给1个reducer,然后1个reducer排序,并使用median()函数找到中间值。R ...

回答 1 投票 0

将array_column与preg_match结合使用。

假设我们有一个数组,需要将其转换为行 From this: Array ( [subject] => Array ( [0] => EDN:LOC:DERR [1] => EDN:LOC:...)

回答 1 投票 0

如何创建一个日期计数器? 我试过使用reduce函数

使用id,billStatus和tDate需要做一个daycounter,计算收到线索的日期。例子 => 对于id: "1" 2 Billable against 8th of May AND 3 Billable for 9th of May than day ....

回答 1 投票 0

WARN hdfs.DFSClient.DataStreamer Exception org.apache.hadoop.ipc.RemoteException(java.io.IOException):WARN hdfs.DFSClient: DataStreamer Exception org.apache.hadoop.ipc.RemoteException(java.io.IOException)。文件inrecipeitems-latest.json.ingeing_。

当我试图将json从本地路径复制到Hadoop文件分布式系统时,我遇到了一个问题。我已经按照这个链接http:/www.codeproject.com......中给出的步骤进行了编码。

回答 1 投票 1

java.io.IOException: 在使用Combiber的MapReduce中,Spill失败。

我使用HADOOP mapReduce。当运行项目时,没有本地聚合,即组合类,它运行没有问题。当我添加组合器类时,我得到这样的消息:java.lang.Exception: ...

回答 1 投票 0

有没有什么用例,hadoop map-reduce可以比apache spark做得更好?

我同意,迭代和交互式编程范式是非常好的与spark比map-reduce。我也同意我们可以使用HDFS或任何hadoop数据存储,如HBase作为存储层......

回答 2 投票 3

UDTF支持SELECT子句中的单一表达式。

这是我使用的下面的查询,每次我都得到下面的语义分析错误。 hive> select explode(test2. purchased_item.product_id) AS prodID, explode(test2. purchased_item......)

回答 2 投票 0

scala - 统计每行出现的单词数量

我想创建一个Map,它的键是一个单词,值是一个整数列表。列表中的整数应该代表作为索引的行号。像这样。Map("test" -> List(0, 2), "...

回答 1 投票 0

© www.soinside.com 2019 - 2024. All rights reserved.