如果遇到预测未来成功与否的问题,从哪里开始

问题描述 投票:0回答:1

我们有一个基于Web的产品,允许用户对商品的未来价值(或需求)进行预测,历史数据包含大约10万个示例,每个示例大约有5个参数;

考虑一类称为预测的数据:

prediction {
    id: int
    predictor: int    
    predictionDate: date
    predictedProductId: int
    predictedDirection: byte  (0 for decrease, 1 for increase)
    valueAtPrediciton: float
}

以及衡量预测结果的配对结果类:

predictionResult {
    id: int
    valueTenDaysAfterPrediction: float
    valueTwentyDaysAfterPrediction: float
    valueThirtyDaysAfterPrediction: float
}

我们可以定义一个成功的测试用例,其中在预测时考虑方向和价值时,是否有任何两个未来价值检查点是有利的。

success(p: prediction, r: predictionResult): bool = 
    count: int 
    count = 0

    // value is predicted to fall
    if p.predictedDirection = 0 then
       if p.valueAtPrediciton > r.valueTenDaysAfterPrediction then count = count + 1
       if p.valueAtPrediciton > r.valueTwentyDaysAfterPrediction then count = count + 1
       if p.valueAtPrediciton > r.valueThirtyDaysAfterPrediction then count = count + 1

    // value is predicted to increase
    else
       if p.valueAtPrediciton < r.valueTenDaysAfterPrediction then count = count + 1
       if p.valueAtPrediciton < r.valueTwentyDaysAfterPrediction then count = count + 1
       if p.valueAtPrediciton < r.valueThirtyDaysAfterPrediction then count = count + 1

    // success if count = 2 or count = 3
    return (count > 1)

预测类中的所有内容在用户提交表单的那一刻就已知,而预测结果中的信息直到稍后才知道;理想情况下,模型或算法可以从我们三年的历史中得出,该算法应用于新的预测,我们可以得到它是否成功的概率(我很高兴有一个布尔 Y/N 标志不管这是否有趣)。

我能否获得一些指导,以便我可以研究和实践解决此类问题所需的内容?

machine-learning data-mining classification pattern-recognition
1个回答
8
投票

特点

您需要做的第一件事是决定使用哪些信息作为证据来将用户的预测分类为准确或不准确。例如,您可以从简单的内容开始,例如进行预测的用户的身份,以及他们对相同或相似商品进行预测时的历史准确性。这些信息将作为“特征”提供给下游机器学习工具,用于对用户的预测进行分类。

培训、开发和测试数据

您需要将 10 万个历史示例分为三个部分:训练、开发和测试。您应该将大部分数据(例如 80%)放入您的“训练”集中。这将是您用来训练预测准确性分类器的数据集。一般来说,用于训练分类器的数据越多,生成的模型就越准确。

另外两个数据集(开发和测试)将用于评估分类器的性能。您将使用开发集来评估分类器不同配置或特征表示变化的准确性。它被称为开发集,因为您在开发模型或系统时使用它来持续评估分类性能。

稍后,在您构建了一个在开发数据上实现良好性能的模型后,您可能需要对分类器在新数据上的表现进行无偏估计。为此,您将使用测试集来评估分类器对数据(而不是用于开发它的数据)的处理效果。

分类器/机器学习包

获得初步功能集并将数据分为训练、开发和测试后,您就可以选择机器学习包和分类器了。一些支持多种类型分类器的好包包括:

Weka

(Java)

支持向量机(SVM)

。他们的基本公式仅限于进行二元预测。但是,如果这就是您所需要的,那么它们通常是一个不错的选择,因为它们可以产生非常准确的模型。 但是,训练 SVM 所需的时间与训练数据的大小成正比。要训练大量数据,您可能决定使用随机森林

之类的东西。当随机森林和 SVM 在相同大小的数据集上进行训练时,随机森林通常会生成与 SVM 模型一样准确或几乎一样准确的模型。然而,随机森林可以让您使用更多的训练数据,并且使用更多的训练数据通常会提高模型的准确性 深入挖掘

这里有一些关于机器学习入门的其他好地方的提示

Andrew Ng 在斯坦福大学的机器学习课程视频讲座

© www.soinside.com 2019 - 2024. All rights reserved.