优化 - 在循环内从TEMP TABLE中选择的函数，以获取JSON值的平均值

Question

我有一个Mysql函数，作为读取几百万条记录的大型查询的一部分运行。为了检测异常，我正在计算随时间的平均变化。表中的数据存储为JSON对象，UNIX时间戳作为密钥最多30天。

例如，输入（input_array）看起来像：

[{"1532944806": 16}, {"1533031206": 14}, {"1533117605": 13}, {"1533204305": 12}, {"1533290708": 10}, {"1533463506": 9}, {"1533549907": 9}, {"1533636306": 9}, {"1533722707": 9}, {"1533809108": 9}, {"1533895506": 9}, {"1533981906": 8}, {"1534068306": 7}, {"1534154706": 7}, {"1534241108": 7}, {"1534590304": 7}, {"1534673106": 12}, {"1534759508": 6}, {"1534845905": 7}, {"1534932306": 7}, {"1535018707": 5}, {"1535105106": 3}, {"1535191505": 7}, {"1535277907": 6}, {"1535364305": 7}, {"1535450706": 2}, {"1535537107": 1}]

我只想平均减少变化 - 而不是任何一天内增加的变化。

我正在检查前一天的值是否存在，如果是，我正在计算更改并将其添加到一个临时表中，该表将被查询以选择平均值。

到目前为止，我有：

CREATE FUNCTION `daily_averages`(input_array JSON) RETURNS int(4)
READS SQL DATA
DETERMINISTIC
BEGIN

    DECLARE array_length INTEGER(2);
    DECLARE prev_value INTEGER(4);
    DECLARE idx INTEGER(4);

    DROP TEMPORARY TABLE IF EXISTS collection;
    CREATE TEMPORARY TABLE collection (change INTEGER(4) SIGNED DEFAULT 0);

    SELECT JSON_LENGTH(input_array) INTO array_length;

    SET idx = 0;

    WHILE idx < array_length DO

        SELECT 

        IF(idx-1 > -1,
            CONVERT(
                JSON_EXTRACT(
                    JSON_EXTRACT(
                        JSON_EXTRACT( input_array, CONCAT( '$[', idx-1, ']' ) )
                        , '$.*'
                    )
                    , '$[0]'
                ), SIGNED INTEGER
            ) 
            , -1
        )

        INTO prev_value;


        INSERT INTO collection
        SELECT (prev_value - 
            (
                CONVERT(
                    JSON_EXTRACT(
                        JSON_EXTRACT(
                            JSON_EXTRACT( input_array, CONCAT( '$[', idx, ']' ) )
                            , '$.*'
                        )
                        , '$[0]'
                    ), SIGNED INTEGER
                )
            )
       )
       FROM DUAL
       WHERE prev_value > 0;

       SET idx = idx + 1;

    END WHILE;

    RETURN (SELECT AVG(change) FROM collection WHERE change > -1);

END

有大约270万条记录，目前运行大约需要20分钟。我希望通过避免DROP / CREATE开销来优化它或重写它。

Answer 1

似乎没有必要创建一个表来计算平均值，这在循环中很简单。不是将每个值插入表中，而是将其添加到总变量中。最后，返回total/count。

由于你总计了值之间的差异，

您还可以使用SET语句来分配变量，而不是SELECT ... INTO variable。

DECLARE array_length INTEGER(2);
DECLARE prev_value INTEGER(4);
DECLARE idx INTEGER(4);
DECLARE total INTEGER(4);
DECLARE counter INTEGER(4);
DECLARE cur_value INTEGER(4);

SET array_length = JSON_LENGTH(input_array);
SET total = 0;
SET counter = 0;
-- Initialize prev_value to the first element
SET prev_value = CONVERT(
                JSON_EXTRACT(
                    JSON_EXTRACT(
                        JSON_EXTRACT( input_array, '$[0]' )
                        , '$.*'
                    )
                    , '$[0]'
                ), SIGNED INTEGER
            );
SET idx = 1;

WHILE idx < array_length DO
    SET cur_value = CONVERT(
                JSON_EXTRACT(
                    JSON_EXTRACT(
                        JSON_EXTRACT( input_array, CONCAT( '$[', idx, ']' ) )
                        , '$.*'
                    )
                    , '$[0]'
                ), SIGNED INTEGER
            );
    IF cur_value < prev_value
    THEN
        SET total = total + (prev_value - cur_value);
        SET counter = counter + 1;
    END IF;
    SET prev_value = cur_value;
    SET idx = idx + 1;
END WHILE;

RETURN total / counter;

Answer 2

挖掘一百万个JSON字符串。我很惊讶它只花了20分钟。

在插入行时，进行一些计算并将结果存储在某处。然后用它来进行监控。

即使您在插入行时无法执行此操作，也只能对“新”行执行此操作。再次保存以前的信息。

至于DROP / CREATE ......可以通过拥有一个永久表来加速，然后在每个proc调用的开始只使用TRUNCATE TABLE。

(4)中的INTEGER(4)并不意味着什么。您将始终获得32位整数。 （这个说明可能对proc没有影响。）