雪花和存储过程我们如何遍历保存在内部阶段的文件行?

时间:2021-01-07 15:13:31

标签: javascript mysql stored-procedures snowflake-cloud-data-platform

我在雪花阶段有一个文件,我想遍历每一行,并将列值垂直插入到 SAT 表中。我启动了以下 JavaScript 存储过程:

CREATE PROCEDURE ADD_OBSERVATION_VALUES()
RETURNS string
LANGUAGE JAVASCRIPT
AS
$$
    
    // Get number of rows
    var num_rows_sql = "SELECT COUNT(*) FROM @ingest_stg/load/(file_format => 'csv_format', pattern => '.*[.]csv.gz') t";
    var stmt = snowflake.createStatement( {sqlText: num_rows_sql} );
    var rows_result = stmt.execute(); 
    rows_result.next();
    num_rows = rows_result.getColumnValue(1);
    
    while(i<num_rows) {
        
    }
    
$$;

在这种情况下,我如何遍历文件的每一行,以便将列值作为新行一个一个地插入?

换句话说,假设我有 100 行。我想遍历每一行,并将其列值插入另一个表,但垂直。

1 个答案:

答案 0 :(得分:1)

以下代码将演示从一个阶段读取多列(2),然后插入到表中。

这是我的目标表:

create or replace table target_Table( 
v1 varchar, v2 varchar,
v3 varchar, v4 varchar,
v5 varchar, v6 varchar);

这是文件中的数据:

select $1, $2 from @gokhan;

+-------+-------+
|  $1   |  $2   |
+-------+-------+
| zozo0 | hoho0 |
| zozo1 | hoho1 |
| zozo2 | hoho2 |
+-------+-------+

所以程序会从 stage 中读取这些行,然后将所有这些列合并为一行并插入到 target_table 中:

CREATE PROCEDURE ADD_OBSERVATION_VALUES()
RETURNS string
LANGUAGE JAVASCRIPT
AS
$$
    var num_rows_sql = "SELECT $1, $2 FROM @gokhan (file_format => 'csv_format', pattern => '.*[.]csv.gz') t";
    var stmt = snowflake.createStatement( {sqlText: num_rows_sql} );
    var rows_result = stmt.execute(); 
    var value_array = [];
    
    while(rows_result.next()) {
        value_array.push( rows_result.getColumnValue(1) );
        value_array.push( rows_result.getColumnValue(2) );
    }
    
    snowflake.createStatement( { sqlText: 'INSERT INTO target_Table VALUES (?, ?, ?, ?, ?, ?)', 
    binds: value_array } ).execute();    
    
    return 'OK';
$$;

在存储过程中,我读取每一行(我假设将有 2 列,然后将它们推送到 JavaScript 数组(value_array)中。读取所有行后,我将这些值发送到 INSERT 语句。当然,在发送之前,可以做一些转换。我知道文件中有3行,我没有做任何限制,但为了避免任何错误,您可以在读取足够的数据后停止读取文件。

结果如下:

call ADD_OBSERVATION_VALUES();

select * from target_table;

+-------+-------+-------+-------+-------+-------+
|  V1   |  V2   |  V3   |  V4   |  V5   |  V6   |
+-------+-------+-------+-------+-------+-------+
| zozo0 | hoho0 | zozo1 | hoho1 | zozo2 | hoho2 |
+-------+-------+-------+-------+-------+-------+