Question

我有一个查询可以将大量数据返回到CSV文件中。事实上，Excel无法打开它 - 行数太多了。有没有办法控制spool每次处理65000行时假脱机到新文件？理想情况下，我希望将输出放在按顺序命名的文件中，例如large_data_1.csv，large_data_2.csv，large_data_3.csv等......

我可以在PL / SQL块中使用dbms_output来控制输出的行数，但是我将如何切换文件，因为似乎无法从PL / SQL块访问spool ？

（Oracle 10g）

更新

我无法访问服务器，因此将文件写入服务器可能无法正常工作。

更新2：

某些字段包含自由格式文本，包括换行符，因此在写入文件后计算换行符并不像在返回数据时计算记录一样简单......

Answer 1

得到了一个解决方案，不知道我为什么不早点想到这个...

基本思想是主sqplplus脚本生成一个中间脚本，将输出拆分为多个文件。执行中间脚本将执行对rownum施加不同范围的多个查询，并为每个查询假脱机到另一个文件。

set termout off
set serveroutput on
set echo off
set feedback off
variable v_rowCount number;
spool intermediate_file.sql
declare
     i number := 0;
     v_fileNum number := 1;
     v_range_start number := 1;
     v_range_end number := 1;
     k_max_rows constant number := 65536;
begin
    dbms_output.enable(10000);
    select count(*) 
    into :v_err_count
    from ...
    /* You don't need to see the details of the query... */

    while i <= :v_err_count loop

          v_range_start := i+1;
          if v_range_start <= :v_err_count then
            i := i+k_max_rows;
            v_range_end := i;

            dbms_output.put_line('set colsep ,  
set pagesize 0
set trimspool on 
set headsep off
set feedback off
set echo off
set termout off
set linesize 4000
spool large_data_file_'||v_fileNum||'.csv
select data_string
from (select rownum rn, data_object
      from 
      /* Details of query omitted */
     )
where rn >= '||v_range_start||' and rn <= '||v_range_end||';
spool off');
          v_fileNum := v_fileNum +1;
         end if;
    end loop;
end;
/
spool off
prompt     executing intermediate file
@intermediate_file.sql;
set serveroutput off

Answer 2

尝试使用纯SQL * Plus解决方案......

set pagesize 0
set trimspool on  
set headsep off 
set feedback off
set echo off 
set verify off
set timing off
set linesize 4000

DEFINE rows_per_file = 50


-- Create an sql file that will create the individual result files
SET DEFINE OFF

SPOOL c:\temp\generate_one.sql

PROMPT COLUMN which_dynamic NEW_VALUE dynamic_filename
PROMPT

PROMPT SELECT 'c:\temp\run_#'||TO_CHAR( &1, 'fm000' )||'_result.txt' which_dynamic FROM dual
PROMPT /

PROMPT SPOOL &dynamic_filename

PROMPT SELECT *
PROMPT   FROM ( SELECT a.*, rownum rnum
PROMPT            FROM ( SELECT object_id FROM all_objects ORDER BY object_id ) a
PROMPT           WHERE rownum <= ( &2 * 50 ) )
PROMPT  WHERE rnum >= ( ( &3 - 1 ) * 50 ) + 1
PROMPT /

PROMPT SPOOL OFF

SPOOL OFF

SET DEFINE &


-- Define variable to hold number of rows
-- returned by the query
COLUMN num_rows NEW_VALUE v_num_rows

-- Find out how many rows there are to be
SELECT COUNT(*) num_rows
  FROM ( SELECT LEVEL num_files FROM dual CONNECT BY LEVEL <= 120 );


-- Create a master file with the correct number of sql files
SPOOL c:\temp\run_all.sql

SELECT '@c:\temp\generate_one.sql '||TO_CHAR( num_files )
                                   ||' '||TO_CHAR( num_files )
                                   ||' '||TO_CHAR( num_files ) file_name
  FROM ( SELECT LEVEL num_files 
           FROM dual 
        CONNECT BY LEVEL <= CEIL( &v_num_rows / &rows_per_file ) )
/

SPOOL OFF

-- Now run them all
@c:\temp\run_all.sql

Answer 3

在生成的文件中使用split。

Answer 4

utl_file是您要寻找的包裹。您可以编写游标并在行上循环（将其写出），并在mod(num_rows_written,num_per_file) == 0时启动新文件。它在PL / SQL块中运行良好。

以下是utl_file的参考： http://www.adp-gmbh.ch/ora/plsql/utl_file.html

注意：我在这里假设，将文件写入服务器是可以的。

Answer 5

您是否考虑过在Excel中设置外部数据连接（假设只生成CSV文件以便在Excel中使用）？您可以定义一个限制返回行的Oracle视图，并在查询中添加一些参数，以允许用户进一步限制结果集。（我从来不知道有人在Excel中用64K行做了什么）。

我觉得这有点像黑客，但您也可以使用UTL_MAIL并生成附件以通过电子邮件发送给您的用户。附件的大小限制为32K，因此您必须跟踪光标循环中的大小并在此基础上开始新的附件。

Answer 6

当你的问题询问如何将数据的大量数据分成Excel可以处理的数据块时，我会问是否可以将Excel操作的任何部分移动到可以减少音量的SQL（PL / SQL？）中数据的。最终必须减少它才能让任何人都有意义。数据库是一个很好的引擎来完成这项工作。

如果您将数据缩减为更具体的数量甚至是最终结果，请将其转储为Excel以进行最终演示。

这不是您正在寻找的答案，但我认为，当您难以完成工作时，询问您是否使用正确的工具总是好的。

SQLPlus - 从PL / SQL块假脱机到多个文件

6 个答案: