COPY

Name

COPY -- 在表和文件之间拷贝数据

Synopsis

COPY table_name [ ( column [, ...] ) ]
    FROM { 'filename' | STDIN }
    [ [ WITH ] ( option [, ...] ) ]

COPY { table_name [ ( column [, ...] ) ] | ( query ) }
    TO { 'filename' | STDOUT }
    [ [ WITH ] ( option [, ...] ) ]

where option can be one of:

    FORMAT format_name
    OIDS [ boolean ]
    DELIMITER 'delimiter_character'
    NULL 'null_string'
    HEADER [ boolean ]
    QUOTE 'quote_character'
    ESCAPE 'escape_character'
    FORCE_QUOTE { ( column [, ...] ) | * }
    FORCE_NOT_NULL ( column [, ...] )

描述

COPY在表和文件之间交换数据。COPY TO 把一个表的所有内容都拷贝到一个文件,而COPY FROM从一个文件 里拷贝数据到一个表里(把数据附加到表中已经存在的内容里)。COPY TO 还能拷贝SELECT查询的结果。

如果声明了一个字段列表,COPY将只在文件和表之间拷贝已声明字段的数据。 如果表中有任何不在字段列表里的字段,那么COPY FROM将为那些字段插入缺省值。

带文件名的COPY指示PostgreSQL服务器直接 从文件中读写数据。如果声明了文件名,那么服务器必须可以访问该文件,而且文件名必须从 服务器的角度声明。如果指定了STDINSTDOUT,那么 数据将在客户前端和服务器之间流动。

参数

table_name

现存表的名字(可以有模式修饰)。

column

可选的待拷贝字段列表。如果没有声明字段列表,那么将使用所有字段。

query

一个必须用圆括弧包围的SELECTVALUES 命令,其结果将被拷贝。

filename

输入或输出文件的绝对路径。Windows用户可能需要使用E''字符串 和双反斜线作为路径名称。

STDIN

声明输入是来自客户端应用。

STDOUT

声明输入前往客户端应用。

boolean

声明选的选项是否应该被开启或者关闭。您可以写 TRUE, ON, 或者1来启用这个选项,并且用FALSE, OFF,或者0 来关闭它。 boolean值也可以被省略,此时 假定为TRUE

FORMAT

选择被读或者写的数据格式: text, csv(逗号分隔值), 或者binary。 默认是text

OIDS

声明为每行拷贝内部对象标识(OID)。如果为一个 query拷贝或者没有OID的 表声明了OIDS选项,则抛出一个错误。

DELIMITER

指定分隔每一行(排)中的列的字符。默认是文本格式的制表符,CSV格式的逗号。 必须有一个独立的一字节的字符。 在使用binary格式时这个选项是不允许的。

NULL

This option is not allowed when using binary format. 声明代表一个空值的字符串。默认是文本格式的\N (backslash-N), CSV格式的一个未被引用的空字符串。即使是文本格式您可能也更偏向于空串, 例如您不想从空字符串中区分空值。

Note: 在使用COPY FROM的时候,任何匹配这个字符串的字符串将 被存储为NULL值,所以你应该确保你用的字符串和COPY TO相同。

HEADER

声明文件包含一个带有文件中每列名称的标题行。在输出时,第一行包含表中的列名, 在输入时,第一行是被忽略的。该选项仅仅在使用CSV格式时是允许的。

QUOTE

在数值被引用后指定要使用的引用字符。默认的是双引号。这一定是一个1字节的字符。 该选项仅仅在使用CSV格式时允许。

ESCAPE

声明应该出现在一个匹配QUOTE值的数据字符之前的字符。 默认与QUOTE值相同(所以若它出现在数据中,则引用字符是翻一倍)。 这一定是一个1字节的字符。该选项只有在使用CSV格式时允许。

FORCE_QUOTE

强制引用在每个指定列的所有非值。输出从不被引用。 如果声明了*,非值将在所有列中被引用。这个选项仅仅在 COPY TO中并且仅仅在使用CSV格式时允许。

FORCE_NOT_NULL

默认情况下空字符串是空的,这意味着空值将会被读作长度为零的字符串而不是空值, 即使当他们不被引用。这个选项仅仅在COPY FROM中并且仅仅在使用 CSV 格式时允许。

输出

成功完成时,COPY按照如下格式返回一个命令标签:

COPY count

其中的count是拷贝的行数。

注意

COPY只能用于表,不能用于视图。当然也可以用于 COPY (SELECT * FROM viewname) TO ...

COPY仅仅处理命名了的特定表;它将不复制数据到子表或从子表 中复制数据。因此比如COPY table TO 显示与SELECT * FROM ONLY table 相同的数据。但是COPY (SELECT * FROM table) TO ... 可以用于转储在继承层次结构的所有数据。

你对任何要COPY TO出来的数据必须有选取数据的权限, 对任何要COPY FROM入数据的表必须有插入权限。 对列在命令中的列拥有列权限是足够的。

COPY命令里面的文件必须是由服务器直接读或写的文件, 而不是由客户端应用读写。因此,它们必须位于数据库服务器上或者可以被数据库 服务器所访问,这些事情不应该由客户端来做。它们必须被运行 PostgreSQL服务器的用户可读或写, 而不是客户端。只允许数据库超级用户COPY一个文件, 因为它允许读写任意服务器有权限访问的文件。

不要混淆COPYpsql\copy指令。\copy调用 COPY FROM STDINCOPY TO STDOUT,然后把数据抓取/存储到一个psql 客户端可以访问的文件中。因此,使用\copy的时候,文件访问 权限是由客户端而不是服务器端决定的。

建议在COPY里的文件名字总是使用绝对路径。 在COPY TO的时候是由服务器强制进行的,但是对于 COPY FROM,你的确可从一个相对路径的文件里读取。 该路径将解释为相对于服务器的工作目录(通常是数据目录),而不是客户 端的工作目录。

COPY FROM会激活所有触发器和检查约束。不过,不会激活规则。

COPY输入和输出被DateStyle影响。 为了和其它PostgreSQL安装移植(它们可能是非缺省 DateStyle设置),应该在使用COPY TO前把 DateStyle设置为ISO。 通过将IntervalStyle设置为sql_standard来避免转储数据 也是一个好主意。因为负的区间值可能会被对IntervalStyle有不同设置的 服务器误解。

Input data is interpreted according to the current client encoding, and output data is encoded in the current client encoding, even if the data does not pass through the client but is read from or written to a file directly by the server. 输入数据通过当前客户机编码来解译,输出数据被编码为当前客户机编码, 即使数据不经过客户端的,仍会通过服务器直接将数据从文件中读出或者写入到文件中去。

COPY在第一个错误处停下来。这些在COPY TO 中不应该导致问题,但在COPY FROM时目标表会已经接收到早先的行, 这些行将不可见或不可访问,但是仍然会占据磁盘空间。如果你碰巧拷贝大块数据文件的话, 这些东西积累起来可能会占据相当大的磁盘空间。你可以调用VACUUM 来恢复那些磁盘空间。

文件格式

文本格式

当使用text格式时,读写的文件是一个文本文件,每行代表表中一个行。 行中的列(字段)用分隔符分开。字段值本身是由与每个字段类型相关的输出函数生成的字符串, 或者是输入函数可接受的字符串。数据中使用特定的NULL字符串表示那些值为NULL的字段。 如果输入文件的任意行包含比预期多或者少的字段,那么COPY FROM将抛出 一个错误。如果声明了OIDS,那么OID将作为第一个字段读写,放在所有 用户字段前面。

数据的结束可以用一个只包含反斜杠和句点(\.)的行表示。如果从文件中读取数据, 那么数据结束的标记是不必要的,因为文件结束起的作用就很好了;但是在3.0之前的客户端协议里, 如果在客户端应用之间拷贝数据,那么必须要有结束标记。

Backslash characters (\) can be used in the COPY data to quote data characters that might otherwise be taken as row or column delimiters. In particular, the following characters must be preceded by a backslash if they appear as part of a column value: backslash itself, newline, carriage return, and the current delimiter character. 反斜杠字符 (\)可以用于COPY数据,来引用那些 否则会被当作行或列分隔符的数据字符。尤其,以下字符若以一列值的一部分出现则 必须在前面加上反斜杠:反斜杠、换行符、回车以及当前的分隔符字符。 反斜杠字符(\)可以用在COPY里给那些会有歧义的字符进行逃逸(否则那些字符会被当做行或者字段分隔符处理)。 特别是下面的字符如果是字段值的一部分时,必须前缀一个反斜杠:反斜杠本身、换行符、回车符、当前分隔符。

声明的空字符串被COPY TO不加任何反斜杠发送;与之相对, COPY FROM在删除反斜杠之前拿它的输入与空字符串比较。因此, 像\N这样的空字符串不会和实际数据值\N 之间混淆(因为后者会表现成\\N)。

COPY FROM能够识别下列特殊反斜杠序列:

序列含义
\b反斜杠 (ASCII 8)
\f进纸(ASCII 12)
\n换行符(ASCII 10)
\r回车符(ASCII 13)
\t水平制表符(ASCII 9)
\v垂直制表符(ASCII 11)
\digits反斜杠后面跟着一到三个八进制数,表示ASCII值为该数的字符
\xdigits反斜杠x后面跟着一个或两个十六进制位声明指定数值编码的字符

目前,COPY TO绝不会发出一个八进制或者十六进制反斜杠序列,但是它的确使用了上面列出的其它字符用于控制字符。

任何其他未在上表中提及的斜字符将会用来表示其本身。然而,没必要谨防添加反斜杠。 因为这可能意外地生成一个匹配数据结束标记(\.)或者空字符串 (默认为\N)的字符串。这些字符串将在任何其他反斜杠处理做完之前确认。 任何上表列出之外的其它反斜杠逃役字符将使用其字面含义。因此要小心添加不必要的反斜杠, 因为这样做可能会生成一个含有数据结束标志(\.) 的字符串或NULL(默认为\N)。这些字符串将在识别任何其它反斜杠逃逸之前被识别。

It is strongly recommended that applications generating COPY data convert data newlines and carriage returns to the \n and \r sequences respectively. At present it is possible to represent a data carriage return by a backslash and carriage return, and to represent a data newline by a backslash and newline. However, these representations might not be accepted in future releases. They are also highly vulnerable to corruption if the COPY file is transferred across different machines (for example, from Unix to Windows or vice versa). 强烈建议产生COPY数据的应用程序将数据换行符和回车分别转换为 \n\r序列。目前,可以由反斜杠和回车代表一个数据回车, 并且由反斜杠和换行符代表一个数据换行。然而,这些表示法在将来的版本中可能无法接受。 它们也非常容易收到破坏,若COPY文件在不同机器之间转移(例如:从Unix 系统移到Windows系统,或者反过来)。 强烈建议生成COPY数据的应用把换行符和回车分别转换成 \n\r序列。目前可以用一个反斜杠和一个回车表示一个数据回车, 以及用一个反斜杠和一个换行符表示一个数据换行符。不过,这样的表示在将来的版本中 可能不会被接受。并且,如果在不同机器之间传递COPY文件, 也非常容易出错(比如在Unix和Windows之间)。

COPY TO将在每行的结尾用一个换行符(Unix上是"\n", Windows上是"\r\n")标记一行终止,但只是用于COPY到服务器 文件里;为了在不同平台之间一致,COPY TO STDOUT总是发送"\n" 而不管服务器平台是什么。COPY FROM可以处理那些以回车符、换行符、回车 换行符作为行结束的数据。为了减少在数据中出现的未逃逸的新行或者回车导致的错误,如果输入 的行结尾不像上面这些符号,COPY FROM会发出警告。

CSV 格式

这个格式用于输入和输出逗号分隔数值(CSV)文件格式,许多其它程序都用这个文件 格式,比如电子报表。这个模式下生成并识别逗号分隔的CSV逃逸机制,而不是使用 PostgreSQL标准文本模式的逃逸。

每条记录的值都是用DELIMITER字符分隔的。如果数值本身包含分隔字符、 QUOTE字符、NULL字符串、回车符、换行符, 那么整个数值用QUOTE字符前缀和后缀(包围),并且数值里任何 QUOTE字符或ESCAPE字符都前导逃逸字符。你也可以使用 FORCE_QUOTE在输出非NULL的指定字段值时强制引号包围。

CSV格式没有标准的办法区分一个NULL值和一个空字符串。 PostgreSQLCOPY通过引号包围来处理这些。一个当作 NULL输出的NULL参数值是没有引号包围的,而匹配非 NULL字符串的参数值是用引号包围的。比如,使用缺省设置时, 一个NULL是写做一个无引号包围的空字符串,而一个空字符串数值写做 双引号包围("")。读取数值也遵循类似的规则。 你可以使用FORCE_NOT_NULL来避免为特定字段进行NULL比较。

因为对于CSV格式而言,反斜杠不是特殊字符,数据的结束标志(\.) 可以作为数据值出现。为了避免任何可能的歧意,一个单独的\. 数据值在输出中将被自动使用引号包围;在输入中,如果被引号界定,那么将不会当作数据 结束标志。如果你要加载其它程序创建的、有未用引号界定字段的文件,并且其中含有 \.值,你就必须用引号进行界定。

Note: CSV模式下,所有字符都是有效的。一个被空白包围的引号界定数值,或者任何 非DELIMITER字符,都会被包含这些字符。如果你从会给CSV行填充 空白的系统里导入数据到定长字段,那么可能会导致错误。如果出现这种情况,你可能需要先 处理一下CSV文件,删除结尾空白,然后再向PostgreSQL里导入数据。

Note: CSV模式可以识别和生成引号包围的回车和换行的CVS文件。 因此这些文件并不像文本模式的文件那样严格地每条记录一行。

Note: 许多程序生成奇怪的并且有时候不正确的CVS文件,所以这个文件格式更像一种惯用格式,而不是一种标准。 因此你可能碰到一些不能使用这个机制输入的文件,而COPY也可能生成一些其它程序不能处理的文件。

二进制格式

binary形式的选项会使得所有的数据被存储/读作二进制格式而不是文本。 这比文本和CSV格式的要快一些,但是一个二进制格式文件在机器架构和 PostgreSQL版本之间的可移植性比较差。 另外,二进制格式是特定数据格式表的;例如,不能从smallint列中输出二进制数据 并将二进制数据读入integer列,尽管在文本格式下那会运行良好。

binary文件格式包含一个文件头,0或更多包含行数据的元组,以及 一个尾文件。头和数据按照网络字节顺序。

Note: PostgreSQL releases before 7.4 used a different binary file format. 7.4之前的PostgreSQL版本使用的是不同的 二进制文件格式。

文件头

文件头由15个字节的固定域组成,后面跟着一个变长的头扩展区。固定域是:

签名

11-byte sequence PGCOPY\n\377\r\n\0 — note that the zero byte is a required part of the signature. (The signature is designed to allow easy identification of files that have been munged by a non-8-bit-clean transfer. This signature will be changed by end-of-line-translation filters, dropped zero bytes, dropped high bits, or parity changes.) 11字节的序列PGCOPY\n\377\r\n\0(请注意字节零是签名必须的一部分)。 使用这个签名是为了能够很容易看出文件是否已经被一个非8位安全的转换器给破坏了。 这个签名会被行尾转换过滤器、删除字节零、删除高位、奇偶变化而改变。

标志域

32位整数掩码表示该文件格式的重要方面。位是从 0(LSB)到 31(MSB) 编码的,请注意这个域是以网络字节顺序存储的(高位在前),后继的整数都是如此。位16-31是 保留用做关键文件格式信息的;如果阅读器发现一个不认识的位出现在这个范围内,那么它应该退出。 位0-15都保留为标志向后兼容的格式使用;阅读器可以忽略这个范围内的不认识的位。目前只定义了 一个标志位,而其它的必须是零:

Bit 16

如果为1,那么在数据中包括了OIDS;如果为0,则没有。

头扩展范围长度

32位整数,以字节计的头剩余长度,不包括自身。目前,它是零,后面紧跟第一条记录行。 对该格式的更多修改都将允许额外的数据出现在头中。阅读器应该忽略任何它不知道该如 何处理的头扩展数据。

头扩展数据用来保存自定义数据序列块。这个标志域无意告诉阅读器扩展区的内容是什么。 头扩展的具体设计内容留给以后的版本使用。

这样设计就允许向后兼容的头扩展(增加头扩展块或设置低位序标志位)以及非向后兼容 的修改(设置高位标志位以标识这样的修改,并且根据需要向扩展区域增加支持数据)。

每条行都以一个16位整数计数开头,该计数是行中字段的数目(目前,在一个表里的每行都 有相同的计数,但可能不会永远这样)。然后后面不断出现行中的各个字段,字段先是一个32位 的长度字,后面跟着那么长的字段数据。长度字并不包括自己,并且可以为零。一个特例是:-1表示 一个NULL字段值。在NULL情况下,后面不会跟着数值字节。

在数据域之间没有对齐填充或者任何其它额外的数据。

目前,一个二进制格式文件里的所有数据值都假设是二进制格式的(格式代码为一)。预计将来的 扩展可能增加一个头域,允许为每个字段声明格式代码。

为了判断实际行数据的正确二进制格式,你应该阅读PostgreSQL 源代码,特别是该字段数据类型的*send*recv函数(典型的函数 可以在源代码的src/backend/utils/adt/目录找到)。

如果在文件中包括了OIDs,那么该OID域立即跟在字段计数字后面。它是一个普通的字段, 只不过它没有包括在字段计数。但它包括长度字,这样就允许方便的处理4字节和8字节的OIDs, 并且如果某个家伙允许OIDs是可选的话,那么还可以把OIDs显示成空。

文件尾

文件尾包括保存着-1的一个16位整数字。这样就很容易与一条行的域计数字相区分。

如果一个域计数字既不是-1也不是预期的字段的数目,那么阅读器应该报错。这样就 提供了对丢失与数据同步的额外检查。

例子

下面的例子把一个表拷贝到客户端,使用竖直条(|)作为域分隔符:

COPY country TO STDOUT (DELIMITER '|');

从文件中拷贝数据到country表中:

COPY country FROM '/usr1/proj/bray/sql/country_data';

使用一个会被自动删除的临时表,把'A'开头的国家名拷贝到一个文件里:

COPY (SELECT * FROM country WHERE country_name LIKE 'A%') TO '/usr1/proj/bray/sql/a_list_countries.copy';

下面是一个可以从STDIN中拷贝数据到表中的例子:

AF      AFGHANISTAN
AL      ALBANIA
DZ      ALGERIA
ZM      ZAMBIA
ZW      ZIMBABWE

注意,每行里的空白实际上是一个水平制表符。

下面的是同样的数据,以二进制形式输出。这些数据是用Unix工具od -c过滤之后输出的。 该表有三个字段;第一个是char(2),第二个是text,第三个是integer。所有的行在第三个域都是一个null值。

0000000   P   G   C   O   P   Y  \n 377  \r  \n  \0  \0  \0  \0  \0  \0
0000020  \0  \0  \0  \0 003  \0  \0  \0 002   A   F  \0  \0  \0 013   A
0000040   F   G   H   A   N   I   S   T   A   N 377 377 377 377  \0 003
0000060  \0  \0  \0 002   A   L  \0  \0  \0 007   A   L   B   A   N   I
0000100   A 377 377 377 377  \0 003  \0  \0  \0 002   D   Z  \0  \0  \0
0000120 007   A   L   G   E   R   I   A 377 377 377 377  \0 003  \0  \0
0000140  \0 002   Z   M  \0  \0  \0 006   Z   A   M   B   I   A 377 377
0000160 377 377  \0 003  \0  \0  \0 002   Z   W  \0  \0  \0  \b   Z   I
0000200   M   B   A   B   W   E 377 377 377 377 377 377

兼容性

SQL标准里没有COPY语句。

PostgreSQL9.0以前使用下面的语法,现在仍然支持:

COPY table_name [ ( column [, ...] ) ]
    FROM { 'filename' | STDIN }
    [ [ WITH ]
          [ BINARY ]
          [ OIDS ]
          [ DELIMITER [ AS ] 'delimiter' ]
          [ NULL [ AS ] 'null string' ]
          [ CSV [ HEADER ]
                [ QUOTE [ AS ] 'quote' ]
                [ ESCAPE [ AS ] 'escape' ]
                [ FORCE NOT NULL column [, ...] ] ] ]

COPY { table_name [ ( column [, ...] ) ] | ( query ) }
    TO { 'filename' | STDOUT }
    [ [ WITH ]
          [ BINARY ]
          [ OIDS ]
          [ DELIMITER [ AS ] 'delimiter' ]
          [ NULL [ AS ] 'null string' ]
          [ CSV [ HEADER ]
                [ QUOTE [ AS ] 'quote' ]
                [ ESCAPE [ AS ] 'escape' ]
                [ FORCE QUOTE { column [, ...] | * } ] ] ]

请注意:在这个语法中,BINARYCSV是作为独立的关键字, 而不是作为FORMAT选项的一个参数。

PostgreSQL7.3以前使用下面的语法,现在仍然支持:

COPY [ BINARY ] table_name [ WITH OIDS ]
    FROM { 'filename' | STDIN }
    [ [USING] DELIMITERS 'delimiter' ]
    [ WITH NULL AS 'null string' ]

COPY [ BINARY ] table_name [ WITH OIDS ]
    TO { 'filename' | STDOUT }
    [ [USING] DELIMITERS 'delimiter' ]
    [ WITH NULL AS 'null string' ]