Postgresql、JDBC 和流式 BLOB

Question

我正在尝试使用 jdbc 驱动程序从 postgres 数据库中检索 blob。它太大了，无法存储在内存中，因此我想将其作为下载流式传输。我尝试在 ResultSet 上使用 getBinaryStream 方法，但事实证明该方法实际上将其全部读取到内存中，因此不适用于大文件。

显然，可以在结果集上使用 getBlob 方法，并且可能从 blob 获取输入流并从那里开始，但这就是我遇到问题的地方。

PreparedStatement ps = con.prepareStatement("select data from file_data WHERE ID = ?");
ps.setLong(1,file.fileData.id)
ResultSet rs = ps.executeQuery()
if(rs.next()){
        rs.getBlob("data")

这是我正在运行的代码。当它到达最后一行时，它抛出一个我无法理解的错误......

org.postgresql.util.PSQLException：long 类型的错误值：xxxxxx

“xxxxxx”就是文件的内容。你可以想象这会很长，但这并不是重点。

我被困在这里了。有人对发生的事情有任何想法吗？哎呀，我什至会采取替代方法来下载大块的流。

Answer 1

我的猜测是，您混淆了 OID 和 BYTEA 风格的 blob。大型二进制对象在 Postgres 中通过 OID 列间接存储。实际的文件数据由 Postgres 存储在数据库表之外的某个位置。该列仅包含与 blob 内部关联的对象标识符。例如：

janko=# CREATE TABLE blobtest1 (name CHAR(30), image OID);
CREATE TABLE                                              
janko=# INSERT INTO blobtest1 VALUES ('stackoverflow', lo_import('/tmp/stackoverflow-logo.png'));
INSERT 0 1
janko=# SELECT * FROM blobtest1;
              name              | image
--------------------------------+-------
 stackoverflow                  | 16389
(1 row)

如果您使用

ResultSet#getBlob(String)

方法，则需要 OID 样式列。

getBlob

从列中读取数据并将其转换为

Long

。然后它尝试从其内部存储中读取关联的二进制数据。

另一方面，使用 BYTEA，您可以将小块二进制数据直接放入数据库中。例如：

janko=# CREATE TABLE blobtest2 (name CHAR(30), image BYTEA);
CREATE TABLE
janko=# INSERT INTO blobtest2 VALUES ('somebinary', E'\\336\\255\\276\\357\\336\\255\\276\\357');
INSERT 0 1
janko=# SELECT * FROM blobtest2;
              name              |              image
--------------------------------+----------------------------------
 somebinary                     | \336\255\276\357\336\255\276\357
(1 row)

这里，数据列直接包含二进制数据。如果您尝试在此类列上使用

getBlob

，数据仍将被解释为 OID，但显然它不适合

Long

。让我们在刚刚创建的数据库上尝试一下：

groovy:000> import java.sql.*
===> [import java.sql.*]
groovy:000> Class.forName("org.postgresql.Driver");
===> class org.postgresql.Driver
groovy:000> db = DriverManager.getConnection("jdbc:postgresql:janko", "janko", "qwertz");
===> org.postgresql.jdbc4.Jdbc4Connection@3a0b2c64
groovy:000> ps = db.prepareStatement("SELECT image FROM blobtest2 WHERE name = ?");
===> SELECT image FROM blobtest2 WHERE name = ?
groovy:000> ps.setString(1, "somebinary")
===> null
groovy:000> rs = ps.executeQuery()
===> org.postgresql.jdbc4.Jdbc4ResultSet@66f9104a
groovy:000> rs.next()
===> true
groovy:000> rs.getBlob("image")
ERROR org.postgresql.util.PSQLException: Bad value for type long : \336\255\276\357\336\255\276\357
        at org.postgresql.jdbc2.AbstractJdbc2ResultSet.toLong (AbstractJdbc2ResultSet.java:2796)
        at org.postgresql.jdbc2.AbstractJdbc2ResultSet.getLong (AbstractJdbc2ResultSet.java:2019)
        at org.postgresql.jdbc4.Jdbc4ResultSet.getBlob (Jdbc4ResultSet.java:52)
        at org.postgresql.jdbc2.AbstractJdbc2ResultSet.getBlob (AbstractJdbc2ResultSet.java:335)
        at groovysh_evaluate.run (groovysh_evaluate:3)
        ...

Answer 2

“存储二进制数据”的 PostgreSQL 文档有帮助吗？

https://jdbc.postgresql.org/documentation/binary-data/

页面底部标题为“从大对象中检索图像”的部分可能会有所帮助。

Answer 3

byte [] b = null;
while (m_ResultSet.next()) {
    for (int i = 1; i <= m_ResultSet.getMetaData().getColumnCount(); i++) {
        b =  m_ResultSet.getBytes(i);
    }
}
String str = "";
for (byte i : b){
    str+=(char)i;
}