使用Sqlite3 blob的C++程序内部的RAM消耗

RAM consumption inside a C++ program using Sqlite3 blob

本文关键字:内部 RAM 消耗 程序 C++ Sqlite3 blob 使用      更新时间:2023-10-16

我在C++程序中使用sqlite3 dbms,我主要使用该程序将文件存储为blob对象(我知道这不是最好的选择)。

显然,我是递增地写它们的,因为它们有时可能很大(40-80MB)。为了做到这一点,我必须首先使用绑定函数sqlite3_bind_zeroblob(...)创建blob的占位符,然后我打开blob,从中递增地写和读。

我面临的问题是,当我创建blob占位符时(在sqlite3_step期间),我的应用程序的RAM消耗在2-3秒内达到80-160MB,一旦创建,RAM消耗最多会回到2-3MB。

我不明白为什么!如果他们创建了一种增量写入blob的方法,那么肯定有一种方法可以在不浪费160MB RAM的情况下创建那个愚蠢的占位符,但我没有找到。你有什么建议吗?

sqlite3_stmt* stm = NULL;
sqlite3_blob *BLOB = NULL;
rc = sqlite3_prepare_v2(db, sql.c_str(), -1, &stm, NULL);
rc = sqlite3_bind_blob(stm, 1, wpath.c_str(), wpath.size()*sizeof(wchar_t), SQLITE_STATIC);
rc = sqlite3_bind_text(stm, 2, hash.c_str(), hash.size(), SQLITE_STATIC);
rc = sqlite3_bind_zeroblob(stm, 3, size);
rc = sqlite3_bind_int(stm, 4, versione);
rc = sqlite3_bind_blob(stm, 5, last.c_str(), last.size()*sizeof(wchar_t), SQLITE_STATIC);
rc = sqlite3_step(stm);
if (rc != SQLITE_DONE) {
    fprintf(stderr, " This file was already present in the database!n", rc);
    return;
}
else {
    fprintf(stdout, "Record FILE created successfullyn");
}

这是此处报告的问题
而官方的答案是:

为了使零Blob按上述方式工作(使用固定数量的内存,无论它们有多大)所有的零块都必须在最后行的。换句话说,表中接收zeroblobs必须是表中的最后一列。如果任何非零内容都跟在zerobb后面,那么zerobb就是扩展为零字节的文字序列,这意味着内存必须为整个zerobobb分配。

所以你需要更改订单来修复它:

sqlite3_stmt* stm = NULL;
sqlite3_blob *BLOB = NULL;
rc = sqlite3_prepare_v2(db, sql.c_str(), -1, &stm, NULL);
rc = sqlite3_bind_blob(stm, 1, wpath.c_str(), wpath.size()*sizeof(wchar_t), SQLITE_STATIC);
rc = sqlite3_bind_text(stm, 2, hash.c_str(), hash.size(), SQLITE_STATIC);
rc = sqlite3_bind_int(stm, 3, versione);
rc = sqlite3_bind_blob(stm, 4, last.c_str(), last.size()*sizeof(wchar_t), SQLITE_STATIC);
rc = sqlite3_bind_zeroblob(stm, 5, size);
rc = sqlite3_step(stm);
if (rc != SQLITE_DONE) {
    fprintf(stderr, " This file was already present in the database!n", rc);
    return;
}
else {
    fprintf(stdout, "Record FILE created successfullyn");
}