在C++中使用类似Fortran的格式对文本文件进行迭代
Iterating over a text file using Fortran like format in C++
我正在制作一个处理txt文件数据的应用程序。
这个想法是,txt文件可能有不同的格式,应该读到C++中。
一个例子可能是3I2, 3X, I3
,它应该做为:"首先我们有3个长度为2的整数,然后我们有三个空位,然后我们还有一个长度为3的整数。
最好是迭代文件,生成行,然后作为字符串迭代行吗?什么是一种有效的方法来巧妙地迭代,去掉要忽略的3个点?
例如
101112---100
102113---101
103114---102
至:
10, 11, 12, 100
10, 21, 13, 101
10, 31, 14, 102
Kyle Kanos给出的链接很好*scanf/*printf格式字符串很好地映射到fortran格式字符串上。使用C风格的IO实际上更容易做到这一点,但使用C++风格的流也是可行的:
#include <cstdio>
#include <iostream>
#include <fstream>
#include <string>
int main() {
std::ifstream fortranfile;
fortranfile.open("input.txt");
if (fortranfile.is_open()) {
std::string line;
getline(fortranfile, line);
while (fortranfile.good()) {
char dummy[4];
int i1, i2, i3, i4;
sscanf(line.c_str(), "%2d%2d%2d%3s%3d", &i1, &i2, &i3, dummy, &i4);
std::cout << "Line: '" << line << "' -> " << i1 << " " << i2 << " "
<< i3 << " " << i4 << std::endl;
getline(fortranfile, line);
}
}
fortranfile.close();
return 0;
}
运行提供
$ g++ -o readinput readinput.cc
$ ./readinput
Line: '101112---100' -> 10 11 12 100
Line: '102113---101' -> 10 21 13 101
Line: '103114---102' -> 10 31 14 102
在这里,我们使用的格式字符串是%2d%2d%2d%3s%3d
-%2d
(宽度为2的十进制整数)的3个副本,然后是%3s
(宽度为3的字符串,我们将其读入一个从未使用过的变量),再后面是%3d
(宽度为3。
如果您希望动态解析Fortran格式说明符标志,您应该注意:您立即进入了解析器领域
除了其他人在这里注意到的解析此类输入的其他方法之外:
- 通过使用Fortran和CC/++绑定为您进行解析
- 使用纯C++为您解析它,方法是使用以下各项的组合编写解析器:
sscanf
streams
我的建议是,如果boost对您可用,您可以使用它来实现一个简单的解析器,用于动态操作,使用Regex和STL容器的组合。
根据您所描述的内容以及不同地方显示的内容,您可以使用regex捕获来构建您希望支持的语法的简单实现:
(\d{0,8})([[:alpha:]])(\d{0,8})
- 其中,第一组是该变量类型的数字
- 第二个是变量的类型
- 三是变量类型的长度
使用此Fortran格式说明符标志参考,您可以实现naive解决方案,如下所示:
#include <iostream>
#include <string>
#include <vector>
#include <fstream>
#include <cstdlib>
#include <boost/regex.hpp>
#include <boost/tokenizer.hpp>
#include <boost/algorithm/string.hpp>
#include <boost/lexical_cast.hpp>
//A POD Data Structure used for storing Fortran Format Tokens into their relative forms
typedef struct FortranFormatSpecifier {
char type;//the type of the variable
size_t number;//the number of times the variable is repeated
size_t length;//the length of the variable type
} FFlag;
//This class implements a rudimentary parser to parse Fortran Format
//Specifier Flags using Boost regexes.
class FormatParser {
public:
//typedefs for further use with the class and class methods
typedef boost::tokenizer<boost::char_separator<char> > bst_tokenizer;
typedef std::vector<std::vector<std::string> > vvstr;
typedef std::vector<std::string> vstr;
typedef std::vector<std::vector<int> > vvint;
typedef std::vector<int> vint;
FormatParser();
FormatParser(const std::string& fmt, const std::string& fname);
void parse();
void printIntData();
void printCharData();
private:
bool validateFmtString();
size_t determineOccurence(const std::string& numStr);
FFlag setFortranFmtArgs(const boost::smatch& matches);
void parseAndStore(const std::string& line);
void storeData();
std::string mFmtStr; //this holds the format string
std::string mFilename; //the name of the file
FFlag mFmt; //a temporary FFlag variable
std::vector<FFlag> mFortranVars; //this holds all the flags and details of them
std::vector<std::string> mRawData; //this holds the raw tokens
//this is where you will hold all the types of data you wish to support
vvint mIntData; //this holds all the int data
vvstr mCharData; //this holds all the character data (stored as strings for convenience)
};
FormatParser::FormatParser() : mFmtStr(), mFilename(), mFmt(), mFortranVars(), mRawData(), mIntData(), mCharData() {}
FormatParser::FormatParser(const std::string& fmt, const std::string& fname) : mFmtStr(fmt), mFilename(fname), mFmt(), mFortranVars(), mRawData(), mIntData(), mCharData() {}
//this function determines the number of times that a variable occurs
//by parsing a numeric string and returning the associated output
//based on the grammar
size_t FormatParser::determineOccurence(const std::string& numStr) {
size_t num = 0;
//this case means that no number was supplied in front of the type
if (numStr.empty()) {
num = 1;//hence, the default is 1
}
else {
//attempt to parse the numeric string and find it's equivalent
//integer value (since all occurences are whole numbers)
size_t n = atoi(numStr.c_str());
//this case covers if the numeric string is expicitly 0
//hence, logically, it doesn't occur, set the value accordingly
if (n == 0) {
num = 0;
}
else {
//set the value to its converted representation
num = n;
}
}
return num;
}
//from the boost::smatches, determine the set flags, store them
//and return it
FFlag FormatParser::setFortranFmtArgs(const boost::smatch& matches) {
FFlag ffs = {0};
std::string fmt_number, fmt_type, fmt_length;
fmt_number = matches[1];
fmt_type = matches[2];
fmt_length = matches[3];
ffs.type = fmt_type.c_str()[0];
ffs.number = determineOccurence(fmt_number);
ffs.length = determineOccurence(fmt_length);
return ffs;
}
//since the format string is CSV, split the string into tokens
//and then, validate the tokens by attempting to match them
//to the grammar (implemented as a simple regex). If the number of
//validations match, everything went well: return true. Otherwise:
//return false.
bool FormatParser::validateFmtString() {
boost::char_separator<char> sep(",");
bst_tokenizer tokens(mFmtStr, sep);
mFmt = FFlag();
size_t n_tokens = 0;
std::string token;
for(bst_tokenizer::const_iterator it = tokens.begin(); it != tokens.end(); ++it) {
token = *it;
boost::trim(token);
//this "grammar" is based on the Fortran Format Flag Specification
std::string rgx = "(\d{0,8})([[:alpha:]])(\d{0,8})";
boost::regex re(rgx);
boost::smatch matches;
if (boost::regex_match(token, matches, re, boost::match_extra)) {
mFmt = setFortranFmtArgs(matches);
mFortranVars.push_back(mFmt);
}
++n_tokens;
}
return mFortranVars.size() != n_tokens ? false : true;
}
//Now, parse each input line from a file and try to parse and store
//those variables into their associated containers.
void FormatParser::parseAndStore(const std::string& line) {
int offset = 0;
int integer = 0;
std::string varData;
std::vector<int> intData;
std::vector<std::string> charData;
offset = 0;
for (std::vector<FFlag>::const_iterator begin = mFortranVars.begin(); begin != mFortranVars.end(); ++begin) {
mFmt = *begin;
for (size_t i = 0; i < mFmt.number; offset += mFmt.length, ++i) {
varData = line.substr(offset, mFmt.length);
//now store the data, based on type:
switch(mFmt.type) {
case 'X':
break;
case 'A':
charData.push_back(varData);
break;
case 'I':
integer = atoi(varData.c_str());
intData.push_back(integer);
break;
default:
std::cerr << "Invalid type!n";
}
}
}
mIntData.push_back(intData);
mCharData.push_back(charData);
}
//Open the input file, and attempt to parse the input file line-by-line.
void FormatParser::storeData() {
mFmt = FFlag();
std::ifstream ifile(mFilename.c_str(), std::ios::in);
std::string line;
if (ifile.is_open()) {
while(std::getline(ifile, line)) {
parseAndStore(line);
}
}
else {
std::cerr << "Error opening input file!n";
exit(3);
}
}
//If character flags are set, this function will print the character data
//found, line-by-line
void FormatParser::printCharData() {
vvstr::const_iterator it = mCharData.begin();
vstr::const_iterator jt;
size_t linenum = 1;
std::cout << "nCHARACTER DATA:n";
for (; it != mCharData.end(); ++it) {
std::cout << "LINE " << linenum << " : ";
for (jt = it->begin(); jt != it->end(); ++jt) {
std::cout << *jt << " ";
}
++linenum;
std::cout << "n";
}
}
//If integer flags are set, this function will print all the integer data
//found, line-by-line
void FormatParser::printIntData() {
vvint::const_iterator it = mIntData.begin();
vint::const_iterator jt;
size_t linenum = 1;
std::cout << "nINT DATA:n";
for (; it != mIntData.end(); ++it) {
std::cout << "LINE " << linenum << " : ";
for (jt = it->begin(); jt != it->end(); ++jt) {
std::cout << *jt << " ";
}
++linenum;
std::cout << "n";
}
}
//Attempt to parse the input file, by first validating the format string
//and then, storing the data accordingly
void FormatParser::parse() {
if (!validateFmtString()) {
std::cerr << "Error parsing the input format string!n";
exit(2);
}
else {
storeData();
}
}
int main(int argc, char **argv) {
if (argc < 3 || argc > 3) {
std::cerr << "Usage: " << argv[0] << "t<Fortran Format Specifier(s)>t<Filename>n";
exit(1);
}
else {
//parse and print stuff here
FormatParser parser(argv[1], argv[2]);
parser.parse();
//print the data parsed (if any)
parser.printIntData();
parser.printCharData();
}
return 0;
}
这是标准的c++98代码,可以编译如下:
g++ -Wall -std=c++98 -pedantic fortran_format_parser.cpp -lboost_regex
奖金
这个基本的解析器也适用于Characters
(Fortran格式标志"A",最多可包含8个字符)。您可以通过编辑regex并对捕获字符串的长度和类型进行检查来扩展它,以支持您可能喜欢的任何标志
可能的改进
如果C++11对您可用,您可以在某些地方使用lambdas
,并用auto
代替迭代器。
如果这是在有限的内存空间中运行的,并且您必须解析一个大文件,那么由于vectors
内部管理内存的方式,向量将不可避免地崩溃。最好使用deques
。有关更多信息,请参阅此处讨论的内容:
http://www.gotw.ca/gotw/054.htm
而且,如果输入文件很大,并且文件I/O是一个瓶颈,则可以通过修改ifstream
缓冲区的大小来提高性能:
如何让IOStream表现得更好?
讨论
您将注意到:您正在解析的类型必须在运行时已知,并且类声明和定义中必须支持任何关联的存储容器
正如您所想象的,在一个主类中支持所有类型是不高效的然而,由于这是一个幼稚的解决方案,因此可以专门使用改进的完整解决方案来支持这些情况。
另一个建议是使用Boost::Spirit。但是,由于Spirit使用了大量模板,当错误可能发生时,调试这样的应用程序是不适合胆小鬼的
性能
与@Jonathan Dursi的解决方案相比,此解决方案较慢:
对于使用相同行格式("3I2,3X,I3")的10000000行随机生成的输出(124MiB文件):
#include <fstream>
#include <cstdlib>
#include <ctime>
using namespace std;
int main(int argc, char **argv) {
srand(time(NULL));
if (argc < 2 || argc > 2) {
printf("Invalid usage! Use as follows:t<Program>t<Output Filename>n");
exit(1);
}
ofstream ofile(argv[1], ios::out);
if (ofile.is_open()) {
for (int i = 0; i < 10000000; ++i) {
ofile << (rand() % (99-10+1) + 10) << (rand() % (99-10+1) + 10) << (rand() % (99-10+1)+10) << "---" << (rand() % (999-100+1) + 100) << endl;
}
}
ofile.close();
return 0;
}
我的解决方案:
0m13.082s
0m13.107s
0m12.793s
0m12.851s
0m12.801s
0m12.968s
0m12.952s
0m12.886s
0m13.138s
0m12.882s
记录12.946s
的平均壁时间
Jonathan Dursi的解决方案:
0m4.698s
0m4.650s
0m4.690s
0m4.675s
0m4.682s
0m4.681s
0m4.698s
0m4.675s
0m4.695s
0m4.696s
CCD_ 15 平均壁时间的火焰
His比我快至少270%同时使用O2。
但是,由于您不必每次解析额外的格式标志时都修改源代码,因此此解决方案更为优化。
注意:您可以实现一个涉及sscanf
/streams
的解决方案,该解决方案只需要您知道要读取的变量类型(与我的非常相似),但验证类型等额外检查会增加开发时间(这就是我在Boost中提供解决方案的原因,因为标记化器和正则表达式的便利性,这使开发过程更容易)
参考文献
http://www.boost.org/doc/libs/1_34_1/libs/regex/doc/character_class_names.html
您可以将3I2, 3X, I3
转换为scanf格式。
鉴于Fortran很容易从C中调用,您可以编写一个小的Fortran函数来"本机"执行此操作。毕竟,Fortran READ函数采用您所描述的格式字符串。
如果你想让它发挥作用,你只需要稍微复习一下Fortran(http://docs.oracle.com/cd/E19957-01/806-3593/2_io.html),并学习如何使用编译器链接Fortran和C++。以下是一些提示:
- Fortran符号可能隐含地以下划线作为后缀,因此MYFUNC可以从C调用为MYFUNC_()
- 多维数组具有相反的维度顺序
- 在C++头中声明Fortran(或C)函数需要将其放在
extern "C" {}
作用域中
如果您的用户实际上应该以Fortran格式输入它,或者如果您非常快速地调整或编写Fortran代码来实现这一点,我会按照John Zwinck和M.S.B.的建议执行。只需编写一个简短的Fortran例程将数据读取到数组中,然后使用"bind(c)"和ISO_c_BINDING类型来设置接口。请记住,数组索引将在Fortran和C++之间发生变化。
否则,我建议使用scanf,如上所述:
http://en.cppreference.com/w/cpp/io/c/fscanf
如果你不知道每行需要阅读的项目数量,你可以使用vscanf:
http://en.cppreference.com/w/cpp/io/c/vfscanf
然而,尽管它看起来很方便,但我从未使用过这个,所以YMMV。
今天想了一下,但没有时间写一个例子@jrd1的示例和分析正在进行中,但我会尝试使解析更加模块化和面向对象。格式字符串解析器可以构建一个项目解析器列表,然后这些解析器或多或少地独立工作,允许在不更改旧代码的情况下添加新的解析器,如浮点。我认为一个特别好的接口应该是用格式字符串初始化的iomanip,这样ui就会像一样
cin >> f77format("3I2, 3X, I3") >> a >> b >> c >> d;
在实现时,我会让f77format解析比特并按组件构建解析器,因此它将创建3个固定宽度的int解析器、一个devNull解析器和另一个固定宽度解析器,然后使用输入。
当然,如果你想支持所有的编辑描述符,那将是一项艰巨的工作!一般来说,它不会只是将字符串的其余部分传递给下一个解析器,因为有一些编辑描述符需要重新读取该行。
- 如何检查字符串格式在读取C++文本文件时是否有效?
- 为什么使用 C++ 中的类对象写入文件中的数据以非文本格式存储?
- QT 标签 setText() 同时保留文本格式
- 输出使用 cout 转换为 ASCII 的文本时输出格式不正确,C++
- 如何设计对象以不同方式设置文本格式
- 使用文本格式来记录QT
- 如何将percision格式复制到文本文件
- C :如何从格式的文本文件中读取许多数据到程序中
- 使用无符号字符设置文本格式
- 阅读文本格式不一致
- 要求文本编辑,文本格式
- 将大型数据文件拆分为多个小文件(文本格式)
- 在 C++/Qt 中以文本格式序列化数据结构
- 如何在解析文本格式的 protobuf 消息时忽略错误的字段
- C++:将输出文本格式化为.doc/.docx/.rtf(第2部分)
- 将输出文本格式化为.doc/.docx
- C++ 使用 setw 的文本格式不适用于 QT 的 QTextEdit
- QTextEdit显示的块中图像后的文本格式
- 从流中读取十六进制文本格式0x
- QProgressBar文本格式为时间