将一个文本文件文件夹与一个单元格中的每个内容合并为一个CSV文件

一尘不染

将一个文本文件文件夹与一个单元格中的每个内容合并为一个CSV文件

python

我有一个包含数千个.txt文件的文件夹。我想根据以下模型将它们合并到一个大的.csv文件中：

我发现应该执行此工作的R脚本（https://gist.github.com/benmarwick/9265414），但它显示此错误。

Error in read.table(file = file, header = header, sep = sep, quote = quote,  : duplicate 'row.names' are not allowed

我不明白我的错是什么。

没关系，我很确定没有R也可以做到这一点。如果您知道一个非常优雅和简单的方法，将不胜感激（这对像我这样的很多人很有用）

精度：文本文件为法语，而不是ASCII。这是一个示例：https
:
//www.dropbox.com/s/rj4df94hqisod5z/Texts.zip?dl=0

阅读 228

2021-01-20

共1个答案

一尘不染

可以使用 pathlib 更加紧凑地编写。

>>> import os
>>> os.chdir('c:/scratch/folder to process')
>>> from pathlib import Path
>>> with open('big.csv', 'w') as out_file:
...     csv_out = csv.writer(out_file)
...     csv_out.writerow(['FileName', 'Content'])
...     for fileName in Path('.').glob('*.txt'):
...         csv_out.writerow([str(fileName),open(str(fileName.absolute())).read().strip()])

由该glob产生的项目提供对完整路径名和文件名的访问，因此不需要级联。

编辑：我检查了一个文本文件，发现阻塞处理的字符之一看起来像“
fi”，但实际上这两个字符一起作为一个字符。考虑到此csv可能的实际用途，我建议进行以下处理，该处理将忽略诸如此类的奇怪字符。我删除了结尾，因为我怀疑这会使csv处理更加复杂，并且可能是另一个问题的话题。

import csv
from pathlib import Path

with open('big.csv', 'w', encoding='Latin-1') as out_file:
    csv_out = csv.writer(out_file)
    csv_out.writerow(['FileName', 'Content'])
    for fileName in Path('.').glob('*.txt'):
        lines = [ ]
        with open(str(fileName.absolute()),'rb') as one_text:
            for line in one_text.readlines():
                lines.append(line.decode(encoding='Latin-1',errors='ignore').strip())
        csv_out.writerow([str(fileName),' '.join(lines)])

2021-01-20