爬虫之CSV文件存储

一点睛

CSV，全称为Comma-Separated Values，中文可以叫作逗号分隔值或字符分隔值，其文件以纯文本形式存储表格数据。该文件是一个字符序列，可以由任意数目的记录组成，记录间以某种换行符分隔。每条记录由字段组成，字段间的分隔符是其他字符或字符串，最常见的是逗号或制表符。不过所有记录都有完全相同的字段序列，相当于一个结构化表的纯文本形式。它比Excel文件更加简洁，XLS文本是电子表格，它包含了文本、数值、公式和格式等内容，而CSV中不包含这些内容，就是特定字符分隔的纯文本，结构简单清晰。所以，有时候用CSV来保存数据是比较方便的。

二写入

1 基本用法

1.1 代码

import csv
# 首先，打开data.csv文件，然后指定打开的模式为w（即写入），newline是为了避免出现空行，
# 获得文件句柄后，随后调用csv库的writer()方法初始化写入对象，
# 传入该句柄，然后调用writerow()方法传入每行的数据即可完成写入。
with open('data.csv', 'w',newline='') as csvfile:
    writer = csv.writer(csvfile)
    writer.writerow(['id', 'name', 'age'])
    writer.writerow(['10001', 'Mike', 20])
    writer.writerow(['10002', 'Bob', 22])
    writer.writerow(['10003', 'Jordan', 21])

1.2 结果

id,name,age
10001,Mike,20
10002,Bob,22
10003,Jordan,21

2 修改列与列之间的分隔符

2.1 代码

import csv

with open('data.csv', 'w',newline='') as csvfile:
    # 这里在初始化写入对象时传入delimiter为空格，此时输出结果的每一列就是以空格分隔了
    writer = csv.writer(csvfile, delimiter=' ')
    writer.writerow(['id', 'name', 'age'])
    writer.writerow(['10001', 'Mike', 20])
    writer.writerow(['10002', 'Bob', 22])
    writer.writerow(['10003', 'Jordan', 21])

2.2 结果

id name age
10001 Mike 20
10002 Bob 22
10003 Jordan 21

3 同时写入多行

3.1 代码

扫描二维码关注公众号，回复： 4978345 查看本文章

import csv

with open('data.csv', 'w',newline='') as csvfile:
    writer = csv.writer(csvfile)
    writer.writerow(['id', 'name', 'age'])
    # 调用writerows()方法同时写入多行，此时参数就需要为二维列表
    writer.writerows([['10001', 'Mike', 20], ['10002', 'Bob', 22], ['10003', 'Jordan', 21]])

3.2 结果

id,name,age
10001,Mike,20
10002,Bob,22
10003,Jordan,21

4 字典写入方式

4.1 点睛

一般情况下，爬虫爬取的都是结构化数据，我们一般会用字典来表示。在csv库中也提供了字典的写入方式。

4.2 代码

import csv

with open('data.csv', 'w',newline='') as csvfile:
    fieldnames = ['id', 'name', 'age']
    writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
    writer.writeheader()
    writer.writerow({'id': '10001', 'name': 'Mike', 'age': 20})
    writer.writerow({'id': '10002', 'name': 'Bob', 'age': 22})
    writer.writerow({'id': '10003', 'name': 'Jordan', 'age': 21})

4.3 结果

id,name,age
10001,Mike,20
10002,Bob,22
10003,Jordan,21

4.4 说明

这里先定义3个字段，用fieldnames表示，然后将其传给DictWriter来初始化一个字典写入对象，接着可以调用writeheader()方法先写入头信息，然后再调用writerow()方法传入相应字典即可。

5 追加方式写入

5.1 点睛

如果想追加写入的话，可以修改文件的打开模式，即将open()函数的第二个参数改成a。

5.2 代码

import csv

with open('data.csv', 'a',newline='') as csvfile:
    fieldnames = ['id', 'name', 'age']
    writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
    writer.writerow({'id': '10004', 'name': 'Durant', 'age': 22})

5.3 结果

id,name,age
10001,Mike,20
10002,Bob,22
10003,Jordan,21
10004,Durant,22

6 写入中文

6.1 点睛

如果要写入中文内容的话，可能会遇到字符编码的问题，此时需要给open()参数指定编码格式。

6.2 代码

import csv

with open('data.csv', 'a', encoding='utf-8',newline='') as csvfile:
    fieldnames = ['id', 'name', 'age']
    writer = csv.DictWriter(csvfile, fieldnames=fieldnames)
    writer.writerow({'id': '10005', 'name': '王伟', 'age': 22})

6.3 结果

id,name,age
10001,Mike,20
10002,Bob,22
10003,Jordan,21
10004,Durant,22
10005,王伟,22

三读取

1 代码

import csv
# 这里我们构造的是Reader对象，通过遍历输出了每行的内容，每一行都是一个列表形式。
# 注意，如果CSV文件中包含中文的话，还需要指定文件编码。
with open('data.csv', 'r', encoding='utf-8',newline='') as csvfile:
    reader = csv.reader(csvfile)
    for row in reader:
        print(row)

2 结果

E:\WebSpider\venv\Scripts\python.exe E:/WebSpider/5_1_3.py
['id', 'name', 'age']
['10001', 'Mike', '20']
['10002', 'Bob', '22']
['10003', 'Jordan', '21']
['10004', 'Durant', '22']
['10005', '王伟', '22']

爬虫之CSV文件存储

猜你喜欢