你知道 Python 其实自带了小型数据库吗


dbm



DBM（DataBase Manager）是一种文件系统，专门用于键值对的存储，最初是在 Unix 平台实现，现在其它平台也可以用。对于 KV 模型，DBM 提供了一个轻量级、高效的存储解决方案。

总的来说，DBM 具有如下特点：

  • 简单快速：非常简单易用，读取和写入操作都很快，适合存储少量数据。

  • 键值对存储：数据是以键值对形式存储的，你可以像操作 Python 字典一样。

  • 文件存储：数据存在具体的文件中，可以轻松地备份和转移。

  • 不支持复杂查询：如果需要执行复杂查询或需要关系型数据库的功能，DBM 可能不是一个好选择。

而 Python 标准库提供了一个 dbm 模块，它实现了 DBM 文件系统的功能，来看一下它的用法。

import dbm

# 第一个参数是文件名
# 第二个参数是模式，有以下几种
#     r：只读，要求文件必须存在，默认就是这个模式
#     w：可读可写，要求文件必须存在
#     c：可读可写，文件不存在会创建，存在则追加
#     n：可读可写，文件不存在会创建，存在则清空
# 第三个参数是权限，用八进制数字表示，默认 0o666，即可读可写不可执行
db = dbm.open("store", "c")

# 打开文件就可以存储值了，key 和 value 必须是字符串或 bytes 对象
db["name"] = "S せんせい"
db["age"] = "18"
db[b"corporation"] = "小摩".encode("utf-8")

# 关闭文件，将内容写到磁盘上
db.close()

非常简单，就像操作字典一样，并且 key 是唯一的，如果存在则替换。执行完后，当前目录会多出一个 store.db 文件。

我们打开它，然后读取刚才写入的键值对。

import dbm

db = dbm.open("store", "c")

# 获取所有的 key，直接返回一个列表
print(db.keys())
"""
[b'corporation', b'name', b'age']
"""
# 判断一个 key 是否存在，key 可以是字符串或 bytes 对象
print("name" in db, "NAME" in db)
"""
True False
"""
# 获取一个 key 对应的 value，得到的是 bytes 对象
print(db["name"].decode("utf-8"))
print(db[b"corporation"].decode("utf-8"))
"""
S せんせい
小摩
"""
# key 如果不存在，会抛出 KeyError，我们可以使用 get 方法
print(db.get("NAME", b"unknown"))
"""
b'unknown'
"""
# 当然也可以使用 setdefault 方法，key 不存在时，自动写进去
print(db.setdefault("gender", b"female"))
"""
b'female'
"""
print(db["gender"])
"""
b'female'
"""

非常简单，当你需要存储的数据量不适合放在内存中，但又没必要引入数据库，那么不妨试试使用 dbm 模块吧。

当然啦，dbm 虽然很方便，但它只能持久化 bytes 对象，字符串也是转成 bytes 对象之后再存储的。所以除了 dbm 之外，还有一个标准库模块 shelve，它可以持久化任意对象。



shelve


shelve 的使用方式和 dbm 几乎是一致的，区别就是 shelve 的序列化能力要更强，当然速度自然也就慢一些。

import shelve

# 第二个参数表示模式，默认是 c
# 因此文件不存在会创建，存在则追加
sh = shelve.open("shelve")

sh["name"] = ["S 老师", "高老师", "电烤🐔架"]
sh["age"] = {18}
sh["job"] = {"tutu": "大学生", "xueer": "医生"}

# 关闭文件，刷到磁盘中
sh.close()

执行完之后，本地会多出一个 shelve.db 文件，下面来读取它。

import shelve

sh = shelve.open("shelve")

print(sh["name"])
print(sh["name"][2] == "电烤🐔架")
"""
['S 老师', '高老师', '电烤🐔架']
True
"""
print(sh["age"])
"""
{18}
"""
print(sh["job"])
"""
{'tutu': '大学生', 'xueer': '医生'}
"""

sh.close()

读取出来的就是原始的对象，我们可以直接操作它。

然后自定义类的实例对象也是可以的。

import shelve

class People:
    def __init__(self, name, age):
        self.name = name
        self.age = age

    @property
    def print_info(self):
        return f"name is {self.name}, age is {self.age}"

sh = shelve.open("shelve")

p = People("群主", 58)
# 将类、和该类的实例对象存储进去
sh["People"] = People
sh["p"] = p
sh.close()

执行完之后，我们打开它。

import shelve

sh = shelve.open("shelve")

# 需要注意的是，People 是我们自己定义的类
# 如果你想要将其还原出来，那么该类必须要出现在当前的命名空间中
try:
    sh["People"]
except AttributeError as e:
    print(e)
    """
    Can't get attribute 'People' on <module ...>
    """

class People:
    def __init__(self, name, age):
        self.name = name
        self.age = age

    @property
    def print_info(self):
        return f"name is {self.name}, age is {self.age}"

print(sh["People"] is People)
"""
True
"""
print(sh["p"].print_info)
"""
name is 群主, age is 58
"""
print(sh["People"]("群主", 38).print_info)
"""
name is 群主, age is 38
"""

这就是 shelve 模块，非常强大，当然它底层也是基于 pickle 实现的。如果你不需要存储复杂的 Python 对象，只需要存储字符串的话，那么还是推荐 dbm。

然后在使用 shelve 的时候，需要注意里面的一个坑。

import shelve

# 打开文件，设置键值对
sh = shelve.open("shelve")
sh["name"] = "古明地觉"
sh["score"] = [80, 80, 80]
sh.close()

# 重新打开文件，修改键值对
sh = shelve.open("shelve")
sh["name"] = "芙兰朵露"
sh["score"].append(90)
sh.close()

# 再次重新打开文件，查看键值对
sh = shelve.open("shelve")
print(sh["name"])
print(sh["score"])
"""
芙兰朵露
[80, 80, 80]
"""
sh.close()

第一次打开文件创建两个键值对，第二次打开文件将键值对修改，第三次打开文件查看键值对。但是我们发现 sh["name"] 变了，而 sh["score"] 却没变，这是什么原因？

当我们修改 name 时，采用的是直接赋值的方式，会将原本内存里的值给替换掉。而修改 score 时，是在原有值的基础上做 append 操作，它的内存地址并没有变。

所以可变对象在本地进行修改，shelve 默认是不会记录的，除非创建新的对象，并把原有的对象给替换掉。所以 sh["score"].append(90) 之后，sh["score"] 仍是 [80, 80, 80]，而不是 [80, 80, 80, 90]。

因为 shelve 没有记录对象自身的修改，如果想得到期望的结果，一种方法是把对象整体换掉。也就是让 sh["score"] = [80, 80, 80, 90]，这样等于是创建了一个新的对象并重新赋值，是可行的。

或者你在打开文件的时候，多指定一个参数 writeback。

import shelve

# 打开文件，设置键值对
sh = shelve.open("shelve")
sh["name"] = "古明地觉"
sh["score"] = [80, 80, 80]
sh.close()

# 重新打开文件，修改键值对
sh = shelve.open("shelve", writeback=True)
sh["name"] = "芙兰朵露"
sh["score"].append(90)
sh.close()

# 再次重新打开文件，查看键值对
sh = shelve.open("shelve")
print(sh["name"])
print(sh["score"])
"""
芙兰朵露
[80, 80, 80, 90]
"""
sh.close()

可以看到都发生改变了，但这个参数会导致额外的内存消耗。当指定 writeback=True 的时候，shelve 会将读取的对象都放到一个内存缓存当中。比如我们操作了 20 个持久化的对象，但只修改了一个，剩余的 19 个只是查看并没有做修改，但当 sh.close() 的时候，会将这 20 个对象都写回去。

因为 shelve 不知道你会对哪个对象做修改，所以不管你是查看还是修改，都会放到缓存当中，然后再一次性都写回去。这样就会造成两点影响：

  • shelve 会把我们使用的对象放到内存的另一片空间中，等于是额外拷贝了一份。

  • 虽然操作了 N 个对象，但只修改了 1 个，而 shelve 会把 N 个对象都重新写回去，从而造成性能上的问题，导致效率降低。

因此加不加这个参数，由具体情况决定。

综上所述，Python 算是自带了小型数据库，看看能不能在合适的场景中把它用上。

最后祝大家 1024，节日快乐。

相关推荐

  • MyBatis-Plus实现逻辑删除[MyBatis-Plus系列] - 492篇
  • Apollo，真香！
  • 双11要来了，推荐7款国产AI商拍工具，助你快速生成优质商品图
  • 分享 20 个提升效率的 JavaScript 缩写小技巧
  • 交互式数据可视化图表库 ApexCharts
  • 不用 SQL 的开源数据仓库
  • P0 故障，语雀全线宕机八小时
  • 在视觉提示中加入「标记」，微软等让GPT-4V看的更准、分的更细
  • 陶哲轩疯狂安利Copilot：它帮我完成了一页纸证明，甚至能猜出我后面的过程
  • Kaggle赛题总结：Bengali 语音识别
  • Kaggle LLM Science Exam 金牌方案汇总。
  • [开源]为未来而构建的在线 Markdown 编辑器，只会在您本地进行保存
  • 我结婚啦！
  • 直播预告 | 阿里巴巴NLP算法专家王潇斌：开箱即用的文本理解大模型
  • EMNLP 2023 | 大模型对话系统的内功与外功
  • 首次齐聚！院士、中国大模型掌门人、全球研发中心掌门人集结，岳麓对话共启数智新未来
  • 从1到亿，CQRS架构下的异步事件治理实践
  • 1023.AI日报：刘慈欣表示人类与AI有两种未来的可能
  • 用AI让Lisa学会了说中文！原汁原味！
  • 深度学习中的类别激活热图可视化