第二次巡演涵盖了支持专业编程需求的更高级的模块。这些模块很少出现在小脚本中。

11.1 输出格式

reprlib模块提供了一个repr()为大型或深度嵌套容器的缩略显示定制的版本:

>>>
>>> import reprlib
>>> reprlib.repr(set('supercalifragilisticexpialidocious'))
"{'a', 'c', 'd', 'e', 'f', 'g', ...}"

pprint模块以解释器可读的方式对打印内置对象和用户定义对象提供了更复杂的控制。当结果超过一行时,“漂亮打印机”会添加换行符和缩进,以更清楚地显示数据结构:

>>>
>>> import pprint
>>> t = [[[['black', 'cyan'], 'white', ['green', 'red']], [['magenta',
...     'yellow'], 'blue']]]
...
>>> pprint.pprint(t, width=30)
[[[['black', 'cyan'],
   'white',
   ['green', 'red']],
  [['magenta', 'yellow'],
   'blue']]]

textwrap模块格式化文本段落以适应给定的屏幕宽度:

>>>
>>> import textwrap
>>> doc = """The wrap() method is just like fill() except that it returns
... a list of strings instead of one big string with newlines to separate
... the wrapped lines."""
...
>>> print(textwrap.fill(doc, width=40))
The wrap() method is just like fill()
except that it returns a list of strings
instead of one big string with newlines
to separate the wrapped lines.

locale模块访问文化特定数据格式的数据库。locale 的 format 函数的 grouping 属性提供了一种使用组分隔符格式化数字的直接方法:

>>>
>>> import locale
>>> locale.setlocale(locale.LC_ALL, 'English_United States.1252')
'English_United States.1252'
>>> conv = locale.localeconv()          # get a mapping of conventions
>>> x = 1234567.8
>>> locale.format("%d", x, grouping=True)
'1,234,567'
>>> locale.format_string("%s%.*f", (conv['currency_symbol'],
...                      conv['frac_digits'], x), grouping=True)
'$1,234,567.80'

11.2  模板

string模块包括一个通用Template类,其具有适合最终用户编辑的简化语法。这允许用户自定义他们的应用程序,而无需更改应用程序。

该格式使用由$有效 Python 标识符(字母数字字符和下划线)组成的占位符名称。用大括号包围占位符允许它后面跟更多的字母数字字母,中间没有空格。写作$$会创建一个转义的$

>>>
>>> from string import Template
>>> t = Template('${village}folk send $$10 to $cause.')
>>> t.substitute(village='Nottingham', cause='the ditch fund')
'Nottinghamfolk send $10 to the ditch fund.'

当字典或关键字参数中未提供占位符时,该substitute()方法会引发 a 。KeyError对于邮件合并风格的应用程序,用户提供的数据可能不完整,并且该 safe_substitute()方法可能更合适——如果数据丢失,它将保持占位符不变:

>>>
>>> t = Template('Return the $item to $owner.')
>>> d = dict(item='unladen swallow')
>>> t.substitute(d)
Traceback (most recent call last):
  ...
KeyError: 'owner'
>>> t.safe_substitute(d)
'Return the unladen swallow to $owner.'

模板子类可以指定自定义分隔符。例如,照片浏览器的批量重命名实用程序可能会选择使用百分号作为占位符,例如当前日期、图像序列号或文件格式:

>>>
>>> import time, os.path
>>> photofiles = ['img_1074.jpg', 'img_1076.jpg', 'img_1077.jpg']
>>> class BatchRename(Template):
...     delimiter = '%'
>>> fmt = input('Enter rename style (%d-date %n-seqnum %f-format):  ')
Enter rename style (%d-date %n-seqnum %f-format):  Ashley_%n%f

>>> t = BatchRename(fmt)
>>> date = time.strftime('%d%b%y')
>>> for i, filename in enumerate(photofiles):
...     base, ext = os.path.splitext(filename)
...     newname = t.substitute(d=date, n=i, f=ext)
...     print('{0} --> {1}'.format(filename, newname))

img_1074.jpg --> Ashley_0.jpg
img_1076.jpg --> Ashley_1.jpg
img_1077.jpg --> Ashley_2.jpg
模板的另一个应用是将程序逻辑与多种输出格式的细节分开。这使得用自定义模板替换 XML 文件、纯文本报告和 HTML Web 报告成为可能。

11.3 使用二进制数据记录布局

struct模块提供了处理可变长度二进制记录格式pack()的 unpack()功能。zipfile以下示例显示了如何在不使用模块的情况下遍历 ZIP 文件中的标头信息 。打包代码"H"分别"I"代表两个和四个字节的无符号数。"<"表示它们是标准大小且采用 little-endian 字节顺序:

import struct 

with open('myfile.zip', 'rb') as f: 
    data = f.read() 

start = 0 
for i in range(3): # show the first 3 file headers 
    start += 14 
    fields = struct.unpack('<IIIHH', data[start:start+16]) 
    crc32, comp_size, uncomp_size, filenamesize, extra_size = fields 

    start += 16 
    filename = data[start:start+filenamesize] 
    start += filenamesize 
    extra = data[start:start+extra_size] 
    print(filename, hex(crc32), comp_size, uncomp_size) 

    start += extra_size + comp_size # skip to the next header

11.4 多线程

线程是一种用于解耦不顺序依赖的任务的技术。线程可用于提高在其他任务在后台运行时接受用户输入的应用程序的响应能力。一个相关的用例是在另一个线程中与计算并行运行 I/O。

以下代码显示了高级threading模块如何在主程序继续运行的同时在后台运行任务:

import threading, zipfile 

class AsyncZip(threading.Thread): 
    def __init__(self, infile, outfile): 
        threading.Thread.__init__(self) 
        self.infile = infile 
        self.outfile = outfile 
    def run(self): 
        f = zipfile.ZipFile(self.outfile, 'w', zipfile.ZIP_DEFLATED) 
        f.write(self.infile) 
        f.close() 
        print('Finished background zip of:', self.infile) 
background = AsyncZip('mydata.txt', 'myarchive.zip') 
background.start() 
print('The main program continues to run in foreground.') 

background.join() # Wait for the background task to finish 
print('Main program waited until background was done.')
多线程应用程序的主要挑战是协调共享数据或其他资源的线程。为此,线程模块提供了许多同步原语,包括锁、事件、条件变量和信号量。虽然这些工具功能强大,但微小的设计错误可能会导致难以重现的问题。因此,任务协调的首选方法是将对资源的所有访问集中在单个线程中,然后使用该 queue模块为该线程提供来自其他线程的请求。使用Queue对象进行线程间通信和协调的应用程序更易于设计、更具可读性和更可靠。

11.5 日志记录

logging模块提供了一个功能齐全且灵活的日志记录系统。在最简单的情况下,日志消息被发送到一个文件或sys.stderr

import logging 

logging.debug('Debugging information') 
logging.info('Informational message') 
logging.warning('Warning:config file %s not found', 'server.conf') 
logging.error('Error occurred') 
logging.critical('Critical error -- shutting down')

这会产生以下输出:

WARNING:root:Warning:config file server.conf not found 
ERROR:root:Error occurred 
CRITICAL:root:Critical error -- shutting down
默认情况下,信息和调试消息被抑制,输出被发送到标准错误。其他输出选项包括通过电子邮件、数据报、套接字或 HTTP 服务器路由消息。新过滤器可以根据消息优先级选择不同的路由:DEBUG、 INFOWARNINGERRORCRITICAL日志系统可以直接从 Python 进行配置,也可以从用户可编辑的配置文件中加载以进行自定义日志记录,而无需更改应用程序。

11.6 弱引用

Python 进行自动内存管理(大多数对象的引用计数和 垃圾收集以消除循环)。内存在最后一次引用被消除后不久被释放。

这种方法适用于大多数应用程序,但有时只需要跟踪对象,只要它们被其他东西使用。不幸的是,仅跟踪它们会创建一个使它们永久化的参考。该weakref模块提供了无需创建参考即可跟踪对象的工具。当不再需要对象时,它会自动从弱引用表中删除,并为弱引用对象触发回调。典型的应用程序包括创建昂贵的缓存对象:

>>>
>>> import weakref, gc
>>> class A:
...     def __init__(self, value):
...         self.value = value
...     def __repr__(self):
...         return str(self.value)
...
>>> a = A(10)                   # create a reference
>>> d = weakref.WeakValueDictionary()
>>> d['primary'] = a            # does not create a reference
>>> d['primary']                # fetch the object if it is still alive
10
>>> del a                       # remove the one reference
>>> gc.collect()                # run garbage collection right away
0
>>> d['primary']                # entry was automatically removed
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
    d['primary']                # entry was automatically removed
  File "C:/python37/lib/weakref.py", line 46, in __getitem__
    o = self.data[key]()
KeyError: 'primary'

11.7 使用列表的工具

内置列表类型可以满足许多数据结构需求。然而,有时需要具有不同性能权衡的替代实现。

array模块提供了一个array()类似于列表的对象,它只存储同质数据并且存储更紧凑。以下示例显示了一个数字数组,该数组存储为两个字节的无符号二进制数(typecode "H"),而不是 Python int 对象的常规列表中通常每个条目 16 个字节:

>>>
>>> from array import array
>>> a = array('H', [4000, 10, 700, 22222])
>>> sum(a)
26932
>>> a[1:3]
array('H', [10, 700])
collections模块提供了一个deque()类似于列表的对象,左侧的追加和弹出速度更快,但中间的查找速度较慢。这些对象非常适合实现队列和广度优先树搜索:
>>>
>>> from collections import deque
>>> d = deque(["task1", "task2", "task3"])
>>> d.append("task4")
>>> print("Handling", d.popleft())
Handling task1
unsearched = deque([starting_node])
def breadth_first_search(unsearched):
    node = unsearched.popleft()
    for m in gen_moves(node):
        if is_goal(m):
            return m
        unsearched.append(m)
unsearched = deque([starting_node])
def breadth_first_search(unsearched):
    node = unsearched.popleft()
    for m in gen_moves(node):
        if is_goal(m):
            return m
        unsearched.append(m)

除了替代列表实现之外,该库还提供其他工具,例如bisect具有操作排序列表功能的模块:

>>>
>>> import bisect
>>> scores = [(100, 'perl'), (200, 'tcl'), (400, 'lua'), (500, 'python')]
>>> bisect.insort(scores, (300, 'ruby'))
>>> scores
[(100, 'perl'), (200, 'tcl'), (300, 'ruby'), (400, 'lua'), (500, 'python')]

heapq模块提供了基于常规列表实现堆的功能。最低值的条目始终保持在位置零。这对于重复访问最小元素但不想运行完整列表排序的应用程序很有用:

>>>
>>> from heapq import heapify, heappop, heappush
>>> data = [1, 3, 5, 7, 9, 2, 4, 6, 8, 0]
>>> heapify(data)                      # rearrange the list into heap order
>>> heappush(data, -5)                 # add a new entry
>>> [heappop(data) for i in range(3)]  # fetch the three smallest entries
[-5, 0, 1]

11.8 十进制浮点运算

decimal模块Decimal为十进制浮点运算提供了一种数据类型。float 与二进制浮点的内置实现相比,该类特别有助于

  • 需要精确十进制表示的金融应用程序和其他用途,
  • 控制精度,
  • 控制舍入以满足法律或法规要求,
  • 跟踪有效小数位,或
  • 用户期望结果与手动计算相匹配的应用程序。

例如,计算 70 美分电话费的 5% 税会在十进制浮点数和二进制浮点数中得出不同的结果。如果将结果四舍五入到最接近的分,则差异变得显着:

>>>
>>> from decimal import *
>>> round(Decimal('0.70') * Decimal('1.05'), 2)
Decimal('0.74')
>>> round(.70 * 1.05, 2)
0.73

结果Decimal保持尾随零,自动从具有两位重要性的被乘数推断出四位重要性。Decimal 重现了手工完成的数学运算,并避免了二进制浮点不能准确表示十进制数量时可能出现的问题。

精确表示使Decimal该类能够执行不适合二进制浮点的模计算和相等测试:

>>>
>>> Decimal('1.00') % Decimal('.10')
Decimal('0.00')
>>> 1.00 % 0.10
0.09999999999999995

>>> sum([Decimal('0.1')]*10) == Decimal('1.0')
True
>>> sum([0.1]*10) == 1.0
False

decimal模块提供具有所需精度的算术:

>>>
>>> getcontext().prec = 36
>>> Decimal(1) / Decimal(7)
Decimal('0.142857142857142857142857142857142857')