Sitemap

有些Python程序写到一定阶段，性能就再也上不去了。即便优化了代码，程序的执行速度可能还是达不到要求。考虑到现在的计算机所装配的CPU核心数量越来越多，所以我们很自然地就想到用并行方式来解决这个问题。那么接下来就必须思考，如何将代码所要执行的计算任务划分成多个独立的部分并在各自的核心上面平行地运行。

python并发与并行（十一） ———— 让asyncio的事件循环保持畅通，以便进一步提升程序的响应能力

6 minute read

Published: August 28, 2024

前一篇blog说明了怎样把采用线程所实现的项目逐步迁移到asyncio方案上面。迁移后的run_tasks协程，可以将多份输入文件通过tail_async协程正确地合并成一份输出文件。

python并发与并行（十） ———— 结合线程与协程，将代码顺利迁移到asyncio

10 minute read

Published: August 27, 2024

在前一篇中，我们用asyncio模块把通过线程来执行阻塞式I/O的TCP服务器迁移到了协程方案上面。当时我们一下子就完成了迁移，而没有分成多个步骤，这对于大型的项目来说，并不常见。如果项目比较大，那通常需要一点一点地迁移，也就是要边改边测，确保迁移过去的这一部分代码的效果跟原来相同。

Real-ESRGAN超分算法效果

less than 1 minute read

Published: August 22, 2024

上一篇blog我们详细介绍了Real-ESRGAN论文的原理，以及paper中的所有技术细节。这篇blog我们来看一下Real-ESRGAN的实际效果。

超分论文解读Real-ESRGAN: Training Real-World Blind Super-Resolution with Pure Synthetic Data

6 minute read

Published: August 16, 2024

本篇blog除了对论文内容进行了详实的翻译，同时对论文中的相关技术细节展开了说明和讨论，部分技术通过示例代码进行了说明。

python并发与并行（九） ———— 用asyncio改写通过线程实现的IO

13 minute read

Published: August 15, 2024

知道了协程的好处之后，我们可能就想把现有项目之中的代码全都改用协程来写，于是有人就担心，这样修改起来，工作量会不会比较大呢？所幸Python已经将异步执行功能很好地集成到语言里面了，所以我们很容易就能把采用线程实现的阻塞式I/O操作转化为采用协程实现的异步I/O操作。

python并发与并行（八） ———— 用协程实现高并发的I/O

3 minute read

Published: August 15, 2024

在前面几条里，我们以生命游戏为例，试着用各种方案解决I/O并行问题，这些方案在某些情况下确实可行，但如果同时需要执行的I/O任务有成千上万个，那么这些方案的效率就不太理想了

python并发与并行（七） ———— 如果必须用线程做并发，那就考虑通过ThreadPoolExecutor实现

3 minute read

Published: August 12, 2024

Python有个内置模块叫作concurrent.futures，它提供了ThreadPoolExecutor类。这个类结合了线程（Thread）方案与队列（Queue）方案的优势，可以用来平行地处理康威生命游戏里的那种I/O操作（参见前面讲的线程方案和队列方案）。

python并发与并行（六） ———— 正确的重构代码，以便用Queue做并发

47 minute read

Published: August 06, 2024

在前面“python并发与并行（五.2） ———— 不要在每次fan-out时都新建一批Thread实例”里面，大家看到，每次都手工创建一批线程并平行地执行I/O任务是有很多缺点的。这一条要介绍另一种方案，也就是用内置的queue模块里的Queue类实现多线程管道。

设计模式

1 minute read

Published: August 01, 2024

工厂模式

beam search decoding with CTC

less than 1 minute read

Published: July 30, 2024

beam search(束搜索) decoding是一种在语言模型、文本识别等sep2sep的场景中快速、高效的神经网络解码算法。结合前面几个blog，我们重点展开一下beam search在场景文本识别中的作用。

论文解析——What Is Wrong With Scene Text Recognition Model Comparisons? Dataset and Model Analysis

less than 1 minute read

Published: July 26, 2024

论文paper地址：What Is Wrong With Scene Text Recognition Model Comparisons? Dataset and Model Analysis

论文解析——An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition，CRNN算法

less than 1 minute read

Published: July 23, 2024

论文paper地址：An End-to-End Trainable Neural Network for Image-based Sequence Recognition and Its Application to Scene Text Recognition

论文解析——Character Region Awareness for Text Detection，字符级文本检测CRAFT算法

less than 1 minute read

Published: July 21, 2024

这篇论文来自CVPR2019，paper地址：Character Region Awareness for Text Detection。代码：CRAFT-pytorch。

python并发与并行（五.2） ———— 不要在每次fan-out时都新建一批Thread实例

25 minute read

Published: June 28, 2024

想在Python里平行地做I/O，首先要考虑的工具当然是线程。但如果真用线程来表示fan-out模式中的执行路径，你就会发现，这样其实有很多问题。

python并发与并行（五.1） ———— 不要在每次fan-out时都新建一批Thread实例

7 minute read

Published: June 27, 2024

我们使用康威生命游戏的例子来解释这个专题。首先我们要实现一个康威生命游戏。

python并发与并行（四） ———— 用queue来协调多个线程之间的工作进度

9 minute read

Published: May 24, 2024

Python程序如果要同时执行多项任务，而这些任务又分别针对同一种产品的不同环节，那么就有可能得在它们之间进行协调。比较有用的一种协调方式是把函数拼接成管道。

python并发与并行（三） ———— 利用Lock防止多个线程争用同一份数据

1 minute read

Published: May 08, 2024

利用Lock防止多个线程争用同一份数据

python并发与并行（二） ———— 用线程执行阻塞式IO，但不要用它做并行计算

1 minute read

Published: May 07, 2024

用线程执行阻塞式IO，但不要用它做并行计算

python并发与并行（一） ———— 用subprocess管理子进程

less than 1 minute read

Published: May 07, 2024

并发（concurrency）指计算机似乎能在同一时刻做许多件不同的事情。例如，在只配有一个CPU核心的计算机上面，操作系统可以迅速切换这个处理器所运行的程序，因此尽管同一时刻最多只有一个程序在运行，但这些程序能够交替地使用这个核心，从而造成一种假象，让人觉得它们好像真的在同时运行。并行（parallelism）与并发的区别在于，它强调计算机确实能够在同一时刻做许多件不同的事情。例如，若计算机配有多个CPU核心，那么它就真的可以同时执行多个程序。每个CPU核心执行的都是自己的那个程序之中的指令，这些程序能够同时向前推进。

DIY相机（三）picamera2库手册解读

18 minute read

Published: November 07, 2023

使用QtGL作为preview的backend时，图像的输出大小是有限制的。

DIY相机（二）picamera2库

18 minute read

Published: October 31, 2023

上一篇我们说的是树莓派camera的libcamera库，提供了在命令行的对camera的操作功能。今天要说的是picamera2库，树莓派官方提供的picamera2库是针对libcamera 驱动提供的 python库。Picamera2仅支持Raspberry Pi OS Bullseye 以及更新的系统。

DIY相机（一）libcamera库

5 minute read

Published: October 27, 2023

相机选型

树莓派系统文件分析

4 minute read

Published: October 25, 2023

本篇blog来分析和总结下树莓派系统文件以及他们的作用。使用的系统是Raspberry Pi OS with desktop

torch.jit.trace与torch.jit.script

4 minute read

Published: October 14, 2023

Script mode通过torch.jit.trace或者torch.jit.script来调用。这两个函数都是将python代码转换为TorchScript的两种不同的方法。

PyTorch JIT和TorchScript

2 minute read

Published: October 11, 2023

PyTorch支持两种模式：eager模式和script模式。eager模式主要用于模型的编写、训练和调试，script模式主要是针对部署的，其包含PytorchJIT和TorchScript（一种在 PyTorch 中执行高效的序列化代码格式）。

flash attention 1和flash attention 2算法的python和triton实现

11 minute read

Published: October 03, 2023

transformers目前大火，但是对于长序列来说，计算很慢，而且很耗费显存。对于transformer中的self attention计算来说，在时间复杂度上，对于每个位置，模型需要计算它与所有其他位置的相关性，这样的计算次数会随着序列长度的增加而呈二次增长。在空间复杂度上，self attention需要存储一个矩阵来保存所有位置的相关性分数，这个矩阵的大小也会随着序列长度的增加而呈二次增长。因此，对于非常长的序列，这种二次复杂度会导致计算和内存消耗急剧增加，使得模型在处理这样的输入时会变得相对缓慢且需要大量内存。这也是为什么对于超长序列，可能需要采取一些策略，如切分成短序列进行处理，或者使用其他模型架构来替代传统的Transformer模型。

容易被忽视的CNN模型的感受野及其计算

3 minute read

Published: October 01, 2023

感受野可能是卷积神经网络中最重要的概念之一，在学术中也被广泛关注。几乎所有的目标检测方法都围绕感受野来设计其模型结构。这篇文章通过可视化的方法来表达感受野的信息，并且提供一用于计算任何CNN网络每一层感受野的程序。

模型量化

2 minute read

Published: September 28, 2023

模型量化分为后量化(Post-training Quantization, PTQ)和训练量化(Quantization aware training,QAT)。PTQ是直接将模型浮点权重转换为整数，QAT是将模型插入量化节点，之后再fine-tune调整模型的权重。

pytorch hook

4 minute read

Published: September 05, 2023

pytorch的hook机制允许我们在不修改模型class的情况下，去debug backward、查看forward的activations和修改梯度。hook是一个在forward和backward计算时可以被执行的函数。在pytorch中，可以对Tensor和nn.Module添加hook。hook有两种类型，forward hook和backward hook。