Python多线程编程：深入理解threading模块及代码实战【第99篇—Multiprocessing模块】

Python多线程编程：深入理解threading模块及代码实战

在Python编程中，多线程是一种常用的并发编程方式，它可以有效地提高程序的执行效率，特别是在处理I/O密集型任务时。Python提供了threading模块，使得多线程编程变得相对简单。本文将深入探讨threading模块的基础知识，并通过实例演示多线程的应用。

在这里插入图片描述

1. 多线程基础概念

在开始之前，让我们先了解一些多线程编程的基本概念：

  • 线程（Thread）：是操作系统能够进行运算调度的最小单位，通常在一个进程内部。
  • 多线程（Multithreading）：是指在同一程序中同时运行多个线程。
  • GIL（Global Interpreter Lock）：Python解释器的全局解释器锁，限制同一时刻只能有一个线程执行Python字节码，因此在CPU密集型任务中，多线程并不能充分利用多核处理器。

2. threading模块基础

threading模块提供了创建和管理线程的工具。以下是一些常用的threading模块中的类和函数：

  • Thread类：用于创建线程的类，通过继承Thread类并实现run方法来定义线程的执行逻辑。
  • start()方法：启动线程。
  • join()方法：等待线程执行结束。
  • active_count()函数：获取当前活动线程的数量。

3. 代码实战：多线程下载图片

下面通过一个实例来演示多线程的应用，我们将使用多线程来下载一系列图片。

import threading
import requests
from queue import Queueclass ImageDownloader:def __init__(self, urls):self.urls = urlsself.queue = Queue()def download_image(self, url):response = requests.get(url)if response.status_code == 200:filename = url.split("/")[-1]with open(filename, "wb") as f:f.write(response.content)print(f"Downloaded: {filename}")def worker(self):while True:url = self.queue.get()if url is None:breakself.download_image(url)self.queue.task_done()def start_threads(self, num_threads=5):threads = []for _ in range(num_threads):thread = threading.Thread(target=self.worker)thread.start()threads.append(thread)for url in self.urls:self.queue.put(url)self.queue.join()for _ in range(num_threads):self.queue.put(None)for thread in threads:thread.join()if __name__ == "__main__":image_urls = ["url1", "url2", "url3", ...]  # 替换为实际图片的URLdownloader = ImageDownloader(image_urls)downloader.start_threads()

这个例子中，我们创建了一个ImageDownloader类，其中包含了一个worker方法，用于下载图片。通过多线程，我们能够并行地下载多张图片，提高下载效率。

4. 代码解析

  • download_image方法：负责下载图片的具体实现。
  • worker方法：作为线程的执行逻辑，不断从队列中取出待下载的图片URL，并调用download_image方法。
  • start_threads方法：启动指定数量的线程，将图片URL放入队列中，等待所有线程执行完毕。

6. 线程安全与锁机制

在多线程编程中，由于多个线程同时访问共享资源，可能引发竞态条件（Race Condition）。为了避免这种情况，可以使用锁机制来确保在某一时刻只有一个线程能够访问共享资源。

threading模块中提供了Lock类，通过它可以创建一个锁，使用acquire方法获取锁，使用release方法释放锁。下面是一个简单的示例：

import threadingcounter = 0
counter_lock = threading.Lock()def increment_counter():global counterfor _ in range(1000000):with counter_lock:counter += 1def main():thread1 = threading.Thread(target=increment_counter)thread2 = threading.Thread(target=increment_counter)thread1.start()thread2.start()thread1.join()thread2.join()print("Counter:", counter)if __name__ == "__main__":main()

这个例子中，我们创建了一个全局变量counter，并使用锁确保在两个线程同时修改counter时不会发生竞态条件。

7. 多线程的适用场景

多线程适用于处理I/O密集型任务，如网络请求、文件读写等。在这些场景中，线程可以在等待I/O的过程中让出CPU，让其他线程有机会执行，提高程序整体效率。

然而，在处理CPU密集型任务时，由于Python的GIL，多线程并不能充分利用多核处理器，可能导致性能瓶颈。对于CPU密集型任务，考虑使用多进程编程或其他并发模型。

9. 异常处理与多线程

在多线程编程中，异常的处理可能变得更加复杂。由于每个线程都有自己的执行上下文，异常可能在一个线程中引发，但在另一个线程中被捕获。为了有效地处理异常，我们需要在每个线程中使用合适的异常处理机制。

import threadingdef thread_function():try:# 一些可能引发异常的操作result = 10 / 0except ZeroDivisionError as e:print(f"Exception in thread: {e}")if __name__ == "__main__":thread = threading.Thread(target=thread_function)thread.start()thread.join()print("Main thread continues...")

在这个例子中，线程thread_function中的除法操作可能引发ZeroDivisionError异常。为了捕获并处理这个异常，我们在线程的代码块中使用了try-except语句。

10. 多线程的注意事项

在进行多线程编程时，有一些常见的注意事项需要特别关注：

  • 线程安全性：确保多个线程同时访问共享资源时不会引发数据竞争和不一致性。
  • 死锁：当多个线程相互等待对方释放锁时可能发生死锁，需要谨慎设计和使用锁。
  • GIL限制：Python的全局解释器锁可能限制多线程在CPU密集型任务中的性能提升。
  • 异常处理：需要在每个线程中适当处理异常，以防止异常在一个线程中引发但在其他线程中未被捕获。

11. 多线程的性能优化

在一些情况下，我们可以通过一些技巧来优化多线程程序的性能：

  • 线程池：使用concurrent.futures模块中的ThreadPoolExecutor来创建线程池，提高线程的重用性。
  • 队列：使用队列来协调多个线程之间的工作，实现生产者-消费者模型。
  • 避免GIL限制：对于CPU密集型任务，考虑使用多进程、asyncio等其他并发模型。

13. 面向对象的多线程设计

在实际应用中，我们通常会面对更复杂的问题，需要将多线程和面向对象设计结合起来。以下是一个简单的例子，演示如何使用面向对象的方式来设计多线程程序：

import threading
import timeclass WorkerThread(threading.Thread):def __init__(self, name, delay):super().__init__()self.name = nameself.delay = delaydef run(self):print(f"{self.name} started.")time.sleep(self.delay)print(f"{self.name} completed.")if __name__ == "__main__":thread1 = WorkerThread("Thread 1", 2)thread2 = WorkerThread("Thread 2", 1)thread1.start()thread2.start()thread1.join()thread2.join()print("Main thread continues...")

在这个例子中，我们创建了一个WorkerThread类，继承自Thread类，并重写了run方法，定义了线程的执行逻辑。每个线程被赋予一个名字和一个延迟时间。

14. 多线程与资源管理器

考虑一个场景，我们需要创建一个资源管理器，负责管理某个资源的分配和释放。这时，我们可以使用多线程来实现资源的异步管理。以下是一个简单的资源管理器的示例：

import threading
import timeclass ResourceManager:def __init__(self, total_resources):self.total_resources = total_resourcesself.available_resources = total_resourcesself.lock = threading.Lock()def allocate(self, request):with self.lock:if self.available_resources >= request:print(f"Allocated {request} resources.")self.available_resources -= requestelse:print("Insufficient resources.")def release(self, release):with self.lock:self.available_resources += releaseprint(f"Released {release} resources.")class UserThread(threading.Thread):def __init__(self, name, resource_manager, request, release):super().__init__()self.name = nameself.resource_manager = resource_managerself.request = requestself.release = releasedef run(self):print(f"{self.name} started.")self.resource_manager.allocate(self.request)time.sleep(1)  # Simulate some work with allocated resourcesself.resource_manager.release(self.release)print(f"{self.name} completed.")if __name__ == "__main__":manager = ResourceManager(total_resources=5)user1 = UserThread("User 1", manager, request=3, release=2)user2 = UserThread("User 2", manager, request=2, release=1)user1.start()user2.start()user1.join()user2.join()print("Main thread continues...")

在这个例子中，ResourceManager类负责管理资源的分配和释放，而UserThread类表示一个使用资源的用户线程。通过使用锁，确保资源的安全分配和释放。

16. 多线程的调试与性能分析

在进行多线程编程时，调试和性能分析是不可忽视的重要环节。Python提供了一些工具和技术，帮助我们更好地理解和调试多线程程序。

调试多线程程序

  1. 使用print语句：在适当的位置插入print语句输出关键信息，帮助跟踪程序执行流程。

  2. 日志模块：使用Python的logging模块记录程序运行时的信息，包括线程的启动、结束和关键操作。

  3. pdb调试器：在代码中插入断点，使用Python的内置调试器pdb进行交互式调试。

import pdb# 在代码中插入断点
pdb.set_trace()
性能分析多线程程序
  1. 使用timeit模块：通过在代码中嵌入计时代码，使用timeit模块来测量特定操作或函数的执行时间。
import timeitdef my_function():# 要测试的代码# 测试函数执行时间
execution_time = timeit.timeit(my_function, number=1)
print(f"Execution time: {execution_time} seconds")
  1. 使用cProfile模块：cProfile是Python的性能分析工具，可以帮助查看函数调用及执行时间。
import cProfiledef my_function():# 要测试的代码# 运行性能分析
cProfile.run("my_function()")
  1. 使用第三方工具：一些第三方工具，如line_profiler、memory_profiler等，可以提供更详细的性能分析信息，帮助发现性能瓶颈。
# 安装line_profiler
pip install line_profiler# 使用line_profiler进行性能分析
kernprof -l script.py
python -m line_profiler script.py.lprof

17. 多线程的安全性与风险

尽管多线程编程可以提高程序性能，但同时也带来了一些潜在的安全性问题。以下是一些需要注意的方面：

  1. 线程安全性：确保共享资源的访问是线程安全的，可以通过锁机制、原子操作等手段进行控制。

  2. 死锁：在使用锁的过程中，小心死锁的产生，即多个线程相互等待对方释放资源，导致程序无法继续执行。

  3. 资源泄漏：在多线程编程中，容易出现资源未正确释放的情况，例如线程未正确关闭或锁未正确释放。

  4. GIL限制：在CPU密集型任务中，全局解释器锁（GIL）可能成为性能瓶颈，需谨慎选择多线程或其他并发模型。

18. 探索其他并发模型

虽然多线程是一种常用的并发编程模型，但并不是唯一的选择。Python还提供了其他一些并发模型，包括：

  1. 多进程编程：通过multiprocessing模块实现，每个进程都有独立的解释器和GIL，适用于CPU密集型任务。

  2. 异步编程：通过asyncio模块实现，基于事件循环和协程，适用于I/O密集型任务，能够提高程序的并发性。

  3. 并行计算：使用concurrent.futures模块中的ProcessPoolExecutor和ThreadPoolExecutor，将任务并行执行。

19. 持续学习与实践

多线程编程是一个广阔而复杂的领域，本文只是为你提供了一个入门的指南。持续学习和实践是深入掌握多线程编程的关键。

建议阅读Python官方文档和相关书籍，深入了解threading模块的各种特性和用法。参与开源项目、阅读其他人的源代码，也是提高技能的好方法。

21. 多线程的异步化与协程

在现代编程中，异步编程和协程成为处理高并发场景的重要工具。Python提供了asyncio模块，通过协程实现异步编程。相比于传统多线程，异步编程可以更高效地处理大量I/O密集型任务，而无需创建大量线程。

异步编程基础

异步编程通过使用async和await关键字来定义协程。协程是一种轻量级的线程，可以在运行时暂停和继续执行。

import asyncioasync def my_coroutine():print("Start coroutine")await asyncio.sleep(1)print("Coroutine completed")async def main():await asyncio.gather(my_coroutine(), my_coroutine())if __name__ == "__main__":asyncio.run(main())

在上述例子中，my_coroutine是一个协程，使用asyncio.sleep模拟异步操作。通过asyncio.gather同时运行多个协程。

异步与多线程的比较

  • 性能： 异步编程相较于多线程，可以更高效地处理大量的I/O密集型任务，因为异步任务在等待I/O时能够让出控制权，不阻塞其他任务的执行。

  • 复杂性： 异步编程相对于多线程来说，编写和理解的难度可能较大，需要熟悉协程的概念和异步编程的模型。

示例：异步下载图片

以下是一个使用异步编程实现图片下载的简单示例：

import asyncio
import aiohttpasync def download_image(session, url):async with session.get(url) as response:if response.status == 200:filename = url.split("/")[-1]with open(filename, "wb") as f:f.write(await response.read())print(f"Downloaded: {filename}")async def main():image_urls = ["url1", "url2", "url3", ...]  # 替换为实际图片的URLasync with aiohttp.ClientSession() as session:tasks = [download_image(session, url) for url in image_urls]await asyncio.gather(*tasks)if __name__ == "__main__":asyncio.run(main())

在这个例子中，通过aiohttp库创建异步HTTP请求，asyncio.gather并发执行多个协程。

22. 异步编程的异常处理

在异步编程中，异常的处理方式也有所不同。在协程中，我们通常使用try-except块或者asyncio.ensure_future等方式来处理异常。

import asyncioasync def my_coroutine():try:# 异步操作await asyncio.sleep(1)raise ValueError("An error occurred")except ValueError as e:print(f"Caught an exception: {e}")async def main():task = asyncio.ensure_future(my_coroutine())await asyncio.gather(task)if __name__ == "__main__":asyncio.run(main())

在这个例子中，asyncio.ensure_future将协程包装成一个Task对象，通过await asyncio.gather等待任务执行完毕，捕获异常。

23. 异步编程的优势与注意事项

优势

  1. 高并发性： 异步编程适用于大量I/O密集型任务，能够更高效地处理并发请求，提高系统的吞吐量。

  2. 资源效率： 相较于多线程，异步编程通常更节省资源，因为协程是轻量级的，可以在一个线程中运行多个协程。

注意事项

  1. 阻塞操作： 异步编程中，阻塞操作会影响整个事件循环，应尽量避免使用阻塞调用。

  2. 异常处理： 异步编程的异常处理可能更加复杂，需要仔细处理协程中的异常情况。

  3. 适用场景： 异步编程更适用于I/O密集型任务，而不是CPU密集型任务。

24. 探索更多异步编程工具和库

除了asyncio和aiohttp之外，还有一些其他强大的异步编程工具和库：

  • asyncpg： 异步PostgreSQL数据库驱动。
  • aiofiles： 异步文件操作库。
  • aiohttp： 异步HTTP客户端和服务器框架。
  • aiomysql： 异步MySQL数据库驱动。
  • uvloop： 用于替代标准事件循环的高性能事件循环。

25. 持续学习与实践

异步编程是一个广泛且深入的主题，本文只是为你提供了一个简要的介绍。建议深入学习asyncio模块的文档，理解事件循环、协程、异步操作等概念。

同时，通过实际项目的实践，你将更好地理解和掌握异步编程的技术和最佳实践。

总结：

本文深入探讨了Python中的多线程编程和异步编程，涵盖了多线程模块（threading）的基础知识、代码实战，以及异步编程模块（asyncio）的基本概念和使用。我们从多线程的基础，如Thread类、锁机制、线程安全等开始，逐步展示了多线程在实际应用中的应用场景和注意事项。通过一个实例展示了多线程下载图片的过程，强调了线程安全和异常处理的重要性。

随后，本文引入了异步编程的概念，通过协程、async和await关键字，以及asyncio模块的使用，向读者展示了异步编程的基础。通过一个异步下载图片的实例，强调了异步编程在处理I/O密集型任务中的高效性。

文章还对异步编程的异常处理、优势与注意事项进行了详细讨论，同时介绍了一些常用的异步编程工具和库。最后，鼓励读者通过不断学习、实践，深化对多线程和异步编程的理解，提高在并发编程方面的能力。

无论是多线程编程还是异步编程，都是提高程序并发性、性能和响应性的关键技术。通过深入理解这些概念，读者可以更好地应对现代编程中复杂的并发需求，提升自己的编程水平。祝愿读者在多线程和异步编程的学习过程中取得丰硕的成果！

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://xiahunao.cn/news/2815539.html

如若内容造成侵权/违法违规/事实不符，请联系瞎胡闹网进行投诉反馈，一经查实，立即删除！

相关文章

林曦老师的新年礼物，送你三个学习锦囊

林曦老师的新年礼物，送你三个学习锦囊

暄桐是一间传统美学教育教室，创办于2011年，林曦是创办人和授课老师，教授以书法为主的传统文化和技艺，皆在以书法为起点，亲近中国传统之美，以实践和所得，滋养当下生活。 　　 在暄桐六阶读书课…
阅读更多...
每日一题 2673使二叉树所有路径值相等的最小代价

每日一题 2673使二叉树所有路径值相等的最小代价

2673. 使二叉树所有路径值相等的最小代价 题目描述： 给你一个整数 n 表示一棵 满二叉树 里面节点的数目，节点编号从 1 到 n 。根节点编号为 1 ，树中每个非叶子节点 i 都有两个孩子，分别是左孩子 2 * i 和右孩子 2 * i 1 。 树…
阅读更多...
K8S部署postgresql

K8S部署postgresql

（作者：陈玓玏） 一、前置条件 已部署k8s，服务端版本为1.21.14 二、部署postgresql 拉取镜像，docker pull postgres，不指定版本，自动从docker hub拉取最新版本；配置configmap&…
阅读更多...
jetson nano——编译安装PySide2

jetson nano——编译安装PySide2

目录 1.打开我提供的文件or官网自己下载（需对应PyQt5的版本）2.解压文件3.进入目录4.安装clang5. 编译安装6.报错: error: ‘NPY_ARRAY_UPDATEIFCOPY’ was not declared in this scope7.又报错：error: ‘NPY_ARRAY_UPDATEIFCOPY’ was not de…
阅读更多...
4-Bean的循环依赖

4-Bean的循环依赖

Bean的循环依赖 循环依赖指的是依赖闭环的问题 解决 首先我们来实例化A，实例化A时并没有处理依赖注入，因此会得到半成品A。有了半成品A，它会被封装成一个ObjectFactory，并且把它放入第三个缓存区singletonFactories中。 接下来要…
阅读更多...
Coursera吴恩达机器学习专项课程02：Advanced Learning Algorithms 笔记 Week02

Coursera吴恩达机器学习专项课程02：Advanced Learning Algorithms 笔记 Week02

Week 02 of Advanced Learning Algorithms 笔者在2022年7月份取得这门课的证书，现在（2024年2月25日）才想起来将笔记发布到博客上。 Website: https://www.coursera.org/learn/advanced-learning-algorithms?specializationmachine-learnin…
阅读更多...
Dledger部署RocketMQ高可用集群（9节点集群）

Dledger部署RocketMQ高可用集群（9节点集群）

文章目录 🔊博主介绍🥤本文内容规划集群准备工作节点0配置（ip地址为192.168.80.101的机器）节点1配置（ip地址为192.168.80.102的机器）节点2配置（ip地址为192.168.80.103的机器）在所有…
阅读更多...
动态规划之解码方法【LeetCode】

动态规划之解码方法【LeetCode】

动态规划之解码方法 91. 解码方法解法1解法2 91. 解码方法 91. 解码方法 解法1 状态表示（这是最重要的）：dp[i]表示以第i个字符为结尾，解码方法的总数。 状态转移方程（最难的）：根据最近的一步来…
阅读更多...
大模型（LLM）的token学习记录-I

大模型（LLM）的token学习记录-I

文章目录 基本概念什么是token?如何理解token的长度？使用openai tokenizer 观察token的相关信息open ai的模型 token的特点token如何映射到数值？token级操作：精确地操作文本token 设计的局限性 tokenizationtoken 数量对LLM 的影响训练模型参…
阅读更多...
134.乐理基础-音程名字的简写

134.乐理基础-音程名字的简写

内容参考于：三分钟音乐社 上一个内容：133.乐理基础-超过八度的音程判断单音程、复音程-CSDN博客 上一个内容里练习的答案： 音程的简写，然后有些练习无限判断隐藏的app，它给的不是大二度、增四度、小六度等等这样的中…
阅读更多...
【MySQL】学习多表查询和笛卡尔积 - 副本

【MySQL】学习多表查询和笛卡尔积 - 副本

](https://img-blog.csdnimg.cn/21dd41dce63a4f2da07b9d879ad0120b.png#pic_center) ??个人主页: ??热门专栏: 华为鸿蒙系统学习|计算机网络|数据结构与算法 ??个人格言:“没有罗马,那就自己创造罗马~” #mermaid-svg-N8PeTKG6uLu4bJuM {font-family:“trebuchet ms”,…
阅读更多...
同源不同页面之间的通信，SharedWorker使用

同源不同页面之间的通信，SharedWorker使用

同源不同页面之间的通信，SharedWorker使用 描述实现结果 描述 同源不同页面之间的通信，使用SharedWorker，或者使用全局方法通信，这里使用SharedWorker来实现 mdn地址：https://developer.mozilla.org/zh-CN/docs/Web/A…
阅读更多...
AUTOMATION 自动化控制

AUTOMATION 自动化控制

Ansible介绍: 部署ansible:yum -y install ansible 批量管理服务器的工具2015年被红帽公司收购使用Python语言编写的基于ssh进行管理，所以不需要在被管端安装任何软件 ansible在管理远程主机的时候，主要是通过各种模块进行操作的 配置ansible管理环境: …
阅读更多...
模型预测控制MPC算法的讲解-案例（C语言代码）

模型预测控制MPC算法的讲解-案例（C语言代码）

目录 一、模型预测控制MPC的基本原理 1.1 建立模型 1.2 设定目标和约束条件 1.3 求解优化问题 1.4 应用控制输入 1.5 重复优化 二、模型预测控制MPC的特点 三、应用场景 四、应用案例 一个MPC算法的简化版框架： 4.1 案例系统模型 4.2 控制目标和当前状态…
阅读更多...
Java中使用Jsoup实现网页内容爬取与Html内容解析并使用EasyExcel实现导出为Excel文件

Java中使用Jsoup实现网页内容爬取与Html内容解析并使用EasyExcel实现导出为Excel文件

场景 Pythont通过request以及BeautifulSoup爬取几千条情话： Pythont通过request以及BeautifulSoup爬取几千条情话_爬取情话-CSDN博客 Node-RED中使用html节点爬取HTML网页资料之爬取Node-RED的最新版本： Node-RED中使用html节点爬取HTML网页资料之爬…
阅读更多...
链表之“带头双向循环链表”

链表之“带头双向循环链表”

目录 ​编辑 1.链表的分类 2.带头双向循环链表的实现 1.创建结构体 2.创建返回链表的头节点 3.双向链表销毁 4.双向链表打印 5.双向链表尾插 6.双向链表尾删 7.双向链表头插 8.双向链表头删 9.双向链表查找 10.双向链表在pos的前面进行插入 11.双向链表删除pos位…
阅读更多...
蓝桥杯前端Web赛道-课程列表

蓝桥杯前端Web赛道-课程列表

蓝桥杯前端Web赛道-课程列表 题目链接：0课程列表 - 蓝桥云课 (lanqiao.cn) 题目要求如下： 分析题目我们发现其实就是需要我们手写一个分页的功能，根据题目的要求，分析如下 需要通过axios获取数据每页显示5条数据，默…
阅读更多...
【深度学习笔记】深度卷积神经网络——NiN

【深度学习笔记】深度卷积神经网络——NiN

网络中的网络（NiN） LeNet、AlexNet和VGG都有一个共同的设计模式：通过一系列的卷积层与汇聚层来提取空间结构特征；然后通过全连接层对特征的表征进行处理。 AlexNet和VGG对LeNet的改进主要在于如何扩大和加深这两个模块。 或者&am…
阅读更多...
77. 组合（力扣LeetCode）

77. 组合（力扣LeetCode）

文章目录 77. 组合题目描述回溯算法组合问题的剪枝操作 77. 组合 题目描述 给定两个整数 n 和 k，返回范围 [1, n] 中所有可能的 k 个数的组合。 你可以按 任何顺序 返回答案。 示例 1： 输入：n 4, k 2 输出： [ [2,4], [3,4],…
阅读更多...
抖音视频评论采集软件|抖音数据抓取工具

抖音视频评论采集软件|抖音数据抓取工具

抖音视频评论采集软件是一款基于C#开发的高效、便捷的工具，旨在为用户提供全面的数据采集和分析服务。该软件不仅支持通过关键词进行搜索抓取，还能够通过分享链接进行单个视频的抓取和下载，让用户轻松获取抖音视频评论数据。 其中&#xff0c…
阅读更多...
最新文章

Copyright @ 2022~2023