当前位置:首页 > 科技  > 软件

Python编程进阶,轻松掌握多线程和多进程

来源: 责编: 时间:2023-12-12 17:03:04 230观看
导读1、简介我们将讨论如何利用Python执行多线程和多进程任务。它们提供了在单个进程或多个进程之间执行并发操作的方法。并行和并发执行可以提高系统的速度和效率。在讨论多线程和多进程的基础知识之后,我们还将讨论使用P

1、简介

我们将讨论如何利用Python执行多线程和多进程任务。它们提供了在单个进程或多个进程之间执行并发操作的方法。并行和并发执行可以提高系统的速度和效率。RjT28资讯网——每日最新资讯28at.com

在讨论多线程和多进程的基础知识之后,我们还将讨论使用Python库实现它们的实际方法。RjT28资讯网——每日最新资讯28at.com

首先简要讨论并行系统的好处。RjT28资讯网——每日最新资讯28at.com

  1. 改进的性能:有了并发执行任务的能力,可以减少执行时间并提高系统的整体性能。
  2. 可扩展性:可以将一个大任务分解为多个较小的子任务,并为它们分配独立的核心或线程,让它们独立执行。这在大规模系统中非常有用。
  3. 高效的I/O操作:通过并发的帮助,CPU不必等待进程完成其I/O操作。CPU可以立即开始执行下一个进程,直到前一个进程忙于其I/O操作。
  4. 资源优化:通过分割资源,可以防止单个进程占用所有资源。这可以避免较小进程的Starvation(饥饿)问题。

并行计算的优势并行计算的优势RjT28资讯网——每日最新资讯28at.com

以上是需要并发或并行执行的一些常见原因。现在,回到主题,即多线程和多进程,并讨论它们的主要区别。RjT28资讯网——每日最新资讯28at.com

2、什么是多线程?

多线程是在单个进程中实现并行性的一种方法,能够执行同时进行的任务。在单个进程内可以创建多个线程,并在该进程内并行执行较小的任务。RjT28资讯网——每日最新资讯28at.com

单个进程中的线程共享一个公共内存空间,但它们的堆栈跟踪和寄存器是独立的。由于共享内存,它们的计算成本较低。RjT28资讯网——每日最新资讯28at.com

单线程和多线程Env.单线程和多线程Env.RjT28资讯网——每日最新资讯28at.com

Python中的多线程主要用于执行I/O操作,即如果程序的某个部分正在执行I/O操作,则其余程序可以保持响应。然而,在Python的实现中,由于全局解释器锁(GIL)的存在,多线程无法实现真正的并行性。RjT28资讯网——每日最新资讯28at.com

简而言之,GIL是一个互斥锁,一次只允许一个线程与Python字节码交互,即使在多线程模式下,一次也只能有一个线程执行字节码。RjT28资讯网——每日最新资讯28at.com

这样做是为了在CPython中保持线程安全,但它限制了多线程的性能优势。为了解决这个问题,Python有一个单独的多进程库,我们将在之后进行讨论。RjT28资讯网——每日最新资讯28at.com

什么是守护线程?

不断在后台运行的线程称为守护线程。它们的主要工作是支持主线程或非守护线程。守护线程不会阻塞主线程的执行,甚至会在主线程执行完毕后继续运行。RjT28资讯网——每日最新资讯28at.com

在Python中,守护线程主要用作垃圾回收器。它会默认销毁所有无用的对象并释放内存,以便主线程可以正常使用和执行。RjT28资讯网——每日最新资讯28at.com

3、什么是多进程?

多进程用于执行多个进程的并行执行。它可以帮助实现真正的并行性,因为可以同时执行不同的进程,并且每个进程都拥有自己的内存空间。它使用CPU的独立核心,并且在执行进程间的数据交换时也很有帮助。RjT28资讯网——每日最新资讯28at.com

与多线程相比,多进程的计算成本更高,因为不使用共享内存空间。不过,它允许进行独立执行,并克服了全局解释器锁的限制。RjT28资讯网——每日最新资讯28at.com

多进程环境多进程环境RjT28资讯网——每日最新资讯28at.com

上图展示了一个多进程环境,在该环境中,一个主进程创建了两个独立的进程,并为它们分配了不同的工作。RjT28资讯网——每日最新资讯28at.com

4、多线程实现

现在,我们使用Python实现一个基本的多线程示例。Python有一个内置的threading模块用于多线程实现。RjT28资讯网——每日最新资讯28at.com

  1. 导入库:
import threadingimport os
  1. 计算平方的函数:

这是一个用于计算数字平方的简单函数,它接受一个数字列表作为输入,并输出列表中每个数字的平方,同时输出使用的线程名称和与该线程关联的进程ID。RjT28资讯网——每日最新资讯28at.com

def calculate_squares(numbers):    for num in numbers:        square = num * num        print(            f"Square of the number {num} is {square} | Thread Name {threading.current_thread().name} | PID of the process {os.getpid()}"        )
  1. 主函数:

本示例有一个数字列表,将其平均分成两半,并分别命名为first_half和second_half。现在,将为这些列表分配两个独立的线程t1和t2。RjT28资讯网——每日最新资讯28at.com

Thread函数创建一个新线程,该线程接受一个带有参数列表的函数作为输入。还可以为线程分配一个单独的名称。RjT28资讯网——每日最新资讯28at.com

.start()函数将开始执行这些线程,而.join()函数将阻塞主线程的执行,直到给定的线程完全执行完毕。RjT28资讯网——每日最新资讯28at.com

if __name__ == "__main__":    numbers = [1, 2, 3, 4, 5, 6, 7, 8]    half = len(numbers) // 2    first_half = numbers[:half]    second_half = numbers[half:]    t1 = threading.Thread(target=calculate_squares, name="t1", args=(first_half,))    t2 = threading.Thread(target=calculate_squares, name="t2", args=(second_half,))    t1.start()    t2.start()    t1.join()    t2.join()

输出:RjT28资讯网——每日最新资讯28at.com

Square of the number 1 is 1 | Thread Name t1 | PID of the process 345Square of the number 2 is 4 | Thread Name t1 | PID of the process 345Square of the number 5 is 25 | Thread Name t2 | PID of the process 345Square of the number 3 is 9 | Thread Name t1 | PID of the process 345Square of the number 6 is 36 | Thread Name t2 | PID of the process 345Square of the number 4 is 16 | Thread Name t1 | PID of the process 345Square of the number 7 is 49 | Thread Name t2 | PID of the process 345Square of the number 8 is 64 | Thread Name t2 | PID of the process 345

注意:上述创建的所有线程都是非守护线程。要创建守护线程,需要编写t1.setDaemon(True),将线程t1设置为守护线程。RjT28资讯网——每日最新资讯28at.com

现在来了解一下上述代码生成的输出结果。可以观察到两个线程的进程ID(即PID)保持不变,这意味着这两个线程属于同一个进程。RjT28资讯网——每日最新资讯28at.com

还可以观察到输出并非按顺序生成。第一行中可以看到是线程1生成的输出,然后在第三行是线程2生成的输出,接着在第四行,再次是线程1生成的输出。这清楚地表明这些线程是同时工作的。RjT28资讯网——每日最新资讯28at.com

并发并不意味着这两个线程并行执行,因为一次只有一个线程被执行。它不会减少执行时间,与顺序执行所需的时间相同。CPU开始执行一个线程,但在中途离开,并切换到另一个线程,过一段时间后,又回到主线程,并从上次离开的地方开始执行。RjT28资讯网——每日最新资讯28at.com

5、多进程实现

目前对多线程及其实现方式和限制已经有基本的了解。现在,是时候学习多进程的实现以及如何克服这些限制了。RjT28资讯网——每日最新资讯28at.com

在这里将沿用相同的示例,但不再创建两个独立的线程,而是创建两个独立的进程,并讨论观察结果。RjT28资讯网——每日最新资讯28at.com

  1. 导入库:
from multiprocessing import Processimport os

本例将使用multiprocessing模块来创建独立的进程。RjT28资讯网——每日最新资讯28at.com

  1. 计算平方的函数:

该函数将保持不变。只是在这里删除了有关线程信息的打印语句。RjT28资讯网——每日最新资讯28at.com

def calculate_squares(numbers):    for num in numbers:        square = num * num        print(            f"Square of the number {num} is {square} | PID of the process {os.getpid()}"        )
  1. 主函数:

主函数有一些修改。只是创建了一个独立的进程,而不是线程。RjT28资讯网——每日最新资讯28at.com

if __name__ == "__main__":    numbers = [1, 2, 3, 4, 5, 6, 7, 8]    half = len(numbers) // 2    first_half = numbers[:half]    second_half = numbers[half:]    p1 = Process(target=calculate_squares, args=(first_half,))    p2 = Process(target=calculate_squares, args=(second_half,))    p1.start()    p2.start()    p1.join()    p2.join()

输出:RjT28资讯网——每日最新资讯28at.com

Square of the number 1 is 1 | PID of the process 1125Square of the number 2 is 4 | PID of the process 1125Square of the number 3 is 9 | PID of the process 1125Square of the number 4 is 16 | PID of the process 1125Square of the number 5 is 25 | PID of the process 1126Square of the number 6 is 36 | PID of the process 1126Square of the number 7 is 49 | PID of the process 1126Square of the number 8 is 64 | PID of the process 1126

可以观察到,每个列表都由一个独立的进程执行。它们具有不同的进程ID。为了检查进程是否已并行执行,需要创建一个单独的环境,下面我们将讨论这一点。RjT28资讯网——每日最新资讯28at.com

计算是否使用多进程的运行时间

为了检查是否获得了真正的并行性,在这里将计算使用和不使用多进程的算法运行时间。RjT28资讯网——每日最新资讯28at.com

为此,需要一个包含超过10^6个整数的大型整数列表。可以使用random库生成一个列表。此处将使用Python的time模块来计算运行时间。下面是实现的代码,代码本身很容易理解,也可以随时查看代码注释。RjT28资讯网——每日最新资讯28at.com

from multiprocessing import Processimport osimport timeimport randomdef calculate_squares(numbers):    for num in numbers:        square = num * numif __name__ == "__main__":    numbers = [        random.randrange(1, 50, 1) for i in range(10000000)    ]  # 创建一个包含10^7个整数的随机列表。    half = len(numbers) // 2    first_half = numbers[:half]    second_half = numbers[half:]    # ----------------- 创建单进程环境 ------------------------#    start_time = time.time()  # 开始计时(不使用多进程)    p1 = Process(        target=calculate_squares, args=(numbers,)    )  # 单进程P1执行整个列表    p1.start()    p1.join()    end_time = time.time()  # 结束计时(不使用多进程)    print(f"Execution Time Without Multiprocessing: {(end_time-start_time)*10**3}ms")    # ----------------- 创建多进程环境 ------------------------#    start_time = time.time()  # 开始计时(使用多进程)    p2 = Process(target=calculate_squares, args=(first_half,))    p3 = Process(target=calculate_squares, args=(second_half,))    p2.start()    p3.start()    p2.join()    p3.join()    end_time = time.time()  # 结束计时(使用多进程)    print(f"Execution Time With Multiprocessing: {(end_time-start_time)*10**3}ms")

输出:RjT28资讯网——每日最新资讯28at.com

Execution Time Without Multiprocessing: 619.8039054870605msExecution Time With Multiprocessing: 321.70287895202637ms

可以观察到,使用多进程的时间几乎是不使用多进程时间的一半。这表明这两个进程在同一时间内并行执行,并展示了真正的并行性行为。RjT28资讯网——每日最新资讯28at.com

本文链接:http://www.28at.com/showinfo-26-43333-0.htmlPython编程进阶,轻松掌握多线程和多进程

声明:本网页内容旨在传播知识,若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。邮件:2376512515@qq.com

上一篇: 如何优雅地观察 Vue.js 3 中 localStorage 的变化?

下一篇: 应对全球业务持续增长,慧荣科技宣布新组织架构

标签:
  • 热门焦点
Top