Python異步IO編程的進程/線程通信實現

作者：你的老師父 2023-08-01 08:43:29

本文介紹了 Python 中常用的多線程和進程通信機制。這些機制可以滿足不同線程間的數據傳輸需要，應根據具體場景選擇合適的通信機制。

這篇文章再講3種方式，同時講4中進程間通信的方式

一、 Python 中線程間通信的實現方式

共享變量

共享變量是多個線程可以共同訪問的變量。在Python中，可以使用threading模塊中的Lock對象來確保線程安全，避免多個線程同時訪問同一個變量而導致的數據競爭問題。

下面是一個使用共享變量進行線程間通信的示例代碼：

import threading

# 共享變量
count = 0
lock = threading.Lock()

# 線程函數
def increment():
    global count
    for i in range(1000000):
        lock.acquire()
        count += 1
        lock.release()

# 創建線程
t1 = threading.Thread(target=increment)
t2 = threading.Thread(target=increment)

# 啟動線程
t1.start()
t2.start()

# 等待線程結束
t1.join()
t2.join()

# 輸出結果
print("count = ", count)

在上面的代碼中，我們創建了兩個線程，它們都會執行increment函數，該函數會將count變量增加1000000次。由于多個線程可能同時訪問count變量，因此我們需要使用Lock對象來確保線程安全。每當一個線程需要訪問count變量時，它必須先獲取鎖，然后執行相應的操作，最后釋放鎖，以便其他線程可以繼續訪問count變量。

事件（Event）

事件是一種線程間通信機制，它可以用于線程之間的通知和等待。一個線程可以設置事件，另外一個線程可以等待該事件的觸發。

在Python中，可以使用threading模塊中的Event對象來實現事件。Event對象有兩個方法：set和wait。當一個線程調用set方法時，它會將事件設置為已觸發狀態，所有等待該事件的線程都會被喚醒；當一個線程調用wait方法時，如果事件已經被設置為已觸發狀態，它會立即返回；否則，它會阻塞等待事件的觸發。

下面是一個使用事件進行線程間通信的示例代碼：

import threading

# 事件對象
event = threading.Event()

# 線程函數1
def wait_event():
    print("waiting for event...")
    event.wait()
    print("event has been set.")

# 線程函數2
def set_event():
    print("setting event...")
    event.set()

# 創建線程
t1 = threading.Thread(target=wait_event)
t2 = threading.Thread(target=set_event)

# 啟動線程
t1.start()
t2.start()

# 等待線程結束
t1.join()
t2.join()

在上面的代碼中，我們創建了兩個線程，一個線程會等待事件的觸發，另一個線程會設置事件。當set_event函數被調用時，它會將事件設置為已觸發狀態，然后wait_event函數會被喚醒，輸出"event has been set."。在這個示例中，我們沒有使用Lock對象來確保線程安全，因為事件對象內部已經使用了鎖來實現線程安全。

queue 模塊中的隊列

queue 模塊中的隊列是一種先進先出（FIFO）的數據結構，用于實現多個線程之間的通信。在 Python 中，可以使用 queue 模塊中的 Queue 類來創建隊列。

queue 模塊中的隊列類型分為兩種：內存隊列和文件隊列。

1、文件隊列

文件隊列是一種使用文件作為隊列的存儲方式，可以用于在不同計算機之間傳輸數據。在 Python 中，可以使用 queue 模塊中的 FileQueue 類來創建文件隊列。

下面是一個使用文件隊列實現線程間通信的示例：

import queue
import threading

def producer(q):
    for i in range(5):
        q.put(i)
        print(f'Produced {i}')
    q.put(None)

def consumer(q):
    while True:
        item = q.get()
        if item is None:
            break
        print(f'Consumed {item}')

if __name__ == '__main__':
    q = queue.FileQueue('queue.txt')
    t1 = threading.Thread(target=producer, args=(q,))
    t2 = threading.Thread(target=consumer, args=(q,))
    t1.start()
    t2.start()
    t1.join()
    t2.join()

在上述代碼中，創建了兩個線程 t1 和 t2，t1 向文件隊列中寫入數據，t2 從文件隊列中讀取并打印數據。

2、內存隊列

內存隊列是一種使用內存作為隊列的存儲方式，可以用于在同一臺計算機上的進程間通信。在 Python 中，可以使用 queue 模塊中的 Queue 類來創建內存隊列。

下面是一個使用內存隊列實現線程間通信的示例：

import queue
import threading

def producer(q):
    for i in range(5):
        q.put(i)
        print(f'Produced {i}')

def consumer(q):
    while True:
        item = q.get()
        if item is None:
            break
        print(f'Consumed {item}')

if __name__ == '__main__':
    q = queue.Queue()
    t1 = threading.Thread(target=producer, args=(q,))
    t2 = threading.Thread(target=consumer, args=(q,))
    t1.start()
    t2.start()
    t1.join()
    q.put(None)
    t2.join()

在上述代碼中，創建了兩個線程 t1 和 t2，t1 向內存隊列中寫入數據，t2 從內存隊列中讀取并打印數據。

二、Python 中進程間通信的實現方式

在 Python 中，進程間通信可以使用多種方式實現，例如：

管道（Pipe）
隊列（Queue）
共享內存（Shared Memory）
套接字（Socket）

下面將詳細介紹這些方式。

管道的使用及其類型

管道是一種基于內存的通信機制，用于實現兩個進程之間的通信。在 Python 中，可以使用 multiprocessing 模塊中的 Pipe 類來創建管道。

管道類型分為兩種：匿名管道和命名管道。

1、匿名管道

匿名管道是一種臨時的管道，沒有名字，只能用于父進程和其創建的子進程之間的通信。匿名管道是雙向的，可以同時進行讀寫操作。

下面是一個使用匿名管道實現進程間通信的示例：

import multiprocessing

def sender(conn):
    conn.send('Hello, receiver!')
    conn.close()

def receiver(conn):
    msg = conn.recv()
    print(msg)
    conn.close()

if __name__ == '__main__':
    parent_conn, child_conn = multiprocessing.Pipe()
    p1 = multiprocessing.Process(target=sender, args=(parent_conn,))
    p2 = multiprocessing.Process(target=receiver, args=(child_conn,))
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向 p2 發送消息，p2 接收并打印消息。

2、命名管道

命名管道是一種持久的管道，有一個名字，可以用于任意進程之間的通信。在 Python 中，可以使用 os.mkfifo 函數來創建命名管道。

下面是一個使用命名管道實現進程間通信的示例：

import os

fifo_path = 'fifo_test'

def sender():
    with open(fifo_path, 'w') as f:
        f.write('Hello, receiver!')

def receiver():
    with open(fifo_path, 'r') as f:
        msg = f.read()
        print(msg)

if __name__ == '__main__':
    if not os.path.exists(fifo_path):
        os.mkfifo(fifo_path)
    p1 = multiprocessing.Process(target=sender)
    p2 = multiprocessing.Process(target=receiver)
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向命名管道中寫入消息，p2 從命名管道中讀取并打印消息。

multiprocessing 模塊中隊列的使用及其類型

multiprocessing 模塊中的隊列是一種多進程通信機制，可以用于實現多個進程之間的數據傳輸。在 Python 中，可以使用 multiprocessing 模塊中的 Queue 類來創建隊列。

multiprocessing 模塊中的隊列類型分為兩種：普通隊列和優先級隊列。

普通隊列

普通隊列是一種先進先出（FIFO）的隊列，可以用于在同一臺計算機上的進程間通信。在 Python 中，可以使用 multiprocessing 模塊中的 Queue 類來創建普通隊列。

下面是一個使用普通隊列實現進程間通信的示例：

import multiprocessing

def producer(q):
    for i in range(5):
        q.put(i)
        print(f'Produced {i}')

def consumer(q):
    while True:
        item = q.get()
        if item is None:
            break
        print(f'Consumed {item}')

if __name__ == '__main__':
    q = multiprocessing.Queue()
    p1 = multiprocessing.Process(target=producer, args=(q,))
    p2 = multiprocessing.Process(target=consumer, args=(q,))
    p1.start()
    p2.start()
    p1.join()
    q.put(None)
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向普通隊列中寫入數據，p2 從普通隊列中讀取并打印數據。

優先級隊列

優先級隊列是一種根據元素優先級排序的隊列，可以用于在同一臺計算機上的進程間通信。在 Python 中，可以使用 multiprocessing 模塊中的 PriorityQueue 類來創建優先級隊列。

下面是一個使用優先級隊列實現進程間通信的示例：

import multiprocessing

def producer(q):
    q.put((1, 'high-priority message'))
    q.put((2, 'low-priority message'))
    print('Messages sent')

def consumer(q):
    while True:
        item = q.get()
        if item is None:
            break
        print(f'Consumed {item[1]} with priority {item[0]}')

if __name__ == '__main__':
    q = multiprocessing.PriorityQueue()
    p1 = multiprocessing.Process(target=producer, args=(q,))
    p2 = multiprocessing.Process(target=consumer, args=(q,))
    p1.start()
    p2.start()
    p1.join()
    q.put(None)
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向優先級隊列中寫入數據，其中一個消息的優先級高于另一個消息，p2 從優先級隊列中讀取并打印數據。

以上就是 Python 中文件隊列、內存隊列、普通隊列和優先級隊列在線程和進程間通信的方式的完整代碼示例。需要注意的是，在使用隊列進行線程間或進程間通信時，需要進行同步和互斥操作，以避免數據競爭和其他并發問題。因此，在使用隊列進行線程間或進程間通信時，需要仔細設計和實現代碼，確保程序的正確性和穩定性。

共享內存的使用及其類型

共享內存是一種多個進程共享同一塊內存的通信機制，可以用于實現多個進程之間的高效通信。在 Python 中，可以使用 multiprocessing 模塊中的 Value 和 Array 類來創建共享內存。

共享內存類型分為兩種：基本類型和數組類型。

1、基本類型

基本類型是指 Python 中的基本數據類型，例如整數、浮點數等。在共享內存中，可以使用 Value 類來創建基本類型的共享內存。

下面是一個使用基本類型共享內存實現進程間通信的示例：

import multiprocessing

def sender(value):
    value.value = 1

def receiver(value):
    print(value.value)

if __name__ == '__main__':
    value = multiprocessing.Value('i', 0)
    p1 = multiprocessing.Process(target=sender, args=(value,))
    p2 = multiprocessing.Process(target=receiver, args=(value,))
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向共享內存中寫入整數值，p2 從共享內存中讀取并打印整數值。

2、數組類型

數組類型是指 Python 中的數組，可以使用 Array 類來創建數組類型的共享內存。

下面是一個使用數組類型共享內存實現進程間通信的示例：

import multiprocessing

def sender(arr):
    arr[0] = 1

def receiver(arr):
    print(arr[:])

if __name__ == '__main__':
    arr = multiprocessing.Array('i', range(10))
    p1 = multiprocessing.Process(target=sender, args=(arr,))
    p2 = multiprocessing.Process(target=receiver, args=(arr,))
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向共享內存中寫入整數數組，p2 從共享內存中讀取并打印整數數組。

套接字的使用及其類型

套接字是一種網絡通信機制，可以用于不同計算機之間的進程通信。在 Python 中，可以使用 socket 模塊來創建套接字。

套接字類型分為兩種：流套接字和數據報套接字。

1、流套接字

流套接字是一種基于 TCP 協議的套接字，可以實現可靠的面向連接的數據傳輸，適用于大量數據傳輸和長時間連接。在 Python 中，可以使用 socket 模塊中的 socket 類來創建流套接字。

下面是一個使用流套接字實現進程間通信的示例：

import socket

HOST = 'localhost'
PORT = 5000

def sender():
    with socket.socket(socket.AF_INET, socket.SOCK_STREAM) as s:
        s.connect((HOST, PORT))
        s.sendall(b'Hello, receiver!')

def receiver():
    with socket.socket(socket.AF_INET, socket.SOCK_STREAM) as s:
        s.bind((HOST, PORT))
        s.listen()
        conn, addr = s.accept()
        with conn:
            data = conn.recv(1024)
            print(data)

if __name__ == '__main__':
    p1 = multiprocessing.Process(target=sender)
    p2 = multiprocessing.Process(target=receiver)
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向流套接字中寫入消息，p2 從流套接字中讀取并打印消息。

2、數據報套接字

數據報套接字是一種基于 UDP 協議的套接字，可以實現無連接的數據傳輸，適用于少量數據傳輸和短時間連接。在 Python 中，可以使用 socket 模塊中的 socket 類來創建數據報套接字。

下面是一個使用數據報套接字實現進程間通信的示例：

import socket

HOST = 'localhost'
PORT = 5000

def sender():
    with socket.socket(socket.AF_INET, socket.SOCK_DGRAM) as s:
        s.sendto(b'Hello, receiver!', (HOST, PORT))

def receiver():
    with socket.socket(socket.AF_INET, socket.SOCK_DGRAM) as s:
        s.bind((HOST, PORT))
        data, addr = s.recvfrom(1024)
        print(data)

if __name__ == '__main__':
    p1 = multiprocessing.Process(target=sender)
    p2 = multiprocessing.Process(target=receiver)
    p1.start()
    p2.start()
    p1.join()
    p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向數據報套接字中寫入消息，p2 從數據報套接字中讀取并打印消息。

手動實現進程間通信

除了使用 Python 提供的多進程通信機制之外，還可以手動實現進程間通信。在 Python 中，可以使用共享內存和信號量來手動實現進程間通信。

下面是一個使用共享內存和信號量手動實現進程間通信的示例：

import multiprocessing
import mmap
import os
import signal
import time

def sender(data, sem):
    time.sleep(1)
    sem.acquire()
    data.seek(0)
    data.write(b'Hello, receiver!')
    sem.release()

def receiver(data, sem):
    sem.acquire()
    data.seek(0)
    print(data.read())
    sem.release()

if __name__ == '__main__':
    with multiprocessing.shared_memory() as mem:
        with mmap.mmap(mem.fd, mem.size) as data:
            data.write(b'\0' * mem.size)
            sem = multiprocessing.Semaphore(1)
            p1 = multiprocessing.Process(target=sender, args=(data, sem))
            p2 = multiprocessing.Process(target=receiver, args=(data, sem))
            p1.start()
            p2.start()
            p1.join()
            p2.join()

在上述代碼中，創建了兩個進程 p1 和 p2，p1 向共享內存中寫入消息，p2 從共享內存中讀取并打印消息。使用信號量來保證共享內存的互斥訪問。

總結

本文介紹了 Python 中常用的多線程和進程通信機制。這些機制可以滿足不同線程間的數據傳輸需要，應根據具體場景選擇合適的通信機制。

責任編輯：姜華來源：今日頭條

Python 多線程