python多进程共享可操作变量, 如何保证原子操作？
需求分析
为了确保多进程共享可操作变量的原子操作，需要：
- 维护一个共享变量：使用多处理模块中的manager对象可以创建共享变量。
- 实现原子操作：使用锁机制来保证共享变量的修改在任意时刻仅由一个进程执行。
问题场景
在本文给出的演示代码中，使用共享变量作为计数器，当多个进程同时读取和修改它时，会出现竞争条件，导致变量值不正确。
解决方案
解决此问题的关键是确保共享变量的修改操作是原子的。修改后的代码如下：
from concurrent.futures import ProcessPoolExecutor import ctypes from multiprocessing import Manager, Lock import os # 创建 Manager 和 Lock manager = Manager() m = manager.Value(ctypes.c_int, 0) lock = manager.Lock() def calc_number(x: int, y: int, _m, total_tasks: int, _lock): # 模拟耗时任务函数 # 模拟耗时计算 res = x ** y # 用锁来保证原子操作 with _lock: _m.value += 1 current_value = _m.value # 当总任务数量和_m.value相等的时候, 通知第三方任务全部做完了 if current_value == total_tasks: print(True) print(f"m_value: {current_value}, p_id: {os.getpid()}, res: {res}") def main(): # 任务参数 t1 = (100, 200, 300, 400, 500, 600, 700, 800) t2 = (80, 70, 60, 50, 40, 30, 20, 10) len_t = len(t1) # 多进程执行任务 with ProcessPoolExecutor(max_workers=len_t) as executor: for x, y in zip(t1, t2): executor.submit(calc_number, x, y, m, len_t, lock) if __name__ == "__main__": main()
说明
- 使用manager创建共享变量m和锁lock。
- calc_number函数中使用with锁来保证m.value的修改操作是原子的。即，每次只有一个进程可以访问m.value。
- 这样就避免了多个进程同时读取和修改变量的问题，确保了原子操作。
