在Run_in_Executor中运行图像处理。适应多处理

Running Image Manipulation in run_in_executor. Adapting to multiprocessing(在Run_in_Executor中运行图像处理。适应多处理)
本文介绍了在Run_in_Executor中运行图像处理。适应多处理的处理方法,对大家解决问题具有一定的参考价值,需要的朋友们下面随着小编来一起学习吧!

问题描述

嘿,我在使用Fastapi异步构建的API上运行了大量的图像操作。我希望能够异步运行图像处理。因此,我使用了Run_in_Executor,我相信它是在一个单独的线程中运行的。然而,有人告诉我,改用python多处理更好。搬家有什么好处吗?

import asyncio
import functools

from app.exceptions.errors import ManipulationError


def executor(function):
    @functools.wraps(function)
    def decorator(*args, **kwargs):
        try:
            partial = functools.partial(function, *args, **kwargs)
            loop = asyncio.get_event_loop()
            return loop.run_in_executor(None, partial)
        except Exception:
            raise ManipulationError("Uanble To Manipulate Image")

    return decorator

我制作此修饰器是为了将我的阻塞函数包装为在Executor中运行。

两个问题

a)转移到多进程是否有任何优势

b)我该如何操作

推荐答案

a)转移到多进程是否有任何优势

是,在处理CPU受限的情况下使用多核。

b)我该如何操作

ProcessPoolExecutor的实例传递给run_in_executor。(您现在传递的None值意味着使用asyncio提供的默认执行程序,它是ThreadPoolExecutor。)例如(未测试):

_pool = concurrent.futures.ProcessPoolExecutor()

def executor(function):
    @functools.wraps(function)
    def decorator(*args):
        loop = asyncio.get_event_loop()
        return loop.run_in_executor(_pool, function, *args)

    return decorator

这还要求函数的所有参数都是可序列化的,以便可以将它们传输到子进程。

这篇关于在Run_in_Executor中运行图像处理。适应多处理的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!

本站部分内容来源互联网,如果有图片或者内容侵犯您的权益请联系我们删除!

相关文档推荐

Leetcode 234: Palindrome LinkedList(Leetcode 234:回文链接列表)
How do I read an Excel file directly from Dropbox#39;s API using pandas.read_excel()?(如何使用PANDAS.READ_EXCEL()直接从Dropbox的API读取Excel文件?)
subprocess.Popen tries to write to nonexistent pipe(子进程。打开尝试写入不存在的管道)
I want to realize Popen-code from Windows to Linux:(我想实现从Windows到Linux的POpen-code:)
Reading stdout from a subprocess in real time(实时读取子进程中的标准输出)
How to call type safely on a random file in Python?(如何在Python中安全地调用随机文件上的类型?)