跳转至

Server Workers - 使用 Workers 的 Uvicorn

让我们回顾一下之前的部署概念:

  • 安全性 - HTTPS
  • 启动时运行
  • 重启
  • 复制(运行的进程数量)
  • 内存
  • 启动前的预备步骤

到目前为止,在文档的所有教程中,你可能一直在运行一个服务器程序,例如使用 fastapi 命令运行 Uvicorn,运行单个进程

在部署应用程序时,你可能希望进行进程复制以利用多核优势并能够处理更多请求。

正如你在上一章关于部署概念中看到的,你可以使用多种策略。

在这里,我将向你展示如何使用 fastapi 命令或直接使用 uvicorn 命令来运行带有工作进程Uvicorn

Info

如果你正在使用容器,例如使用 Docker 或 Kubernetes,我将在下一章中详细介绍:容器中的 FastAPI - Docker

特别是在 Kubernetes 上运行时,你可能希望使用 workers,而是每个容器运行一个 Uvicorn 进程,但我将在该章节的后面部分详细说明。

多 Workers

你可以使用 --workers 命令行选项启动多个 workers:

如果你使用 fastapi 命令:

$ <font color="#4E9A06">fastapi</font> run --workers 4 <u style="text-decoration-style:solid">main.py</u>

  <span style="background-color:#009485"><font color="#D3D7CF"> FastAPI </font></span>  Starting production server 🚀

             Searching for package file structure from directories with
             <font color="#3465A4">__init__.py</font> files
             Importing from <font color="#75507B">/home/user/code/</font><font color="#AD7FA8">awesomeapp</font>

   <span style="background-color:#007166"><font color="#D3D7CF"> module </font></span>  🐍 main.py

     <span style="background-color:#007166"><font color="#D3D7CF"> code </font></span>  Importing the FastAPI app object from the module with the
             following code:

             <u style="text-decoration-style:solid">from </u><u style="-decoration-style:solid"><b>main</b></u><u style="text-decoration-style:solid"> import </u><u style="text-decoration-style:solid"><app</b></u>

      <span style="background-color:#007166"><font color="#D3D7CF"> app </font></span>  Using import string: <font color="#3465A4">main:app</font>

   <span style="background-color:#007166"><font color="#D3D7CF"> server </></span>  Server started at <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000</u></font>
   <span style="background-color:#007166"><font color="#D3D7CF"> server </font></span>  Documentation at <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000/docs</u></font>

             Logs:

     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Uvicorn running on <font color="#729FCF"><u style="text-decoration-style:solid">http://0.0.0.0:8000</u></font> <b>(</b>Press CTRL+C to
             quit<b>)</b>
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Started parent process <b>[</b><font color="#34E2E2"><b>27365</b></font><b>]</b>
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Started server process <b>[</b><font color="#34E2E2"><b>27368</b></font><b>]</b>
     <span style="background-color:#007166"><font color="#DD3D7CF"> INFO </font></span>  Started server process <b>[</b><font color="#34E2E2"><b>27369</b></font><b>]</b>
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Started server process <b>[</b><font color="#34E2E2"><b>27370</b></font><b>]</b>
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Started server process <b>[</b><font color="#34E2E2"><b>27367</b></font><b>]</b>
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Waiting for application startup.
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Waiting for application startup.
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Waiting for application startup.
     <span style="background-color:#007166"><font color="#D3DCF"> INFO </font></span>  Waiting for application startup.
     <span stylebackground-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Application startup complete.
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Application startup complete.
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Application startup complete.
     <span style="background-color:#007166"><font color="#D3D7CF"> INFO </font></span>  Application startup complete.

如果你更喜欢直接使用 uvicorn 命令:

$ uvicorn main:app --host 0.0.0.0 --port 8080 --workers 4
<font color="#A6E22E">INFO</font>:     Uvicorn running on <b>http://0.0.0.0:8080</b> (Press CTRL+C to quit)
<font color="#A6E22E">INFO</font>:     Started parent process [<font color="#A1EFE4"><b>27365</b></font>]
<font color="#A6E22E">INFO>:     Started server process [<font color="#A1EFE4">27368</font>]
<font color="#A6E22E">INFO</font>:     Waiting for application startup.
<font color="#A6E22E">INFO</font>:     Application startup complete.
<font color="#A6E22E">INFO</font>:     Started server process [<font color="#A1EFE4">27369</font>]
<font color="#A6E22E">INFO</font>:     Waiting for application startup.
<font color="#A6E22E">INFO</font>:     Application startup complete.
<font color="#A6E22E">INFO</font>:     Started server process [<font color="#A1EFE4">27370</font>]
<font color="#A6E22E">INFO</font>:     Waiting for application startup.
<font color="#A6E22E">INFO</font>:     Application startup complete.
<font color="#A6E22E">INFO</font>:     Started server process [<font color="#A1EFE4">27367</font>]
<font color="#A6E22E">INFO</font>:     Waiting for application startup.
<font color="#A6E22E">INFO</font>:     Application startup complete.

这里唯一的新选项是 --workers,它告诉 Uvicorn 启动 4 个工作进程。

你还可以看到它显示了每个进程的 PID,父进程(这是进程管理器)的 PID 为 27365,每个工作进程的 PID 分别为:27368273692737027367

部署概念

在这里,你看到了如何使用多个 workers并行化应用程序的执行,利用 CPU 中的多核优势,并能够服务更多请求

从上面的部署概念列表来看,使用 workers 主要有助于复制部分,并在一定程度上帮助重启,但你仍然需要处理其他方面:

  • 安全性 - HTTPS
  • 启动时运行
  • 重启
  • 复制(运行的进程数量)
  • 内存
  • 启动前的预备步骤

容器和 Docker

在下一章关于容器中的 FastAPI - Docker中,我将解释一些你可以用来处理其他部署概念的策略。

我将向你展示如何从头开始构建自己的镜像来运行单个 Uvicorn 进程。这是一个简单的过程,并且可能是你在使用分布式容器管理系统(如 Kubernetes)时想要做的事情。

回顾

你可以使用 fastapiuvicorn 命令的 --workers CLI 选项来使用多个工作进程,以利用多核 CPU并行运行多个进程

如果你正在设置自己的部署系统并同时自己处理其他部署概念,你可以使用这些工具和想法。

查看下一章,了解有关 FastAPI 与容器(例如 Docker 和 Kubernetes)的内容。你将看到这些工具也有简单的方法来解决其他部署概念。✨