如何巧妙融合Tqdm进度条与Asyncio异步操作实现高效并行处理?
- 内容介绍
- 文章标签
- 相关推荐
本文共计1448个文字,预计阅读时间需要6分钟。
目录简介困扰现有方法tqdm异步tqdm概述将tqdm与异步集成简介在Python中使用并发编程来提高数据科学家的工作效率不限制见闻
后台观察各种子进程或并发线程,以保持高效工作。
目录
- 简介
- 困扰
- 已有方法
- tqdm
- 异步
- tqdm 概述
- 将 tqdm 与异步集成
简介
困扰
在 Python 中使用并发编程来提高效率对于数据科学家来说并不罕见。在后台观察各种子进程或并发线程以保持我的计算或 IO 绑定任务的顺序总是令人满意的。
但是还有一点困扰我的是,当我在后台并发处理成百上千个文件或者执行成百上千个进程时,我总是担心会不会有几个任务偷偷挂了,整个代码永远跑不完。我也很难知道代码现在在哪里执行。
最糟糕的是,当我看着一个空白屏幕时,很难说出我的代码需要多长时间才能执行或 ETA 是多少。这对我安排工作日程的能力非常不利。
因此,我想要一种方法让我知道代码执行到了哪里。
本文共计1448个文字,预计阅读时间需要6分钟。
目录简介困扰现有方法tqdm异步tqdm概述将tqdm与异步集成简介在Python中使用并发编程来提高数据科学家的工作效率不限制见闻
后台观察各种子进程或并发线程,以保持高效工作。
目录
- 简介
- 困扰
- 已有方法
- tqdm
- 异步
- tqdm 概述
- 将 tqdm 与异步集成
简介
困扰
在 Python 中使用并发编程来提高效率对于数据科学家来说并不罕见。在后台观察各种子进程或并发线程以保持我的计算或 IO 绑定任务的顺序总是令人满意的。
但是还有一点困扰我的是,当我在后台并发处理成百上千个文件或者执行成百上千个进程时,我总是担心会不会有几个任务偷偷挂了,整个代码永远跑不完。我也很难知道代码现在在哪里执行。
最糟糕的是,当我看着一个空白屏幕时,很难说出我的代码需要多长时间才能执行或 ETA 是多少。这对我安排工作日程的能力非常不利。
因此,我想要一种方法让我知道代码执行到了哪里。

