阅读量:0
在Python中,可以使用线程池来实现并发请求数据。下面是一个简单的示例代码:
import requests from concurrent.futures import ThreadPoolExecutor # 定义请求函数 def fetch(url): response = requests.get(url) return response.text # 定义线程池处理函数 def handle_requests(urls): # 创建线程池 with ThreadPoolExecutor(max_workers=5) as executor: # 提交请求任务到线程池 futures = [executor.submit(fetch, url) for url in urls] # 获取请求结果 for future in futures: result = future.result() # 处理请求结果 # ... # 主函数 if __name__ == "__main__": urls = ["http://example.com", "http://example.org", "http://example.net"] handle_requests(urls)
在上面的代码中,首先定义了一个fetch
函数,用于发起HTTP请求并返回响应结果。然后定义了一个handle_requests
函数,该函数接受一个URL列表作为参数,使用线程池来并发发起请求。最后,在主函数中调用handle_requests
函数并传入URL列表。
值得注意的是,ThreadPoolExecutor
是Python标准库concurrent.futures
中的一个线程池实现,通过submit
方法可以将任务提交到线程池中,并返回一个Future
对象。通过调用Future
对象的result
方法可以获取任务的结果。在实际使用中,可以根据具体需求对请求结果进行处理。
需要注意的是,在使用线程池处理并发请求时,需要考虑到线程安全的问题,以及合理控制线程池的大小,避免过多的线程造成系统资源的浪费。