【问题标题】:Using ftplib for multithread uploads使用 ftplib 进行多线程上传
【发布时间】:2010-03-31 01:20:41
【问题描述】:

我正在尝试进行多线程上传,但出现错误。 我猜想ftplib可能无法使用多线程?

我的代码来了:

    class myThread (threading.Thread):
    def __init__(self, threadID, src, counter, image_name):
        self.threadID = threadID
        self.src = src
        self.counter = counter
        self.image_name = image_name
        threading.Thread.__init__(self)
    def run(self):
        uploadFile(self.src, self.image_name)

def uploadFile(src, image_name):
    f = open(src, "rb")            
    ftp.storbinary('STOR ' + image_name, f)
    f.close()

ftp = FTP('host')   # connect to host, default port
ftp.login()               # user anonymous, passwd anonymous@   
dirname = "/home/folder/"
i = 1   
threads = []

for image in os.listdir(dirname):
    if os.path.isfile(dirname + image):
        thread = myThread(i , dirname + image, i, image )   
        thread.start()
        threads.append( thread )        
        i += 1  

for t in threads:
    t.join()

获取一堆 ftplib 错误,例如

引发error_reply,resp error_reply: 200 类型设置为 I

如果我尝试一个一个上传,一切正常

【问题讨论】:

  • 即使 ftplib 确实支持多线程,这将如何工作?您的每个线程都尝试上传所有相同的文件
  • 为什么是一样的?如果我只是在同一个“for”循环中调用函数而不使用线程,则工作正确。它传递文件夹中的所有文件
  • 糟糕,误读了文件打开代码。无论哪种方式,我认为假设该库不提供线程安全或并发 ftp 会话是非常安全的。
  • 不管怎样,ftplib 不支持多线程,是吗?
  • 太糟糕了。即使连接良好,也需要很长时间才能上传大量文件

标签: python multithreading ftplib


【解决方案1】:

您是否尝试将连接代码放入线程中?

换句话说,让每个线程使用 FTP.host() 和 FTP.login() 进行自己的单独连接。服务器可能不喜欢在单个连接上同时进行多个上传,因为它可能一次解析一个命令并且无法处理第二个上传或“STOR”命令。但是,如果您可以从同一个 IP 地址进行多个连接,您将有单独的会话来发出“STOR”命令。

这是一个例子:

    class myThread (threading.Thread):
        def __init__(self, threadID, src, counter, image_name):
             ###############
             #Add ftp connection here!
             self.ftp = FTP('host')   # connect to host, default port
             self.ftp.login()               # user anonymous, passwd anonymous@   
             ################
             self.threadID = threadID
             self.src = src
             self.counter = counter
             self.image_name = image_name
             threading.Thread.__init__(self)
        def run(self):
             uploadFile(self.src, self.image_name)

    def uploadFile(src, image_name):
          f = open(src, "rb")            
          self.ftp.storbinary('STOR ' + image_name, f)
          f.close()

     dirname = "/home/folder/"
     i = 1   
     threads = []

     for image in os.listdir(dirname):
          if os.path.isfile(dirname + image):
             thread = myThread(i , dirname + image, i, image )   
             thread.start()
             threads.append( thread )        
             i += 1  

      for t in threads:
          t.join()

看看效果是否更好。

附:不确定我的所有标签是否都对齐。

【讨论】:

  • 谢谢,这行得通,尽管这种方法比不使用多线程上传要慢。所以也许我应该找到另一个库或忍受单线程上传
  • 很好奇为什么这更慢。有什么见解吗?
  • @Matt 由于与 ftp 服务器的多个连接,速度较慢
猜你喜欢
  • 2022-01-02
  • 2023-03-12
  • 1970-01-01
  • 2010-12-10
  • 2012-03-08
  • 1970-01-01
  • 1970-01-01
  • 2015-09-26
相关资源
最近更新 更多