使用boto3和回调跟踪S3文件的下载进度

问题描述 投票:9回答:6

我正在尝试使用boto3从S3下载文本文件。

这是我写的。

class ProgressPercentage(object):
    def __init__(self, filename):
        self._filename = filename
        self._size = float(os.path.getsize(filename))
        self._seen_so_far = 0
        self._lock = threading.Lock()

    def __call__(self, bytes_amount):
        # To simplify we'll assume this is hooked up
        # to a single filename.
        with self._lock:
            self._seen_so_far += bytes_amount
            percentage = round((self._seen_so_far / self._size) * 100,2)
            LoggingFile('{} is the file name. {} out of {} done. The percentage completed is {} %'.format(str(self._filename), str(self._seen_so_far), str(self._size),str(percentage)))
            sys.stdout.flush()

并且我用]来称呼它>

transfer.download_file(BUCKET_NAME,FILE_NAME,'{}{}'.format(LOCAL_PATH_TEMP , FILE_NAME),callback = ProgressPercentage(LOCAL_PATH_TEMP + FILE_NAME))

这给我一个错误,指出文件夹中不存在该文件。显然,当我已经在同一文件夹中拥有此名称的文件时,它可以工作,但是当我下载新文件时,它会出错。

我需要做哪些更正?

我正在尝试使用boto3从S3下载文本文件。这是我写的。 class ProgressPercentage(object):def __init __(self,filename):self._filename = filename ...

python amazon-s3 callback boto3
6个回答
8
投票

callback = ProgressPercentage(LOCAL_PATH_TEMP + FILE_NAME))创建一个ProgressPercentage对象,运行其__init__方法,然后将该对象作为callback传递给download_file方法。这意味着__init__方法正在运行之前


7
投票

progressbar安装pip3 install progressbar


2
投票

对象client.head_object(Bucket=bucket, Key=filename)是字典。可以使用['ContentLength']访问文件大小。


1
投票

有人尝试这样做时可能会偶然发现此答案(根据问题标题)。我知道显示s3上传进度的最简单方法:


1
投票

信息


1
投票

official document之后,应用进度跟踪并不是很困难(download_file和upload_file函数相似)。这是完整的代码,并进行了一些修改,以便以首选方式查看数据大小。

© www.soinside.com 2019 - 2024. All rights reserved.