如何在 S3 中将元素从 csv 提取到 json

Question

• 我需要从文件夹中找到 csv 文件
• 列出文件夹内的所有文件
• 将文件转换为json并保存在同一个桶中

csv文件，像下面这么多csv文件

emp_id,Name,Company
10,Aka,TCS
11,VeI,TCS

代码如下

import boto3
import pandas as pd
def lambda_handler(event, context):
    s3 = boto3.resource('s3')
    my_bucket = s3.Bucket('testfolder')
    for file in my_bucket.objects.all():
        print(file.key)
    for csv_f in file.key:
        with open(f'{csv_f.replace(".csv", ".json")}', "w") as f:
            pd.read_csv(csv_f).to_json(f, orient='index')

如果您删除存储桶名称将无法保存，它将保存在文件夹中。如何保存回存储桶名称

Answer 1

您可以查看以下代码：

from io import StringIO

import boto3
import pandas as pd

s3 = boto3.resource('s3')

def lambda_handler(event, context):
    
    s3 = boto3.resource('s3')
    
    input_bucket = 'bucket-with-csv-file-44244'
    
    my_bucket = s3.Bucket(input_bucket)
    
    for file in my_bucket.objects.all():
        
        if file.key.endswith(".csv"):
           
            csv_f = f"s3://{input_bucket}/{file.key}"
            
            print(csv_f)
            
            json_file = file.key.replace(".csv", ".json")
            
            print(json_file)
            
            json_buffer = StringIO()
            
            df = pd.read_csv(csv_f)
            
            df.to_json(json_buffer, orient='index')
            
            s3.Object(input_bucket, json_file).put(Body=json_buffer.getvalue())            

您的 lambda 层需要：

fsspec
pandas
s3fs