【问题标题】:AWS Neptune Connection Failed - Loading Data Into Neptune Cluster from S3 Bucket using CURL commandAWS Neptune 连接失败 - 使用 CURL 命令从 S3 存储桶将数据加载到 Neptune 集群
【发布时间】:2021-10-02 11:51:06
【问题描述】:

我正在尝试将 RDF N-triples 数据从 S3 存储桶批量加载到 Neptune 加载程序中。我已经按照以下链接 https://docs.aws.amazon.com/neptune/latest/userguide/bulk-load-data.html 创建了一个 S3 存储桶、IAM 角色、端点和 Neptune 集群。

我正在尝试使用命令提示符从 Windows 本地执行 CURL 命令以加载数据,

curl -X POST -H "Content-Type: application/json" https://<clusterEndpoint>:<clusterPort>/loader -d "{\"source\":\"s3://<bucketName>\",\"format\":\"ntriples\",\"iamRoleArn\":\"arn:aws:iam::<account-id>:role/<role-name>\",\"region\":\""<region>\",\"failOnError\":\"FALSE\",\"parallelism\":\"MEDIUM\",\"updateSingleCardinalityProperties\":\"FALSE\",\"queueRequest\":\"TRUE\"}"

在执行上述 Curl 命令时,我收到以下错误,

Failed to connect to <neptuneClusterEndoint> port <portNumber>: Timed out

另外,当我尝试使用命令 curl http://&lt;neptuneCluster&gt;:&lt;portNumber&gt;/status 检查集群状态时,我遇到了同样的超时错误。

我正在尝试使用 Curl 命令进行 Neptune 加载而不创建 EC2 实例。我可以知道为什么我收到连接失败错误吗?有没有办法使用 curl 命令成功加载 Neptune?

【问题讨论】:

    标签: amazon-web-services curl amazon-neptune


    【解决方案1】:

    curl 命令需要能够访问 Neptune VPC。例如,这可以通过 SSH 隧道上的 EC2 堡垒主机。当您试图避免使用 EC2 时,您需要设置一种替代方式来访问 Neptune,例如负载均衡器。只要 Lambda 函数可以访问 VPC,您也可以使用 Lambda 函数。您可以决定连接许多其他方式,但由于 Neptune 不公开公共 IP 地址,您需要为 curl 命令配置访问该 VPC 的方式。另请注意,如果您在 Neptune 集群上启用了 IAM 身份验证,则必须使用 SigV4 凭证对请求进行签名。

    如果您配置了 Neptune Notebook,则只需使用 %load 命令,它还可以为您处理任何 SigV4 需求。

    【讨论】:

    • 谢谢。我尝试创建一个 Lambda 函数,提供对 vpc、安全组、子网等的访问权限。我创建了一个函数来检查集群状态,但我收到了错误 "errorMessage": "2021-07-27T08:03:11.866Z &lt;requestid&gt; Task timed out after 3.00 seconds"。我可以知道为什么会出现此错误吗?
    • 另外,如何在本地连接到我的内部应用程序负载均衡器,以便我可以使用 curl 命令批量加载 Neptune?如果有的话,你能分享一些步骤吗?
    • Lambda 函数的默认超时时间为 3 秒。您可以将其增加到 15 分钟。在下面的链接中有一个关于使用负载平衡器的很好的讨论。对于简单的开发和测试,您不必实现所讨论的所有内容。 github.com/aws-samples/aws-dbs-refarch-graph/tree/master/src/…
    猜你喜欢
    • 2022-08-08
    • 2019-03-08
    • 2019-06-04
    • 2019-08-10
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    • 2023-01-30
    • 2023-01-18
    相关资源
    最近更新 更多