Show Menu
主题×

部分批摄取

部分批量摄取是指能够摄取包含错误的数据,最高可达到某个阈值。 借助此功能,用户可以成功将其所有正确数据引入Adobe Experience Platform,同时单独对其所有错误数据进行批处理,并详细了解其无效原因。
此文档提供了管理部分批摄取的教程。
此外,本教程 的附录 ,还提供了部分批量摄取错误类型的参考。

入门指南

本教程需要掌握与部分批量摄取相关的各种Adobe Experience Platform服务的相关工作知识。 在开始本教程之前,请查看以下服务的相关文档:
以下各节提供了成功调用API所需了解的其他信 Platform 息。

读取示例API调用

本指南提供示例API调用,以演示如何格式化请求。 这包括路径、必需的标头和格式正确的请求负载。 还提供API响应中返回的示例JSON。 有关示例API调用文档中使用的惯例的信息,请参阅疑难解答 指南中有关如何阅读示例API调 用 Experience Platform 一节。

收集所需标题的值

要调用API,您必 Platform 须先完成身份验证 教程 。 完成身份验证教程可为所有API调用中的每个所需 Experience Platform 标头提供值,如下所示:
  • 授权: 承载者 {ACCESS_TOKEN}
  • x-api-key: {API_KEY}
  • x-gw-ims-org-id: {IMS_ORG}
中的所有资源 Experience Platform 都与特定虚拟沙箱隔离。 对平台API的所有请求都需要一个标头,它指定操作将在以下位置进行的沙箱的名称:
  • x-sandbox-name: {SANDBOX_NAME}
有关中沙箱的详细信 Platform息,请参阅 沙箱概述文档

在API中启用批以进行部分批摄取

本节介绍如何使用API启用批处理以进行部分批处理获取。 有关使用UI的说明,请阅读在UI 步骤中启用批以进行部分批摄取
您可以创建启用了部分摄取的新批。
要创建新批,请按照批摄取开发人员指 南中的步骤操作 。 到达创建批 处理步骤 后,在请求主体中添加以下字段:
{
    ...
    "enableErrorDiagnostics": true,
    "partialIngestionPercentage": 5
    ...
}

属性
描述
enableErrorDiagnostics
用于生成有关 Platform 批的详细错误消息的标志。
partialIngestionPercentage
整个批处理失败之前可接受错误的百分比。 因此,在本示例中,最多5%的批可能是错误,然后才会失败。

在UI中启用批以进行部分批摄取

本节介绍如何使用UI启用批以进行部分批摄取。 如果已使用API启用批处理以进行部分批处理获取,则可跳到下一节。
要通过UI启用批处理以进行部分 Platform 摄取,您可以通过源连接创建新批处理,在现有数据集中创建新批处理,或通过“将CSV映射到XDM流”创建新批。

创建新源连接

要创建新的源连接,请按照“源”概述中列出 的步骤操作 。 进入“数据 流详细信息 ”步骤后,请注意“部 分摄取 ”和“ 错误诊断 ”字段。
“部 分摄取 ”切换允许您启用或禁用部分批摄取。
仅当 “部分摄取 ”切换关闭时,才 会显示 “错误诊断”切换。 此功能允许 Platform 生成有关所摄取批的详细错误消息。 如果打 开“部分摄取 ”切换,将自动实施增强的错误诊断。
“错 误阈值 ”允许您在整个批处理失败之前设置可接受错误的百分比。 默认情况下,此值设置为5%。

使用现有数据集

要使用现有数据集,请通过选择开始集进行。 右侧的提要栏会填充有关数据集的信息。
“部 分摄取 ”切换允许您启用或禁用部分批摄取。
仅当 “部分摄取 ”切换关闭时,才 会显示 “错误诊断”切换。 此功能允许 Platform 生成有关所摄取批的详细错误消息。 如果打 开“部分摄取 ”切换,将自动实施增强的错误诊断。
“错 误阈值 ”允许您在整个批处理失败之前设置可接受错误的百分比。 默认情况下,此值设置为5%。
现在,您可以使用“添加数 据”按钮 ,并且将使用部分摄取来摄取数据。

使用“将CSV映射到XDM模式”流

要使用“将CSV映射到XDM模式”流程,请按照映射CSV文件教 程中列出的步骤操作 。 进入“添加数 ”步骤后,请注意“部 分摄取 ”和“ 错误诊断 ”字段。
“部 分摄取 ”切换允许您启用或禁用部分批摄取。
仅当 “部分摄取 ”切换关闭时,才 会显示 “错误诊断”切换。 此功能允许 Platform 生成有关所摄取批的详细错误消息。 如果打 开“部分摄取 ”切换,将自动实施增强的错误诊断。
“错 误阈值 ”允许您在整个批处理失败之前设置可接受错误的百分比。 默认情况下,此值设置为5%。

检索部分批摄取错误

如果批包含失败,您需要检索有关这些失败的错误信息,以便重新摄取数据。

检查状态

要检查所摄取批的状态,必须在GET请求的路径中提供该批的ID。
API格式
GET /catalog/batches/{BATCH_ID}

参数
描述
{BATCH_ID}
id 检查其状态的批的值。
请求
curl -X GET https://platform.adobe.io/data/foundation/catalog/batches/{BATCH_ID} \
  -H 'Authorization: Bearer {ACCESS_TOKEN}' \
  -H 'x-api-key: {API_KEY}' \
  -H 'x-gw-ims-org-id: {IMS_ORG}' \
  -H 'x-sandbox-name: {SANDBOX_NAME}'

响应
成功的响应返回HTTP状态200,其中包含有关批处理状态的详细信息。
{
    "af838510-2233-11ea-acf0-f3edfcded2d2": {
        "status": "success",
        "tags": {
            ...
            "acp_enableErrorDiagnostics": true,
            "acp_partialIngestionPercent": 5
            ...
        },
        "relatedObjects": [
            {
                "type": "dataSet",
                "id": "5deac2648a19d218a888d2b1"
            }
        ],
        "id": "af838510-2233-11ea-acf0-f3edfcded2d2",
        "externalId": "af838510-2233-11ea-acf0-f3edfcded2d2",
        "inputFormat": {
            "format": "parquet"
        },
        "imsOrg": "{IMS_ORG}",
        "started": 1576741718543,
        "metrics": {
            "inputByteSize": 568,
            "inputFileCount": 4,
            "inputRecordCount": 519,
            "outputRecordCount": 497
        },
        "completed": 1576741722026,
        "created": 1576741597205,
        "createdClient": "{API_KEY}",
        "createdUser": "{USER_ID}",
        "updatedUser": "{USER_ID}",
        "updated": 1576741722644,
        "version": "1.0.5"
    }    
}

如果批处理有错误并启用了错误诊断,状态将“成功”,并在可下载的错误文件中提供更多有关错误的信息。

后续步骤

本教程介绍了如何创建或修改数据集以启用部分批量摄取。 有关批量摄取的详细信息,请阅读批 量摄取开发人员指南

部分批摄取错误类型

部分批量摄取在摄取数据时有四种不同的错误类型。

不可读文件

如果所摄取的批次具有不可读的文件,则批次的错误将附加到该批次本身。 有关检索失败批次的详细信息,请参阅检 索失败批次指南

模式或标题无效

如果所摄取的批具有无效的模式或无效的题头,则该批的错误将附加到该批本身。 有关检索失败批次的详细信息,请参阅检 索失败批次指南

不可分行

如果所摄取的批次具有不可分割的行,则该批次的错误将存储在文件中,可使用下面概述的端点进行访问。
API格式
GET /export/batches/{BATCH_ID}/failed?path=parse_errors

参数
描述
{BATCH_ID}
id 从中检索错误信息的批的值。
请求
curl -X GET https://platform.adobe.io/data/foundation/export/batches/{BATCH_ID}/failed?path=parse_errors \
  -H 'Authorization: Bearer {ACCESS_TOKEN}' \
  -H 'x-api-key: {API_KEY}' \
  -H 'x-gw-ims-org-id: {IMS_ORG}' \
  -H 'x-sandbox-name: {SANDBOX_NAME}'

响应
成功的响应返回HTTP状态200,其中包含不可分行的详细信息。
{
    "_corrupt_record":"{missingQuotes:"v1"}",
    "_errors": [{
         "code":"1401",
         "message":"Row is corrupted and cannot be read, please fix and resend."
    }],
    "_filename": "a1.json"
}

XDM转换无效

如果所摄取的批处理具有无效的XDM转换,则批处理的错误将存储在文件中,可通过以下端点访问该文件。
API格式
GET /export/batches/{BATCH_ID}/failed?path=conversion_errors

参数
描述
{BATCH_ID}
id 从中检索错误信息的批的值。
请求
curl -X GET https://platform.adobe.io/data/foundation/export/batches/{BATCH_ID}/failed?path=conversion_errors \
  -H 'Authorization: Bearer {ACCESS_TOKEN}' \
  -H 'x-api-key: {API_KEY}' \
  -H 'x-gw-ims-org-id: {IMS_ORG}' \
  -H 'x-sandbox-name: {SANDBOX_NAME}'

响应
成功的响应返回HTTP状态200,其中包含XDM转换失败的详细信息。
{
    "col1":"v1",
    "col2":"v2",
    "col3":[{
        "g1":"h1"
    }],
    "_errors":[{
        "column":"col3",
        "code":"123",
        "message":"Cannot convert array element from Object to String"
    }],
    "_filename":"a1.json"
},
{
    "col1":"v1",
    "col2":"v2",
    "col3":[{
        "g1":"h1"
    }],
    "_errors":[{
        "column":"col1",
        "code":"100",
        "message":"Cannot convert string to float"
    }],
    "_filename":"a2.json"
}