Show Menu
主题×

日志源

日志源是指包含要用于构建数据集的数据的文件。
日志源中提供的数据称为事件数据,因为每条数据记录都表示一条交易记录或一个事件的单个实例。The data workbench server can process log sources that are derived from data collected by Sensors or extracted from other data sources.
  • Data Collected by Sensors: Data collected by Sensors from HTTP and application servers is transmitted to data workbench servers, which convert the data into highly compressed log ( .vsl) files. 请参阅 传感器文件
  • Insight Server 提取的数据: Data Workbench Server 会读取无格式文件、XML 文件或 ODBC 兼容数据库中包含的事件数据,并使用其解码器提取所需的数据元素。此类事件数据不必驻留在内存中,但包含该数据的记录必须包含跟踪ID。 请参 阅日志文件 XML日志源 ODBC数据源
添加日志源
  1. Open Log Processing.cfg in data workbench.
  2. 右键单击, Log Sources ​然后单击 Add New
  3. 选择下列选项之一:
    • Sensor
    • Log File
    • XML Log Source
    • ODBC Data Source
  4. 用于定义数据集的具体参数会因数据集的配置过程中要使用的日志源类型而有所不同。请按照相应的日志源所对应的章节中的说明指定参数:
  5. 当您在 Log Processing.cfg 文件中定义日志源(并对其他参数做出更改)之后,将该文件保存在本地,然后将其保存到 Data Workbench Server 上的数据集配置文件中。
    A data workbench server File Server Unit can receive and store Sensor files, log files, and XML files and serve them to the data workbench server's Data Processing Units that construct the dataset. See Configuring an Insight Server File Server Unit .
    You can open the configuration of any log source from a Transformation Dependency Map. 有关信息,请 Transformation Dependency Map参阅数 据集配置工具

要求

Event data collected by Sensors from HTTP and application servers is transmitted to data workbench servers, which convert the data into highly compressed log ( .vsl) files. The .vsl file format is managed by the data workbench server, and each file has a name of the format:
YYYYMMDD- SENSORID .VSL
where YYYYMMDD is the date of the file, and SENSORID is the name (assigned by your organization) that indicates which Sensor collected and transmitted the data to the data workbench server.

参数

For Sensor files, the following parameters are available:
参数 描述
Log Paths(日志路径)
存储 .vsl 文件的目录。默认位置为 Logs 目录。相对路径指 Data Workbench Server 的安装目录。
您可以使用通配符指定要处理的 .vsl 文件:
  • * 匹配任意数量的字符
  • ? 匹配单个字符
例如,日志路径 Logs\*.vsl 匹配的是 Logs 目录中以 .vsl 结尾的所有文件。日志路径 Logs\*-SENSOR?.vsl 匹配的是 Logs 目录中带有任何日期 (YYYYMMDD) 且在 SENSOR 后面跟有一个字符(例如 SENSOR1)的文件。
如果您想要搜索指定路径的所有子目录,则必须将 Recursive(递归)参数设为 true。
注意:如果要从 Data Workbench Server 的 文件服务器单元 中读取文件,则必须在 Log Paths(日志路径)参数中输入相应的 URI。例如, URI/Logs/*-*.vsl 匹配的是 Logs 目录中的所有 .vsl 文件。See Configuring an Insight Server File Server Unit .
Log Server(日志服务器) 连接到文件服务器所需的信息(地址、名称、端口等)。如果 Log Server(日志服务器)参数中有一个条目,则 Log Paths (日志路径)会被解释为 URI。否则,它们会被解释为本地路径。请参阅 配置 Insight Server 文件服务器单元 .
Log Source ID(日志源 ID)
此参数的值可以是任意字符串。如果指定了某个值,则此参数可让您将来自不同日志源的日志条目区分开,以便进行源识别或目标处理。x-log-source-id 字段填充了用于识别每个日志条目的日志源的值。例如,如果您想要识别名为 VSensor01 的 传感器 中的日志条目,则可以键入 from VSensor01 ,然后该字符串将会传递到该源中每个日志条目的 x-log-source-id 字段。
有关x-log-source-id字段的信息,请参阅事件数据 记录字段
Recursive(递归) true 或 false。如果设为 true,则系统会在“ 日志路径 ”中指定的每个路径的所有子目录中搜索与指定文件名或通配符模式匹配的文件。默认值为 false。
Use Start/End Times(使用开始/结束时间)
true 或 false。如果设为 true,并且指定了“开始时间”或“结束时间”,则此日志源的所有文件名称必须以 ISO 格式 (YYYYMMDD) 的日期开头。假定每个文件都包含某一 GMT 日期(例如,时间范围从某一天的 0000 GMT 开始,到第二天的 0000 GMT 结束)的数据。如果日志源的文件包含的数据与 GMT 日期不对应,则此参数必须设为 false 才能避免产生错误结果。
注意:默认情况下,包含 传感器 收集数据的 .vsl 文件会自动符合上述命名和时间范围要求。如果将此参数设为 true,则 Data Workbench Server 会始终处理名称中包含的 ISO 日期介于指定“开始时间”和“结束时间”之间的文件数据。如果您将此参数设为 false,则 Data Workbench Server 会在日志处理过程中读取所有 .vsl 文件,以确定哪些文件包含介于“开始时间”和“结束时间”之间的数据。
For information about the Start Time and End Time parameters, see Data Filters .
Do not use the configuration parameters for Sensor data sources to determine which log entries within a log file should be included in a dataset. 而是将数据源设置为指向目录内的所有日志文件。然后使用 Log Processing.cfg 的 Start Time(开始时间)和 End Time(结束时间)参数确定构建数据集时使用的日志条目。请参 阅数据过滤器
包含事件数据的文件必须满足以下条件:
  • 文件中的每条事件数据记录必须由一行表示。
  • 记录中的字段无论是否为空,都必须以 ASCII 分隔符分隔。Data Workbench Server 不要求使用特定的分隔符。您可以使用任意不属于行结束字符,并且不会出现在事件数据本身任何位置的字符。
  • 文件中的每条记录必须包含:
    • 跟踪 ID
    • 时间戳
  • 若要指定数据处理的开始时间和结束时间,每个文件名必须采用以下格式:
    • YYYYMMDD-SOURCE.log
    其中 YYYYMMDD 是文件中所有数据的格林威治标准时间 (GMT) 日期; SOURCE 是一个变量,用于识别文件中包含数据的源。
    请联系Adobe Consulting Services以查看您计划合并到数据集中的日志文件。

参数

对于日志文件日志源,有下表中的参数可用。
The processing of log file log sources requires additional parameters that are defined in a Log Processing Dataset Include file, which contains a subset of the parameters included in a Log Processing.cfg file as well as special parameters for defining decoders for extracting data from the log file. 有关为日志文件日志源定义解码器的信息,请参 阅文本文件解码器组
参数 描述
名称 日志文件源的标识符。
Log Paths(日志路径)
存储日志文件的目录。默认位置为 Logs 目录。相对路径指 Data Workbench Server 的安装目录。
您可以使用通配符指定要处理的日志文件:
  • * 匹配任意数量的字符。
  • ? 匹配单个字符。
例如,日志路径 Logs\*.log 匹配 Logs 目录中以 .log 结尾的所有文件。
如果您想要搜索指定路径的所有子目录,则必须将 Recursive(递归)参数设为 true。
如果要从 Data Workbench Server 的 文件服务器单元 中读取文件,则必须在 Log Paths(日志路径)参数中输入相应的 URI。例如, URI/Logs/*.log 匹配的是 Logs 目录中的所有 .log 文件。See Configuring an Insight Server File Server Unit .
Log Server(日志服务器) 连接到文件服务器所需的信息(地址、名称、端口等)。如果 Log Server(日志服务器)参数中有一个条目,则 Log Paths (日志路径)会被解释为 URI。否则,它们会被解释为本地路径。请参阅 配置 Insight Server 文件服务器单元 .
Compressed(已压缩) true 或 false。如果 Data Workbench Server 要读取的日志文件已压缩为 gzip 文件,则此值应该设为 true。
Decoder Group(解码器组) 要应用于日志文件日志源的文本文件解码器组的名称。此名称必须与 日志处理数据集包含 文件中指定的相应文本文件解码器组的名称完全匹配。See Text File Decoder Groups .
Log Source ID(日志源 ID)
此参数的值可以是任意字符串。如果指定了某个值,则此参数可让您将来自不同日志源的日志条目区分开,以便进行源识别或目标处理。x-log-source-id 字段填充了用于识别每个日志条目的日志源的值。例如,如果您想要识别名为 LogFile01 的日志文件源中的日志条目,则可以键入 from LogFile01 ,然后该字符串将会传递到该源中每个日志条目的 x-log-source-id 字段。
有关x-log-source-id字段的信息,请参阅事件数据 记录字段
Mask Pattern(掩码模式)
具有单个捕获子模式的正则表达式,可提取用于识别一系列日志文件源的一致名称。仅考虑文件名。对于正则表达式匹配,不考虑路径和扩展名。如果您没有指定 掩码模式 ,则系统会自动生成掩码。
对于 Logs\010105server1.log Logs\010105server2.log 文件, 掩码模式 将为 [0-9]{6}(.*)。此模式从以上文件名中提取字符串“server1”或“server2”。
请参阅 正则表达式 .
Recursive(递归) true 或 false。如果此参数设为 true,则系统会在“ 日志路径 ”中指定的每个路径的所有子目录中搜索与指定文件名或通配符模式匹配的文件。默认值为 false。
Reject File(拒绝文件) 包含的日志条目不符合解码器条件的文件路径和名称。
Use Start/End Times(使用开始/结束时间)
true 或 false。如果此参数设为 true,并且指定了“开始时间”或“结束时间”,则此日志源的所有文件名称必须以 ISO 格式 (YYYYMMDD) 的日期开头。假定每个文件都包含某一 GMT 日期(例如,时间范围从某一天的 0000 GMT 开始,到第二天的 0000 GMT 结束)的数据。如果日志源的文件名没有以 ISO 日期开头,或者文件包含的数据与 GMT 日期不对应,则此参数必须设为 false 才能避免产生错误结果。
注意:如果日志文件满足上述命名和时间范围要求,并且您将此参数设为 true,则指定的文本文件解码器组会将读取的文件限制为名称中含有的 ISO 日期介于指定“开始时间”和“结束时间”之间的文件。如果您将此参数设为 false,则 Data Workbench Server 会在日志处理过程中读取所有日志文件,以确定哪些文件包含介于“开始时间”和“结束时间”之间的数据。
有关 Start Time(开始时间)和 End Time(结束时间)参数的信息,请参阅 数据过滤器
在此示例中,数据集从两种类型的日志源构建。
Log Source 0 specifies log files generated from event data captured by Sensor. This data source points to a directory called Logs and to all of the files in that directory with a .vsl file name extension.
Log Source 1 points to all of the files in the Logs directory with a .txt file name extension. 此日志源的解码器组称为“文本日志”。
在定义了数据集的数据源之后,请勿删除或移动日志文件。只能将新创建的日志文件添加到数据源的目录中。
包含事件数据的文件必须满足以下条件:
  • 事件数据必须包含在格式正确且具有相应父子关系的 XML 文件中。
  • 每种 XML 文件格式都必须具有唯一的解码器组。有关构建解码器组的信息,请参阅 XML 解码器组 .
  • 文件中的每条访客记录必须包含:
    • 跟踪 ID
    • 时间戳
  • 若要指定数据处理的开始时间和结束时间,每个文件名必须采用以下格式:
YYYYMMDD-SOURCE.log
其中 YYYYMMDD 是文件中所有数据的格林威治标准时间 (GMT) 日期; SOURCE 是一个变量,用于识别文件中包含数据的源。
有关符合这些要求的 XML 文件的示例,请参阅 XML 解码器组 .
请联系Adobe Consulting Services以查看您计划合并到数据集中的XML日志文件。

参数

对于 XML 日志源,有下表中的参数可用。
The processing of XML log sources requires additional parameters that are defined in a Log Processing Dataset Include file, which contains a subset of the parameters included in a Log Processing.cfg file as well as special parameters for defining decoders for extracting data from the XML file. For information about defining decoders for XML log sources, see XML Decoder Groups .
字段 描述
名称 XML 日志源的标识符。
Log Paths(日志路径)
存储 XML 日志源的目录。默认位置为 Logs 目录。相对路径指 Data Workbench Server 的安装目录。
您可以使用通配符指定要处理的 XML 日志源:
  • * 匹配任意数量的字符
  • ? 匹配单个字符
例如,日志路径 Logs\*.xml 匹配的是 Logs 目录中以 .xml 结尾的所有文件。
如果您想要搜索指定路径的所有子目录,则必须将“ 递归 ”字段设为 true。
注意:如果要从 Data Workbench Server 的 文件服务器单元 中读取文件,则必须在 Log Paths (日志路径)字段中输入相应的 URI。例如, URI/Logs/*.xml 匹配的是 Logs 目录中的所有 .xml 文件。See Configuring an Insight Server File Server Unit .
Log Server(日志服务器) 连接到文件服务器所需的信息(地址、名称、端口等)。如果 Log Server (日志服务器)字段中有一个条目,则 Log Paths (日志路径)会被解释为 URI。否则,它们会被解释为本地路径。请参阅 配置 Insight Server 文件服务器单元 .
Compressed(已压缩) true 或 false。如果 Data Workbench Server 要读取的 XML 日志源已压缩为 gzip 文件,则此值应该设为 true。
Decoder Group(解码器组) 要应用于 XML 日志源的 XML 解码器组的名称。此名称必须与 日志处理数据集包含 文件中指定的相应 XML 解码器组的名称完全匹配。See XML Decoder Groups .
Log Source ID(日志源 ID)
此字段的值可以是任意字符串。如果指定了某个值,则此字段可让您将来自不同日志源的日志条目区分开,以便进行源识别或目标处理。x-log-source-id 字段填充了用于识别每个日志条目的日志源的值。例如,如果您想要识别名为 XMLFile01 的日志文件源中的日志条目,则可以键入 from XMLFile01 ,然后该字符串将会传递到该源中每个日志条目的 x-log-source-id 字段。
有关x-log-source-id字段的信息,请参阅事件数据 记录字段
Mask Pattern(掩码模式)
具有单个捕获子模式的正则表达式,可提取用于识别一系列日志文件源的一致名称。仅考虑文件名。对于正则表达式匹配,不考虑路径和扩展名。如果您没有指定 掩码模式 ,则系统会自动生成掩码。
对于 Logs\010105server1.xml Logs\010105server2.xml 文件,掩码模式将为 [0-9]{6}(.*)。此模式从以上文件名中提取字符串“server1”或“server2”。
请参阅 正则表达式 .
Recursive(递归) true 或 false。如果此参数设为 true,则系统会在“ 日志路径 ”中指定的每个路径的所有子目录中搜索与指定文件名或通配符模式匹配的文件。默认值为 false。
Reject File(拒绝文件) 包含的日志条目不符合解码器条件的文件路径和名称。
Use Start/End Times(使用开始/结束时间)
true 或 false。如果此参数设为 true,并且指定了“开始时间”或“结束时间”,则此日志源的所有文件名称必须以 ISO 格式 (YYYYMMDD) 的日期开头。假定每个文件都包含某一 GMT 日期(例如,时间范围从某一天的 0000 GMT 开始,到第二天的 0000 GMT 结束)的数据。如果日志源的文件名没有以 ISO 日期开头,或者文件包含的数据与 GMT 日期不对应,则此参数必须设为 false 才能避免产生错误结果。
注意:如果 XML 文件满足上述命名和时间范围要求,并且您将此参数设为 true,则指定的 XML 解码器组会将读取的文件限制为名称中含有的 ISO 日期介于指定“开始时间”和“结束时间”之间的文件。如果您将此参数设为 false,则 Data Workbench Server 会在日志处理过程中读取所有 XML 文件,以确定哪些文件包含介于“开始时间”和“结束时间”之间的数据。
有关 Start Time(开始时间)和 End Time(结束时间)参数的信息,请参阅 数据过滤器
在定义数据集的数据源后,不应删除或移动XML日志源。 只能将新创建的 XML 文件添加到数据源的目录中。
通过 Avro 数据馈送,可以更有效地将数据集成到 Data Workbench:
  • Avro 提供一种单源格式的流量和商务数据。
  • Avro 馈送是压缩数据,包含每天提供的多源块。它仅设置填充的字段,并提供监测和通知功能、历史数据访问和自动恢复。
  • 在每个文件开头都包含一个架构,也就是 Avro 日志文件的自定义布局。
  • 添加了一些新字段,支持引入 Data Workbench 数据,无需对解码器进行任何更改。这些功能包括:
    • Evar:1-250(之前为 1-75)
    • 自定义事件:1-1000(而不是 1-100)
    • 访问移动、社交和视频数据的解决方案变量
此外,使用Avro feed可以在不关闭的情况下立即访问源中的任何新字段,从而无需服务小时要求即可更新这些字段。
可以在单独的文件中设置 Avro 数据馈送:
  • Avro 日志文件 :这是从解码器中生成的 Avro 日志格式,用于格式化流量和商务数据。
  • Avro 解码器文件 :此文件允许您将值映射为新的 Avro 格式。您可以使用“Avro 解码器向导”设置解码器。

Avro 解码器向导

本向导可用于设置 Avro 解码器日志文件。
要打开向导,请右键单击工作区,然后选择​ 管理员 > 向导 > Avro 解码器向导
步骤 1: 选择一个 Avro 日志文件
在此步骤中,您可以为 Avro 架构选择一个源文件。可以通过日志文件 (.log) 或现有的解码器文件 (.avro) 访问架构。架构可从以下任一文件中提取。
Avro日志文件
单击打开一个日志 (.log) 文件,查看日志文件顶部的架构并生成解码器文件。
Avro 解码器文件
单击打开并编辑现有解码器 (.avro) 文件的架构。
步骤 2:选择输入字段
选择用于在数据集中通过日志处理传输的输入字段。文件中的所有字段都将显示,便于您选择用于馈送的字段。
如果 x-product(Generates row) 在数据中遇到数组,则提供字段。 此字段将为数组中的嵌套数据生成新行作为输入字段。例如,如果一个数组中有一个 Hit 行包含多个产品值,那么将在输入文件中为每个产品生成相应的行。
选择默认设置
选择要标识为标准默认字段集的字段。
选择全部
选择文件中的所有字段。
取消全选
清除文件中的所有字段。
步骤 3:选择要复制来生成行的字段。
由于可以从数组中的嵌套值创建新行,因此每个创建的新行都必须具有跟踪 ID 和时间戳。此步骤允许您从父记录中选择要复制到行的字段,例如跟踪 ID 和时间戳。您也可以选择想要添加到每行的其他值。
选择默认设置
选择需要向每行添加新列值的标准默认字段集,例如跟踪 ID 和时间戳。例如,hit_source 字段是需要添加到每个新行的默认值(在列表中定义为默认值)。您可以根据需要向每行添加其他列值。
选择全部
选择文件中的所有字段。
取消全选
清除文件中的所有字段。
使用​ 搜索 ​框可在列表中查找值。
步骤 4:指定解码器名称
为字段组指定一个名称,然后将其另存为解码器文件。该名称应与日志源中指定的解码器组名称相匹配。
步骤 5:保存解码器文件。
The file menu will open to name the decoder file and save as a .cfg file in the Logs folder.