管理包元数据文件¶

警告

此功能是实验性的，可能会发生重大更改。有关详细信息，请参阅Conan 的稳定性部分。

一个 Conan 包通常由多个 C 和 C++ 制品、头文件、编译后的库和可执行文件组成。但可能还有其他一些文件对于该包的正常使用不是必需的，但出于合规性、技术或业务原因可能非常重要，例如：

完整的构建日志
测试可执行文件
运行测试套件的测试结果
调试工件，例如大型 .pdb 文件
覆盖率、消毒器或其他源或二进制分析工具的结果
有关构建、确切机器、环境、作者、CI 数据的上下文和元数据
其他与合规性和安全相关的文件

存储和跟踪这些文件有几个重要的原因，例如法规、合规性、安全性、可重复性和可追溯性。这些文件的问题在于它们可能很大/很重，如果我们将它们存储在包内（只是将工件复制到 package() 方法中），这将使包变得更大，并且会影响下载、解压和一般使用包的速度。这种情况通常会发生很多次，无论是在开发人员的机器上还是在 CI 中，它都会对开发人员体验和基础设施成本产生影响。此外，包是不可变的，也就是说，一旦创建了包，就不应该对其进行修改。如果我们想在创建包后，甚至在上传包后添加额外的元数据文件，这可能会成为一个问题。

元数据文件功能允许以集成和统一的方式创建、上传、追加和存储与包关联的元数据，同时避免对开发人员和 CI 速度和成本产生影响，因为默认情况下，使用包时不会下载和解压缩元数据文件。

重要的是要强调有两种类型的元数据

Recipe 元数据，与 conanfile.py recipe 关联，该元数据对于从此 recipe 创建的所有二进制文件都应该是通用的（包名称、版本和 recipe 修订版本）。此元数据可能不太常见，但例如，对源代码进行的一些扫描结果，对于所有配置和构建都是通用的，可以作为 recipe 元数据。
包二进制元数据，与给定特定配置的包二进制文件关联，并由 package_id 表示。构建日志、测试报告等特定于二进制配置的将是包元数据。

在 Recipes 中创建元数据¶

Recipes 可以直接在其方法中定义元数据。一个常见的用例是存储日志。使用 self.recipe_metadata_folder 和 self.package_metadata_folder，recipe 可以将文件存储在这些位置。

import os
from conan import ConanFile
from conan.tools.files import save, copy

class Pkg(ConanFile):
   name = "pkg"
   version = "0.1"

   def layout(self):
      # Or something else, like the "cmake_layout(self)" built-in layout
      self.folders.build = "mybuild"
      self.folders.generators = "mybuild/generators"

   def export(self):
      # logs that might be generated in the recipe folder at "export" time.
      # these would be associated with the recipe repo and original source of the recipe repo
      copy(self, "*.log", src=self.recipe_folder,
           dst=os.path.join(self.recipe_metadata_folder, "logs"))

   def source(self):
      # logs originated in the source() step, for example downloading files, patches or other stuff
      save(self, os.path.join(self.recipe_metadata_folder, "logs", "src.log"), "srclog!!")

   def build(self):
      # logs originated at build() step, the most common ones
      save(self, "mylogs.txt", "some logs!!!")
      copy(self, "mylogs.txt", src=self.build_folder,
           dst=os.path.join(self.package_metadata_folder, "logs"))

请注意，“recipe”方法（对于所有二进制文件通用的方法，如 export() 和 source()）应使用 self.recipe_metadata_folder，而“package”特定方法（build()、 package()）应使用 self.package_metadata_folder。

对这个 recipe 执行 conan create 将在 Conan 缓存中创建“metadata”文件夹。我们可以使用以下命令查看这些文件夹

$ conan create .
$ conan cache path pkg/0.1 --folder=metadata
# folder containing the recipe metadata
$ conan cache path pkg/0.1:package_id --folder=metadata
# folder containing the specific "package_id" binary metadata

也可以使用“本地流程”命令并获取本地“metadata”文件夹。如果我们要执行此操作，强烈建议使用像上面那样的 layout() 方法，以避免使当前文件夹混乱。然后，本地命令将允许测试和调试功能

$ conan source .
# check local metadata/logs/src.log file
$ conan build .
# check local mybuild/metadata/logs/mylogs.txt file

注意：此元数据对于 conan export-pkg 流程无效。如果要使用 export-pkg 流程，则可能需要查看下面的“添加元数据”部分。

使用 Hooks 创建元数据¶

如果某些元数据在各个 recipe 中是通用的，则可以使用 hooks 在不修改 recipe 的情况下捕获它。假设我们有一个更简单的 recipe

import os
from conan import ConanFile
from conan.tools.files import save, copy

class Pkg(ConanFile):
   name = "pkg"
   version = "0.1"
   no_copy_source = True

   def layout(self):
      self.folders.build = "mybuild"
      self.folders.generators = "mybuild/generators"

   def source(self):
      save(self, "logs/src.log", "srclog!!")

   def build(self):
      save(self, "logs/mylogs.txt", "some logs!!!")

如我们所见，这根本没有使用元数据文件夹。现在让我们定义以下 hooks

import os
from conan.tools.files import copy

def post_export(conanfile):
      conanfile.output.info("post_export")
      copy(conanfile, "*.log", src=conanfile.recipe_folder,
         dst=os.path.join(conanfile.recipe_metadata_folder, "logs"))

def post_source(conanfile):
      conanfile.output.info("post_source")
      copy(conanfile, "*", src=os.path.join(conanfile.source_folder, "logs"),
         dst=os.path.join(conanfile.recipe_metadata_folder, "logs"))

def post_build(conanfile):
      conanfile.output.info("post_build")
      copy(conanfile, "*", src=os.path.join(conanfile.build_folder, "logs"),
         dst=os.path.join(conanfile.package_metadata_folder, "logs"))

这些 hooks 的使用将与 recipe 内方法非常相似：当 conan create 执行时，元数据文件将在缓存中创建，并且也会在 conan source 和 conan build 本地流程中本地创建。

使用命令添加元数据¶

可以在创建包后添加或修改元数据文件。为此，使用 conan cache path 命令将返回执行该操作的文件夹，因此在该位置复制、创建或修改文件将实现此目的。

$ conan create . --name=pkg --version=0.1
$ conan cache path pkg/0.1 --folder=metadata
# folder to put the metadata, initially empty if we didn't use hooks
# and the recipe didn't store any metadata. We can copy and put files
# in the folder
$ conan cache path pkg/0.1:package_id --folder=metadata
# same as above, for the package metadata, we can copy and put files in
# the returned folder

此元数据是在本地 Conan 缓存中添加的。如果要更新服务器元数据，则必须从缓存上传它。

上传元数据¶

到目前为止，元数据已在本地创建并存储在 Conan 缓存中。将元数据上传到服务器与现有的 conan upload 命令集成

$ conan upload "*" -c -r=default
# Uploads recipes, packages and metadata to the "default" remote
...
pkg/0.1: Recipe metadata: 1 files
pkg/0.1:da39a3ee5e6b4b0d3255bfef95601890afd80709: Package metadata: 1 files

默认情况下，当 recipe 或包上传到服务器时，conan upload 将上传 recipe 和包元数据。但是，如果 Conan 检测到修订版本已存在于服务器中，则在某些情况下，Conan 将完全避免此上传，它不会上传 recipe 或包。如果元数据已在本地修改或添加了新文件，我们可以使用以下命令强制显式上传

# We added some metadata to the packages in the cache
# But those packages already exist in the server
$ conan upload "*" -c -r=default --metadata="*"
...
pkg/0.1: Recipe metadata: 1 files
pkg/0.1:da39a3ee5e6b4b0d3255bfef95601890afd80709: Package metadata: 1 files

--metadata 参数允许指定我们正在上传的元数据文件。如果我们将其组织在文件夹中，我们可以指定 --metadata="logs*" 仅上传日志元数据，而不上传其他可能的元数据，如 test 元数据。

# Upload only the logs metadata of the zlib/1.2.13 binaries
# This will upload the logs even if zlib/1.2.13 is already in the server
$ conan upload "zlib/1.2.13:*" -r=remote -c --metadata="logs/*"
# Multiple patterns are allowed:
$ conan upload "*" -r=remote -c --metadata="logs/*" --metadata="tests/*"

有时，即使元数据缓存文件夹包含文件，也可能需要上传包而不上传元数据。要忽略上传元数据，请使用空参数作为元数据模式

# Upload only the packages, not the metadata
$ conan upload "*" -r=remote -c --metadata=""

不允许将 --metadata="" 与 --metadata="*" 混合使用，并且会引发错误。

# Invalid command, it will raise an error
$ conan upload "*" -r=remote -c --metadata="" --metadata="logs/*"
ERROR: Empty string and patterns can not be mixed for metadata.

下载元数据¶

如上所述，默认情况下不会下载元数据。当使用 conan install 或 conan create 从服务器获取依赖项时下载包时，不会下载这些服务器的元数据。

从服务器恢复元数据的方法是使用 conan download 命令显式指定它

# Get the metadata of the "pkg/0.1" package
$ conan download pkg/0.1 -r=default --metadata="*"
...
$ conan cache path pkg/0.1 --folder=metadata
# Inspect the recipe metadata in the returned folder
$ conan cache path pkg/0.1:package_id --folder=metadata
# Inspect the package metadata for binary "package_id"

元数据的检索是使用每个包的 download 完成的。如果我们要下载整个依赖图的元数据，则必须使用“package-lists”

$ conan install . --format=json -r=remote > graph.json
$ conan list --graph=graph.json --format=json > pkglist.json
# the list will contain the "remote" origin of downloaded packages
$ conan download --list=pkglist.json --metadata="*" -r=remote

请注意，“package-list”将仅包含与下载的包的“远程”来源关联的包。如果它们先前在缓存中，那么它们将不会在“远程”来源下列出，并且不会下载元数据。如果要收集依赖项元数据，请记住在从服务器安装包时下载它。还有其他可能性，例如可以自动从服务器收集和下载依赖项元数据的自定义命令。

删除元数据¶

目前，无法使用 Conan 从服务器端删除元数据，因为元数据是“累加”的，可以添加新数据，但不能删除它（否则，如果不先下载所有先前的元数据就无法添加新元数据，这可能会非常低效且更容易出错，尤其容易出现竞争条件）。

从服务器端删除元数据的建议是使用服务器可能提供的工具、Web 界面或 API。

注意

最佳实践

元数据不应是使用包所必需的。应该可以在不下载其元数据的情况下使用 recipe 和包。如果元数据对于使用包是强制性的，那么它就不是元数据，而应该作为头文件和二进制文件打包。
元数据读取访问不应是频繁的操作，或者开发人员必须执行的操作。元数据读取旨在用于特殊情况，当需要恢复某些构建日志以进行合规性检查时，或者可能需要某些测试可执行文件来调试或重新检查崩溃时。
Conan 不会对元数据文件进行任何压缩或解压缩。如果有大量的元数据文件，请考虑自行将其压缩为 ZIP 文件，否则上传大量文件可能会花费大量时间。如果需要处理不同类型的元数据（日志、测试、报告），则将每个类别下的文件压缩为 ZIP 文件可能更好，以便可以使用 --metadata=xxx 参数进行过滤。

将 test_package 作为元数据¶

这是一个关于如何使用元数据的示例，它将完整的 test_package 文件夹存储为元数据，以便稍后恢复并执行它。请注意，这不一定适用于生产环境。

让我们从一个钩子开始，该钩子自动将 test_package 文件夹存储为配方元数据。

import os
from conan.tools.files import copy

def post_export(conanfile):
   conanfile.output.info("Storing test_package")
   folder = os.path.join(conanfile.recipe_folder, "test_package")
   copy(conanfile, "*", src=folder,
         dst=os.path.join(conanfile.recipe_metadata_folder, "test_package"))

请注意，此钩子没有考虑到 test_package 可能包含大量的临时构建对象（应在添加到元数据之前进行清理），并且它没有检查 test_package 可能根本不存在并导致崩溃的情况。

当创建并上传包时，它会将包含 test_package 的配方元数据上传到服务器。

$ conan create ...
$ conan upload "*" -c -r=default  # uploads metadata
...
pkg/0.1: Recipe metadata: 1 files

让我们删除本地副本，并假设该包已安装，但元数据不存在。

$ conan remove "*" -c  # lets remove the local packages
$ conan install --requires=pkg/0.1 -r=default  # this will not download metadata

如果在此时已安装的包在我们的应用程序中出现故障，我们可以恢复 test_package，下载它，并将其复制到当前文件夹。

$ conan download pkg/0.1 -r=default --metadata="test_package*"
$ conan cache path pkg/0.1 --folder=metadata
# copy the test_package folder from the cache, to the current folder
# like `cp -R ...`

# Execute the test_package
$ conan test metadata/test_package pkg/0.1
pkg/0.1 (test package): Running test()

另请参阅

待办事项：如何使用一些自定义部署器或命令来收集完整依赖关系图的元数据的示例

这是一个实验性功能。我们期待收到您的反馈、用例和需求，以不断改进此功能。请在 Github issues 中报告问题。