Guía práctica de los Archivos Darwin Core

Versión 2.1

cover art cicindelinae

Control del documento

Versión Descripción Fecha de lanzamiento Autor(es)

1.0

Revisión y adiciones de contenido

Abril 2011

David Remsen, Markus Döring

2.0

Transferido a wiki, ediciones importantes

9 Mayo 2017

Kyle Braak

2.1

Ediciones menores, actualización de enlaces, etc.

8 Febrero 2021

Matthew Blissett

2.2

Conversión a AsciiDoc

25 Mayo 2021

Matthew Blissett

Citación sugerida

GBIF (2021) Guía rápida de los Archivos Darwin Core, versión 2.2. Copenhagen: Secretaría de GBIF. https://ipt.gbif.org/manual/en/ipt/2.5/dwca-guide

Crédito de la portada: Kim Wismann, Cicindelinae

¿Qué es un Archivo Darwin Core (DwC-A)?

El Archivo Darwin Core (DwC-A) es un estándar de datos informáticos que utiliza los términos de Darwin Core para producir un conjunto de datos único e independiente para compartir niveles de especies (taxonómicos), datos de registros biológicos y datos de eventos de muestreo. Un archivo es un conjunto de archivos de texto, en formato estándar delimitado por comas o tabulaciones, con un archivo descriptor sencillo (denominado meta.xml) para informar a otros sobre cómo están organizado los archivos. El formato está definido en la Guía de textos Darwin Core. Es el formato preferido para la publicación de datos en la red de GBIF.

La idea central de un archivo es que sus archivos de datos estén organizados de manera lógica en forma de estrella, con un archivo central de datos rodeado de un número de archivos de extensión de datos. Los archivo central y de extensión contienen registros de datos, uno por línea. Cada registro de extensión (o ‘fila del fichero de extensión’) apunta a un registro en el fichero central, de esta forma, pueden existir muchos registros de extensión para un mismo registro en el fichero central. A veces esto se denomina como "esquema en forma de estrella".

Los componentes de un Archivo Darwin Core.

Compartir conjuntos de datos completos como DwC-A permite la transferencia sencilla y eficiente de todo el conjunto de datos. (Sistemas anteriores, como DiGIR y TAPIR, requerían que el sistema de GBIF hiciera miles de solicitudes para cargar todos los datos en un único conjunto de datos, existiendo riesgo de pérdida de datos.)

La elaboración de un DwC-A requiere del uso de identificadores estables para registros centrales pero no para las extensiones. Para cualquier tipo de datos compartido es entonces necesario que haya algún tipo de identificador de registro local. Es una buena práctica mantener, con los datos originales, identificadores que sean estables en el tiempo y que no sean reutilizados cuando se elimine el registro. Si es posible, deben proveerse identificadores globales únicos (GUID, por sus siglas en inglés) en vez de otros identificadores locales. Diríjase a Guía para principiantes sobre identificadores persistentes para obtener más información sobre los GUIDs. Este identificador se incluye en el "core ID" en DwC-As y el término Darwin Core específico con el que se corresponde es dependiente del tipo de datos que está siendo publicado.

Componentes del DwC-A

Un DwC-A puede contener un único archivo de datos o múltiples archivos, dependiendo del alcance de los datos publicados. Los tipos específicos de datos que se pueden incluir en un Archivo son los siguientes:

  1. Un archivo core de datos obligatorio consta de un conjunto de términos Darwin Core estándar. El archivo de datos tiene un formato de texto por campos, donde los registros de datos se expresan como filas de texto y los elementos (columnas) de datos están separados con un delimitador estándar como una tabulación o una coma (denominado comúnmente como CSV o ‘archivos de valores separados por coma). Opcionalmente, la primera fila del archivo de datos puede contener datos o representar una "fila de encabezado". En general, si se incluye una fila de encabezado, ésta contiene los nombres de los términos Darwin Core representados en las filas posteriores de datos. Actualmente, GBIF acepta los siguientes tres tipos de datos de biodiversidad como base para un archivo core de datos:

    1. Occurrence data — The category of information pertaining to evidence of an occurrence in nature, in a collection, or in a dataset (specimen, observation, etc.). Core files of this type are used to share information about a specific instance of a taxon such as a specimen or observation. The required core ID is represented by dwc:occurrenceID. The definitive list of Occurrence terms can be found in the Occurrence (Core) Extension.

    2. Checklist data — The category of information pertaining to taxa or taxon concepts, such as species. Core files of this type are used to share annotated species checklists, taxonomic catalogues, and other information about taxa. The required core ID is represented by dwc:taxonID. The definitive list of core Taxon terms can be found in the Taxon (Core) Extension.

    3. Sampling-event data — The category of information pertaining to a sampling event. Core files of this type are used to share information about ecological investigations that can be one-off studies or monitoring programmes that are usually quantitative, calibrated and follow certain protocols so that changes and trends of populations can be detected. The required core ID is represented by dwc:eventID. The definitive list of core Event terms can be found in the Event (Core) Extension.

    Un archivo core de datos es un sencillo
  2. Optional “extension” files support the exchange of additional, described classes of data that relate to the core data type (Occurrence or Taxon). An extension record points to a record in the core data file. Extensions may apply only to Taxa or Occurrences or may apply to both. For example, the Vernacular Names extension (illustrated below) is an extension to the Taxon class, whereas an Images extension may be used in both. Extensions can be created and added to the GBIF Extension Repository following a consultation and development process with GBIF. The definitive list of supported Extensions can be found on the GBIF Extension Repository.

    Una extensión se vincula con el archivo central mediante el ID en común del taxón
  3. Un descriptor metafile describe cómo están organizados los contenidos de su archivo. Describe los contenidos del archivo y asigna cada columna de datos a un término del estándar Darwin Core o Extensión. El metafile es un formato de archivo XML relativamente simple. GBIF proporciona una herramienta online para hacer este archivo, pero el formato es lo suficientemente simple como para que muchos administradores de datos puedan generarlo manualmente. Estas opciones se describen en la sección Opciones de Publicación de este documento.

    Un metarchivo es necesario cuando un archivo incluye cualquier archivo de extensiones o si un único archivo central de datos utiliza nombres no estándar de columnas en la primera fila (encabezado) de datos. Hay una guía de referencia completa para este metarchivo disponible aquí.
    El metarchivo describe los nombres de los archivos y los campos de los archivos principales y de extensión
  4. Los conjuntos de datos requieren documentación. Esto se logra en un DwC-A incluyendo un documento de metadatos del recurso que proporciona información sobre el conjunto de datos en sí mismo, tal como una descripción (resumen) del conjunto de datos, los agentes responsables de la autoría, publicación y documentación, información bibliográfica y de citas, métidos de colecta y mucho más. Actualmente, GBIF apoya un perfil de metadatos basado en el Ecological Metadata Language pero existen otros estándares de metadatos que pueden ser aceptados. La descripción del Esquema XML del Perfil de metadatos de GBIF se puede encontrar en el Repositorio del esquema GBIF

    Un documento de metadatos describe el conjunto de datos completo

    Todos los archivos de la colección (datos centrales, extensiones, metarchivos y metadatos de recursos) deberían estar comprimidos en un único archivo. Los formatos de compresión aceptados son ZIP y TAR.GZ/TGZ.

    Los archivos están comprimidos en un único archivo

    ¡Este archivo único y comprimido es el DwC-A!

Soluciones para la Publicación de Datos DwC-A

Existen varias opciones diferentes para generar un DwC-A.

Para ayudarle a seleccionar la solución más apropiada para crear su propio archivo, considere las siguientes preguntas:

  1. ¿Sus datos han sido digitalizados? (En caso afirmativo, se asume que usted puede convertir los datos en formato CSV o Tab).

  2. ¿Sus datos están almacenados en una base de datos relacional?

  3. ¿Cuántos conjuntos de datos (Archivos DwC) separados planea publicar?

Publicar DwC-A usando el IPT es lo más adecuado cuando:

  • Sus datos ya han sido digitalizados.

  • Sus datos están o no están ya en una base de datos relacional

  • Usted necesita crear/gestionar múltiples archivos.

  • Usted quisiera documentar conjuntos de datos utilizando el Perfil de metadatos de GBIF.

  • Sus datos no han sido digitalizados aún.

  • Usted ya gestiona datos utilizando hojas de cálculo.

  • Usted necesita una solución sencilla para crear/gestionar un número de conjuntos de datos limitados

  • Usted necesita orientación adicional sobre la captura y el formato de datos

Publicar DwC-A manualmente es lo más apropiado cuando:

  • Sus datos ya han sido digitalizados.

  • Sus datos pueden estar en una base de datos relacional.

  • Usted solo necesita crear/gestionar un número pequeños de Archivos y/o tiene las habilidades técnicas para automatizar/codificar el proceso de generación de archivos.

A contiuación se muestra una discusión más detallada de estas tres opciones.

Publicar DwC-A usando el IPT

Supuesto: Sus datos ya están almacenados como un archivo de texto CSV/tab o en uno de los sistemas de gestión de bases de datos relacionales aceptados (MySQL, PostgreSQL, Microsoft SQL Server, Oracle, Sybase). Lo ideal sería que ya esté usando los términos de Darwin Core como nombres de columnas, aunque esto no es necesario.

El IPT (Integrated Publishing Toolkit) es la herramienta insignia de GBIF para la publicación de DwC-As.

La forma más sencilla de empezar a utilizar el IPT es solicitar una cuenta gratuita en un centro de almacenamiento de datos de confianza permitiéndole gestionar sus propias bases de datos y publicarlas a través de GBIF.org sin la molestia de configurar y mantener el IPT en su propio servidor.

Otherwise if want to setup your own instance of the IPT the Getting Started Guide is your entry point.

El IPT puede ser utilizado para publicar metadatos de recursos, datos de registros biológicos, datos de listados taxonómicos y datos de eventos de muestreo. La guía Cómo publicar datos de biodiversidad a través de GBIF.org proporciona un conjunto de instrucciones sencillas sobre cómo hacerlo.

El IPT genera un DwC-A durante la publicación y apoya el registro automático en la red de GBIF. Para más detalles consulte el Manual del usuario del IPT.

Publicar DwC-A usando plantillas de hojas de cálculo de GBIF

Supuesto: Los datos de registros biológicos, datos taxonómicos simples o datos de eventos de muestreo a publicar no se han capturado aún en formato digital O se desea una solución sencilla para la creación de un documento de metadatos para describir un conjunto de datos.

GBIF proporciona un conjunto de hojas de cálculo de Microsoft Excel pre-configuradas que sirven de modelo para obtener datos de presencia de especies, datos de listados de especies y datos de eventos de muestreo:

  1. Plantilla de datos de listados taxonómicos: apropiado para listados de especies básicos

  2. Plantilla de datos de registros biológicos: apropiado para datos de registros biológicos (espécimen, observación)

  3. Plantilla de datos de eventos de muestreo: apropiado para datos de eventos de muestreo

Todas las plantillas proporcionan ayuda e instrucciones en línea en las hojas de trabajo.

Para publicar los datos como un DwC-A, cargue las plantillas al IPT. Utilice el editor de metadatos incorporado. La guía Cómo publicar datos de biodiversidad a través de GBIF.org proporciona un conjunto de instrucciones sencillas sobre cómo hacerlo. Si requiere una cuenta en un IPT, se recomienda que la solicite a un centro de alojamiento de datos de confianza ubicado en su país.

Publicar DwC-A manualmente

Supuesto: Los datos están ya en un archivo de texto CSV/Tab o en uno de los sistemas de gestión de bases de datos relacionales aceptados (MySQL, PostgreSQL, Microsoft SQL Server, Oracle, Sybase). El publicador no desea alojar una instancia de IPT pero tiene acceso a un servidor web.

Los DwC-A se pueden crear sin necesidad de instalar un software específico. Estas instrucciones van dirigidas a los administradores de datos que están familiarizados con el conjunto de datos que se va a publicar y se sienten cómodos trabajando con su sistema de gestión de datos.

A continuación, se muestra un conjunto de instrucciones sobre cómo crear de manera manual un Archivo DwC:

  1. A menos que los datos estén ya almacenados en un archivo de texto CSV/Tab, el publicador necesitará preparar un archivo de texto o varios desde la fuente. Si los datos están almacenados en una base de datos, genere un archivo de texto delimitado de salida a partir de la base de datos de origen. La mayoría de sistemas de gestión de bases de datos apoyan este proceso; se proporciona un ejemplo en el Anexo de esta guía, más adelante, en la sección “Producción de datos desde una base de datos MySQL a un archivo de texto”. Como el metarchivo ya relaciona las columnas del archivo de texto con los términos Darwin Core, no es necesario utilizar los términos Darwin Core como encabezado de las columnas en el archivo de texto resultante, sin embargo hacerlo puede ayudar a reducir errores. Una recomendación general sería producir un único archivo central de datos y un único archivo por cada extensión si la intención es producir datos unidos a una extensión.

  2. Crear un metarchivo: existen tres formas diferentes de generar el archivo:

    1. Créelo manualmente utilizando un editor XML y usando un metarchivo de muestra como ejemplo. Se puede encontrar una descripción completa del formato del metarchivo en la Guía de texto Darwin Core.

    2. dwc a assistant

      Créelo utilizando la herramienta web Asistente de Archivos Darwin Core. Simplemente, seleccione los campos de los datos a publicar, proporcione algunos detalles sobre los archivo y guarde el XML resultante. Esto solo es necesario hacerlo una vez a menos que el conjunto de campos publicados cambie en el futuro.

      esta herramienta ya no es compatible con GBIF. Falta soporte para el Evento core. Los publicadores también necesitan añadir de forma manual el término dwc:taxonID a los taxones centrales y dwc:occurrenceID a los registros biológicos core para asegurar que se han incluido.
  3. Cree un también de metadatos (eml.xml) que describa la fuente de datos. Puede encontrar instrucciones completas sobre cómo hacerlo en el Guía práctica del perfil de metadatos de GBIF. La mejor práctica es incluir un archivo de metadatos y la forma más sencilla de hacerlo es mediante el uso del editor de metadatos incorporado del IPT.

  4. Asegúrese de que los archivos de datos, el metarchivo (meta.xml) y el archivo de metadatos (eml.xml) están en el mismo directorio o carpeta. Comprima la carpeta utilizando uno de los formatos compatibles. El resultado es un DwC-A.

Los metadatos creados mediante el IPT pueden generarse como un documento RTF que podría ser enviado como un manuscrito de ‘Artículo de datos’ a Zookeys, PhytoKeys y BioRisks. Explore las instrucciones dirigida a los autores para el envío de ‘Artículos de datos’ a estas revistas.

Validación de DwC-A

GBIF proporciona un Validador de Archivos DwC online que ejecuta las siguientes verficaciones:

  • El metarchivo (meta.xml) es un XML válido y se ajusta a las Guías de texto Darwin Core.

  • El contenido se ajusta a las extensiones conocidas y términos registrados por la red de GBIF. Tenga en cuenta que GBIF ejecuta un registro de producción y de desarrollo que permite el seguimiento de extensiones; el validador utiliza el registro de producción.

  • El también de descripción del recurso (eml.xml) es un XML válido y se ajusta al esquema del Perfil de metadatos de GBIF y al esquema oficial de un EML.

  • Integridad referencial: que los términos ID mapeados en los archivos de extensiones hagan referencia a registros existentes en los registros del archivo central.

  • Todos los ID del archivo central son únicos

  • Que no se hallen valores originales nulos en los datos. Por ejemplo NULL o \N

  • La taxonomía y las localizaciones pasan procesos típicos de interpretación de GBIF (p. ej., las coordenadas se encuentran en el país específico)

Para utilizar el validador:

  1. Cargue el DwC-A utilizando el formulario proporcionado en la página web del Validador.

  2. Validar

  3. Revise la respuesta y aborde cualquier error de validación

  4. Repita el proceso hasta que el archivo haya sido validado satisfactoriamente.

  5. Si se bloquea, contacte con el Centro de ayuda de GBIF (helpdesk@gbif.org).

Registo de DwC-A en GBIF

Se debe incluir una entrada del recurso en el Registro de GBIF permitiéndole ser descubrible y accesible. Cada nuevo registro debe estar asociado con una organización publicadora que haya sido formalmente registrada por un administrador de un Nodo Participante en GBIF. Esto es un simple control de calidad requerido por el Comité de administradores de nodos participantes de GBIF.

Afortunadamente, las API del IPT y de GBIF dan soporte para el registro automático de conjuntos de datos. De lo contrario, si usted está publicando DwC-A de manera manual, inicie el registro enviando un correo electrónico a helpdesk@gbif.org con la siguiente información:

  1. Título del conjunto de datos

  2. Descripción del conjunto de datos (copiada del archivo de metadatos)

  3. Nombre de la organización publicadora (debe estar registrada en GBIF, de lo contrario regístrela llenando este formulario online).

  4. Su relación con esta organización

  5. URL del conjunto de datos (dirección de acceso público al DwC-A comprimido)

Recibirá un correo electrónico de confirmación y una URL de la entrada del recurso en el Registro.

Los usuarios avanzados pueden solicitar permiso para registrar conjuntos de datos en masa, integrando la API de GBIF en sus sistemas existentes. Se proporciona un ejemplo básico de un script de shell de Linux (Bash). Contacte al centro de ayuda para más información.

Anexo: prepare sus datos

Términos requeridos y recomendados

La guía Cómo publicar datos de biodiversidad a través de GBIF.org proporciona un conjunto de términos requeridos y recomendados para cada tipo de datos:

  1. Datos de listados taxonómicos: términos requeridos / términos recomendados

  2. Datos de registros biológicos: términos requeridos terms / términos recomendados

  3. Datos de eventos de muestreo: términos requeridos / términos recomendados

  4. Metadatos de recursos: términos requeridos terms / términos recomendados

Codificación de caracteres

La buena práctica recomendada es codificar archivos (de datos) de texto utilizando UTF-8.

Las siguientes herramientas para Linux, Mac y Windows se pueden utilizar para convertir codificaciones de caracteres de archivos:

iconv -f CP1252 -t utf-8 example.txt > exampleUTF8.txt

Datos desde una base de datos

Es sencillo producir archivos de texto delimitados desde una base de datos utilizando comandos SQL. Para MySQL, utilice el comando SELECT INTO outfile. La codificación del archivo resultante dependerá de las variables del servidor y de las intercalaciones utilizadas y es posible que requieran ser modificadas antes de que acabe la operación. Tenga en cuenta que MySQL exportará valores NULL como \N por defecto. Utilice la función IFNULL() como se muestra en el siguiente enlace para evitar esto:

SELECT
  IFNULL(id, ''), IFNULL(scientific_name, ''), IFNULL(count,'')
  INTO outfile '/tmp/dwc.txt'
  FIELDS TERMINATED BY ','
  OPTIONALLY ENCLOSED BY '"'
  LINES TERMINATED BY '\n'
  FROM dwc;

Otras recomendaciones para la generación de datos usando queries/funciones de SQL:

  • Concatenar o dividir cadenas según sea necesario, p. ej., para construir la cadena del nombre científico completo (cuidado con los autónimos)

  • Aplicar formato a las fechas para ajustarse al formato de fecha y hora ISO (1990-02-03 o 1990-02 si se desconoce el día, 1990 si el mes también se desconoce, 1990-02-03/1990-02-28 para dar un rango).

  • Cree año/mes/día mapeando los tipos de fecha nativos de SQL

  • Utilizar UNION para unir 2 o más tablas, p. ej., taxa aceptados y sinónimos o especímenes y observaciones

Ejemplos para el archivo DwC-A

La guía Cómo publicar datos de biodiversidad a través de GBIF.org proporciona un conjunto de ejemplos DwC-A para cada tipo de datos:

  1. Lista de verificación de datos: conjunto de datos de ejemplo

  2. Datos de registros biológicos: conjunto de datos de ejemplo

  3. Datos de eventos de muestreo: conjunto de datos de ejemplo

  4. Metadatos del recurso: conjunto de datos de ejemplo