La interoperabilidad y la ética de los datos en la era de la inteligencia artificial: un importante principio a ser incluido en los marcos de interoperabilidad

Interoperabilidad y ética de los datos

El documento de la OCDE Good Practice Principles for Data Ethics in the Public Sector destaca la importancia de la ética de los datos en el sector público, e incluye buenas prácticas y acciones específicas que pueden apoyar su implementación. Integridad y gestión, preparación y acceso a datos confiables, consideraciones éticas de datos en organizaciones gubernamentales, control de datos en procesos, publicación de código fuente, datos abiertos, rendición de cuentas o gestión de riesgos, son algunos de los elementos incluidos.

Sin embargo, sorprendentemente, el documento no incluye una mención explícita a la interoperabilidad, a pesar de que la literatura y la práctica consideran que la interoperabilidad es uno de los elementos clave en el gobierno digital. En un momento en el que la transformación digital en el sector público es crítica, esta hubiera sido una muy buena oportunidad para que se reforzase explícitamente este tema.

Al mismo tiempo que la interoperabilidad se centra en el intercambio de datos e información, los datos son los que se utilizan para entrenar modelos y, finalmente, se utilizan en los sistemas de inteligencia artificial (IA). A medida que los sistemas de IA aprenden de los datos -y dado que las fuentes de datos son diversas- los datos compartidos también podrían recopilarse y utilizarse para alimentar este tipo de sistemas. El abanico de implicaciones de las variables relacionadas con los datos en este tipo de sistemas es enorme y puede ir desde el sesgo o variaciones importantes en los resultados, hasta el descubrimiento de nueva -e inesperada- información a partir de los datos analizados, por citar algunos de ellos.

La ética se ha convertido en un componente obligatorio cuando se habla de tecnología. Para aquellos que aún tienen dudas al respecto, les sugiero que visiten la iniciativa IEEE Global Initiative on Ethics of Autonomous and Intelligent Systems, donde podrán encontrar recursos -incluyendo la familia de los estándares IEEE P7000-, abarcando aspectos como la transparencia, los datos de carácter personal, o consideraciones de sesgos algorítmicos en sistemas autónomos e inteligentes, por citar algunos de ellos. La ética adopta un papel protagonista en esta nueva generación de estándares.

Si consideramos los principios asociados a la interoperabilidad como "aspectos fundamentales de comportamiento para impulsar acciones de interoperabilidad" -sigo aquí el concepto incluido en la última versión del Marco Europeo de Interoperabilidad-, en este punto, es claro que el vínculo entre interoperabilidad y ética es definitivamente imprescindible para ser tenido en cuenta en el contexto del gobierno digital. Hemos llegado a un punto en el que la ética o el uso ético de los datos debe ser adoptado dentro de los marcos de interoperabilidad, como principio general a seguir.

También te podría gustar...

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *