El Equilibrio entre la Innovación en Materia de IA y una Gobernanza Responsable
publicado el
07/31/2025
escrito por
Amy Hammond
Amy cuenta con más de 25 años de experiencia de liderazgo en puestos de directora de información (CIO), directora de tecnología (CTO), transformación digital y cibernética. Aporta tanto visión estratégica como experiencia operativa a las iniciativas de TI impulsadas por el negocio. Posee un profundo conocimiento de las plataformas tecnológicas integrales, la transformación digital, la ciberresiliencia y la gestión de datos empresariales. Posee un MBA en Tecnología y un Máster en Seguridad de la Información, y ha trabajado con grandes empresas del FTSE 100 (Índice 100 de la Bolsa del Financial Times), pequeñas y medianas empresas (PYME) y el Tercer Sector, tanto a nivel internacional como en el Reino Unido. Más recientemente, completó una asignación interina en la Organización Mundial de Sanidad Animal (OMSA), donde se desempeñó como Jefa Interina de Transformación Digital y Sistemas de Información desde noviembre de 2023 hasta julio de 2025.
Resumen
La Inteligencia Artificial (IA) está modificando vertiginosamente el funcionamiento de las organizaciones, desde la automatización de tareas hasta la predicción de resultados. Está transformando sectores tan diversos como la salud, las finanzas, la vigilancia (circuito cerrado de televisión y reconocimiento facial) y las prácticas de contratación. Esta adopción generalizada implica la necesidad urgente de una gobernanza eficaz en materia de IA, ya que sin una supervisión adecuada, los sistemas de IA pueden amplificar los sesgos existentes en los datos, acentuar la discriminación y difundir información errónea, distorsionando finalmente la realidad. Una IA fiable depende de datos de alta calidad, es decir que la gobernanza de la IA debe abordar tres aspectos clave: (i) proteger los datos de los usuarios: los sistemas de IA recopilan grandes volúmenes de datos, a menudo sin el consentimiento explícito del usuario; (ii) minimizar el sesgo y la discriminación: muchos modelos de IA se entrenan con conjuntos de datos que ya reflejan prejuicios sociales, y (iii) prevenir la información errónea: el contenido generado por IA a partir de datos erróneos puede inducir a error a los usuarios y distorsionar la comprensión del público. Teniendo esto en consideración, la Organización Mundial de Sanidad Animal promueve activamente la adopción responsable de la IA y el análisis de datos con el fin de mejorar la toma de decisiones con respecto a la sanidad animal en todo el mundo. El proyecto de arquitectura de datos, un repositorio de datos centralizado de alta calidad, integrará todos los conjuntos de datos de la Organización, generando mejores resultados para los Miembros y Delegados, y mitigando los riesgos relativos a la IA.
Gobernanza de la IA: Retos y Necesidad
La Organización Mundial de Sanidad Animal (OMSA) desempeña un papel fundamental en la recopilación, gestión y difusión de una gran cantidad de datos sobre sanidad animal. Para gestionar estos datos, la Organización ha iniciado el proyecto de arquitectura de datos, que definirá un repositorio central de datos que permitirá la integración y conectividad entre todos los conjuntos de datos de la OMSA. Además de suplir las necesidades de informes internos y públicos, la plataforma servirá de base para la nueva política de IA de la Organización en el marco de la iniciativa de arquitectura de datos más amplia de la OMSA. El proyecto de arquitectura de datos optimizará la gobernanza de datos e IA de la Organización mediante la automatización, garantizando la estructura, calidad y centralización de los conjuntos de datos fundamentales. Esta base respaldará la generación de inteligencia práctica y conocimientos basados en IA durante el desarrollo de la plataforma en 2025.
Con la extraordinaria promoción de su adopción generalizada, la IA se ha impuesto en el discurso mundial. Sin embargo, aún no queda claro cuáles son las implicaciones de una verdadera integración. Según la OCDE, un sistema de IA es «un sistema basado en máquinas que, para objetivos explícitos o implícitos, infiere, a partir de los datos de entrada que recibe, cómo generar información de salida como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos reales o virtuales» [1]. El uso de dichos sistemas de IA está revolucionando las industrias mediante la automatización de procesos, la predicción de tendencias y la transformación de sectores, en particular la salud y las finanzas. Sin embargo, como avanza tan rápidamente, es evidente la urgente necesidad de disponer de una gobernanza sólida de la IA para garantizar un desarrollo ético y una implementación responsable.
La gobernanza de la IA implica los principios, normas y mecanismos que guían el desarrollo, la implementación y la supervisión de las tecnologías de IA. Su objetivo es equilibrar la innovación con las normas éticas, la seguridad y el cumplimiento normativo. Alcanzar este equilibrio es fundamental para que la IA siga evolucionando, reduciendo así los riesgos asociados.
Las principales preocupaciones que debe abordar la gobernanza de la IA son: (i) privacidad y protección de datos: los sistemas de IA recopilan grandes volúmenes de datos, a menudo sin el consentimiento explícito del usuario, lo que implica un riesgo creciente de violaciones de datos; (ii) sesgo y discriminación: los modelos de IA se entrenan con datos que pueden reflejar prejuicios sociales existentes, generando resultados discriminatorios [2]; (iii) desinformación: el contenido generado por IA a partir de conjuntos de datos defectuosos o sesgados puede inducir a error a los usuarios y deformar la realidad, difundiendo información errónea; (iv) transparencia y rendición de cuentas: las decisiones generadas por IA deben tener explicaciones claras y los programadores deben rendir cuentas de los resultados de sus sistemas, (v) cumplimiento normativo: la IA debe operar de conformidad con los marcos legales establecidos y las normas de la industria, como el Reglamento General de Protección de Datos (RGPD).
Image : ©ChatGPT
Enfoques Mundiales para la Gobernanza de la IA
La rápida evolución de la tecnología y la IA representa un reto significativo para los reguladores, puesto que los marcos jurídicos tienen dificultades para seguir el ritmo. Por consiguiente, los países están adoptando diversos enfoques para la gobernanza de la IA. La Unión Europea ha asumido el liderazgo, introduciendo el Reglamento Europeo de Inteligencia Artificial, que entró en vigor el 1 de agosto de 2024 (los reglamentos de IA proporcionan un marco para el desarrollo y despliegue seguros de un sistema de IA) [3]. Mientras tanto, en los Estados Unidos de América, una ordenanza ejecutiva inicial esbozaba las directrices sobre seguridad, innovación y protección de la IA; sin embargo, fue revocada recientemente por la nueva administración [4]. Por su parte, el Reino Unido ha adoptado una postura más favorable a la innovación, alentando a las organizaciones a adoptar la norma ISO 42001, que aborda los principales retos de la IA, como el sesgo, la explicabilidad y las consideraciones éticas [5,6].
En el ámbito corporativo, varias empresas tecnológicas han implementado voluntariamente marcos de autogobierno con el fin de integrar prácticas de IA responsables en sus organizaciones [7]. A nivel internacional, las Naciones Unidas y la Organización para la Cooperación y el Desarrollo Económico han colaborado en la formulación de políticas mundiales de IA, promoviendo un enfoque cohesivo y normalizado de la regulación [8]. Todos estos esfuerzos resaltan la complejidad de alinear la gobernanza de la IA en diferentes regiones y la importancia de la cooperación internacional para crear marcos de IA sólidos, éticos y preparados para el futuro.
La OMSA reconoce claramente que la gobernanza de los datos y la gobernanza de la IA están profundamente interconectadas. La concordancia de estos dos ámbitos garantiza un despliegue responsable y eficaz de la IA. Una de las razones clave de esta interconexión es que los sistemas de IA dependen de datos de alta calidad y bien gestionados; una gobernanza de datos deficiente puede generar resultados de IA defectuosos, como es bien sabido «datos basura entran, datos basura salen» [9]. Además, tanto los datos como la IA deben cumplir con las normas éticas y reglamentarias para preservar la privacidad, la seguridad y la rendición de cuentas.
Para abordar estas necesidades, el marco de gobernanza de datos de la OMSA proporciona un enfoque normalizado y coherente para la gestión de los datos de la Organización. Garantiza que los activos de datos de la OMSA sean precisos, seguros, coherentes y conformes con la legislación vigente del RGPD. El marco también describe cómo se recopilan, almacenan y utilizan los datos a lo largo de su ciclo de vida, cubriendo todos los procesos desde la creación y el almacenamiento de datos hasta su procesamiento, intercambio y eliminación. Este marco se integrará en el proyecto de arquitectura de datos y su plataforma asociada.
Asimismo, la gobernanza de la IA de la OMSA establece directrices políticas para la adopción responsable, eficiente, segura y estratégica de la IA en la Organización, incluyendo normas para la selección, prueba, evaluación, implementación y supervisión de los modelos de IA.
Se han establecido directrices claras para el uso de modelos de IA en la Organización Mundial de Sanidad Animal, que incluyen estrictas medidas de privacidad de datos con una firme recomendación de no introducir datos confidenciales corporativos, personales o sensibles en sistemas públicos de IA. También es fundamental validar la precisión, relevancia e idoneidad de los contenidos generados por IA antes de utilizarlos en comunicaciones oficiales o en la toma de decisiones.
Garantizar la Adopción Responsable de la IA
La OMSA está comprometida con la adopción responsable de la IA mediante procedimientos sistemáticos y rigurosos de prueba y evaluación. Se trata de procesos diseñados para evaluar exhaustivamente el rendimiento técnico y el impacto empresarial de los modelos generados por IA. La supervisión periódica detectará cambios en los patrones de datos, la degradación de la precisión de los modelos, las vulnerabilidades en materia de seguridad y los incumplimientos de las normas.
Se han establecido directrices claras para el uso de modelos de IA en la Organización, que incluyen estrictas medidas de privacidad de datos con una firme recomendación de no introducir datos confidenciales corporativos, personales o sensibles en sistemas públicos de IA. También es fundamental validar la precisión, relevancia e idoneidad de los contenidos generados por IA antes de utilizarlos en comunicaciones oficiales o en la toma de decisiones. La transparencia constituye otro factor clave, que exige la divulgación del uso del contenido generado por IA a las partes interesadas cuando proceda. Asimismo, se hace hincapié en el uso ético y con salvaguardias para garantizar que las herramientas de IA se utilicen de forma responsable, evitando sesgos, discriminación o resultados inapropiados. Asimismo, cuando se utilizan modelos públicos de IA, el cumplimiento de las políticas organizacionales y la legislación aplicable (p. ej., el RGPD) son esenciales. Por último, las directrices de seguridad hacen hincapié en la necesidad de vigilancia ante posibles violaciones o filtraciones de datos y de notificación inmediata de todo tipo de incidente.
La política de gobernanza de la IA también define las funciones y responsabilidades de las principales partes interesadas que participan en la adopción y aplicación de modelos de IA en la OMSA. El comité de revisión arquitectónica se encarga de la supervisión, la dirección estratégica y la aprobación final de las nuevas arquitecturas técnicas. Los equipos técnicos del proyecto, compuestos por el personal técnico interno de la OMSA, así como por socios técnicos y proveedores, son responsables de la implementación técnica, las pruebas, el despliegue y la supervisión de los modelos de IA. Los equipos de cumplimiento y seguridad garantizan que todos los modelos e implementaciones sean conformes con las normas reglamentarias, de cumplimiento y de seguridad, reforzando la integridad de los sistemas de IA. Por último, el comité asesor de cambios gestiona todas las modificaciones de las plataformas tecnológicas activas de la Organización, con el apoyo administrativo del equipo técnico de la OMSA.
Orientaciones Futuras sobre IA y Análisis de Datos en la Organización Mundial de Sanidad Animal
La OMSA innova continuamente su enfoque y actualmente explora la manera en que la IA y el análisis avanzado de datos pueden mejorar la recopilación e interpretación de datos para ofrecer mejor información y perspectivas a sus Miembros y Delegados. En este contexto, el proyecto de arquitectura de datos de la OMSA impulsará el uso de la IA en los conjuntos de datos de la Organización durante el desarrollo de la plataforma. A medida que las capacidades de IA evolucionen dentro de la Organización, otras aplicaciones empresariales, como el Sistema de Información sobre las Prestaciones de los Servicios Veterinarios y el Sistema Mundial de Información sobre Sanidad Animal, también se beneficiarán de estos avances, lo cual garantizará que la OMSA se mantenga a la vanguardia de la toma de decisiones eficaz basada en datos en el ámbito de la sanidad y el bienestar de los animales a escala mundial.
Traducido del original en inglés.
Imagen principal: ©ChatGPT
Referencias
[1] Organización para la Cooperación y el Desarrollo Económico (OCDE). Explanatory memorandum on the updated OECD definition of an AI system. OECD Artificial Intelligence Papers, No. 8. París (Francia): Publicaciones de la OCDE; 2024. https://doi.org/10.1787/623da898-en
[2] Information Commissioner’s Office (ICO). AI tools in recruitment: Audit outcomes report. Cheshire (Reino Unido): ICO; 2024. Disponible en: https://ico.org.uk/media2/migrated/4031620/ai-in-recruitment-outcomes-report.pdf (consultado el 9 de julio de 2025).
[3] El Reglamento de Inteligencia Artificial entra en vigor. Bruselas (Bélgica): Comisión Europea; 2024. Disponible en: https://commission.europa.eu/news-and-media/news/ai-act-enters-force-2024-08-01_es (consultado el 9 de julio de 2025).
[4] Removing barriers to American leadership in Artificial Intelligence. Washington, D.C. (Estados Unidos de América): La Casa Blanca; 2025. Disponible en: https://www.whitehouse.gov/presidential-actions/2025/01/removing-barriers-to-american-leadership-in-artificial-intelligence/ (consultado el 9 de julio de 2025).
[5] Department for Science, Innovation & Technology. A pro-innovation approach to AI regulation. Londres (Reino Unido): HM Government. Disponible en: https://assets.publishing.service.gov.uk/media/64cb71a547915a00142a91c4/a-pro-innovation-approach-to-ai-regulation-amended-web-ready.pdf (consultado el 9 de julio de 2025).
[6] Organización Internacional de Normalización (ISO). ISO 42001: Artificial intelligence. Ginebra (Suiza): ISO; 2023. Disponible en: https://www.iso.org/standard/42001 (consultado el 9 de julio de 2025).
[7] Anthropic, Google, Microsoft, OpenAI launch Frontier Model Forum. Redmond (Estados Unidos de América): Microsoft; 2023. Disponible en: https://blogs.microsoft.com/on-the-issues/2023/07/26/anthropic-google-microsoft-openai-launch-frontier-model-forum/ (consultado el 9 de julio de 2025).
[8] UN and OECD announce next steps in collaboration on artificial intelligence. Nueva York (Estados Unidos de América): Naciones Unidas; 2024. Disponible en: https://www.un.org/digital-emerging-technologies/content/press-release-un-and-oecd-announce-next-steps-collaboration-artificial-intelligence#:~:text=22%20September%202024%20%E2%80%93%20Meeting%20on%20the%20margins,UN%20and%20the%20OECD%20on%20global%20AI%20governance (consultado el 9 de julio de 2025).
[9] Data quality and its impact on AI. Tallinn (Estonia): AIMultiple; 2025. Disponible en: https://research.aimultiple.com/data-quality-ai/ (consultado el 9 de julio de 2025).
Continue reading
Manténgase al día con nuestro boletín mensual. Reciba las últimas noticias de nuestra Organización, red y colaboradores. Incluye autodeclaraciones de los Miembros, artículos, conocimientos científicos, publicaciones y mucho más.
