Other sectors

La nueva norma ISO/IEC 42001 aumentará la confianza en la IA

AI chatbot usage and concepts

Con el objetivo de ayudar a las empresas y organizaciones a desarrollar un marco sólido de gobernanza de la inteligencia artificial (IA), hoy se ha publicado la norma ISO/IEC 42001 sobre sistemas de gestión de la IA.

La creciente adopción de la inteligencia artificial (IA) por parte de los proveedores de productos y servicios también ha provocado un aumento de la desconfianza hacia la nueva tecnología. ISO/IEC 42001 es la primera norma internacional de sistemas de gestión para el desarrollo y la implantación seguros y fiables de la IA. 

Thomas Douglas, director global del sector de las TIC en DNV, acogió con satisfacción la nueva norma: "Existe una necesidad clara y definida de una norma en torno a la tecnología de IA y sus aplicaciones. Realmente puede ayudar a gestionar los riesgos y garantizar una aplicación eficaz, segura y ética que fomente la confianza entre las organizaciones y los usuarios. Estamos encantados de que por fin esté aquí y entusiasmados por cómo ayudará a las organizaciones a avanzar."

Las organizaciones están dispuestas a aprovechar las oportunidades que ofrece la IA. Pero es necesario actuar con cautela para responder a las preocupaciones de las partes interesadas y hacer frente a los nuevos riesgos y normativas. Para hacer frente a algunas de las preocupaciones que suscita la IA, los gobiernos de todo el mundo están introduciendo o planeando leyes y reglamentos que regulen su uso, incluida la próxima Ley de IA de la UE, actualmente en las últimas fases del proceso legislativo entre la Comisión, el Consejo y el Parlamento de la UE.

La nueva norma establece los requisitos de un marco certificable de sistemas de gestión de la IA que permitirá a las organizaciones obtener los máximos beneficios y, al mismo tiempo, garantizar a las partes interesadas que los sistemas se han desarrollado y se gestionan de forma responsable.

Con un planteamiento similar al de la ISO 9001 sobre gestión de la calidad y la ISO 27001 sobre seguridad de la información, por ejemplo, la ISO/IEC 42001 ofrece mejores prácticas, normas, definiciones y orientaciones para gestionar riesgos y aspectos operativos. 

Los objetivos de la norma ISO/IEC 42001 pueden resumirse en: 
  • Promover el desarrollo y el uso de sistemas de inteligencia artificial fiables, transparentes y responsables. 
  • Hacer hincapié en principios y valores éticos como la equidad, la no discriminación y el respeto a la intimidad a la hora de desplegar sistemas de IA para satisfacer las expectativas de las partes interesadas.
  • Ayudar a las organizaciones a identificar y mitigar los riesgos relacionados con la implantación de la IA, lo que a su vez mejora la eficiencia y reduce los costes.
  • Cumplimiento de la normativa, incluidos los requisitos de protección de datos.
  • Generar una mayor confianza en la gestión de la IA animando a las organizaciones a priorizar el bienestar humano, la seguridad y la experiencia del usuario en el diseño y despliegue de la IA.

"La tecnología de IA es muy prometedora, pero como cualquier innovación, debe aplicarse de forma responsable para que sea eficaz. Si usted es un hospital, por ejemplo, quiere salvar vidas, ¿verdad? Como organismo de certificación de sistemas de gestión global, DNV está deseando trabajar con los clientes para ayudarles a generar confianza en su aplicación de la IA", afirma Thomas Douglas.