La OCDE actualiza los principios de IA para mantenerse al tanto de los rápidos avances tecnológicos

0
50

La Reunión del Consejo Ministerial (MCM) de la OCDE de 2024 adoptó revisiones de los históricos Principios de la OCDE sobre Inteligencia Artificial (IA). En respuesta a los recientes avances en las tecnologías de IA, en particular el surgimiento de la IA generativa y de propósito general, los Principios actualizados abordan más directamente los desafíos asociados a la IA que involucran privacidad, derechos de propiedad intelectual, seguridad e integridad de la información.

Con 47 adherentes, incluida la UE, y un alcance general que garantiza la aplicabilidad a los desarrollos de la IA en todo el mundo, los Principios de la OCDE sobre la IA proporcionan un modelo para los marcos políticos sobre cómo abordar los riesgos de la IA y dar forma a las políticas de IA. Como primer estándar intergubernamental sobre IA, abogan por una IA que sea innovadora y confiable, y que defienda los derechos humanos y los valores democráticos.

Siguiendo la evolución desde que se adoptaron por primera vez los Principios en 2019, el Observatorio de Políticas de IA de la OCDE muestra que las inversiones de capital de riesgo en nuevas empresas de IA generativa se han multiplicado por nueve, la demanda de habilidades de IA se ha disparado un 130% y la proporción de grandes empresas que utilizan IA. en promedio en la OCDE, casi se ha duplicado a más de cuatro veces el de sus contrapartes más pequeñas. Estos avances coinciden con una importante atención y acción política, como lo demuestran más de 1.000 iniciativas de IA en más de 70 países y jurisdicciones.

Cada vez es más imperativo desarrollar e implementar sistemas de inteligencia artificial para impulsar la productividad, acelerar la investigación científica, promover la sostenibilidad ambiental y mejorar la atención médica y la educación, al mismo tiempo que se defienden los derechos humanos y los valores democráticos. Pero riesgos como los que afectan a la privacidad, la seguridad, la equidad y el bienestar se están desarrollando a una velocidad y escala sin precedentes, convirtiéndose en daños en el mundo real, como la perpetuación de prejuicios y discriminación, la creación y difusión de información errónea y la distorsión del discurso público y de los mercados.

Los elementos clave de las revisiones de la OCDE, que garantizan que los Principios sigan siendo relevantes, sólidos y adecuados para su propósito, incluyen:

Abordar las preocupaciones de seguridad, de modo que si los sistemas de IA corren el riesgo de causar daños indebidos o exhibir un comportamiento no deseado, existan mecanismos y salvaguardas sólidos para anularlos, repararlos y/o desmantelarlos de manera segura.

Reflejando la creciente importancia de abordar la información errónea y la desinformación, y salvaguardar la integridad de la información en el contexto de la IA generativa.

Hacer hincapié en la conducta empresarial responsable durante todo el ciclo de vida del sistema de IA, implicando la cooperación con proveedores de conocimientos y recursos de IA, usuarios de sistemas de IA y otras partes interesadas.

Aclarar la información sobre los sistemas de IA que constituyen transparencia y divulgación responsable

Hacer referencia explícita a la sostenibilidad ambiental, una preocupación que ha ganado importancia considerablemente en los últimos cinco años.

Subrayando la necesidad de que las jurisdicciones trabajen juntas para promover entornos de gobernanza y políticas interoperables para la IA, a medida que aumenta el número de iniciativas de políticas de IA en todo el mundo.

«La OCDE ha ayudado a dar forma a las agendas de políticas digitales durante décadas, a través de recomendaciones basadas en evidencia y una amplia cooperación multilateral y de múltiples partes interesadas», dijo el Secretario General de la OCDE, Mathias Cormann . “Los Principios de IA de la OCDE son un punto de referencia global para la formulación de políticas de IA, facilitando la interoperabilidad de las políticas globales y promoviendo la innovación con los seres humanos en el centro. Los Principios de IA revisados ​​de la OCDE proporcionarán un modelo para la interoperabilidad global en la política de IA y para que los formuladores de políticas sigan el ritmo de la tecnología, abordando la IA generativa y de propósito general y sus efectos en nuestras economías y sociedades”.

La Recomendación del Consejo de la OCDE sobre Inteligencia Artificial, que incluye los Principios de IA de la OCDE, contiene definiciones que sustentan y fomentan la interoperabilidad internacional; Las definiciones de la Recomendación sobre un sistema de IA y su ciclo de vida se utilizan en todo el mundo, incluidos la Unión Europea, Japón y Estados Unidos. Las definiciones también informan el trabajo de las Naciones Unidas y del Consejo de Comercio y Tecnología UE-EE.UU.

Fuente: OCDE