La inteligencia artificial puede ser definida en líneas generales como un “sistema basado en máquinas, que tiene objetivos explícitos o implícitos, y realiza inferencias a partir de información de entrada, generando información de salida que puede consistir en predicciones, contenidos, recomendaciones o decisiones, pudiendo influir todas ellas en entornos físicos o virtuales”, logrando obtener beneficios tanto en la esfera individual como social en salud, servicios públicos, sector industrial, entre otros.
Los sistemas de inteligencia artificial aprenden a partir de grandes cantidades de datos, sin los cuales sería imposible obtener los citados beneficios de su uso, los cuales se extraen del análisis exhaustivo de información y de esas grandes cantidades de datos. Es por ello, que es importante implementar algunas regulaciones y medidas de seguridad con el fin de que los datos personales sean tratados de manera ética, legal y responsable. Sin perjuicio de ello, resulta necesario lograr un balance entre innovación y dignidad de la persona y no caer en una sobrerregulación de la misma, dado que, a mayor regulación, menor será el desarrollo de los países que la implementen.
Tanto la Unión Europea como Estados Unidos, China, la Organización para la Cooperación y el Desarrollo Económicos, entre otros, han emitido regulaciones a fin de controlar el uso de la Inteligencia Artificial.
La Unión Europea a través de su Reglamento de Inteligencia Artificial y Estados Unidos mediante su Orden Ejecutiva, mostraron dos modelos con diferentes definiciones normativas en torno a la regulación del sistema de Inteligencia Artificial.
La Unión Europea define al sistema de Inteligencia Artificial como sistema concebido para funcionar con elementos de autonomía que, a partir de datos e información generados por máquinas o por seres humanos, infiere la manera de alcanzar una serie de objetivos, utilizando estrategias de aprendizaje automático o estrategias basadas en la lógica y el conocimiento, y produce información de salida generada por el sistema (contenidos predicciones, recomendaciones o decisiones que influyen en los entornos con los que interactúa el sistema).
En tanto Estados Unidos lo define como un sistema basado en máquinas que puede, para un conjunto determinado de objetivos definidos por humanos, hacer predicciones, recomendaciones o decisiones que influyen en entornos reales o virtuales o como aquellos que utilizan entradas de máquinas y humanos para percibir entornos reales y virtuales, abstraer dichas percepciones en modelos mediante análisis de forma automatizada y utilizar la inferencia de modelos para formular opciones de información o acción, o como el componente de un sistema de información que implementa tecnología de Inteligencia Artificial y utiliza técnicas computacionales, estadísticas o de aprendizaje.
La Unión Europea ofrece una clasificación según el uso, riesgo nulo, riesgo limitado, alto riesgo y riesgo inaceptable. Para los casos de alto riesgo establece una serie de requisitos y obligaciones específicas como el requerimiento de una evaluación de conformidad previa por parte de organismos independientes y el registro de la actividad para garantizar la trazabilidad del resultado, información clara y adecuada para el usuario, medidas adecuadas de supervisión humana para minimizar el riesgo, alto nivel de robustez, seguridad y precisión, entre otras.
Por su parte, Estados Unidos establece categorías de modelos de doble uso y modelos de Inteligencia Artificial generativa, no imponiendo obligaciones específicas al respecto.
Por último, se destaca que la Unión Europea cuenta con un organismo de supervisión, mientras que Estados Unidos no crea una institución de supervisión de cumplimiento de las normas reguladoras.
En éste aspecto, se encuentra otra diferencia entre ambas regulaciones, mientras que la Unión Europea crea un régimen disciplinario, Estados Unidos no impone sanciones directas.
Derivado de lo expuesto, se deduce la preocupación por los datos que identifiquen a personas y que la inteligencia artificial utilice para su funcionamiento. Dado que se incorporan en la vida diaria, puede llegar a tener un impacto en ámbitos privados de las personas y resulta necesario regular el tratamiento debido de la información respetando la privacidad de las personas.
Respecto al derecho a la privacidad, “éste tiene su origen en la doctrina estadounidense de finales del siglo XIX, cuando Warren y Brandeis publicaron su ensayo The Right to Privacy, el cual manifestaba el necesario reconocimiento del derecho a no ser molestados (right to be alone), y posteriormente Westin amplió este concepto e incluyó dentro del derecho a la privacidad, el derecho de todo individuo para determinar cómo, cuándo y hasta qué punto su información personal es comunicada a los demás. El fin último que se busca preservar frente a posibles injerencias arbitrarias en la vida privada de las personas, es contar con mecanismos legales que en su conjunto salvaguarden la vida privada. Uno de estos mecanismos, es el derecho de protección de datos personales”
La Constitución Argentina no menciona la palabra privacidad, pero sí se refiere a “acciones privadas” en su artículo 19, el cual ha sido interpretado por la Corte Suprema de Argentina como consagrando el derecho a la privacidad. El artículo dice “Las acciones privadas de los hombres que de ningún modo ofendan al orden y a la moral pública, ni perjudiquen a un tercero, están sólo reservadas a Dios y exentas de la autoridad de los magistrados. Ningún habitante de la Nación será obligado a hacer lo que no manda la ley, ni privado de lo que ella no prohíbe.” Además, el artículo 18 de la Constitución dice: “El domicilio es inviolable, como también la correspondencia epistolar y los papeles privados; y una ley determinará en qué casos y con qué justificativos podrá procederse a su allanamiento y ocupación.” Respecto a los datos personales, el Artículo 43 dice: “Toda persona podrá interponer esta acción para tomar conocimiento de los datos a ella referidos y de su finalidad, que consten en registros o bancos de datos públicos, o los privados destinados a proveer informes, y en caso de falsedad o discriminación, para exigir la supresión, rectificación, confidencialidad o actualización de aquéllos. No podrá afectarse el secreto de las fuentes de información periodística”, ello sumado a los tratados internacionales consagrados a través de la misma.
En cuanto a disposiciones argentinas específicas para la regulación del uso de la inteligencia artificial y tratamiento de datos personales en sistemas de inteligencia artificial, se pueden mencionar:
Plan Nacional de Inteligencia Artificial del año 2019, el cual se enmarca en la Agenda Digital Argentina 2030 y el Plan Argentina Innovadora 2030. El Decreto N° 996 del 2 de noviembre de 2018 aprueba las Bases para la agenda Digital Argentina. El citado Plan fue coordinado por la Secretaría de Ciencia, Tecnología e Innovación Productiva de la Nación y desarrollado conjuntamente por la Jefatura de Gabinete de Ministros, la Secretaría de Modernización, el Ministerio de Relaciones Exteriores y Culto, el Ministerio de Educación, Cultura, Ciencia y Tecnología y el Ministerio de Producción y Trabajo. Se elaboró mediante mesas sectoriales que trabajaron sobre los siguientes ejes: i+D+i, implementación en el sector público, infraestructura de súper cómputo, implementación sector privado, impacto en el trabajo, vinculación internacional, convergencia sector público-sector privado, financiamiento, ética y regulación, datos, comunicación y concientización y laboratorio de innovación. El Plan tiene, en principio, carácter de informe y nunca llegó a presentarse como documento oficial.
En segundo término, pueden mencionarse las Resoluciones, Disposiciones y Decisiones Administrativas publicadas entre los años 2021 y 2023 tales como:
Resolución N° 90 de la Secretaría de Asuntos Estratégicos del 26 de noviembre de 2021, crea el Programa de Inteligencia Artificial para el desarrollo de actividades vinculadas a la promoción de habilidades tecnológicas relativas a la inteligencia artificial
Disposición N° 2 de la Subsecretaría de Tecnologías de la Información del 1 de junio de 2023, aprueba las Recomendaciones para una Inteligencia Artificial Fiable para proyectos de innovación pública
Resolución N° 161 de la Agencia de Acceso a la Información Pública N° 161 del 30 de agosto de 2023” crea el Programa de transparencia y protección de datos personales en el uso de la Inteligencia Artificial
Decisión Administrativa N° 750 de la Jefatura de Gabinete de Ministros del 7 de septiembre de 2023” crea la Mesa Interministerial sobre Inteligencia Artificial en la órbita de la Jefatura de Gabinete de Ministros como ámbito transversal para abordar el avance y aplicación de la Inteligencia Artificial en diversos sectores de la economía y de la sociedad, de conformidad con un marco ético, de desarrollo sostenible y de transformación digital, y con la finalidad de diseñar una estrategia integral al respecto para ser aplicada por el Poder Ejecutivo Nacional y,
Resolución N° 111 del Ministerio de Justicia del 9 de abril de 2024 a través de la cual se crea el Programa Nacional Integral de Inteligencia Artificial en la Justicia, cuyos objetivos centrales son: Promover las acciones necesarias en el uso de Inteligencia Artificial, para mejorar las respuestas y los procedimientos administrativos y los procesos judiciales frente al desafío que plantea la alternativa de las herramientas digitales y la necesidad de brindar respuestas efectivas y con celeridad a la ciudadanía. Propiciar la eficiencia en la implementación de la Inteligencia Artificial, garantizando que su uso sea en observancia de los derechos fundamentales de los ciudadanos. Ejecutar las tareas necesarias para que la sociedad, por medio de la Inteligencia Artificial, acceda de manera sencilla a los mecanismos de protección y tutela de sus derechos. Instaurar herramientas con Inteligencia Artificial, que contribuyan a la optimización de la labor de aquellos actores sociales que intervienen en los procedimientos administrativos y en los procesos judiciales. Este Programa cuenta con un Comité Consultivo deberá presentar anualmente al suscripto un plan de actividades sobre los proyectos y riesgos del uso de Inteligencia Artificial en la Justicia.
También, se pueden mencionar algunos proyectos de ley conforme se detalla;
Proyecto de ley que dispone controlar el desarrollo, implementación y utilización de sistemas basados en Inteligencia Artificial dentro del territorio argentino N° 1747/23 de Juan Carlos Romero. Propone como objetivo principal salvaguardar la dignidad, los derechos humanos y el bienestar de las personas en el contexto del creciente empleo de la Inteligencia Artificial en diversos ámbitos de la sociedad. Se abordan aspectos fundamentales en la regulación de la inteligencia artificial, tales como: los sesgos, la discriminación y la falta de transparencia de los sistemas y se implementan medidas para prohibir, prevenir y mitigar los sesgos algorítmicos que pueden generar resultados injustos o discriminatorios. Establece como principios rectores: crecimiento inclusivo, desarrollo sostenible y bienestar; transparencia y explicabilidad; robustez, seguridad y protección; colaboración y supervisión humana; y responsabilidad y rendición de cuentas. Asimismo, establece que toda entidad pública o privada que desarrolle y/o utilice sistemas de Inteligencia Artificial debe inscribirse en un Registro Nacional de Sistemas de Inteligencia Artificial a cargo de la Autoridad de Aplicación y prevé la evaluación de impacto previo a comercialización. También prohíbe identificación biométrica remota salvo excepciones.
Responsabilidad algorítmica y promoción de la robótica, algoritmos verdes e inteligencia artificial en la República Argentina N° 0805/24 de Maximiliano Ferraro, su objetivo consiste en establecer un marco legal a los desarrollos de la inteligencia artificial con el objetivo de crear certificaciones de buenas prácticas, implementar un registro de riesgos significativos, promover la inteligencia artificial en pequeñas y medianas empresas, como así también fomentar la responsabilidad y transparencia algorítmica de nuevas tecnologías en respeto del bien común, el estado de derecho y la protección de la autonomía individual. Define a los actores de la Inteligencia Artificial, tales como, los proveedores que introduzcan en el mercado o pongan en servicio sistemas de Inteligencia Artificial , los responsables del despliegue de sistemas de Inteligencia Artificial, los importadores y distribuidores de sistemas de Inteligencia Artificial, los fabricantes de productos que introduzcan en el mercado o pongan en servicio un sistema de Inteligencia Artificial junto con su producto y con su propio nombre o marca comercial, los representantes autorizados de los proveedores y las personas afectadas que estén ubicadas en la Argentina. Establece como principios rectores: crecimiento inclusivo, desarrollo sostenible y bienestar, valores y equidad centrados en el ser humano, transparencia y explicabilidad, robustez, seguridad y protección, responsabilidad, prevención de riesgos y posibles daños, cooperación público-privada. protección especial a mipymes y control de la vigilancia estatal. Asimismo, crea un Consejo Asesor de Inteligencia Artificial con 8 integrantes, dos de los cuales deberán ser representantes del Estado, a fin de elaborar planes de prevención de posibles peligros en innovaciones tecnológicas, emitir recomendaciones no vinculantes y estimular las buenas prácticas algorítmicas en innovaciones, y crea un Registro de riesgos significativos.
Modificación a la Ley N° 25.467 sobre sistema nacional de ciencia, tecnología e innovación N° 1472/23 Facundo Manes y Latorre. A fin de regular el funcionamiento ético de los sistemas de Inteligencia Artificial el proyecto agrega dos valores y principios: diversidad e inclusión y paz y justicia. Establece que los sistemas de Inteligencia Artificial, en cualquier etapa de su ciclo de vida, deberán ser registrados conforme a los procedimientos previstos por un Gabinete Científico y Tecnológico a ese efecto. Y por último, dispone que toda persona física o jurídica que se considere amenazada o perjudicada por un sistema de Inteligencia Artificial podrá realizar la denuncia ante una Secretaría de Ciencia y Tecnología para la revisión del sistema de Inteligencia Artificial.
Regulación y uso de la Inteligencia Artificial N° 4329/23 Anahí Costa. Define como principios rectores: proporcionalidad e inocuidad, garantizar la evaluación de riesgos y la adopción de medidas para impedir que se produzcan daños, seguridad y protección, equidad y no discriminación, sostenibilidad, supervisión y decisión humanas, transparencia y explicabilidad, responsabilidad y rendición de cuentas, sensibilización y educación, gobernanza y colaboración adaptativas de múltiples partes interesadas. El proyecto prohíbe el uso de la Inteligencia Artificial: cuando afecte o comprometa derechos humanos, las libertades fundamentales y los principios éticos, cuando sea generadora de riesgos a la seguridad y riesgos a la protección de los seres humanos, del medio ambiente y de los ecosistemas, cuando generen o perpetúen situaciones que afecte a la diversidad y la inclusión, a la justicia social, a la equidad y/o cualquier tipo de discriminación, cuando los sistemas de Inteligencia Artificial se recopilen datos personales o los mismos se utilicen, compartan, archiven y supriman de forma consistente, cuando un sistema de Inteligencia Artificial procure reemplazar la responsabilidad final de los seres humanos y su obligación de rendir cuentas, cuando un sistema de Inteligencia Artificial sea utilizado para manipular información sensible y destinada a informar a la sociedad y cuando la misma tenga uso bélico y/o militar. En los casos de sistemas de Inteligencia Artificial que así lo requieran se realizará una evaluación del impacto y/o una auditoría previa a su implementación o durante el uso del mismo. Establece al Poder Ejecutivo nacional como autoridad de aplicación.
Regulación y uso de la Inteligencia Artificial en la Educación N° 2504/23 Victoria Morales y Mercedes Joury. Este proyecto aplica a todas las instituciones educativas y organizaciones relacionadas con la enseñanza, desde nivel Inicial hasta nivel superior; de educación pública, de gestión estatal, privada y social. Dispone como principios rectores: transparencia, responsabilidad y mejora educativa. Presenta como puntos clave: la protección de la privacidad y datos personales y la equidad y no discriminación. Establece como autoridad de aplicación al Ministerio de Educación de la Nación, el cual será el encargado de acordar los documentos que darán marco a la regulación de la utilización de la inteligencia artificial en las instituciones educativas y deberán cumplir con las siguientes disposiciones: identificación de los sistemas de inteligencia artificial utilizados, implementación informada, evaluación y monitoreo: las instituciones educativas deberán evaluar y monitorear constantemente el impacto de la utilización de los sistemas de inteligencia artificial en la educación de los estudiantes, supervisión y regulación: las instituciones educativas deberán estar sujetas a la supervisión y regulación de las autoridades competentes en materia de educación y protección de datos personales.
Como reflexión final, si bien el concepto de privacidad no es fácil de definir, podemos inferir que el término de privacidad ha sido redefinido a partir del avance y desarrollo tecnológico y esta sobreexposición y concentración de información por parte de algunos, deja a los usuarios de sistemas de inteligencia artificial desprotegidos frente al poder acumulado por las corporaciones. Un ejemplo de ello, es el caso en el cual “los usuarios que fueron analizados para crear perfiles psicológicos por la empresa Cambridge Analytical, lo hicieron proporcionando su consentimiento para el tratamiento de datos en general, y dicha autorización la hicieron cuando fueron condicionados a otorgarla para usar una aplicación de proyección del futuro. Esto permite visualizar el enorme peso que tiene la regulación en materia de datos personales, ya que el cumplimiento del principio de información y el de consentimiento a través de dicho aviso, no aseguró en este caso un tratamiento ético de la información. Es un caso de tratamientos lícitos de datos personales, pero no éticos”.
Por último, se puede concluir que el dilema de los marcos normativos de la Inteligencia Artificial resulta que, si bien es menester contar con normas sobre buenas prácticas y respeto y protecciòn por los derechos individuales y hacia el bien común donde la Inteligencia Artificial es solo una herramienta a los fines de que las decisiones sean tomadas por humanos, resulta necesario no caer en una sobrerregulaciòn que impida los desarrollos con impacto social tales como incluso aquellos avances que pueden llegar a salvar vidas al permitir a los servicios de emergencias diagnosticar paradas cardíacas u otras dolencias analizando la voz de la persona que llama o detectar tumores con mayor precisión, al facilitarles la comparación instantánea de las radiografías con una gran cantidad de otros datos médicos o controlar los desplazamientos, la temperatura y el consumo de los animales, entre otros.
Dra. Romina Paula Gorgoglione
Referencias bibliográficas
Alejandro Padín (2024) “Así se está regulando la IA en la UE, EE.UU. y la OCDE: el difícil equilibrio entre seguridad y fomento de la innovación”
BAIC Basque Artificial Intelligence Center (2024) “Ley AI Act, la nueva regulación de la Inteligencia Artificial de la UE”
Carolina Aguerre y Maia Levy Daniel. “Reportes de Política Pública Argentina”
Honorable Senado de la Nación Argentina https://www.senado.gob.ar/
Honorable Cámara de Diputados de la Nación https://www.diputados.gov.ar/
Información Legislativa y Documental https://www.infoleg.gob.ar/
Parlamento Europeo (2024) “Ley de IA de la UE: primera normativa sobre inteligencia artificial”
Sebastián Heredia Querro (2024) Material de estudio de “Inteligencia Artificial y Derecho” Universidad Di Tella
Informe de las partes interesadas Examen Periódico Universal 26º período de sesiones – Argentina. El Derecho a la Privacidad en Argentina.
Olivia Andrea Mendoza Enríquez. El derecho de protección de datos personales en los sistemas de inteligencia artificial.
¿Qué desafíos y oportunidades presenta la inteligencia artificial en el mundo actual?
