Address
304 North Cardinal St.
Dorchester Center, MA 02124

Work Hours
Monday to Friday: 7AM - 7PM
Weekend: 10AM - 5PM

Inteligencia Artificial: ¿Cómo se está regulando este fenómeno tecnológico en el Perú y el mundo?

COMISIÓN DE INVESTIGACIÓN ACADÉMICA[1]

Equipo de Derecho Mercantil


 

  1. INTRODUCCIÓN

Acorde a lo señalado por la Organización Mundial de Propiedad Intelectual, se considera que la inteligencia artificial (IA) es una disciplina de la informática que tiene como objetivo desarrollar máquinas y sistemas que puedan realizar tareas que se estima requieran de inteligencia humana. (World Intellectual Property Organization, s. f.)

En estos últimos años, los gobiernos del mundo llevan realizando diversos intentos para delimitar los aspectos principales de la IA; sin embargo, presentan muchos desafíos y riesgos. Las inteligencias artificiales aún no son perfectas y varias aún se encuentran en procesos de desarrollo, por lo que pueden tener figuras que podrían generar problemas que conllevarían a una serie de resultados desfavorables e ilícitos. Hay diversos problemas como la vulneración a la seguridad y la privacidad de los datos de los usuarios, pues varias inteligencias artificiales requieren de datos personales para realizar las tareas para las que han sido creadas.

La IA es una tecnología que está revolucionando el mundo en diversos aspectos, por lo que en este artículo abordaremos cómo se está regulando la IA en el Perú y el mundo.

2. NORMATIVA INTERNACIONAL SOBRE INTELIGENCIA ARTIFICIAL

Según Fernández-Aller y Serrano Pérez, en ¿Es posible una Inteligencia artificial respetuosa con la protección de datos? (2022), señala que “existe un debate prolongado en relación con el tratamiento automatizado de datos y los algoritmos y su impacto en el derecho a la intimidad y la protección de datos. Los algoritmos facilitan la recopilación de grandes cantidades de datos e imágenes, lo que puede tener graves consecuencias para el disfrute del derecho a la vida privada y familiar, incluido el derecho a la protección de datos”.

Las inteligencias artificiales requieren de esa recopilación de datos e imágenes para poder realizar algunas de sus funciones y, debido a ello, nosotros permitimos el acceso a nuestros datos, por ejemplo, cuando damos acceso a las páginas web mediante las cookies. Sin embargo, no hay un filtro para limitar la forma y cantidad de recopilación de los datos y así poder evitar vulneraciones de derechos como el de protección de datos.

Es por eso que nos encontramos frente a los primeros intentos para normativizar la esfera jurídica que involucra a las IA por parte de comunidades políticas y son diversos los países que ya han incorporado regulación sobre la IA, entre ellos tenemos a Australia, la Unión Europea, Reino Unido, Estados Unidos, China, Singapur, Japón y Canadá. (Kohn & Pieper, 2023; O’Connell et al., 2023)

Asimismo, en noviembre del 2021, 193 Estados miembros de la UNESCO aprobaron el primer marco ético sobre la IA con el objetivo de proteger y promover los derechos humanos y la dignidad humana como base normativa global frente a los riesgos y desafíos que se derivan de esta tecnología. (UNESCO, 2021)

El gobierno canadiense, a través de su parlamento, en el mes de junio del año 2022 llevó a cabo la presentación de un preludio, a lo que será en un futuro, de un marco normativo para regular las IA. En dicho sentido, el principal enfoque al cual se centra este marco es el del riesgo que se presenta tanto en la actualidad como en el futuro, pues los algoritmos de las IA, como cualquier avance tecnológico, no tiene un campo de desarrollo ilimitado. En este proyecto de ley, se encuentra el “Artificial Intelligence and Data Act (AIDA)”, (Canadá, 2023) que en español significa la Ley de Inteligencia Artificial y Datos, cuya finalidad es otorgar al gobierno canadiense la capacidad de generar un modelo de diseño y evolución para las Inteligencias Artificiales en las empresas privadas dentro de todo el territorio canadiense.

Actualmente, otra propuesta legislativa que ha generado gran expectativa a nivel global es la realizada por La Comisión Europea a través del Acta de Inteligencia Artificial (AI Act) (generada en abril del 2021), (Comisión Europea, 2021) cuyo objetivo es direccionar los riesgos generados por el uso específico de la inteligencia artificial mediante un conjunto de normas complementarias, proporcionadas y flexibles para garantizar un desarrollo ético y centrado en el ser humano en el uso de la IA. (Comisión Europea, 2023) Según las noticias del Parlamento Europeo, la comisión de Mercado Interno y la Comisión de Libertades Civiles adoptaron el proyecto de mandato de negociación con 84 votos a favor, 7 en contra y 12 abstenciones. En las enmiendas de la propuesta de La Comisión Europea, los Miembros del Parlamento Europeo buscaban que se garantice que los sistemas de IA sean supervisados por personas, sean seguros, transparentes, rastreables, no discriminatorios y respetuosos con el medio ambiente; así como una definición uniforme de IA diseñada para ser neutral tecnológicamente para que pueda aplicar a los sistemas de IA de hoy del mañana. (Parlamento Europeo, 2023) Como vemos, este cuerpo normativo es ambicioso y planea estar vigente de manera indeterminada puesto que la IA es una tecnología en auge que continuará evolucionando con el paso del tiempo.

En el gobierno chino, actualmente no existe como tal una ley que regule las inteligencias artificiales; no obstante, debido a la carrera económica que existe con el gobierno estadounidense, ya empezaron a introducir leyes para regular los algoritmos con su uso en actividades económicas. La Ley de Protección de Información Personal, “Personal Information Protection Law (PIPL)”, (Calzada, 2022) establece que todas las compañías, ya sea nacional o internacional, sin importar el tamaño que sea, regulen los algoritmos de recopilación de datos que utilizan en los ciudadanos chinos con los fines para el marketing del consumo. Esta ley exige a las empresas que informen al gobierno chino de las Inteligencias Artificiales que están empleando y que dicho uso es solo con fines de consultas de gustos, intereses, futuras compras, etc. Adicionalmente, contiene una prohibición para evitar que los datos recogidos del estado financiero de los usuarios sirvan para realizar modificaciones a los precios de los productos de acuerdo a la situación económica del cliente.

Por otro lado, ante la ausencia de una ley por parte del gobierno chino, Shanghái aprobó una ley con el objetivo de desarrollar las inteligencias artificiales en el sector privado. Ello es posible por la regulación federal de China, que permite a las provincias promulgar de forma autónoma leyes sin la necesidad de refrendar a un organismo superior, pero la ley sólo tiene efectos a nivel provincial.

En septiembre del año 2022, se promulgó “the Shanghai Regulations on Promoting the Development of the AI Industry” (las Regulaciones de Shanghái para promover el desarrollo de la industria de las Inteligencias Artificiales) que proporciona a las empresas en la provincia una especie de permiso para regirse a normativa de Inteligencia Artificial que no pertenezca al ordenamiento jurídico chino. (Oficina de Información del Consejo de Estado de la República Popular de China, 2022) Dicho de otra forma, frente a la demora en desarrollar legislación en un tema reciente que requiere mucha investigación, en Shanghai se ha comenzado a permitir el utilizar normativa internacional y la de otros países para regular este tema hasta que el gobierno chino promulgue una ley que abarque todos los aspectos necesarios. Es una forma muy ingeniosa el cómo esa ley permite mantener una regulación superficial frente al desarrollo de las Inteligencias Artificiales en la industria dentro de la provincia de Shanghai hasta que el legislador superior genere la ley.

En el caso de Estados Unidos, hay una situación similar a la de China, en la que se encuentran a la espera de una legislación que se rija a nivel nacional, pues el sistema de legislación federal del país tiene que aprobarlo para que surtan efectos en todo su territorio. En el 2022, diversos estados realizaron propuestas o aprobaron legislaciones referentes a las Inteligencias Artificiales. El enfoque de estas leyes era de regular las herramientas que son utilizadas por el sector privado.

En el estado de Nueva York, existe una de las primeras leyes de inteligencia artificial bajo esa primicia de regular la forma en la que el sector privado emplea estos nuevos recursos para interactuar con sus empleados. La ley local Nº 144 del 2021, New York City Local Law 144 of 2021, (Filippi et al., 2023) prohíbe a los empleadores usar a las inteligencias artificiales y los algoritmos para contratar y ascender a empleados. Esta ley tiene el objetivo de evitar que los empleadores agilicen esta toma de decisiones basándose en un sistema de datos y algoritmos que puede terminar en una vulneración de derechos laborales y civiles. El legislador del estado de Nueva York colocó una excepción a esta norma que es realizar primero una auditoría hacia estas inteligencias artificiales y los algoritmos para monitorear un correcto funcionamiento de estas como del empleador. Además, de que se debe de notificar a los trabajadores o los candidatos que serán supervisados con estas herramientas para evaluarlos.

A nivel federal, la administración del presidente Biden y el Instituto Nacional de Estándares y Tecnología (National Institute of Standards and Technology (NIST)) decidieron publicar guías para el uso de las inteligencias artificiales. En función a estas guías, los gobiernos estatales y municipales promocionan grupos de trabajo para fomentar el uso correcto de las Inteligencias Artificiales.

La administración Biden también publicó el “Blueprint for an AI Bill of Rights” (Estados Unidos, 2022) que, comparándolo con el ordenamiento jurídico peruano, es similar a un proyecto de ley para regular a las Inteligencias Artificiales. El núcleo principal de este proyecto de ley es salvaguardar a los individuos frente a la discriminación algorítmica y permitir que las personas decidan no participar en esta recopilación masiva de datos.

Según la oficina de política científica y tecnológica de la Casa Blanca, en “Blueprint for an ai bill of rights, Making automated systems work for the american people”, “se han identificado cinco principios que deben guiar el diseño, uso e implementación en los sistemas automatizados para proteger a los ciudadanos estadounidenses en la era de la inteligencia artificial”. (Estados Unidos, 2022, p. 3) Estos principios son: “Sistemas seguros y efectivos”, “Protección de discriminación algorítmica”, “Privacidad de los datos”, “Notificación y explicación”, y “Alternativas humanas, consideración y respaldo”.

Todos esos principios engloban la idea por parte del gobierno estadounidense de que en esta entrada a la era de la inteligencia artificial se debe tener bien establecidas estas bases para evitar que existan vulneraciones de derechos y es por ello que cada uno tiene como su eje a la protección de la integridad humana. Por dicha razón, se centran tanto en querer  darle el derecho a sus ciudadanos de poder solicitar que los algoritmos no rompan su privacidad y que se les informe que una Inteligencia Artificial está monitoreándolos, pues no está corroborado plenamente que todos los datos recopilados no hayan sido utilizados por terceras personas.

Cada gobierno en el mundo tiene diferentes formas de tratar el fenómeno de las Inteligencias Artificiales y, como hemos visto, cada gobierno tiene un enfoque distinto tanto en el aspecto social como en el económico. Gobiernos como el de China y Canadá tienen la intención principal de regular de alguna manera este fenómeno para implementar en las empresas y obtener beneficios económicos en un futuro no muy lejano. El gobierno estadounidense no se queda atrás en este tema y, si bien uno de sus objetivos también es conseguir ese beneficio económico, quiere aprovechar en generar los principios necesarios para permitir a sus ciudadanos el evitar que las inteligencias artificiales vulneren la privacidad en sus vidas, pues, como dijeron paginas atras Fernández-Aller y Serrano Pérez, los algoritmos pueden traer graves consecuencias para el disfrute de nuestros derechos.

Ahora que hemos visto cómo el mundo ha empezado a participar en esta carrera legislativa para regular el fenómeno de las inteligencias artificiales, nos toca analizar como el Perú está participando en este nuevo capítulo en la era digital.

3. INTELIGENCIA ARTIFICIAL EN EL PERÚ

Nuestro país ya cuenta con una entidad estatal de competencia sobre la IA, la Secretaría de Gobierno y Transformación Digital adscrita a la Presidencia del Consejo de Ministros, encargada de la Estrategia Nacional de Inteligencia Artificial (ENIA) que tiene como propósito proponer ejes, objetivos, acciones que promuevan la investigación, desarrollo y adopción del a IA para crear soluciones a problemas nacionales, generando oportunidades de desarrollo y priorizando sectores productivos y servicios públicos según las estrategias y políticas establecidas en el país. (Presidencia del Consejo de Ministros, 2021)

En adición, el congresista José Cueto Aservi presentó la primera propuesta legislativa sobre IA en agosto del 2022, “Proyecto de Ley Nº02775/2022-CR, Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país”, que a la fecha cuenta con el estado procesal de aprobado en primera votación luego del debate en el pleno. Esta propuesta se centra en seis principios: i) seguridad supervisada; ii) enfoque de pluralidad de participantes; iii) gobernanza de internet; iv) sociedad digital; v) desarrollo ético para una IA responsable; y vi) privacidad de la IA. (Cueto Aservi, 2022).

En dicho sentido, si bien esta propuesta esboza los primeros lineamientos jurídicos específicos a considerarse en el país, será necesario que esté alineado a la regulación global establecida en la Recomendación sobre la ética de la inteligencia artificial de la UNESCO en la cual somos Estado miembro (UNESCO, 2021) y tome en consideración, las secciones favorables a nuestro ordenamiento jurídico del AI Act, proyecto de regulación del Parlamento Europeo que también se encuentra en curso a la futura aprobación. (Comisión Europea, 2021)

4. CONCLUSIÓN

Es importante llegar a la conclusión de que la IA es una tecnología que aporta ventajas a la sociedad y al mismo tiempo genera riesgos que deben ser regulados por el bien común y el interés público para salvaguardar nuestra economía, nuestra sociedad y humanidad.

Por dicha razón, ante el surgimiento y evolución de la IA diversos países han incorporado regulación normativa para su control; en la actualidad, el Perú se encuentra vinculado a través del primer marco ético de la UNESCO y próximamente, de aprobarse el proyecto de ley, contaremos con la “Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país”. Sin embargo, es importante el fiscalizar estas regulaciones, puesto que depende mucho de su adecuada realización el que nuestro país pueda tener una mayor eficiencia. En dicho sentido, la inteligencia artificial representa nuevos retos y ventajas que se pueden aprovechar en el Perú.

[1] Autores de la editorial: Adriana Echevarria Goche y Yuri Andre Pereira Galindo


 

REFERENCIAS BIBLIOGRÁFICAS

Calzada, I. (2022). Citizens’ Data Privacy in China: The State of the Art of the Personal Information Protection Law (PIPL). Smart Cities, 5(3), Article 3. https://doi.org/10.3390/smartcities5030057

Canadá. (2023). The Artificial Intelligence and Data Act (AIDA) – Companion document. Innovation, Science and Economic Development Canada.  Recuperado el 4 de junio de 2023 de https://ised-isde.canada.ca/site/innovation-better-canada/en/artificial-intelligence-and-data-act-aida-companion-document

Comisión Europea. (2021). Proposal for a Regulation laying down harmonised rules on artificial intelligence | Shaping Europe’s digital future.  Recuperado el 4 de junio de 2023 de https://digital-strategy.ec.europa.eu/en/library/proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

Comisión Europea. (2023). A European approach to artificial intelligence | Shaping Europe’s digital future.  Recuperado el 4 de junio de 2023 de https://digital-strategy.ec.europa.eu/en/policies/european-approach-artificial-intelligence

Cueto Aservi, J. C. (2022). Proyecto de Ley N° 02775/2022-CR. Ley que promueve el uso de la inteligencia artificial en favor del desarrollo económico y social del país.  Recuperado el 4 de junio de 2023 de https://wb2server.congreso.gob.pe/spley-portal/#/expediente/2021/2775

Estados Unidos. (2022). Blueprint for an AI Bill of Rights. Making automated systems work for the american people.  Recuperado el 4 de junio de 2023 de https://www.whitehouse.gov/wp-content/uploads/2022/10/Blueprint-for-an-AI-Bill-of-Rights.pdf

Fernández-Aller, C., & Serrano Pérez, M. (2022). ¿Es posible una Inteligencia artificial respetuosa con la protección de datos? Doxa. Cuadernos de Filosofía del Derecho, 45, 307. https://doi.org/10.14198/DOXA2022.45.11

Filippi, G., Zannone, S., Hilliard, A., & Koshiyama, A. (2023). Local Law 144: A Critical Analysis of Regression Metrics (arXiv:2302.04119). arXiv. https://doi.org/10.48550/arXiv.2302.04119

Kohn, B., & Pieper, F.-U. (2023). AI regulation around the world.  Recuperado el 4 de junio de 2023 de https://www.taylorwessing.com/en/interface/2023/ai—are-we-getting-the-balance-between-regulation-and-innovation-right/ai-regulation-around-the-world

O’Connell, K., Lim, C., Pallaras, L., MacRae, D., & Kidman, B. (2023). Summary of AI Regulation around the world—KWM.  Recuperado el 4 de junio de 2023 de https://www.kwm.com/content/kwm/global/en/insights/latest-thinking/summary-of-ai-regulation-around-the-world.html

Oficina de Información del Consejo de Estado de la República Popular de China. (2022). Shanghai rolls out regulation to promote AI industry development | english.scio.gov.cn.  Recuperado el 4 de junio de 2023 de http://english.scio.gov.cn/chinavoices/2022-09/23/content_78435351.htm

Parlamento Europeo. (2023). AI Act: A step closer to the first rules on Artificial Intelligence | News | European Parliament.  Recuperado el 4 de junio de 2023 de https://www.europarl.europa.eu/news/en/press-room/20230505IPR84904/ai-act-a-step-closer-to-the-first-rules-on-artificial-intelligence

Presidencia del Consejo de Ministros. (2021). Estrategia Nacional de Inteligencia Artificial (ENIA).  Recuperado el 4 de junio de 2023 de https://www.gob.pe/institucion/pcm/informes-publicaciones/1929011-estrategia-nacional-de-inteligencia-artificial

UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial. Recuperado el 4 de junio de 2023 de https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa

World Intellectual Property Organization. (s. f.). Artificial Intelligence and Intellectual Property. Recuperado el 4 de junio de 2023 de https://www.wipo.int/about-ip/en/frontier_technologies/ai_and_ip.html

Dimensión Mercantil
Dimensión Mercantil
Artículos: 407

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *