18.1 C
Lima
domingo, noviembre 27, 2022

NUESTROS COLUMNISTAS

A propósito de la implementación de Mau-Bot: ¿La Inteligencia Artificial como un problema futurístico o actual en la protección del consumidor peruano respecto a discriminación y trato diferenciado ilegal?

Comisión de Investigación Académica

Equipo de Derecho Mercantil


 

I. Contexto: ¿La inteligencia artificial en el derecho es una cuestión futurista o una realidad en el contexto Latinoamericano?

Los avances tecnológicos en el campo de la inteligencia artificial han despertado el temor en los seres humanos; sin embargo, la gran mayoría considera que estas preocupaciones responden a problemas del futuro. ¿Pero es esto realmente cierto? ¿Es muy temprano para hablar de la presencia de la inteligencia artificial en nuestras vidas o, aún más importante, en nuestros derechos? Ciertamente, no. De hecho, la inteligencia artificial como un conjunto de procesos informáticos que simulan la funcionalidad del cerebro humano con la finalidad de emitir sentencias ya es una realidad en Latinoamérica (Sobrino, 2021). Por ejemplo, en Argentina, en el 2017, se incorporó la Inteligencia artificial “Prometea” en la Fiscalía de la Ciudad Autónoma de Buenos Aires. Prometea, en estos escasos años, ha honrado a su nombre cuyo significado, conforme a la etimología griega, es “la que piensa con anticipación”. Ello se debe a que tiene la sorprendente capacidad de predecir la solución de un caso judicial en menos de 20 segundos y con una probabilidad de 96% de acierto; además, ha logrado elaborar 1000 dictámenes jurídicos en tan solo 45 días, lo cual se ha traducido en una mejora del 99% en la eficiencia de la Fiscalía (Estevez, Fillottrani y Linares, 2020). Este caso no es el único en nuestro continente. Colombia, desde el 2020, también cuenta con su propia inteligencia artificial denominada Pretoria cuyo objetivo es la optimización de la Corte Constitucional mediante la resolución instantánea de sentencias (Gamba, 2021). Por último, este año, el Perú implementó a Mau-Bot en el Poder Judicial como un canal de atención al usuario, el cual, mediante su algoritmo, ofrecerá respuestas automatizadas a determinadas consultas. Todo ello nos permite reflexionar sobre las diversas cuestiones de la inteligencia artificial en el Derecho. Sin embargo, en el presente artículo, nos centraremos solo en una:  la afectación que esta ocasiona en la protección al consumidor

II. ¿El Derecho del consumidor puede verse afectado por la IA?

El Derecho del consumidor nace de un mandato constitucional, específicamente, del artículo 65, el cual señala que el Estado defiende el interés de los consumidores y usuario en las relaciones comerciales de consumo.  En ese sentido, es válido afirmar que el derecho del consumidor es aquel que regula los intereses de los consumidores y las relaciones de consumo en general (Cuellar, 2009). Esta regulación no se estanca en los contratos, sino también abarca el derecho de los consumidores en asuntos relativos a la satisfacción de sus necesidades e intereses. Por ejemplo, la adquisición de bienes y servicios ofrecidos por las empresas o incluso la protección de sus datos. Y he aquí el peligro que representa la Inteligencia artificial en la materia de protección al consumidor. La IA, como sabemos, funciona a partir de un algoritmo y, a la vez, este funciona a partir de una vasta recopilación de información sobre los consumidores. Sin embargo, dicha recopilación de datos no siempre es favorable, no siempre mejora las experiencias de los consumidores: también representa un peligro. Es tal peligro que la propia Unión Europea ha establecido un modelo restrictivo que incluso prohíbe el uso de la Inteligencia artificial en determinados aspectos (Vaqué, 2021). Sobre ello, cuando nos referimos al problema del manejo de información e inteligencia, lo primero en que pensamos es cómo la IA puede afectar a nuestra privacidad. Sin embargo, este no es el único daño que se produce sobre los derechos de los consumidores. La discriminación y trato diferenciado ilícito como producto de los algoritmos usados por los sistemas de inteligencia artificial es un problema que día a día incrementa su relevancia, por lo que se encuentra contemplado en la regulación de la Unión Europea (Vaqué, 2021). 

Una de las más grandes innovaciones de la mercadotecnia es el neuromarketing, el cual consiste en ofrecer productos personalizados a las necesidades de los consumidores con base en estudios previos desde la neurociencia. Actualmente, ello se realiza mediante videojuegos, y diversos test en redes sociales para recaudar información sobre la identidad digital y la frecuencia, ubicación y tiempo de la actividad neuronal (Lee, Broderick & Chamberlain, 2011). Esta información luego es usada para configurar los algoritmos de las IA, la cual genera una discriminación algorítmica. De esta forma, se invisibiliza a todos aquellos consumidores que no encajan en los modelos hegemónicos o mayoritarios reforzando así los estereotipos sociales. Ello limita injustamente el acceso a derechos sobre todo en el caso de grupos vulnerables como las mujeres, personas de color, la comunidad LGTBIQ, e incluso personas con afecciones como aquellos que sufren de dislexia. Por ejemplo, en Estados Unidos, dicha discriminación se materializa en cuanto a la compra de seguros, lo cual limita el acceso al derecho a la salud para los grupos vulnerables. Asimismo, en Estados Unidos, podemos observar el “Price and discrimination”, el cual ha tomado una gran relevancia, ya que, gracias a la IA, se cobra precios diferentes por un mismo servicio o producto a los consumidores en función a los datos extraídos por el neuromarketing que revela cuánto estarían estos dispuestos a pagar, lo cual genera un trato diferenciado ilícito (Sobrino, 2021).

En el Perú, el Indecopi señala que la discriminación se produce “cuando una persona quiere acceder a un producto o un servicio ofrecido por un proveedor -empresa, empresario, negociante- y a cambio obtiene negativa, rechazo, obstaculización o maltrato por razones injustificadas y específicamente relacionadas a su raza, sexo, orientación sexual, origen, idioma, condición socioeconómica, credo y opinión política” (2015). Ello genera una afectación a derechos fundamentales de los consumidores. Por ello, se encuentra prohibido en el artículo 38, inciso 1 del Código de Protección y Defensa del Consumidor. Asimismo, respecto al trato diferenciado ilícito afirma que este se produce “cuando un proveedor niega a un consumidor la posibilidad de adquirir un producto o de disfrutar de un servicio por cualquier motivo que no resista un análisis de proporcionalidad, razonabilidad u objetividad” (2015). Ello, de igual forma, también produce una repercusión negativa sobre los derechos de los consumidores, por lo que también se encuentra prohibida en el mismo artículo en los incisos 2 y 3. Al respecto, existe jurisprudencia en casos de discotecas, niñeras o personal de restaurantes, colegios, bancos, centros comerciales, aerolíneas, etc., pero no en casos de IA. Sin embargo, ello no significa que no pueda producirse. A partir de lo señalado por Indecopi, entendemos que tanto la discriminación como el trato diferenciado ilegal se produce en función de la clasificación o asociación del consumidor con una determinada característica real o presumible. En ese sentido, la IA se convierte en una fuente de discriminación y trato diferenciado ilegal, ya que los algoritmos que emplea se encargan de clasificar a los potenciales consumidores para luego brindarles un trato diferenciado cuyo único sustento es el beneficio de los proveedores en desmedro de los derechos de los consumidores. Además, es necesario tomar en consideración que los algoritmos, desde el inicio, invisibilizan a un grupo de consumidores por no encajar en el modelo mayoritario, por lo que desde ese instante ya se está obstaculizando el acceso a un producto o un servicio, lo cual es una clara muestra de discriminación. 

III. Conclusiones

La presencia de Inteligencia Artificial en nuestras vidas ya no es una posibilidad futurística: es una realidad. Al respecto, cuando pensamos en Inteligencia Artificial, solemos pensar en países europeos o países desarrollados como Estados Unidos, Japón o Corea del Sur; sin embargo, difícilmente, podemos asociar este concepto con nuestro entorno latinoamericano. No obstante, la Inteligencia Artificial también es una realidad. En el ámbito del derecho, destaca la presencia de sistemas como Prometea, Pretoria y Mau-Bot. Por tanto, es necesario meditar sobre el impacto de la IA en nuestros derechos. En ese sentido, es necesario reconocer que la falta de claridad en materia de privacidad de nuestra información no es el único problema cuando nos referimos a los derechos de los consumidores. En los últimos años, la discriminación ha dejado de ser una cuestión que atañe únicamente a ramas tradicionales del derecho como el Derecho Constitucional. La discriminación por algoritmo es una realidad que viene afectando a los consumidores, ya que los invisibiliza generando así un trato diferenciado ilícito y un recorte en el acceso a sus derechos. En nuestro país, el Indecopi ha emitido jurisprudencia respecto a discriminación y trato diferenciado en materia de protección al consumidor. Si bien es cierto que esta no se refiere a Inteligencia Artificial, sí resalta la relevancia en cuanto a la afectación de derechos. Además, a partir de los supuestos de escenarios o circunstancias en las que se puede producir la discriminación y trato diferenciado, podemos reparar en el peligro que representa la IA en materia de protección al consumidor. Por tanto, es necesario, desde ahora, reflexionar sobre la necesidad de una legislación que proteja a los consumidores peruanos de los escenarios que ya se están produciendo en otros países. 


Bibliografía:  

Cuellar, J. C. V. (2009). Aspectos introductorios al derecho del consumo. Prolegómenos. Derechos y Valores, 12(24), 77-95. https://www.redalyc.org/pdf/876/87617269006.pdf 

Dr. Waldo Sobrino «Inteligencia Artificial y Consumidores». (2021, 13 mayo). [Vídeo]. Recuperado de https://www.youtube.com/watch?v=vDTaJHP8YY4&t=8837s 

Estévez, E., Fillotrani, P., & Linares Lejarraga, S. (2020). PROMETEA: Transformando la administración de justicia con herramientas de inteligencia artificial. Recuperado de https://publications.iadb.org/es/prometea-transformando-la-administracion-de-justicia-con-herramientas-de-inteligencia-artificia

Gamba Cifuentes, G. (2021). La Inteligencia Artificial (IA) y su implementación en la prueba como mecanismo de tutela para los derechos fundamentales. Recuperado de https://www.telam.com.ar/notas/202007/495075-la-corte-constitucional-de-colombia-usara-ia-basada-en-un-software-argentino.html 

Indecopi. (2015). DISCRIMINACIÓN EN EL CONSUMO Y TRATO DIFERENCIADO ILÍCITO EN LA JURISPRUDENCIA DEL INDECOPI. Recuperado de https://www.consumidor.gob.pe/documents/51084/126949/Discriminaci%C3%B3n+en+el+Per%C3%BA/f5b608b8-8cc6-43bb-bde8-fbe6398d0094 

Lee N, Broderick AJ, Chamberlain L. (2007). What is ‘neuromarketing’? A discussion and agenda for future research. Internal Journal of Psychophysiology, 63(2), p. 199-204.

Vaqué, L. G. (2021). ¿La Tecnología de la Inteligencia Artificial (IA) puede perjudicar o favorecer a los consumidores? Revista CESCO de Derecho de Consumo, 26-41. Recuperado de https://revista.uclm.es/index.php/cesco/article/view/2751 

Artículos relacionados

Dejar respuesta

Please enter your comment!
Please enter your name here

Mantente conectado

3,337FansMe gusta
650SeguidoresSeguir
- Publicidad -spot_img

Artículos anteriores

- Publicidad -spot_img