Vladimir Garay, ONG Derechos Digitales: Desafíos y regulación estatal de la inteligencia artificial

Vladimir Garay, director de Incidencias de la ONG Derechos Digitales, habló en el noticiero Vista Panorámica de esta semana, sobre el desarrollo de las tecnologías automatizada. Específicamente de la inteligencia artificial (IA), sus desafíos y la regulación estatal, en materia de protección de datos personales y derechos humanos.

Por:  Karina González

Desde hace un tiempo que la transformación digital y la creciente implementación de la inteligencia artificial (IA) están teniendo un impacto significativo en todos los sentidos de la vida. Por lo mismo, es necesario reflexionar sobre los principales desafíos y oportunidades que crean este tipo de tecnologías digitales.

La IA abarca una serie de tecnologías muy variadas, que están siendo utilizadas en muchos ámbitos de la vida. Hace bastante tiempo nos relacionamos, de alguna u otra manera, con la IA, y muchas veces no lo sabemos. 

Al respecto, Vladimir Garay explicó que ya hacemos uso de este tipo de tecnología y que el burlado Chat GPT no es el único sistema circulando.  

“Hay montones de distintos usos y sistemas de IA, que se usan para diferentes cosas. Por ejemplo, cuando hacemos una búsqueda en google, los resultados que obtenemos son una decisión automatizada algorítmica que, en el fondo es IA. La publicidad en Instagram, es una decisión automatizada basada en el análisis de datos. Por tanto, Chat GPT e inteligencia artificial para generar imágenes no son los únicos, son los que tienen mayor visibilidad actualmente”. 

El gran desafío: la privacidad

Ahora bien, si la inteligencia artificial influye en todos los ámbitos de la sociedad, se incluyen los derechos humanos, los relativos a la comunicación y a la privacidad. Bajo dichos parámetros, surgen ciertas problemáticas relativas a los derechos digitales, en relación al uso que se le está dando a ciertas tecnologías de respuestas automatizadas. Principalmente al alero de las decisiones estatales en lo que tiene que ver a tomar decisiones respecto a los ciudadanos. 

Las tecnologías automatizadas, como la IA, necesitan la utilización de grandes volúmenes de datos que se le entrega a los sistemas con el fin de entrenarlos. Sin embargo, para Vladimir Garay, “la primera preocupación respecto a la entrega de datos personales es: ¿cuáles son las fuentes de los datos? y ¿cuáles son los datos que le estamos entregando?”

Vladimir Garay, cuestionó la transparencia de los sistemas y las bases de datos a las que tienen acceso. “Necesitamos que los sistemas sean lo más transparentes posibles, en ese sentido, la posibilidad de entender porqué un sistema toma una decisión y no otra. Si tiene acceso a información relativa a registros médicos, eventualmente, esos datos pueden tener otros usos, que no eran los inicialmente pretendidos para la información. Lo anterior puede ser un problema importante para la privacidad”. 

Con respecto al desafío legal en materia de datos personales, explicó que es necesario tener un resguardo sobre qué tipos de datos se utilizan en la inteligencia artificial y de qué manera. Puesto que, actualmente, las inteligencias artificiales funcionan como cajas negras, “les meten muchos datos, sale algo de ahí, pero no es posible saber porqué salió eso y no otra cosa”, ejemplificó el director de incidencias de la ONG Derechos Digitales.  

Regulación estatal 

La cantidad de datos disponibles ha permitido que la tecnología realice cosas que antes no podía, lo cual tiene que ver con la posibilidad de analizar datos. Pero, al mismo tiempo, no hay claridad sobre cuál es límite que tienen las inteligencias artificiales. Por lo mismo, Vladimir enfatizó que “hay desarrollos que son interesantes y tienen futuro, pero hay otros que son todo lo contrario, son irresponsables y peligrosos”

Por otro lado, Vladimir Garay, se refirió al diseño que debería tener la regulación de las inteligencias artificiales que se están utilizando en los Estados. Según sus recomendaciones, deberían optar a un diseño participativo particularmente en las comunidades a las que la inteligencia artificial será dirigida.

Vladimir Garay, de ONG Derechos Digitales, al finalizar la entrevista en el noticiero Vista Panorámica, insistió en que los desafíos y la regulación estatal de la inteligencia artificial deben estar relacionadas con los estudios de su impacto en materia de derechos humanos.

También, enfatizó en que “ese impacto no debe ser contrario al ejercicio de los derechos humanos. Por ello, cualquier IA que venga del estado, debería estar sujeta a procesos constante de evaluación y auditorías, que sean lo más transparentes posible y realizados por terceros”. Con ello, invitó a la comunidad universitaria a utilizar de manera crítica las plataformas digitales y situar en el debate nuevos desafíos para la regulación estatal de la inteligencia artificial. 

Escucha la entrevista completa en el noticiero semanal Vista Panorámica: