El defensor del Pueblo a cargo Gabriel Savino disertó, de manera virtual, en el Segundo Congreso Internacional Legaltech, Derechos Humanos e Inteligencia Artificial, donde compartió el panel La IA y el Legal Tech para la defensa de los Derechos fundamentales de los ciudadanos con María Jesús González, CEO del Instituto de Innovación Legal de España, Laura Bernal, Directora de Gestión de la Información de la Agencia Nacional de Defensa Jurídica del Estado y Julio Solano, defensor delegado para la protección de derechos en Ambientes Digitales de la Defensoría del Pueblo de Colombia.
En la ocasión Savino remarcó que “cuando ingresamos a una plataforma digital no hay más jurisdicciones, se rompen todas las viejas barreras físicas, de control y seguridad, no hay fronteras, entramos al quinto dominio. Y nos encontramos vulnerables, en este contexto es muy difícil proteger derechos cuando no está en claro la discusión de la Gobernanza de internet”.
En sentido, el defensor englobó en cinco puntos “algunas vulnerabilidades que pueden hacer referencia a nuestro accionar como instituciones protectoras de derechos: sesgo, principalmente de género y raciales; prompt inyection (“inyección por línea de comandos”, de formas maliciosas en la forma de preguntar) que puede generar información, que los mismos desarrolladores intentan bloquear; descubrimiento de información; súper confianza y alucinaciones y resultado por aproximación de variables.
Por último, Savino advirtió que “debemos ser conscientes que cuando uno entra a una plataforma digital, con dispositivos digitales y se conecta a internet, no hay más jurisdicciones, se rompen todas las viejas barreras físicas, de control y seguridad, ya no hay fronteras. Nos vamos a encontrar más vulnerables, salvaguardar la confidencialidad y mitigar los riesgos de violación de datos, tiene correspondencia directa con la Gobernanza Digital, pero al utilizar IA generativas corremos el riesgo de que se nos torne muy difícil proteger derechos”, y convocó a la reflexión: “La pregunta sería: ¿Estamos o no estamos dispuestos a seguir avanzando?”.