Ingreso de Proyecto de Ley que regula Sistemas de Inteligencia Artificial
Con fecha 24 de abril de 2023 ha ingresado a la Cámara de Diputados un nuevo proyecto de ley, el cual tiene por finalidad la regulación de los Sistemas de Inteligencia Artificial, la Robótica y las tecnologías conexas (en adelante, el “Proyecto”).
Dicho Proyecto gira en torno a los siguientes puntos a destacar:
- Creación de un marco jurídico expreso en relación a los Sistemas de Inteligencia Artificial (en adelante, los “Sistemas de IA”), definiciones y clasificaciones de los mismos.
- Creación de un nuevo organismo denominado “Comisión Nacional de Inteligencia Artificial”.
- Implementación de un sistema de autorización previa para el desarrollo, comercialización y utilización de Sistemas de IA.
I. Creación de un marco jurídico expreso en relación a los Sistemas de IA, definiciones y clasificaciones de los mismos.
A este respecto, el Proyecto define a los Sistemas de IA como un software que se desarrolla mediante el empleo de una de las siguientes técnicas: (i) Estrategias de aprendizaje automático (también conocidos como sistemas de IA basados en redes neuronales); (ii) Estrategias basadas en lógica y el conocimiento (sistemas de IA simbólicos); y (iii) Estrategias estadísticas.
De la misma forma, el Proyecto clasifica los Sistemas de IA entre sistemas de riesgo inaceptables y sistemas de alto riesgos. No obstante el proyecto no establece expresamente otra categoría, es posible concluir la existencia de una tercera clasificación como aquellos Sistemas de IA “no inaceptables ni riesgosos”.
Dentro de los sistemas de riesgo inaceptable se pueden destacar, entre otros, los siguientes:
- Los utilizados por parte de las autoridades públicas con el fin de evaluar o clasificar la fiabilidad de personas naturales atendiendo a su conducta social o características personales o de su personalidad, de modo que dicha clasificación provoque un trato perjudicial o desfavorable hacia determinadas personas o colectivos (i) en contextos que no guarden relación con el contexto en que los datos fueron originalmente generados, o (ii) siendo dicho trato injustificado o desproporcionado respecto de su comportamiento social o su gravedad.
- Aquellos de identificación biométrica en tiempo real o diferido en espacios de acceso público, salvo ciertas excepciones indicadas en el Proyecto.
Por su parte el Proyecto considera como sistemas de alto riesgo, aquellos destinados a utilizarse en la asignación y determinación del acceso a establecimientos educaciones, a la selección y contratación de trabajadores, a la evaluación de las personas para acceder a prestaciones y servicios de asistencia pública, y a la gestión de la migración, el asilo y el control fronterizo, entre otros.
II. Creación de un nuevo organismo denominado “Comisión Nacional de Inteligencia Artificial” (en adelante, la “Comisión”) e implementación de un sistema de autorización previa para el desarrollo, comercialización y utilización de Sistemas de IA.
El Proyecto establece la creación de la Comisión, la cual será la encargada de pronunciarse sobre las solicitudes de autorización presentadas por los desarrolladores, proveedores y usuarios de Sistemas de IA, crear y mantener el registro de Sistemas de IA y pronunciase sobre los incidentes graves o defectos de funcionamiento de los Sistemas de IA, entre otras funciones que le encomienda esta norma.
III. Implementación de un sistema de autorización previa para el desarrollo, comercialización y utilización de Sistemas de IA.
Entre las funciones que el Proyecto encarga a la Comisión, resalta la implementación de un sistema de autorización previa realizado por la misma para el desarrollo, comercialización y utilización de Sistemas de IA, por el cual toda persona natural o jurídica deberá gestionar dicha tramitación ex ante. En este sentido, aquellos Sistema de IA que sean clasificados como no aceptables no podrán autorizarse por la Comisión y aquellos considerados como de alto riesgo tendrán la obligación de contar con diversas medidas de mitigación, control y auditoría a fin de obtener la autorización respectiva.
La Comisión tendrá la obligación de contar con un registro público de las solicitudes de autorización de desarrollo, distribución, comercialización y utilización de Sistemas de IA, señalando expresamente si fueron autorizadas o rechazadas por la Comisión y de los incidentes graves y defectos de funcionamiento reportados por desarrolladores, proveedores y usuarios y el pronunciamiento que haya adoptado la Comisión.
Por último, el Proyecto propone la creación de un nuevo tipo penal consistente en el desarrollo, distribución, comercialización o uso de Sistemas de IA de riesgo inaceptable, el cual será sancionado con presidio mayor en su grado mínimo.
Esperamos que el presente informativo sea de utilidad para Uds., y quedamos a su disposición para aclarar y/o complementar cualquier aspecto del mismo.
