El peligro del pasado fue que hizo esclavos a los hombres. El peligro del futuro es que lleguen a ser robots”
Erich Fromm
EL ECONOMISTA Por Luis Bartolini Esparza
La expresión y concepto de Inteligencia Artificial “IA” no es nueva y es algo a lo que se ha aspirado y se ha venido trabajando desde hace muchos años. Paralelamente, podemos encontrar en la literatura y la cinematografía múltiples ejemplos que en no pocas ocasiones describen un panorama bastante obscuro e incluso apocalíptico, como consecuencia de su desarrollo desregulado y en extremo ambicioso, llegando incluso a considerarse como potencial causante de la extinción de la raza humana o su absoluta dominación por una nueva generación de autómatas super evolucionados. Baste recordar, por ejemplo, la saga de Terminator o el libro Yo Robot de Isaac Asimov y sus leyes de la robótica para traer a la memoria tales desesperanzadores escenarios.
La romántica visión decimonónica de Mary Shelley acerca de la creación de vida humana a partir de la conformación de una creatura hecha de partes de cadáveres sería bajo esa óptica, aparentemente más fácil de concebir en la actualidad, si se entiende a luz de la IA.
Sin embargo, el tema se vuelve de mayor relevancia y actualidad a partir de la entrada en operación de la herramienta informática de OpenAI en su versión Chat GPT-4 el pasado mes de noviembre de 2022 y que permite a cualquier usuario, acceder y comenzar a explorar las capacidades y alcances de este robot. Evidentemente, los retos que esto plantea van más allá de superar ciertas problemáticas científicas o tecnológicas, que seguramente se podrán solucionar; lo trascendente está en las consecuencias éticas, la preponderancia y salvaguarda de la seguridad humana respecto de estos robots corpóreos o sólo informáticos, así como los candados para evitar el mal uso y abuso de estas tecnologías en aras de manipular, someter o exterminar a determinados colectivos de seres humanos.
Todo ello, nos lleva de nueva cuenta y como ya lo mencionaba en un artículo anteriormente publicado (La carrera cripto regulatoria), a otra muy importante carrera regulatoria que se está desarrollando actualmente entre las potencias del mundo: la legislación en materia de Inteligencia Artificial. El tema es muy relevante, ya que su definición impactará a la sociedad en todas sus expresiones y manifestaciones, incluyendo los diversos sectores económicos e industrias.
En esta materia, también la Unión Europea lleva una evidente ventaja respecto de las demás potencias, y tiene antecedentes normativos detonados desde 2017, cuando el Consejo Europeo instó a “concientizarse de la urgencia de hacer frente a las nuevas tendencias, lo que comprende cuestiones como la inteligencia artificial…, garantizando al mismo tiempo un elevado nivel de protección de datos, así como los derechos digitales y las normas éticas”. Las conclusiones de 2019 del Plan coordinado sobre la Inteligencia Artificial destacan por parte del Consejo de la UE la importancia de garantizar el pleno respeto de los ciudadanos europeos y pidió que se revisara la legislación pertinente, al tiempo en que pidió que se definiera con claridad qué usos de la IA debieran considerarse de alto riesgo. Posteriormente, en las conclusiones de octubre de 2020, adicionalmente se instó a afrontar la opacidad, complejidad, sesgo, cierto grado de imprevisibilidad y comportamiento parcialmente autónomo de ciertos sistemas de IA, para garantizar su compatibilidad con los derechos fundamentales y facilitar la aplicación de las normas jurídicas.
Paralelamente, el Parlamento Europeo emitió en octubre de 2020 una serie de resoluciones relativas a la IA sobre cuestiones éticas, responsabilidad civil y derechos de propiedad intelectual. En 2021 disposiciones adicionales sobre IA en materia penal, educativa, cultural y audiovisual. Finalmente, conforme a las resoluciones y acuerdos previos, la Propuesta de “Reglamento del Parlamento europeo y del Consejo por el que se establecen normas armonizadas en materia de Inteligencia Artificial y se modifican determinados actos legislativos de la Unión” (Ley de Inteligencia Artificial) del 21 de abril de 2021. Esta norma comunitaria es producto de los múltiples estudios, foros y análisis realizados y compulsa armónicamente las disposiciones antes emitidas, actualmente se encuentra todavía en el proceso legislativo, pero estiman que en etapa próxima a su aprobación y promulgación. Toda la información anterior fue obtenida y puede ser consultada con mayor detalle precisamente en el cuerpo de la exposición de motivos de la referida iniciativa de Ley de Inteligencia Artificial.
Como es de suponerse, se trata de un ordenamiento complejo que define y regula las múltiples aristas identificadas en relación con la IA priorizando la salvaguarda y protección de los derechos fundamentales, pero por cuestiones de espacio en esta nota podemos destacar la definición de las denominadas Prácticas de Inteligencia Artificial Prohibidas (Artículo 5) que incluyen: (i) los sistemas de IA con técnicas subliminales que puedan trascender la conciencia de una persona para alterar substancialmente su comportamiento provocándose perjuicios físicos o psicológicos o a un tercero; (ii) Sistemas de IA que aprovechen alguna vulnerabilidad de un grupo de personas debido a su edad, discapacidad física o mental alterando su comportamiento y provocándose perjuicios físicos o psicológicos o a terceros; (iii) Sistemas de IA utilizados por autoridades públicas que evalúen o clasifiquen la fiabilidad de las personas por su conducta social, características personales conocidas o predichas, y que esto conlleve a tratos perjudiciales o desfavorables hacia esa persona fuera del contexto original o en contra de colectivos de personas en forma injustificada o desproporcionada a su comportamiento social real; (iv) el uso de sistemas de identificación biométrica remota en tiempo real en espacios públicos con fines de aplicación de ley, salvo que sirva para localizar víctimas de delitos, incluyendo menores desaparecidos, la prevención de amenazas a las personas incluyendo atentados terroristas o la detección y localización de ciertos presuntos delincuentes prófugos.
También es destacable la clasificación que se hace de ciertos sistemas de IA como de Alto Riesgo, porque en esa medida, la propia Ley de IA establece las reglas de clasificación respectivas, así como entre otros, los requisitos que deben cumplirse y las normas de registro, gestión de riesgos, ciberseguridad, gobernanza y particularmente, la obligación de Vigilancia Humana. Adicionalmente, el ordenamiento dispone obligaciones para los proveedores, distribuidores y usuarios de tales sistemas, sus normas de conformidad y certificaciones. Finalmente, la inclusión de obligaciones de transparencia frente a los usuarios en los demás sistemas de IA, la conformación del Comité Europeo de Inteligencia Artificial, la designación de las Autoridades Nacionales competentes, y códigos de conducta aplicables.
En el caso de nuestro país, en la Gaceta Parlamentaria del 24 de mayo de 2023 se publicó una iniciativa para regular la inteligencia artificial a través de lo que sería la Ley para la regulación ética de la inteligencia artificial y la robótica, que entre otras cosas, propone la creación del Consejo Mexicano de Ética para la Inteligencia Artificial y la Robótica (CMETIAR) bajo la figura de organismo descentralizado con participación ciudadana, que a su vez asesorará la elaboración de las múltiples Normas Oficiales Mexicanas y demás disposiciones que se requieran.
Para concluir, qué tal si le pedimos a un sistema de IA que redacte un código completo que regule todos los aspectos ya expuestos relativos a la IA con normas sustantivas, adjetivas y orgánicas en cuanto a las autoridades competentes, convirtiéndose a su vez, en la primera prueba de manejo y resolución de un conflicto de interés para Doña IA.
Twitter: @LBartolini
e-mail: lbartolini01@gmail.com
