Unos de los temas que se han abordado en el máster que ahora estoy cursando sobre Inteligencia Artificial (IA), a través de “Founderz” certificado por Microsoft, son los retos en la ética que estos avances tecnológicos presuponen.

Más allá de saber programar a través de diversas herramientas de IA ya sean en diseño, chatbots, generación de contenidos, entre otros, está el que enfoque deberá tener la IA sobre cuestiones éticas y legales. Vemos que la tecnología y la IA avanzan a pasos muy acelerados, dejando a tras las regulaciones y marcos jurídicos que esta debe ajustarse.

La Inteligencia Artificial deberá estar alineada a los derechos humanos, se habla que la IA podría eliminar muchos trabajos, particularmente los automatizados, lo cual es cierto, pero también es verdad que aquellos profesionistas en diversas áreas deberán aprender a utilizarla para ser más competitivos en un entorno donde la rapidez y la demanda de los mercados es cada vez mayor.

La Inteligencia Artificial presenta varios desafíos éticos significativos que están siendo ampliamente discutidos y analizados. Aquí menciono algunos de los más relevantes que se han comentado en el curso masters de “Founderz”.

Sesgos y Equidad: Los sistemas de IA pueden perpetuar y amplificar sesgos existentes en los datos con los que son entrenados. Esto puede resultar en decisiones injustas o discriminatorias.

Sabemos que la IA finalmente se nutre de datos que aportan las personas, pero estos pueden tener sesgos e inexactitudes, por ello, es muy importante verificar la veracidad y la precisión de estos, a fin de evitar decisiones injustas, un ejemplo son las herramientas que hoy usan los reclutadores de talento, donde ha habido ejemplos de discriminación, ya sea por la edad el género o inclusive la etnia.

Privacidad y Protección de Datos: La IA a menudo requiere grandes cantidades de datos personales para funcionar eficazmente, lo que plantea preocupaciones sobre la privacidad y la seguridad de la información.

Este es uno de los puntos más relevantes, sabemos que en muchos países existen leyes de privacidad y el correcto uso de datos personales de los usuarios, pero hemos sido testigos de hackers o filtraciones de estas enormes bases de datos, que pueden ser utilizadas con fines de extorsión o para estafar a los usuarios.

Muchas aplicaciones especialmente las de comercio electrónico o plataformas de movilidad manejan cientos de miles hasta millones de datos de usuarios que requieren de un marco legal muy estricto, para que su uso sea para los fines que fueron definidos con los usuarios previamente.

Transparencia y Explicabilidad: Muchos algoritmos de IA son complejos y funcionan como “cajas negras”, lo que dificulta entender cómo llegan a ciertas decisiones. Esto puede ser problemático en áreas críticas como la justicia y la salud.

Sin duda, la salud también es objeto de información muy importante basada en IA, si un diagnóstico es erróneo las consecuencias pueden ser catastróficas, lo mismo con la justicia, una mala decisión judicial tiene un impacto en la sociedad muy negativo.

Responsabilidad y Rendición de Cuentas: Determinar quién es responsable cuando un sistema de IA comete un error es un desafío importante. Esto incluye tanto a los desarrolladores como a las entidades que implementan estas tecnologías.

Es controversial, quien el autor cuando hay un accidente o un evento que puede costar vidas, lo hemos visto en equipos de aviación donde los sistemas ya sea operan con base en la IA, aquí la gran pregunta más allá de la misma empresa es, ¿quién es el responsable? El que desarrollo el algoritmo, el creador de la plataforma, el propietario de los datos o la persona que impulsó la programación con la IA, aún hay muchas incógnitas que no se han resuelto a nivel legal.

Lo mismo sucede con los derechos de autor, que estos pueden ser violados con mucha facilidad con el uso de la IA generativa.

Independencia Humana: La creciente dependencia de la IA puede afectar la autonomía humana, especialmente si las decisiones importantes son delegadas a sistemas automatizados sin supervisión adecuada. Definitivamente no podemos abusar de la IA que realice todas las labores, por eso es muy importante verificar, auditar y curar constantemente los contenidos o algoritmos que se crean a través de la IA.

Leía en un newsletter de “Government Technology” que la Asamblea del estado de California en los Estados Unidos recién aprobó el proyecto de ley de regulación de la IA.

El proyecto de ley obligará a las empresas de IA a tomar medidas para proteger al público de los ataques cibernéticos a infraestructuras críticas, y evitar que la Inteligencia Artificial desarrolle armas o permita el crimen automatizado. Este podría ser el proyecto de ley de regulación de la IA más completo que se haya conocido hasta la fecha.

El proyecto de ley 1047 del Senado, escrito por el senador estatal Scott Wiener, un demócrata progresista de San Francisco, obligaría a las empresas de IA a tomar diversas medidas de seguridad para proteger al público de los ciberataques a infraestructuras críticas, evitar que esta inteligencia se utilice para desarrollar armas químicas, nucleares o biológicas, o permitir el crimen automatizado.

Por otro lado, la Unión Europea (UE) expidió el primer marco jurídico exhaustivo sobre IA de un regulador importante a nivel global. Fue ratificada por el Parlamento Europeo el 13 de marzo de 2024 y tiene como objetivo equilibrar la innovación tecnológica con la protección de los derechos fundamentales y la seguridad de los ciudadanos europeos.

La ley clasifica los sistemas de IA en función de su riesgo, prohibiendo aquellos que representan un riesgo inaceptable, como los sistemas de puntuación social y manipulación subliminal, mientras que regula los sistemas de alto riesgo y establece obligaciones más ligeras para sistemas de riesgo limitado.

Además, prohíbe los sistemas de IA que exploten vulnerabilidades relacionadas con la edad, discapacidad o circunstancias socioeconómicas.

Los sistemas de Inteligencia Artificial de alto riesgo deben ser diseñados para permitir la supervisión humana, lo que garantiza que las decisiones críticas no sean completamente automatizadas y que los humanos puedan intervenir cuando sea necesario.

Los sistemas de IA de riesgo limitado deben garantizar que los usuarios sean conscientes de que están interactuando con una IA para mantener la confianza y la transparencia en estas tecnologías.

Cabe destacar, que los sistemas utilizados para evaluar la solvencia crediticia están regulados como de alto riesgo, excepto cuando su propósito es la detección de fraudes financieros.

Este marco jurídico es muy importante, porque establece un marco que permite aprovechar los beneficios de la IA, al mismo tiempo que se minimizan sus riesgos y se protegen los derechos fundamentales de los ciudadanos de la UE.

Estos desafíos requieren un enfoque ético y regulatorio robusto para asegurar que la IA beneficie a la sociedad de manera justa y equitativa, en el desarrollo y progreso humano.

Aún hay un largo camino por recorrer, lo más importante es que mientras haya mejores regulaciones y leyes que acoten el uso adecuado de la IA en todas sus aplicaciones, debemos ser responsables cada uno de nosotros en su uso correcto.