Durante las elecciones 2024, en las que se elegirá al próximo presidente de México, existe un alto riesgo de que la Inteligencia Artificial de Gemini de Google y otras herramientas sea usada para la creación de noticias falsas, propaganda negra y manipulación de algoritmos.

¿Qué hacemos con la Inteligencia Artificial (IA) de cara a las elecciones 2024? ¿Cómo regulamos herramientas cuyos alcances no terminamos de comprender? Las respuestas no a estas preguntas no son sencillas y sí apremian.

Al respecto, le preguntamos a Bard, el chatbot de Google, sobre los riesgos de que Gemini sea empleado para generar desinformación; le pedimos que nos diera ideas para regular la IA y crear un organismo que vigile su uso.

Y también lo cuestionamos sobre si el Instituto Nacional de Transparencia (INAI), podría contribuir a la regulación de la Inteligencia Artificial en México.

A continuación compartimos las respuestas generadas en esta conversación con el chatbot de Google.

Oye Bard, ¿cuál es el riesgo de que Gemini sea usado para una campaña de desinformación durante las elecciones presidenciales de México en 2024?

El riesgo de que Gemini sea usado para una campaña de desinformación durante las elecciones presidenciales de México en 2024 es alto. Gemini es una herramienta poderosa que puede utilizarse para crear contenido personalizado y atractivo que sea difícil de distinguir de la realidad. Esto lo convierte en una herramienta ideal para la difusión de información falsa o engañosa.

Algunos de los riesgos específicos de que Gemini se utilice para una campaña de desinformación incluyen:

• La creación de noticias falsas o engañosas que puedan influir en la opinión pública y la intención de voto de los votantes.
• La manipulación de las redes sociales para difundir información falsa o engañosa a un público amplio.
• El uso de Gemini para crear perfiles falsos de votantes que puedan utilizarse para difundir información falsa o engañosa.

Para mitigar estos riesgos, es importante que las autoridades electorales y los medios de comunicación estén preparados para detectar y contrarrestar la desinformación que se difunda durante las elecciones. También es importante que los votantes sean conscientes de los riesgos de la desinformación y que se tomen el tiempo para verificar la información que reciben.

Aquí hay algunas recomendaciones específicas para mitigar el riesgo de que Gemini se utilice para una campaña de desinformación:

• Las autoridades electorales deben desarrollar mecanismos para detectar y contrarrestar la desinformación que se difunda durante las elecciones.
• Los medios de comunicación deben ser más críticos con la información que reciben y deben verificar la información antes de publicarla.
• Los votantes deben ser conscientes de los riesgos de la desinformación y deben tomarse el tiempo para verificar la información que reciben.

Si los votantes, los medios de comunicación y las autoridades electorales están preparados para detectar y contrarrestar la desinformación, se puede reducir el riesgo de que Gemini se utilice para influir en las elecciones presidenciales de México en 2024.

Si deseas acceder a esta conversación con Bard, da clic en este enlace.

Dame una lista de ideas para regular la IA en elecciones para evitar campañas de desinformación durante las elecciones de 2024

• Crear una ley federal que regule el uso de la IA en elecciones. Esta ley debería establecer normas claras sobre cómo se puede utilizar la IA en el proceso electoral, incluyendo el uso de bots, deepfakes y otros tipos de tecnología de IA.
• Crear un organismo regulador independiente para supervisar el uso de la IA en elecciones. Este organismo debería tener la capacidad de investigar y tomar medidas contra los casos de uso de la IA que violen la ley.
• Educar a los votantes sobre los riesgos de la desinformación en las elecciones. Los votantes deberían ser conscientes de cómo la IA se puede utilizar para difundir información falsa o engañosa.

Ideas específicas para México

• Requerir a los candidatos y partidos políticos que declaren el uso de la IA en sus campañas. Esto permitiría a las autoridades electorales rastrear el uso de la IA y tomar medidas contra los casos de uso ilegal.
• Prohibir el uso de bots y deepfakes en las campañas electorales. Estos tipos de tecnología pueden utilizarse para difundir información falsa o engañosa de forma masiva y rápida.
• Requerir a las plataformas digitales que eliminen la desinformación electoral de sus plataformas. Las plataformas digitales tienen una responsabilidad en la lucha contra la desinformación, y deberían tomar medidas para eliminar el contenido falso o engañoso que se difunda en sus plataformas.

Estas son solo algunas ideas, y es importante que se discutan y se desarrollen más a fondo. Es crucial que se tomen medidas para regular el uso de la IA en elecciones, para evitar que se utilice para difundir desinformación y manipular el proceso electoral.

LEE TAMBIÉN. Oye Bard, ¿puedo usar Gemini IA desde mi iPhone?

Organismo regulador

A continuación, se presentan algunas ideas para la creación de un organismo regulador de la IA:

• Objetivos: El organismo regulador debe tener objetivos claros y definidos. Estos objetivos deben incluir la protección de los derechos humanos, la seguridad nacional, la equidad y la sostenibilidad.
• Competencias: El organismo regulador debe tener las competencias necesarias para llevar a cabo sus funciones. Estas competencias deben incluir la capacidad de investigar, regular y sancionar el uso de la IA.
• Independencia: El organismo regulador debe ser independiente de los intereses políticos y económicos. Esto garantizará que sus decisiones se tomen de forma imparcial.
• Transparencia: El organismo regulador debe ser transparente en sus actividades. Esto permitirá a la sociedad conocer su trabajo y participar en el proceso de regulación de la IA.

A continuación, se presentan algunas ideas específicas para la creación de un organismo regulador de la IA en México:

• Organización: El organismo regulador podría estar organizado como una agencia gubernamental independiente. También podría ser una organización mixta, con participación del gobierno, el sector privado y la sociedad civil.
• Composición: El organismo regulador debería estar compuesto por personas con experiencia en tecnología, derecho, ética y otras áreas relevantes.
• Procedimientos: El organismo regulador debería establecer procedimientos claros para la investigación, regulación y sanción del uso de la IA.

La creación de un organismo regulador de la IA es un paso importante para garantizar que esta tecnología se utilice de forma segura y responsable. Es importante que este organismo sea independiente y transparente, y que tenga las competencias necesarias para llevar a cabo sus funciones.

¿El INAI podría contribuir a la regulación de la Inteligencia Artificial en México?

Sí, el INAI podría contribuir a la regulación de la Inteligencia Artificial en México de varias maneras.

En primer lugar, el INAI tiene la competencia para regular el tratamiento de datos personales, lo cual es un elemento fundamental en la aplicación de la Inteligencia Artificial. El INAI podría emitir lineamientos o recomendaciones para garantizar que los sistemas de Inteligencia Artificial respeten los derechos de los individuos a la privacidad y la protección de datos personales.

En segundo lugar, el INAI podría promover la transparencia y la rendición de cuentas en el desarrollo y uso de la Inteligencia Artificial. El INAI podría exigir a los desarrolladores y usuarios de sistemas de Inteligencia Artificial que proporcionen información sobre cómo funcionan estos sistemas, sus posibles sesgos y cómo se pueden mitigar.

En tercer lugar, el INAI podría fomentar la participación ciudadana en el desarrollo de la regulación de la Inteligencia Artificial. El INAI podría organizar foros y consultas públicas para que los ciudadanos puedan expresar sus opiniones sobre cómo se debe regular la Inteligencia Artificial en México.

En concreto, el INAI ha realizado ya algunas acciones para contribuir a la regulación de la Inteligencia Artificial en México. En 2022, el INAI publicó un documento de recomendaciones para el tratamiento de datos personales en la Inteligencia Artificial. Estas recomendaciones abordan temas como la transparencia, la accountability, la no discriminación y la protección de los derechos de los niños.

Además, el INAI ha participado en foros y mesas de trabajo sobre la regulación de la Inteligencia Artificial. En estos foros, el INAI ha compartido sus conocimientos y experiencia en materia de protección de datos personales y transparencia.

En general, el INAI tiene las capacidades y la experiencia necesarias para contribuir a la regulación de la Inteligencia Artificial en México. El INAI podría desempeñar un papel importante en la protección de los derechos humanos y la garantía de un uso responsable y ético de la Inteligencia Artificial en México.

Si deseas acceder a esta información, da clic en este enlace.