- La tecnología blockchain, conocida a través de bitcoin, se está considerando para combatir sesgos en modelos de inteligencia artificial (IA) como ChatGPT.
- Su capacidad de crear un registro inmutable podría ser clave.
- La idea es asegurar los datos de entrenamiento para que sean transparentes y confiables.
Los ejecutivos y expertos en tecnología están explorando la posibilidad de utilizar la tecnología blockchain, que llegó a la “fama” gracias a bitcoin, como un recurso para enfrentar las preocupaciones sobre errores, sesgos y datos incorrectos en modelos de inteligencia artificial (IA) como ChatGPT.
En efecto, la capacidad de blockchain para conformar un registro inmutable y resistente a la manipulación podría ser un recurso valioso para garantizar la transparencia y la calidad de los conjuntos de datos utilizados en el entrenamiento de modelos de IA.
Bitcoin y ChatGPT: el problema de los sesgos en modelos de IA
Uno de los problemas fundamentales en el desarrollo de modelos de IA, como aquellos que respaldan aplicaciones como ChatGPT, es la posibilidad de sesgos en los datos de entrenamiento.
Estos pueden conducir a respuestas sesgadas o incluso a la propagación de información incorrecta por parte de los sistemas de IA.
Ante el avance global de estos modelos, es clave abordar este problema para garantizar la confiabilidad y la imparcialidad en la toma de decisiones basada en la inteligencia artificial.
Blockchain como solución potencial
La semana pasada, en el Foro Económico Mundial en Davos, se habló de que la tecnología blockchain, introducida en 2009 junto con la creación de Bitcoin, ha demostrado ser un libro de transacciones público que permanece inmutable y resistente a manipulaciones.
En el contexto de bitcoin, la blockchain garantiza la integridad de las transacciones financieras.
Ahora, las empresas exploran la aplicación de estos principios en otras áreas a través de lo que a menudo se conoce como tecnología de contabilidad distribuida.
En el ámbito de la inteligencia artificial, la propuesta es incorporar los conjuntos de datos de entrenamiento en la cadena de bloques.
Esta implementación permitiría a los desarrolladores de sistemas de IA rastrear y verificar los datos utilizados para entrenar los modelos.
Casper Labs, una empresa especializada en soluciones blockchain para empresas, ya está trabajando junto con IBM para desarrollar un sistema que aproveche esta idea, asegura CNBC.
Evitar las “alucinaciones”
Medha Parlika, directora de tecnología y cofundadora de Casper Labs, explicó en Davos que la tecnología blockchain ofrece una prueba concreta de cómo se ha entrenado un modelo de IA.
Esto proporcionaría una capacidad única para retroceder en el tiempo y corregir el aprendizaje de la IA en caso de que se detecten problemas o “alucinaciones”, término utilizado para describir la entrega de información falsa por parte de sistemas de inteligencia artificial.
Bitcoin y ChatGPT: el enfoque blockchain
Sheila Warren, directora ejecutiva del Crypto Council for Innovation, sugiere que el uso de blockchain para la gestión de datos de entrenamiento de IA podría ser un “caso de uso excelente” o “killer use case”.
La transparencia y la capacidad de verificación que ofrece blockchain podrían servir como controles y contrapesos vitales dentro de los sistemas de IA, proporcionando una forma efectiva de abordar los sesgos y garantizar la precisión en la toma de decisiones.
Blockchain y bitcoin
Para entender cómo blockchain puede contribuir a la transparencia en la inteligencia artificial, es clave comprender los conceptos básicos detrás de la blockchain y su aplicación en la creación de Bitcoin.
La blockchain es esencialmente un libro de contabilidad descentralizado que registra transacciones de manera segura y transparente.
Cada “bloque” de información se vincula a través de complejas funciones matemáticas, creando una cadena continua de datos.
En el caso de bitcoin, cada transacción realizada con la criptomoneda se registra en bloques sucesivos y se distribuye a una red descentralizada de computadoras, conocidas como nodos.
Cada nodo en la red tiene una copia idéntica del libro de contabilidad, lo que garantiza que no haya un único punto de fallo o manipulación. Además, la inmutabilidad de la información en la blockchain hace que los registros sean a prueba de alteraciones.
En el contexto de bitcoin, esta tecnología proporciona la base para una forma de dinero digital sin necesidad de intermediarios, como bancos.
La aplicación de la blockchain en la inteligencia artificial aprovecha estos principios para garantizar la integridad y la trazabilidad de los datos de entrenamiento.
Al colocar estos datos en la cadena de bloques, se crea un registro inmutable que puede ser verificado en cualquier momento.
Ahora lee:
Los ETF de bitcoin atraen U$S 2 mil millones en los primeros días
Precio de bitcoin en 2024: qué espera el mercado luego de los ETF
Bitcoin: el mundo cripto espera una noticia que lo cambiaría todo
