Algunos de mis maestros de la Facultad de Derecho, de la Universidad Nacional
Autónoma de México (UNAM), se muestran preocupados por poder detectar si sus
estudiantes ya están usando el ChatGPT para el uso de ensayos, reseñas de libros,
tareas en general, en fechas recientes un estudiante de la Universidad de Princeton ha
creado una aplicación que ayuda a detectar si un texto ha sido escrito por un ser humano
o mediante la herramienta de inteligencia artificial ChatGPT.
Edward Tian, estudiante de 22 años de informática y periodismo en la Universidad de
Princeton, es el creador de GPTZero, una herramienta gratuita y de acceso público capaz
de detectar si un texto ha sido escrito por un ser humano o por una máquina.
El algoritmo que hay detrás de su aplicación, llamada GPTZero, puede "detectar rápida y
eficazmente si un ensayo, o artículo, está escrito con ChatGPT o por un humano". La
versión beta de la aplicación está disponible de manera gratuita.
A Tian, estudiante de excelencia de esta universidad norteamericana, le preocupan los
dilemas éticos que plantean los chatbots, así como lo que él describe como la naturaleza
de "caja negra" de los grandes modelos lingüísticos como ChatGPT.
La naturaleza opaca de los modelos hace que la gente los malinterprete y, por tanto, los
utilice de forma incorrecta. Generando vicios en la propia formación educativa de los
estudiantes.
La aparente brillantez del ChatGPT, distrae la atención de importantes defectos: puede
producir contenidos dañinos y a menudo escribe ficción como si fuera realidad. Además,
que falla en la verificación de las fuentes de información de acuerdo con reportes de
propios medios de comunicación que han decidido usarlo, a manera de prueba, en tareas
de edición.
Debido a estas limitaciones y a la posibilidad de hacer trampas, muchos profesores están
preocupados por el impacto de ChatGPT en las aulas. La aplicación ya ha sido prohibida
por distritos escolares de todo el país del norte, como los de Nueva York, Seattle y Los
Ángeles.
Debido a que el uso y la popularidad de ChatGPT ha aumentado recientemente por su
capacidad de generar redacciones coherentes sobre prácticamente cualquier tema en
cuestión de segundos, este estudiante Edward Tian, se dio a la tarea de crear esta
herramienta de detección. Por su parte, esta tecnología ha despertado el interés de los
inversores, y el Wall Street Journal informa de que la empresa matriz OpenAI podría
atraer pronto inversiones que la valoren en 29.000 millones de dólares.
Como parte de su esquema de detección de IA, han lanzado un nuevo detector de GPT
de escritura y chat de IA. Se dice que el nuevo software tiene una precisión del 97% y una
tasa de falsos positivos de sólo el 1%. Por desgracia, el detector aún no está disponible,
pero se prevé que salga a la venta en abril de este año.
Así que la única manera de poner límites a esta caja de pandora de la tecnología es
esperar el propio crecimiento del ChatGPT, y prohibiendo su uso y dando difusión de este
tipo de herramientas de detección, por lo menos en lo que se refiere a sus efectos más
nocivos.
