ChatGPT ha demostrado ser valioso para la redacción de textos de toda índole, y aunque el contenido producido por esta inteligencia artificial no es infalible y puede incluir errores, algunos individuos han comenzado a emplearlo para reducir carga de trabajo y esfuerzo.
Como resultado de esto, empresas, instituciones educativas o clientes pueden estar recibiendo escritos que, en realidad, no provienen de una mente humana, aunque se haga pasar por tal. Para abordar esta problemática, OpenAI ha decidido activar una herramienta que evalúa si un texto fue elaborado por ChatGPT u otras inteligencias artificiales análogas.
Esta herramienta ha sido denominada clasificador de textos de IA y se encarga de predecir la probabilidad de que un texto haya sido generado por una IA, basándose en diversas fuentes. El detector puede ofrecer 5 resultados diferentes, cada uno dependiendo de su evaluación: muy improbable, improbable, confuso, probable o muy probablemente generado por IA.
Funcionamiento del clasificador de textos de IA de OpenAI
Actualmente, el clasificador para textos generados por IA está accesible de manera gratuita en la página web de ChatGPT. Para utilizarlo, solo es necesario ingresar a la web, copiar el texto que se desea evaluar y hacer clic en «Submit». Una vez completado su análisis, el sistema proporcionará un resultado basado en sus 5 categorías.
OpenAI señala que los textos deben contener al menos 1.000 caracteres, equivalentes a 150 a 200 palabras, para ser analizados de manera óptima por la herramienta. Además, la empresa advierte que los resultados podrían no ser siempre exactos, ya que el clasificador puede clasificar incorrectamente un texto generado por una IA o producido por un humano. También es posible que la herramienta no reconozca si el texto fue creado por IA si ha sido modificado o editado por una persona.
En textos en inglés, el clasificador «identifica correctamente el 26% de los textos elaborados por IA (verdaderos positivos) como ‘probablemente escritos por IA’, mientras que clasifica erróneamente el 9% del texto creado por humanos como generado por IA (falsos positivos)«. Así se explica en el blog de OpenAI.
“El uso que pretendemos dar al clasificador de textos de IA es estimular el debate sobre la diferencia entre contenidos elaborados por humanos y contenidos producidos por IA. Los resultados pueden ser de ayuda, pero no deben ser la única evidencia a la hora de determinar si un documento ha sido confeccionado con IA. El modelo ha sido entrenado con textos escritos por humanos de diferentes fuentes, lo que podría no ser representativo de todos los tipos de textos humanos”, advierte OpenAI.
