En enero, OpenAI desarrolló un clasificador que diferenciaba entre texto escrito por humanos y texto generado por sistemas de I.A de varios proveedores. El proyecto abordaba la preocupación por el uso de contenidos generados por I.A para campañas de desinformación, deshonestidad académica y presentación falsa de chatbots de I.A como humanos. Ahora, plantea cambios.
Una herramienta con altibajos
El rendimiento del clasificador no fue perfecto, con un 26% de precisión a la hora de identificar correctamente el texto escrito por I.A (verdaderos positivos) y un 9% de falsos positivos al etiquetar incorrectamente el texto escrito por humanos como generado por I.A. Sin embargo, mejoró la fiabilidad con textos de entrada más largos, especialmente de sistemas de IA más recientes.
El clasificador tenía varias limitaciones. Era inadecuado para la toma de decisiones en solitario, ineficaz con textos breves, textos en idiomas distintos del inglés y código. Además, podía etiquetar erróneamente textos escritos por personas como generados por la I.A, y no era capaz de identificar con fiabilidad textos muy predecibles.
No funcionó como se esperaba
Sin embargo, desde el 20 de julio de 2023, el clasificador de I.A ya no está disponible debido a su baja tasa de precisión. OpenAI se ha comprometido a incorporar comentarios y a investigar técnicas de procedencia más eficaces para el texto. Su objetivo es desarrollar y desplegar mecanismos que permitan a los usuarios determinar si el contenido sonoro o visual está generado por I.A.
OpenAI anima a las personas directamente afectadas por estas cuestiones, como educadores, estudiantes, padres y proveedores de servicios educativos, a que envíen sus comentarios a través de un formulario. Están especialmente interesados en los recursos desarrollados por los educadores, como directrices de cursos, actualizaciones de políticas, programas de alfabetización en I.A y otras ideas valiosas.
A pesar de todo, la I.A sigue en pañales
En resumen, los esfuerzos de OpenAI por desarrollar un clasificador de texto escrito con I.A se han topado con ciertas limitaciones y desafíos. Aunque el clasificador ya no está disponible debido a su baja precisión, la investigación continúa.