Hace poco escribí un artículo sobre Medio sobre el impacto de la IA en agencias e investigadores. Como agencia, tenemos un grupo de trabajo que estudia la IA y cómo puede utilizarse o no en nuestro trabajo. Sospecho que nos queda mucho camino por recorrer, pero creo que merece la pena compartir un par de cosas que están empezando a surgir.
Algunas de ellas han surgido como resultado de nuestra colaboración como grupo de trabajo. Otras surgen de la evaluación práctica que estamos llevando a cabo. Todavía estamos aprendiendo, así que me reservo el derecho a modificar mi opinión a medida que obtengamos más información.
Privacidad, propiedad intelectual y ChatGPT
Decidimos llevar a cabo nuestra propia investigación para crear un conjunto de datos de nuestra propiedad, de modo que tuviéramos un control total sobre cualquier riesgo asociado a su carga, o a partes de ella, en ChatGPT. Huelga decir que todos los datos que se suban a ChatGPT deben ser anónimos. Pero también está la cuestión de la propiedad de los datos y es importante saber qué ocurre con los datos que se cargan.
Pregunté ChatGPT sobre esto y lo que pasaría con mis datos, y al principio la respuesta fue tranquilizadora. Hice la siguiente pregunta:
Si subo los datos de mis entrevistas de investigación a ChatGPT ¿se convierte en parte de los datos de entrenamiento?
ChatPGT proporcionó la siguiente respuesta:
No, cargar los datos de tu entrevista de investigación en ChatGPT no los convierte en parte de los datos de entrenamiento. Como modelo lingüístico de inteligencia artificial, ChatGPT no puede incorporar ni retener datos específicos de usuarios individuales. El proceso de entrenamiento de modelos como ChatGPT se lleva a cabo por separado e incluye conjuntos de datos a gran escala recopilados por los desarrolladores del modelo.
Sin embargo, al indagar más y sugerir que mi interacción implicaba la carga de datos y la formulación de preguntas, cambió su respuesta a:
Está en lo cierto. Cuando subes datos y haces preguntas sobre ellos, esas interacciones pueden ser registradas y potencialmente utilizadas por OpenAI para mejorar el modelo. Esto incluye los datos que subes, las preguntas que haces y las respuestas del modelo.
No estoy seguro de que esto sea malo. Cuantos más datos tenga el modelo, más preciso será. Pero es importante entender lo que ocurre. La mayoría de los contratos con los clientes incluyen cláusulas de propiedad intelectual, y los que he visto siempre establecen que la propiedad de los datos es del cliente. Eso significa que no se pueden cargar sin permiso.
Sesgo en ChatGPT
Con el tiempo, todos nos convertiremos en "ingenieros de prontitud", mejorando nuestra capacidad para hacer mejores preguntas a ChatGPT y a otras IA. Sin embargo, tenemos que entender que, aunque los modelos de IA como ChatGPT pueden ser herramientas valiosas, también tienen limitaciones y sesgos potenciales que hay que tener en cuenta. Hay sesgos en los datos de entrenamiento, hay generalizaciones debidas a la falta de contexto y habrá problemas de calidad y precisión.
ChatGPT se entrena con una gran colección de datos de texto de Internet, lo que puede introducir sesgos presentes en esos datos. Si los datos de entrenamiento contienen perspectivas sesgadas o poco representativas, estos sesgos pueden reflejarse en las respuestas y el análisis del modelo. Si le preguntas a ChatGPT, te dirá que ?OpenAI se ha esforzado por mitigar los sesgos durante la formación?, pero aún puede existir cierto grado de parcialidad.
ChatGPT funciona como un modelo lingüístico. Genera respuestas basadas en patrones y ejemplos de sus datos de entrenamiento. Eso significa que puede que no entienda del todo el contexto o los matices específicos de las entrevistas de investigación a menos que esos aspectos se proporcionen explícitamente... todo un reto de ingeniería. Explorando esta área con ChatGPT me dijo: ?Es importante tener en cuenta que las respuestas del ChatGPT no siempre captan con exactitud la complejidad y profundidad de las experiencias humanas.?. Sin duda, este es el núcleo de la investigación y, en mi opinión, será el mayor reto a la hora de utilizar la IA con fines analíticos.
Y, como ya he señalado, también puede haber problemas de calidad y precisión. Aunque ChatGPT es un potente modelo lingüístico, no es infalible. A veces, las respuestas generadas pueden ser incorrectas, sin sentido o incoherentes. Por lo tanto, podemos utilizar ChatGPT para ayudarnos en nuestro análisis, pero es importante validar y contrastar el análisis generado con otras fuentes para garantizar su precisión y fiabilidad. Éste es el papel del investigador.
Así que, aunque ChatGPT puede acabar siendo una herramienta valiosa para la investigación y el análisis, por ahora al menos debe utilizarse con cautela y junto con la experiencia de un investigador experimentado. Hasta ahora puede servir como punto de partida para la exploración y la generación de hipótesis, pero el juicio humano, el pensamiento crítico y la validación siguen siendo cruciales para un análisis fiable de la investigación.
Si quiere saber más sobre cómo exploramos la IA y los resultados de nuestro trabajo, póngase en contacto con nosotros en hello@ux247.com.
