J'ai récemment écrit un article sur Moyen sur l'impact de l'IA sur les agences et les chercheurs. En tant qu'agence, nous avons un groupe de travail qui étudie l'IA et la manière dont elle peut être utilisée dans notre travail, ou non. Nous avons encore un long chemin à parcourir, mais j'ai pensé qu'il valait la peine de partager quelques éléments qui commencent à émerger.
Certaines d'entre elles sont nées de notre collaboration en tant que groupe de travail. D'autres émergent de l'évaluation pratique que nous sommes en train de réaliser. Je me réserve donc le droit de modifier mon point de vue au fur et à mesure que nous recueillons davantage d'informations.
Vie privée, propriété intellectuelle et ChatGPT
Nous avons décidé de mener nos propres recherches afin de créer un ensemble de données qui nous appartienne, de manière à avoir un contrôle total sur les risques associés au téléchargement de ces données, ou de certaines parties d'entre elles, sur ChatGPT. Il va sans dire que toutes les données téléchargées sur ChatGPT doivent être rendues anonymes. Mais il y a aussi la question de la propriété des données et il est important de comprendre ce qu'il advient des données que vous téléchargez.
J'ai demandé ChatGPT J'ai posé des questions sur ce sujet et sur ce qu'il adviendrait de mes données et, dans un premier temps, la réponse a été rassurante. J'ai posé la question suivante :
Si je télécharge les données de mes entretiens de recherche sur ChatGPT fait-il partie des données d'apprentissage ?
ChatPGT a fourni la réponse suivante :
Non, le téléchargement de vos données d'entretien de recherche dans ChatGPT ne fait pas partie des données d'apprentissage. En tant que modèle linguistique d'IA, ChatGPT n'a pas la capacité d'incorporer ou de conserver des données spécifiques provenant d'utilisateurs individuels. Le processus d'entraînement pour les modèles tels que ChatGPT est mené séparément et implique des ensembles de données à grande échelle collectées par les développeurs du modèle.
Cependant, en approfondissant la question et en suggérant que mon interaction impliquait le téléchargement de données et la formulation de questions, il a modifié sa réponse :
Vous avez raison. Lorsque vous téléchargez des données et que vous posez des questions à leur sujet, ces interactions peuvent être enregistrées et potentiellement utilisées par OpenAI pour améliorer le modèle. Cela comprend les données que vous téléchargez, les questions que vous posez et les réponses du modèle.
Je ne sais pas si c'est une mauvaise chose. Plus il y a de données dans le modèle, plus il devient précis. Mais il est important de comprendre ce qui se passe. La plupart des contrats avec les clients contiennent des clauses relatives à la propriété intellectuelle et ceux que j'ai vus prévoient toujours que la propriété des données appartient au client. Cela signifie qu'elles ne peuvent pas être téléchargées sans autorisation.
Biais dans le ChatGPT
Avec le temps, nous deviendrons tous des "ingénieurs prompts", améliorant notre capacité à poser de meilleures questions à ChatGPT et à d'autres IA. Cependant, nous devons comprendre que si les modèles d'IA comme ChatGPT peuvent être des outils précieux, ils ont aussi des limites et des biais potentiels qui doivent être pris en compte. Les données d'entraînement sont biaisées, il y a des généralisations dues au manque de contexte, et il y aura des problèmes de qualité et de précision.
ChatGPT est entraîné sur une large collection de données textuelles provenant d'Internet, ce qui peut introduire des biais présents dans ces données. Si les données d'entraînement contiennent des perspectives biaisées ou non représentatives, ces biais peuvent se refléter dans les réponses et l'analyse du modèle. Si vous posez la question à ChatGPT, il vous répondra que ?OpenAI s'est efforcée d'atténuer les biais lors de la formation? mais un certain degré de partialité peut subsister.
ChatGPT fonctionne comme un modèle linguistique. Il génère des réponses basées sur des modèles et des exemples tirés de ses données d'entraînement. Cela signifie qu'il peut ne pas comprendre pleinement le contexte spécifique ou les nuances des entretiens de recherche, à moins que ces aspects ne soient explicitement fournis ? un défi d'ingénierie rapide. En explorant ce domaine avec ChatGPT, il m'a dit : ?Il est important de tenir compte du fait que les réponses du ChatGPT ne reflètent pas toujours la complexité et la profondeur des expériences humaines.?. Cette question est certainement au cœur de la recherche et, selon moi, elle constituera le plus grand défi dans la manière dont nous utiliserons l'IA à des fins d'analyse.
Et comme je l'ai noté, il peut également y avoir des problèmes de qualité et de précision. Bien que ChatGPT soit un modèle linguistique puissant, il n'est pas infaillible. Les réponses générées peuvent parfois être incorrectes, absurdes ou incohérentes. Nous pouvons donc utiliser ChatGPT pour faciliter notre analyse, mais il est important de valider et de recouper l'analyse générée avec d'autres sources afin d'en garantir l'exactitude et la fiabilité. C'est le rôle du chercheur.
Ainsi, si ChatGPT peut devenir un outil précieux pour la recherche et l'analyse, il doit pour l'instant être utilisé avec prudence et en conjonction avec l'expertise d'un chercheur expérimenté. Jusqu'à présent, il peut servir de point de départ pour l'exploration et la génération d'hypothèses, mais le jugement humain, la pensée critique et la validation restent essentiels pour une analyse fiable de la recherche.
Si vous souhaitez en savoir plus sur la manière dont nous explorons l'IA et sur les résultats de nos travaux, contactez-nous par courrier électronique à l'adresse suivante hello@ux247.com.
