Recentemente, escrevi um artigo sobre Médio sobre o impacto da IA nas agências e nos pesquisadores. Como agência, temos um grupo de trabalho que está analisando a IA e como ela pode ser usada em nosso trabalho, ou não. Suspeito que ainda temos um longo caminho a percorrer, mas achei que valia a pena compartilhar algumas coisas que estão começando a surgir.
Algumas delas surgiram como resultado de nossa colaboração como um grupo de trabalho. Outras estão surgindo da avaliação prática que estamos realizando. Minha isenção de responsabilidade é que ainda estamos aprendendo, portanto, reservo-me o direito de alterar meu ponto de vista à medida que coletamos mais informações.
Privacidade, propriedade de IP e ChatGPT
Decidimos realizar nossa própria pesquisa para criar um conjunto de dados de nossa propriedade, de modo que tivéssemos controle total sobre quaisquer riscos associados ao envio desses dados ou de partes deles para o ChatGPT. Não é preciso dizer que todos os dados carregados no ChatGPT devem ser anônimos. Mas há também a questão da propriedade dos dados e é importante entender o que acontece com os dados que você carrega.
Eu perguntei ChatGPT sobre isso e o que aconteceria com meus dados e, a princípio, a resposta foi tranquilizadora. Fiz a seguinte pergunta:
Se eu carregar meus dados de entrevista de pesquisa para ChatGPT ele se torna parte dos dados de treinamento?
O ChatPGT forneceu a seguinte resposta:
Não, carregar seus dados de entrevista de pesquisa no ChatGPT não os torna parte dos dados de treinamento. Como um modelo de linguagem de IA, o ChatGPT não tem a capacidade de incorporar ou reter dados específicos de usuários individuais. O processo de treinamento de modelos como o ChatGPT é conduzido separadamente e envolve conjuntos de dados em grande escala coletados pelos desenvolvedores do modelo.
No entanto, ao investigar mais e sugerir que minha interação envolvia o upload de dados e a formulação de perguntas, ele mudou sua resposta para:
Você está correto. Quando você carrega dados e faz perguntas sobre eles, essas interações podem ser registradas e possivelmente usadas pela OpenAI para aprimorar o modelo. Isso inclui os dados que você carrega, as perguntas que faz e as respostas do modelo.
Não tenho certeza se isso é algo ruim. Quanto mais dados no modelo, mais preciso ele se torna. Mas é importante entender o que está acontecendo. A maioria dos contratos de clientes terá cláusulas de PI e os que eu vi sempre definem a propriedade dos dados como sendo do cliente. Isso significa que eles não podem ser carregados sem permissão.
Preconceito no ChatGPT
Com o tempo, todos nós nos tornaremos "engenheiros de prontidão", aprimorando nossa capacidade de fazer perguntas melhores ao ChatGPT e a outras IAs. No entanto, precisamos entender que, embora os modelos de IA como o ChatGPT possam ser ferramentas valiosas, eles também têm limitações e possíveis vieses que precisam ser levados em conta. Há uma tendência nos dados de treinamento, há generalizações devido à falta de contexto e haverá problemas com a qualidade e a precisão.
O ChatGPT é treinado em uma grande coleção de dados de texto da Internet, o que pode introduzir vieses presentes nesses dados. Se os dados de treinamento contiverem perspectivas tendenciosas ou não representativas, essas tendências poderão se refletir nas respostas e na análise do modelo. Se você perguntar ao ChatGPT, ele dirá que ?A OpenAI tem se esforçado para atenuar os vieses durante o treinamento?, mas ainda pode haver algum grau de parcialidade.
A forma como o ChatGPT funciona é como um modelo de linguagem. Ele gera respostas com base em padrões e exemplos de seus dados de treinamento. Isso significa que ele pode não compreender totalmente o contexto específico ou as nuances das entrevistas de pesquisa, a menos que esses aspectos sejam explicitamente fornecidos - um desafio imediato de engenharia. Ao explorar essa área com o ChatGPT, ele me disse: ?É importante considerar que as respostas do ChatGPT nem sempre captam com precisão a complexidade e a profundidade das experiências humanas?. Certamente, esse é o cerne da pesquisa e, para mim, será o maior desafio na forma como utilizamos a IA para fins de análise.
E, como observei, também pode haver problemas de qualidade e precisão. Embora o ChatGPT seja um modelo de linguagem poderoso, ele não é infalível. Às vezes, as respostas geradas podem ser incorretas, sem sentido ou inconsistentes. Portanto, podemos usar o ChatGPT para auxiliar a nossa análise, mas é importante validar e fazer referência cruzada da análise gerada com outras fontes para garantir a precisão e a confiabilidade. Essa é a função do pesquisador.
Portanto, embora o ChatGPT possa acabar sendo uma ferramenta valiosa para pesquisa e análise, pelo menos por enquanto ele deve ser usado com cautela e em conjunto com o conhecimento de um pesquisador experiente. Até o momento, ele pode servir como ponto de partida para a exploração e a geração de hipóteses, mas o julgamento humano, o pensamento crítico e a validação continuam sendo cruciais para uma análise de pesquisa confiável.
Se quiser saber mais sobre como estamos explorando a IA e as descobertas do nosso trabalho, entre em contato conosco enviando um e-mail para hello@ux247.com.