Baru-baru ini saya menulis sebuah artikel tentang Sedang tentang dampak AI terhadap agensi dan peneliti. Sebagai sebuah agensi, kami memiliki kelompok kerja yang meneliti AI dan bagaimana AI dapat digunakan dalam pekerjaan kami, atau tidak. Saya rasa perjalanan kami masih panjang, namun saya rasa ada baiknya kami berbagi beberapa hal yang mulai muncul.
Beberapa di antaranya muncul sebagai hasil kolaborasi kami sebagai kelompok kerja. Beberapa lainnya muncul dari evaluasi langsung yang kami lakukan. Penafian saya adalah bahwa kami masih terus belajar, jadi saya berhak untuk mengubah pandangan saya saat kami mengumpulkan lebih banyak informasi.
Privasi, kepemilikan IP, dan ChatGPT
Kami memutuskan untuk menjalankan penelitian kami sendiri untuk membuat kumpulan data yang kami miliki sehingga kami memiliki kendali penuh atas segala risiko yang terkait dengan pengunggahan data tersebut, atau bagian dari data tersebut ke ChatGPT. Tidak perlu dikatakan lagi bahwa data apa pun yang diunggah ke ChatGPT harus dianonimkan. Tetapi ada juga pertanyaan tentang kepemilikan data dan penting untuk memahami apa yang terjadi pada data yang Anda unggah.
Aku bertanya ChatGPT tentang hal ini dan apa yang akan terjadi pada data saya, dan pada awalnya jawabannya cukup meyakinkan. Saya mengajukan pertanyaan berikut:
Jika saya mengunggah data wawancara penelitian saya ke ChatGPT apakah menjadi bagian dari data pelatihan?
ChatPGT memberikan jawaban sebagai berikut:
Tidak, mengunggah data wawancara penelitian Anda ke ChatGPT tidak menjadikannya bagian dari data pelatihan. Sebagai model bahasa AI, ChatGPT tidak memiliki kemampuan untuk memasukkan atau menyimpan input data spesifik dari pengguna individu. Proses pelatihan untuk model seperti ChatGPT dilakukan secara terpisah dan melibatkan kumpulan data berskala besar yang dikumpulkan oleh pengembang model.
Namun, ketika saya menyelidiki lebih lanjut dan menyarankan agar interaksi saya melibatkan pengunggahan data dan pengajuan pertanyaan, jawabannya berubah menjadi:
Anda benar. Ketika Anda mengunggah data dan mengajukan pertanyaan tentang data tersebut, interaksi tersebut dapat dicatat dan berpotensi digunakan oleh OpenAI untuk meningkatkan model. Hal ini termasuk data yang Anda unggah, pertanyaan yang Anda ajukan, dan tanggapan model.
Saya tidak yakin apakah ini hal yang buruk. Semakin banyak data dalam model, semakin akurat model tersebut. Tetapi penting untuk memahami apa yang sedang terjadi. Sebagian besar kontrak klien akan memiliki klausul IP dan yang saya lihat selalu mengukir kepemilikan data menjadi milik klien. Itu berarti data tersebut tidak dapat diunggah tanpa izin.
Bias dalam ChatGPT
Pada saatnya nanti, kita semua akan menjadi "insinyur yang cepat tanggap", meningkatkan kemampuan kita untuk bertanya kepada ChatGPT, dan pertanyaan-pertanyaan AI lainnya yang lebih baik. Namun, kita perlu memahami bahwa meskipun model AI seperti ChatGPT dapat menjadi alat yang berharga, model ini juga memiliki keterbatasan dan potensi bias yang perlu dipertimbangkan. Ada bias dalam data pelatihan, ada generalisasi karena kurangnya konteks, dan akan ada masalah dengan kualitas dan akurasi.
ChatGPT dilatih pada koleksi data teks yang besar dari internet, yang dapat memperkenalkan bias yang ada pada data tersebut. Jika data pelatihan mengandung perspektif yang bias atau tidak representatif, bias-bias ini dapat tercermin dalam respons dan analisis model. Jika Anda bertanya kepada ChatGPT, ia akan mengatakan bahwa?OpenAI telah melakukan upaya untuk mengurangi bias selama pelatihantetapi beberapa tingkat bias mungkin masih ada.
Cara kerja ChatGPT adalah sebagai model bahasa. ChatGPT menghasilkan respons berdasarkan pola dan contoh dari data pelatihannya. Itu berarti ChatGPT mungkin tidak sepenuhnya memahami konteks atau nuansa spesifik dari wawancara penelitian kecuali jika aspek-aspek tersebut disediakan secara eksplisit? sebuah tantangan rekayasa yang cepat. Menjelajahi area ini dengan ChatGPT, saya mendapati bahwa: ?Penting untuk dipertimbangkan bahwa respons ChatGPT mungkin tidak selalu menangkap kompleksitas dan kedalaman pengalaman manusia secara akurat?. Tentunya hal tersebut merupakan inti dari penelitian dan bagi saya akan menjadi tantangan terbesar dalam bagaimana kita memanfaatkan AI untuk tujuan analisis.
Dan seperti yang saya catat, mungkin juga ada masalah kualitas dan akurasi. Meskipun ChatGPT adalah model bahasa yang kuat, namun tidak sempurna. Tanggapan yang dihasilkan terkadang salah, tidak masuk akal, atau tidak konsisten. Jadi, kita dapat menggunakan ChatGPT untuk membantu analisis kita, tetapi penting untuk memvalidasi dan melakukan referensi silang terhadap analisis yang dihasilkan dengan sumber-sumber lain untuk memastikan keakuratan dan keandalannya. Ini adalah peran peneliti.
Jadi, meskipun ChatGPT mungkin akan menjadi alat yang berharga untuk penelitian dan analisis, setidaknya untuk saat ini alat ini harus digunakan dengan hati-hati dan bersama dengan keahlian peneliti yang berpengalaman. Sejauh ini ChatGPT dapat menjadi titik awal untuk eksplorasi dan pembuatan hipotesis, tetapi penilaian manusia, pemikiran kritis, dan validasi tetap penting untuk analisis penelitian yang andal.
Jika Anda ingin tahu lebih banyak tentang bagaimana kami mengeksplorasi AI dan temuan dari pekerjaan kami, hubungi kami melalui email di hello@ux247.com.