Dampak Buruk Bias Algoritma dan Konten Buatan dari Model AI Generatif seperti ChatGPT

Liputan6.com, Jakarta – Model kecerdasan buatan (AI) generatif seperti ChatGPT dari OpenAI, Bard dari Google, dan Midjourney, telah mendapatkan popularitas di berbagai bidang dalam waktu singkat.

Namun, penelitian terbaru mengungkap sebuah kenyataan yang memprihatinkan. Model AI generatif ini tidak hanya mengandung bias dan stereotip negatif, tetapi juga menghasilkan informasi yang mungkin tampak akurat tetapi sebenarnya tidak masuk akal. Konten semacam ini memiliki konsekuensi yang sangat merugikan bagi kelompok yang terpinggirkan.

Selain itu, produksi informasi yang menyesatkan secara luas dari model AI generatif memiliki kekuatan yang signifikan untuk membentuk kepercayaan manusia karena model yang berpengaruh ini semakin lazim di internet. Internet berfungsi sebagai sumber informasi bagi orang-orang dan sebagai data pelatihan utama untuk model AI.

Dengan demikian, sebuah siklus tercipta di mana bias dan omong kosong terus-menerus diterima dan disebarkan.

Temuan yang mengkhawatirkan ini disajikan dalam sebuah artikel yang diterbitkan dalam jurnal Science. Rekan penulis artikel ini, Abeba Birhane, seorang profesor di School of Computer Science and Statistics, Trinity College Dublin, menyoroti kebutuhan mendesak para psikolog dan pakar pembelajaran mesin untuk berkolaborasi.

Tujuan mereka adalah menilai secara komprehensif besarnya masalah dan mengembangkan solusi yang efektif.

Profesor Birhane menekankan kekritisan situasi, menunjukkan bahwa model generatif tidak memiliki kemampuan untuk menyampaikan ketidakpastian, yang sering dilakukan manusia melalui frasa seperti “Saya pikir”, jeda, koreksi, dan disorganisasi.

Maraknya aplikasi penulisan kecerdasan buatan ChatGPT menjadi perhatian banyak pihak karena kini semakin sulit mengungkap keaslian sebuah teks. Sejumlah perusahaan berlomba-lomba membuat alat pendeteksi yang bisa mengidentifikasi apakah tulisan itu dibuat oleh ma…