'Obscene': Alat AI Baru Grammarly Menawarkan Umpan Balik Penulisan dari Cendekiawan Meninggal

Singkatnya

• Fitur “Tinjauan Ahli” Grammarly memberikan umpan balik penulisan AI yang dibingkai melalui nama-nama ahli tertentu.
• Akademisi mengatakan sistem ini melibatkan ilmuwan yang telah meninggal, menimbulkan reaksi beragam dari pengguna.
• Kritikus mempertanyakan apakah perusahaan dapat menggunakan identitas ilmuwan tanpa izin.

Fitur AI baru Grammarly yang memberikan umpan balik penulisan dari sudut pandang “ahli” terkenal ini menuai kritik dari akademisi yang mengatakan alat ini tampaknya “menghidupkan kembali” ilmuwan untuk meninjau karya pengguna. Fitur ini, yang disebut Tinjauan Ahli, menganalisis teks dan menghasilkan umpan balik yang dibingkai melalui perspektif ilmuwan, jurnalis, dan spesialis lainnya. Banyak dari para ahli yang diklaim oleh alat AI ini untuk meniru sudah tidak lagi hidup—sebuah fitur yang disebut “mengerikan” oleh seorang sejarawan abad pertengahan di BlueSky. Diluncurkan pada tahun 2009 sebagai alat penulisan dan tata bahasa berbasis AI, perusahaan induk Grammarly mengubah nama menjadi Superhuman pada bulan Oktober untuk mencerminkan pergeseran dari asisten penulisan tunggal menjadi rangkaian agen produktivitas AI, termasuk alat untuk riset, penjadwalan, email, dan otomatisasi alur kerja.

Grammarly memperkenalkan fitur Tinjauan Ahli musim panas lalu. Melalui ekstensi browser Grammarly, pengguna yang memilih versi Superhuman Go dapat memilih seorang ahli dan menerima umpan balik yang dihasilkan AI berdasarkan bidang atau karya yang dipublikasikan oleh ilmuwan tersebut.  “Agent Tinjauan Ahli kami memeriksa tulisan yang sedang dikerjakan pengguna, apakah itu ringkasan pemasaran atau proyek mahasiswa tentang keanekaragaman hayati, dan memanfaatkan LLM dasar kami untuk menampilkan konten ahli yang dapat membantu pembuat dokumen membentuk karya mereka,” kata juru bicara Superhuman kepada Decrypt. “Para ahli yang disarankan tergantung pada substansi tulisan yang dievaluasi.” Juru bicara tersebut menjelaskan, bahwa agen Tinjauan Ahli tidak mengklaim dukungan atau partisipasi langsung dari para ahli tersebut, tetapi memberikan “saran yang terinspirasi dari karya para ahli dan mengarahkan pengguna ke suara berpengaruh yang kemudian dapat mereka telusuri lebih dalam.”

“Para ahli dalam Tinjauan Ahli muncul karena karya mereka yang dipublikasikan tersedia secara publik dan sering dikutip,” katanya. Saat menguji fitur ini untuk artikel ini, para peninjau ahli yang disarankan oleh aplikasi termasuk Margaret Sullivan, kolumnis media dan mantan editor di New York Times, Jack Shafer, mantan penulis media senior di Politico, dan Lawrence Lessig, profesor di Harvard Law. Pilihan lain termasuk peneliti etika AI Timnit Gebru dan Helen Nissenbaum, profesor ilmu informasi di Cornell Tech. Meskipun fitur ini bertujuan membantu pelajar dan profesional meningkatkan kemampuan menulis mereka, Vanessa Heggie, profesor sejarah di University of Birmingham, mempertanyakan apakah para “peninjau” tersebut memberikan izin sebelum perusahaan menggunakannya dalam aplikasi. “Saya tidak tahu harus mulai dari mana, tetapi… Grammarly sekarang menawarkan “tinjauan ahli” terhadap karya Anda oleh akademisi yang masih hidup maupun yang sudah meninggal,” tulis Heggie di LinkedIn. “Ya, yang sudah meninggal—tanpa izin eksplisit dari siapa pun, mereka membuat LLM kecil berdasarkan karya yang mereka scrap dan menggunakan nama serta reputasi mereka. Mengerikan.” Brielle Harbin, mantan profesor asosiasi ilmu politik di Akademi Angkatan Laut Amerika Serikat, menyebutnya sebagai “perkembangan yang aneh dan mengkhawatirkan.” “Pilihan seperti ini—terutama jika dibuat tanpa konteks, izin, atau kemitraan yang berarti dengan pendidik—berisiko memperdalam skeptisisme terhadap alat AI di pendidikan tinggi,” tulisnya di LinkedIn. “Ironisnya, keputusan yang dimaksudkan untuk mempercepat adopsi malah bisa memperkuat resistensi. Kepercayaan dan kolaborasi sangat penting saat ini.” Grammarly hanyalah salah satu perusahaan yang menciptakan program AI yang dirancang untuk meniru orang nyata. Pada tahun 2023, Meta merilis rangkaian chatbot untuk platform Meta AI yang dibangun berdasarkan identitas selebriti, termasuk Snoop Dogg, Tom Brady, Kendall Jenner, dan Naomi Osaka. Tahun yang sama, Khan Academy meluncurkan tutor AI-nya, Khanmigo, yang memungkinkan siswa berperan dalam percakapan dengan tokoh bersejarah, termasuk Perdana Menteri Inggris Winston Churchill, dan mata-mata Perang Saudara AS serta konduktor Underground Railroad Harriet Tubman.