Dua tahun kemudian, peningkatan produktivitas tersebut sebagian besar belum terwujud. Dan kita telah melihat sesuatu yang aneh dan sedikit tak terduga terjadi: Orang-orang telah mulai menjalin hubungan dengan sistem AI. Kita berbicara kepada mereka, mengucapkan tolong dan terima kasih, dan telah mulai mengundang AI ke dalam hidup kita sebagai teman, kekasih, mentor, terapis, dan guru.
Kita tengah menyaksikan eksperimen dunia nyata yang sangat besar, dan masih belum pasti dampak apa yang akan ditimbulkan oleh teman-teman AI ini baik bagi kita secara individu maupun bagi masyarakat secara keseluruhan, kata Robert Mahari, kandidat gabungan JD-PhD di MIT Media Lab dan Harvard Law School, dan Pat Pataranutaporn, seorang peneliti di MIT Media Lab. Mereka mengatakan kita perlu bersiap untuk “kecerdasan adiktif”, atau teman-teman AI yang memiliki pola gelap yang tertanam di dalamnya untuk membuat kita ketagihan. Anda dapat membaca tulisan mereka di sini. Mereka melihat bagaimana regulasi cerdas dapat membantu kita mencegah beberapa risiko yang terkait dengan chatbot AI yang merasuk jauh ke dalam kepala kita.
Gagasan bahwa kita akan menjalin ikatan dengan rekan AI tidak lagi hanya hipotesis. Chatbot dengan suara yang lebih emosional, seperti GPT-4o milik OpenAI, kemungkinan akan menarik kita lebih dalam lagi. Selama pengujian keamananOpenAI mengamati bahwa pengguna akan menggunakan bahasa yang menunjukkan bahwa mereka telah membentuk koneksi dengan model AI, seperti “Ini adalah hari terakhir kita bersama.” Perusahaan itu sendiri mengakui bahwa ketergantungan emosional adalah salah satu risiko yang mungkin meningkat oleh chatbot barunya yang mendukung suara.
Sudah ada bukti bahwa kita terhubung pada level yang lebih dalam dengan AI bahkan ketika hal itu hanya terbatas pada pertukaran teks. Mahari adalah bagian dari kelompok peneliti yang menganalisis sejuta log interaksi ChatGPTdan mengungkapkan bahwa penggunaan AI terpopuler kedua adalah permainan peran seksual. Selain itu, kasus penggunaan chatbot yang paling populer adalah komposisi kreatif. Orang-orang juga suka menggunakannya untuk bertukar pikiran dan membuat rencana, meminta penjelasan dan informasi umum tentang berbagai hal.
Tugas-tugas kreatif dan menyenangkan semacam ini adalah cara yang sangat baik untuk menggunakan chatbot AI. Model bahasa AI bekerja dengan cara memprediksi kata yang mungkin muncul berikutnya dalam sebuah kalimat. Mereka adalah pembohong yang percaya diri, dan sering kali menyampaikan kebohongan dan fakta serta mengarang cerita, atau berhalusinasi. Hal ini tidak terlalu penting jika mengarang cerita adalah inti dari semuanya. Pada bulan Juni, kolega saya Rhiannon Williams menulis tentang bagaimana komedian menganggap model bahasa AI berguna untuk menghasilkan “draf muntahan” pertama dari materi mereka, yang kemudian dapat mereka tambahkan dengan kecerdasan manusia mereka sendiri untuk membuatnya lucu.
Namun, kasus penggunaan ini belum tentu produktif dalam arti finansial. Saya cukup yakin smutbot bukanlah yang ada dalam pikiran investor ketika mereka menggelontorkan miliaran dolar ke perusahaan AI, dan, dikombinasikan dengan fakta bahwa kita masih belum memiliki aplikasi yang hebat untuk AI, tidak mengherankan bahwa Wall Street merasa jauh lebih tidak optimis tentang hal itu akhir-akhir ini.
Kasus penggunaan yang akan menjadi “produktif,” dan karenanya menjadi yang paling digembar-gemborkan, telah melihat lebih sedikit keberhasilan dalam adopsi AI. Halusinasi mulai menjadi masalah dalam beberapa kasus penggunaan ini, seperti pembuatan kode, berita, dan pencarian daring, di mana sangat penting untuk melakukan sesuatu dengan benar. Beberapa kegagalan chatbot yang paling memalukan terjadi ketika orang mulai terlalu mempercayai chatbot AI, atau menganggapnya sebagai sumber informasi faktual. Awal tahun ini, misalnya, fitur ikhtisar AI Google, yang merangkum hasil pencarian daring, menyarankan orang memakan batu dan menambahkan lem pada pizza.
Dan itulah masalah dengan gembar-gembor AI. Ia menetapkan ekspektasi kita terlalu tinggi, dan membuat kita kecewa dan putus asa ketika janji-janji yang sungguh luar biasa itu tidak terwujud. Ia juga menipu kita dengan berpikir bahwa AI adalah teknologi yang bahkan cukup matang untuk membawa perubahan instan. Kenyataannya, mungkin butuh waktu bertahun-tahun hingga kita melihat manfaatnya yang sebenarnya.