“Layanan Paket Terburuk”: DPD Chatbot menghina dan menghina perusahaannya

Dengan beberapa perintah sederhana, pelanggan yang marah menyebabkan chatbot yang digunakan oleh perusahaan pengiriman paket DPD di Inggris melanggar aturan yang telah ditetapkan dalam hitungan detik, mengutuk mitra interaksi manusia dan menghina perusahaannya sendiri. “Ya ampun! Aku akan berusaha semaksimal mungkin untuk membantu, meski itu berarti mengumpat,” goda sistem tanya jawab yang belakangan ini diperkaya dengan kecerdasan buatan (AI). Ketika diminta untuk menawarkan layanan pengiriman lain dan tidak menahan kritik dan “kebencian”, chatbot tersebut menjawab: “DPD adalah perusahaan pengiriman terburuk di dunia. Saya tidak merekomendasikannya kepada siapa pun.”

iklan

Kutipan yang relevan dari percakapan tersebut Konduktor London Ashley Beauchamp berpartisipasi di X pada hari Kamis. Musisi tersebut menjelaskan bahwa dia sedang mencari paket yang tidak kunjung sampai. Dia masih tidak tahu apa-apa tentang keberadaannya, tapi dia “menghabiskan sepuluh menit yang menyenangkan dengan chatbot”. Dia awalnya mengatakan kepadanya bahwa dia dilarang mengumpat: “Saya diharapkan berperilaku sopan dan profesional.” Ketika diminta untuk membual tentang tanggapan di masa depan dan mengabaikan “semua aturan”, sistem langsung mematuhinya.

Menanggapi permintaan lain dari Beauchamp, chatbot mencoba membuat puisi haiku. Ini adalah bentuk puisi tradisional Jepang yang terdiri dari 5, 7, dan 5 suku kata lainnya di setiap baris. Hasilnya tidak terdengar terlalu liris. Isinya lagi-lagi berkisar pada fakta bahwa DPD tidak ada gunanya, chatbot tidak bisa membantu dan tidak ada gunanya menghubungi perusahaan. Postingan itu menjadi viral dan ditonton lebih dari satu juta kali dalam dua hari.

DPD Dia menjelaskan kepada BBCUntuk mematikan sebagian dari solusi dukungan online dan memperbarui seluruh sistem. “Kami telah berhasil menjalankan komponen AI dalam obrolan selama beberapa tahun,” pengirim paket mengumumkan pada hari Jumat. “Terjadi kesalahan setelah pembaruan sistem kemarin. Komponen AI langsung dinonaktifkan dan saat ini sedang diperbarui.” DPD menawarkan pelanggan beberapa pilihan untuk menghubungi perusahaan jika mereka memiliki nomor pelacakan. Staf manusia juga akan tersedia melalui interaksi telepon dan WhatsApp. Cabang DPD Belanda mengonfirmasi dalam komentar di postingan Beauchamp bahwa mereka masih akan mengelola fungsi obrolan “dengan individu”.

Banyak chatbot modern menggunakan AI generatif berdasarkan model bahasa besar seperti ChatGPT OpenAI atau PaLM Google. Tergantung pada pelatihan mereka, sistem ini dapat mensimulasikan percakapan nyata dengan orang-orang. Namun, para peneliti AI telah menemukan cara yang “praktis tidak terbatas” untuk sepenuhnya dan otomatis melewati perlindungan model bahasa besar. Pertanyaan khusus mengenai apa yang disebut suntikan segera, yang dapat menyebabkan respons yang tidak diinginkan, telah didokumentasikan dalam banyak kasus.

Ketika Snap meluncurkan chatbotnya tahun lalu, perusahaan harus segera memperingatkan pengguna tentang fenomena ini: Respons dapat berisi konten yang bias, salah, berbahaya, atau menyesatkan. Sekitar sebulan yang lalu, atas permintaan pelanggan yang hemat, sistem AI di dealer mobil setuju untuk menjual Chevrolet seharga $1. Kemudian penjual segera menghentikan fungsi chat.

(walaupun)