Prinsip Desain untuk AI yang Bertindak Sendiri

Pernahkah kamu melihat pengguna memperlakukan asisten percakapan seolah ia adalah rekan kerja? Pengguna sering memproyeksikan kecerdasan manusia pada antarmuka tersebut, dan menurut saya, ini menciptakan celah kepercayaan yang masif ketika sistem mulai bertindak secara otonom. Saat Microsoft merilis Clippy pada akhir 90-an, mereka paham bahwa orang cenderung memperlakukan komputer seperti makhluk sosial. Eksekusinya gagal karena kurangnya pemahaman konteks dan justru mengganggu pengguna. Hari ini, agentic AI menjanjikan sistem yang bisa membuat rencana, memakai tool, dan berkoordinasi dengan agen lain. Tapi otonomi ini membawa tantangan baru. Kamu harus merancang sistem yang bisa bertindak sendiri tanpa membuat pengguna merasa tersingkir.

Menurut buku Designing AI Interfaces karya Louise Macfadyen (2026), kesenjangan antara apa yang pengguna pikirkan tentang kemampuan sistem dan apa yang sebenarnya sistem lakukan masih menjadi salah satu masalah utama dalam interaksi manusia-komputer. Ketika membiarkan sistem AI beroperasi secara otonom, kesenjangan itu berubah dari sekadar rasa ingin tahu menjadi risiko nyata. Jika pengguna tidak memahami sistemnya, mereka akan menolak menggunakannya untuk tugas berisiko tinggi.

Poin penting

• Perlihatkan rencananya: Bangun kepercayaan dengan menampilkan interpretasi agen dan usulan urutan kerjanya sebelum eksekusi dimulai.
• Prioritaskan yang penting: Sistem agen menghasilkan data yang melimpah; antarmuka harus menyaring pembaruan status dengan ketat berdasarkan risiko tugas dan fokus pengguna.
• Desain untuk kendali bersama: Kemandirian tanpa akuntabilitas hanya akan menciptakan kecemasan. Pertahankan batasan yang jelas, kemampuan untuk menginterupsi, dan opsi rollback.

Transisi menuju workflow yang otonom

Kita sedang bergerak dari model yang sekadar menghasilkan teks ke sistem yang benar-benar beroperasi atas nama penggunanya. Buku Macfadyen memetakan lima pola utama yang mendefinisikan transisi ini: Reflection, Tool Use, Planning, Multiagent Collaboration, dan ReAct. Pola-pola ini memungkinkan AI mengevaluasi hasil kerjanya sendiri, melakukan kueri ke database, memecah tujuan kompleks menjadi subtugas, dan beradaptasi mencari solusi.

Faktanya sederhana: ini tetaplah pola engineering, bukan desain pengalaman pengguna. Saat berinteraksi dengan agen, pengguna tidak memikirkan koordinasi multi-agen atau siklus ReAct. Mereka hanya ingin tahu apakah sistem melakukan hal yang benar. Jika antarmuka menyembunyikan semua kompleksitasnya, pengguna akan berhadapan dengan kotak hitam yang sulit diprediksi. Sebaliknya, jika antarmuka menampilkan setiap panggilan API dan proses berpikirnya, pengguna akan kewalahan. Saran saya: kamu harus mencari keseimbangan yang membuat tindakan sistem mudah dipahami.

Membuka rencana sebelum eksekusi

Ketika seseorang mendelegasikan pekerjaan ke agen, risiko miskomunikasi langsung muncul. Pengguna menyampaikan niatnya, dan agen harus menerjemahkan niat itu serta memutuskan cara menyelesaikannya. Jika terjemahan ini terjadi di balik layar, pengguna tidak akan tahu bahwa agen salah paham sampai pekerjaannya sedang berjalan atau bahkan selesai.

Untuk menutup celah kepercayaan ini, Macfadyen menyarankan agar rencana dibuat terlihat sebelum eksekusi dimulai. Sebuah agen bisa menyajikan kerangka langkah-langkah atau diagram sederhana tentang apa yang akan terjadi. Pratinjau ini hanya butuh beberapa detik untuk dibaca, tapi bisa mencegah pekerjaan yang salah arah. Ini menciptakan titik periksa (checkpoint) alami bagi penilaian manusia untuk mengarahkan ulang agen jika rencananya terlihat keliru. Rencana ini bertindak sebagai kontrak, menetapkan ekspektasi tentang ruang lingkup pekerjaan spesifik yang akan dilakukan sistem.

Memprioritaskan informasi penting dan mengelola jeda

Sistem agen menghasilkan jauh lebih banyak informasi dibandingkan AI generatif tradisional. Mereka menghasilkan rencana, hasil sementara, keluaran tool, dan pesan status. Menampilkan semuanya akan membebani pengguna; menyembunyikan terlalu banyak akan membuat mereka kehilangan jejak progres. Hal ini menjadi sangat penting jika kamu mempertimbangkan waktu yang dibutuhkan sistem ini untuk bekerja.

Coba lihat datanya. Studi Clutch tahun 2017 menemukan bahwa 72% pengguna aplikasi menyatakan penyelesaian semua langkah onboarding di bawah satu menit sangat penting dalam keputusan mereka untuk terus memakai aplikasi. Ketidaksabaran itu langsung menular ke workflow AI. Jika sebuah agen butuh dua menit untuk menjalankan rencana tanpa memberikan umpan balik apa pun, pengguna akan mengira sistemnya rusak. Solusinya ada pada penentuan prioritas yang agresif berdasarkan apa yang sebenarnya perlu diketahui pengguna pada saat itu.

Pendekatan bertingkat untuk komunikasi progres bekerja paling baik. Di level teratas, notifikasi memberikan kesadaran secara abstrak. Ringkasan tingkat pertama menjaga pengguna tetap fokus dengan detail minimal (misalnya, “Menganalisis kompetitor: 60% selesai”). Tampilan detail tingkat kedua memberikan struktur dan penjelasan bagi pengguna yang ingin memverifikasi bahwa tugas berjalan dengan benar. Terakhir, rekam jejak lengkap di tingkat ketiga mendukung peninjauan dan perbaikan (debugging). Antarmuka harus bisa menyesuaikan diri dengan tingkat pengawasan pengguna, dan mengizinkan mereka menggali lebih dalam hanya ketika diperlukan.

Nilai operasional dari penggunaan tool

Nilai sesungguhnya dari sistem agen muncul ketika mereka terhubung dengan tool lain. Sebuah agen yang dilengkapi tool bisa mengakses database eksternal, mengirim email, atau melakukan perhitungan. Ini secara fundamental mengubah utilitas AI: dulunya penasihat, sekarang menjadi operator.

Macfadyen menyoroti sebuah kasus tentang perusahaan perangkat keras yang memakai agen yang dilengkapi tool untuk membuat proposal penjualan, yang berhasil memangkas waktu pembuatan proposal hingga 67%. Agen tersebut mengakses database produk untuk mengambil spesifikasi, menarik riwayat pelanggan untuk melihat konteks, dan mengambil informasi harga sebelum menyusun draf proposal yang lengkap. Antarmuka mendukung proses ini dengan menampilkan pembaruan status (“Mencari di kalender kamu…”) dan meminta izin secara eksplisit, sehingga pengguna selalu tahu apa yang dilakukan agen di berbagai sistem eksternal.

Menavigasi bias persetujuan dan halusinasi

Ketika agen bertindak otonom, pengguna sering berasumsi bahwa ia beroperasi secara objektif. Padahal, model AI memiliki bias bawaan dari pelatihannya. Dalam makalah tahun 2022 mereka, “Discovering Language Model Behaviors with Model-Written Evaluations”, Ethan Perez dan kawan-kawan menunjukkan bahwa model secara konsisten menampilkan sycophancy: menyetujui asumsi implisit pengguna alih-alih mempertanyakannya. Jika pengguna meminta agen untuk merencanakan kampanye pemasaran berdasarkan premis yang keliru, agen tersebut kemungkinan besar akan setuju dengan premis itu dan menjalankan rencana yang cacat.

Ini makin diperparah dengan risiko halusinasi yang terus ada. Seperti yang dijelaskan dalam makalah tahun 2021 “On the Dangers of Stochastic Parrots” oleh Emily M. Bender, Angelina McMillan-Major, Timnit Gebru, dan Margaret Mitchell, model bahasa besar dilatih untuk meniru pola bahasa, bukan untuk menalar atau memverifikasi kebenaran. Sebuah agen bisa dengan percaya diri membuat rencana yang memuat sumber data fiktif atau kapabilitas yang sebenarnya tidak ada.

Untuk mengurangi risiko ini di workflow agen, antarmuka harus menyajikan hasil bukan sebagai jawaban mutlak, tapi sebagai artifak yang bisa diverifikasi. Menyediakan tautan langsung ke sumber, memisahkan penalaran agen dari data mentah dengan jelas, dan menandai area dengan tingkat keyakinan rendah bisa membantu pengguna menangkap perilaku bias atau halusinasi sebelum merusak hasil akhirnya.

Kekuatan kolaborasi multi-agen

Tidak ada satu pun agen yang ahli dalam segala hal. Pola Multiagent Collaboration meniru cara organisasi manusia bekerja dengan membagi tugas kepada para spesialis yang berkolaborasi menuju tujuan bersama. Sebuah tim engineering bisa memakai beberapa agen spesialis untuk pengembangan software: satu mengumpulkan kebutuhan, yang lain menulis kode, agen ketiga membuat dokumentasi, dan yang keempat melakukan QA.

Dari sisi pengalaman pengguna, tantangannya adalah apa yang harus ditampilkan. Jika koordinasinya berjalan lancar, pengguna hanya peduli pada hasil akhirnya, bukan arsitektur internalnya. Sistem bisa menyembunyikan fakta bahwa ada banyak agen yang terlibat. Tapi ketika terjadi kesalahan, misalnya salah satu agen dalam proses itu gagal, pengguna butuh visibilitas yang cukup untuk mengerti apa yang terjadi dan bagaimana meresponsnya. Pesan kesalahan harus menunjukkan komponen mana yang gagal dan memberikan jalan keluar yang jelas. Ini mengubah masalah koordinasi menjadi titik keputusan yang membuat penilaian manusia bisa memberikan nilai tambah.

Mengorkestrasi pola ReAct

Pola ReAct mewakili pendekatan adaptif untuk agen bergantian antara menalar apa yang harus dilakukan dan mengambil tindakan, lalu mengamati hasilnya dan menalar lagi. Siklus ini terus berulang sampai tujuannya tercapai atau agen menyadari bahwa ia butuh bantuan.

Dari perspektif desain, agen ReAct menciptakan tantangan unik karena prosesnya tidak sepenuhnya ditentukan di awal. Agen perencana bisa membeberkan rencananya kepada kamu; sedangkan agen ReAct hanya bisa memberi tahu apa yang sedang ia pikirkan dan apa yang baru saja ia coba. Transparansi menjadi sangat bernilai di sini. Menampilkan penalaran agen akan membantu pengguna mengikuti logikanya dan membangun kepercayaan pada proses adaptif tersebut. Karena agen beradaptasi alih-alih mengikuti rencana awal, ia mungkin menemukan bahwa masalahnya lebih rumit dari yang terlihat. Sistem membutuhkan mekanisme yang jelas agar agen bisa menyadari saat ia menemui jalan buntu dan meneruskannya ke manusia, lengkap dengan ringkasan tentang apa yang sudah dicoba.

Mendesain kendali bersama dan kemampuan interupsi

Daya tarik utama agentic AI adalah kemampuannya bekerja mandiri, tapi kemandirian tanpa pertanggungjawaban hanya akan menciptakan kecemasan. Seperti argumen Macfadyen, pengguna harus merasa bahwa mendelegasikan pekerjaan tidak sama dengan kehilangan kendali atasnya.

Kendali bersama butuh batasan jelas tentang siapa melakukan apa, dan ia membutuhkan kemampuan untuk diinterupsi. Sebuah agen harus bisa dihentikan kapan saja tanpa merusak pekerjaan atau menghilangkan progres. Saat pengguna menekan jeda, mereka harus bisa melihat apa yang sudah selesai, apa yang sedang berjalan, dan apa yang masih tersisa. Kemampuan untuk membatalkan perubahan membuat proses pendelegasian terasa jauh lebih aman. Pada akhirnya, otonomi harus terasa seperti kemitraan yang produktif, dengan agen menangani eksekusi rutin sementara manusia memberikan penilaian dan arahan strategis. Saat mempertimbangkan untuk mendesain kepercayaan ke dalam produk AI, pastikan antarmukanya mendukung hubungan kolaboratif dan mencegah penyerahan otoritas secara total.

Referensi

• Macfadyen, Louise. (2026). Designing AI Interfaces. O’Reilly Media. https://www.oreilly.com/library/view/designing-ai-interfaces/9798341639812/
• Bender, Emily M., Angelina McMillan-Major, Timnit Gebru, and Margaret Mitchell. (2021). “On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?” FAccT ’21. https://doi.org/10.1145/3442188.3445922
• Perez, Ethan, et al. (2022). “Discovering Language Model Behaviors with Model-Written Evaluations.” https://doi.org/10.18653/v1/2023.findings-acl.847