Confluent, Inc, perusahaan pemimpin dalam data streaming, hari ini mengumumkan Streaming Agents, fitur terbaru di Confluent Cloud yang mendukung Apache Flink, mempermudah pengembangan dan skalabilitas agen AI yang memantau, menganalisis, serta merespons data secara real-time.
Streaming Agents menghilangkan penghalang dalam penerapan AI berbasis agen di tingkat perusahaan dengan menggabungkan pemrosesan data dan alur kerja AI, serta menawarkan koneksi yang mudah dan aman ke berbagai bagian bisnis, termasuk Large Language Models (LLMs), model embedding, alat, dan sistem lainnya. Fitur ini mempercepat penerapan AI berbasis agen, memudahkan alur kerja yang lebih efisien, waktu implementasi yang lebih singkat, serta menghasilkan model bisnis dan peluang baru yang sangat inovatif.
“AI yang berfokus pada tindakan, atau agentic AI, tercantum dalam rencana setiap perusahaan. Namun, sebagian besar perusahaan masih terjebak di tahap prototipe yang tidak selesai, sehingga ketinggalan, sementara yang lain berlomba mencapai hasil yang bisa diukur,” ujar Shaun Clowes (Chief Product Officer di Confluent).
“Meskipun agen AI yang paling canggih pun akan kehilangan arah tanpa memiliki konteks bisnis terkini. Streaming Agents mempermudah tugas-tugas rumit dalam mengintegrasikan alat dan data yang menciptakan kecerdasan nyata, memberikan dasar yang kuat bagi organisasi untuk menerapkan agen AI yang mendorong perubahan signifikan di seluruh bisnis,” katanya.
Laporan IDC menyebutkan bahwa meskipun perusahaan rata-rata melakukan 23 uji coba konsep AI generatif antara tahun 2023 hingga 2024, hanya tiga dari mereka yang berhasil mencapai tahap produksi. Dari angka tersebut, hanya 62% yang berhasil memenuhi ekspektasi.
Agen akan memiliki kemampuan yang kuat berkat alat dan data yang tersedia, namun proses kerja saat ini terlalu rumit dan mahal, menghambat bisnis dalam memanfaatkan seluruh potensi dari AI agen.
Meskipun kerangka kerja AI yang tersedia mempermudah awal dalam penggunaan agen, banyak perusahaan menghadapi kesulitan mengintegrasikan data real-time ke dalam inisiatif agen AI, sehingga menyebabkan respons yang tidak tepat dan tidak dapat dipercaya.
“Meskipun sebagian besar perusahaan sedang menginvestasikan dana dalam AI yang bersifat mandiri, struktur data mereka masih belum mampu mendukung kemampuan pengambilan keputusan mandiri yang diperlukan oleh sistem-sistem tersebut,” ujar Stewart Bond (Wakil Presiden Divisi Perangkat Lunak Intelijen dan Integrasi Data di IDC).
“Perusahaan sebaiknya lebih mengutamakan solusi AI mandiri yang menawarkan integrasi yang sederhana dan aman, serta memanfaatkan data dalam waktu nyata untuk memberikan konteks yang diperlukan dalam pengambilan keputusan yang cerdas,” katanya.
Membuat dan Meningkatkan Agen AI Real-Time Melalui Agen Streaming
Agen Streaming mengintegrasikan teknologi AI berbasis agen langsung ke dalam sistem pemrosesan streaming guna membantu perusahaan dalam membangun, menerapkan, dan mengelola agen yang berbasis kejadian dengan menggunakan Apache Kafka dan Apache Flink.
Dengan menggabungkan pemrosesan data dan kemampuan berpikir AI, agen dapat mengakses informasi kontekstual terkini dari sumber yang menyediakan data secara real-time, sehingga mampu beradaptasi dengan cepat dan berkomunikasi dengan agen serta sistem lain ketika situasi berubah.
Agen Streaming selalu beroperasi dan bekerja untuk kepentingan bisnis, berjalan secara dinamis, menangani aliran data yang besar, serta merespons sinyal real-time secara langsung dengan kemampuan berpikir yang memperhatikan konteks, mirip dengan tindakan yang dilakukan oleh manusia.
Sebagai contoh, Streaming Agents mampu menetapkan harga yang kompetitif dengan terus-menerus mengawasi harga di berbagai toko online dan secara otomatis memperbarui harga produk di situs penjual agar sesuai dengan penawaran paling menarik bagi konsumen.
Fitur utama dari Streaming Agents meliputi:
Alat Pemanggil untuk otomatisasi konteks: Pemanggilan alat melalui Protokol Konteks Model (MCP) memungkinkan agen memilih alat eksternal yang sesuai, seperti basis data, perangkat lunak sebagai layanan (SaaS), atau API, untuk melakukan tindakan yang relevan. Pemanggilan alat mempertimbangkan apa yang terjadi dalam bisnis dan apa yang dilakukan oleh sistem serta agen lain.
Koneksi untuk keamanan integrasi: Koneksikan dengan aman ke model, basis data vektor, dan MCP langsung melalui Flink. Koneksi ini menjaga kerahasiaan kredensial sensitif, memfasilitasi penggunaan yang lebih luas dengan berbagi koneksi antara berbagai tabel, model, dan fungsi, serta mengelola secara sentral untuk penerapan skala besar.
Tabel Eksternal dan Pencarian untuk Meningkatkan Akurasi AI: Pastikan data yang sedang berjalan diperkaya dengan sumber data selain Kafka, seperti basis data relasional dan REST APIs, agar mendapatkan pandangan data terkini dan lengkap. Hal ini meningkatkan akurasi pengambilan keputusan AI, pencarian vektor, serta retrieval-augmented generation (RAG), mengurangi biaya dan kompleksitas dengan memanfaatkan Flink SQL, serta memanfaatkan fitur keamanan dan jaringan Confluent Cloud.
Kemampuan untuk mengulang proses iterasi dan menjaga keamanan: Agen dapat dikembangkan dan diuji dengan data nyata tanpa dampak langsung, memungkinkan penerapan yang diam-diam, pengujian A/B, serta pengulangan yang lebih cepat.
Agen Streaming tersedia saat ini dalam versi pra-peluncuran terbuka.
