OpenAI baru saja memperkenalkan mode WebSockets pada Responses API yang dirancang khusus untuk pengembang agen AI dengan kebutuhan latensi rendah.

Fitur ini memungkinkan koneksi dua arah yang tetap terbuka (long-running), sehingga agen AI dapat melakukan panggilan alat (tool calls) yang berat dengan jauh lebih cepat dan efisien.

Dengan teknologi ini, hambatan komunikasi data yang lambat pada aplikasi berbasis suara atau asisten real-time dapat diminimalisir secara signifikan.

Hal yang paling menarik dari pembaruan ini adalah kemampuannya untuk menjaga konteks percakapan tetap "hidup" tanpa harus melakukan proses jabat tangan (handshake) berulang kali setiap kali AI memberikan respons.

Ini sangat krusial bagi aplikasi yang membutuhkan interaksi instan layaknya manusia, seperti asisten teknis atau sistem kendali otomatis. Berikut adalah beberapa poin utama dari dokumentasi terbaru OpenAI:

• Koneksi persisten untuk mendukung performa agen AI yang berjalan lama.
• Optimalisasi khusus untuk alur kerja yang melibatkan banyak panggilan alat (tool calls) kompleks.
• Dokumentasi resmi sudah tersedia di portal pengembang OpenAI.
• Pengurangan jeda waktu (latency) secara drastis dibandingkan metode API konvensional.