Luncurkan Agen AI Canggih ChatGPT, OpenAI Khawatir Digunakan untuk Kejahatan

Pengenalan ChatGPT Agen AI dan Fungsinya

ChatGPT Agen AI adalah inovasi terbaru dari OpenAI yang dirancang untuk menyelesaikan berbagai tugas komputer secara otomatis. Teknologi ini mampu melakukan berbagai aktivitas seperti mengatur jadwal pengguna, membuat presentasi dengan slide yang bisa diubah, menulis kode komputer, memesan meja untuk makan malam, dan sebagainya. Untuk menjalankan tugas-tugas tersebut, agen AI ini harus menelusuri situs web, merencanakan tindakan, serta menggunakan alat yang tersedia.

Kemampuan-kemampuan ini memungkinkan ChatGPT Agen AI untuk mengintegrasikan dua aspek utama, yaitu ‘operator’ dan ‘penelitian mendalam’. Layanan baru ini tersedia bagi pelanggan ChatGPT Pro, Plus, maupun tim OpenAI. Untuk mengaktifkan fitur ini, pengguna hanya perlu memilih ‘mode agen’ pada menu dropdown di platform.

Fitur dan Kinerja ChatGPT Agen AI

ChatGPT Agen AI memiliki akses ke konektor ChatGPT, yang memungkinkan pengguna menghubungkan aplikasi seperti Gmail dan GitHub. Dengan demikian, agen dapat menemukan informasi yang relevan sesuai dengan permintaan pengguna. Selain itu, OpenAI menyatakan bahwa ChatGPT Agen AI memiliki akses ke terminal dan dapat menggunakan API untuk mengakses aplikasi tertentu.

Dalam beberapa tes, ChatGPT Agen AI menunjukkan kinerja yang mengesankan. Misalnya, dalam Ujian Akhir Kemanusiaan (pass@1), agen ini meraih skor 41,6%, yang hampir dua kali lipat dari skor o3 dan o4-mini OpenAI pada tes yang sama. Di FrontierMath, salah satu tolok ukur matematika paling sulit, ChatGPT Agen AI mencapai skor 27,4% ketika memiliki akses ke berbagai alat, seperti terminal untuk eksekusi kode. Skor tertinggi sebelumnya hanya 6,3% dari o4-mini.

Keamanan dan Risiko yang Dihadapi

Meskipun kemampuan ChatGPT Agen AI sangat menjanjikan, OpenAI juga waspada terhadap potensi penyalahgunaannya. Perusahaan menyatakan bahwa agen AI ini memiliki kemampuan tinggi dalam domain senjata biologi dan kimia, yang didefinisikan sebagai model dengan kemampuan untuk ‘memperkuat jalur yang ada menuju bahaya yang parah’.

Untuk memitigasi risiko ini, OpenAI telah mengambil pendekatan kehati-hatian. Mereka menetapkan ChatGPT Agen AI sebagai model berkemampuan tinggi dan meluncurkan perlindungan baru. Salah satunya adalah monitor real-time yang bekerja saat pengguna berinteraksi dengan produk. Setiap permintaan yang dimasukkan ke dalam agen akan diklasifikasikan untuk menentukan apakah terkait dengan biologi. Jika ya, respons akan melalui monitor kedua untuk memastikan konten tidak digunakan untuk memicu ancaman biologis.

OpenAI juga menonaktifkan fitur memori ChatGPT untuk agen, guna mencegah penyalahgunaan. Fitur ini biasanya memungkinkan chatbot merujuk informasi dari obrolan sebelumnya. Namun, dalam ChatGPT Agen AI, fitur ini dinonaktifkan karena potensi risiko serangan injeksi cepat oleh pelaku kejahatan siber. Meski begitu, OpenAI berencana untuk menambahkan fitur ini lagi di masa depan.

Tantangan dan Potensi Masa Depan

Meskipun ChatGPT Agen AI terdengar sangat canggih, masih harus dilihat seberapa baik teknologi ini berfungsi dalam dunia nyata. Hingga saat ini, teknologi agen AI relatif rapuh saat berinteraksi dengan lingkungan nyata. Namun, OpenAI menyatakan bahwa mereka telah mengembangkan model yang lebih mumpuni dan siap memenuhi janji agen AI. Dengan terus meningkatkan keamanan dan kinerja, ChatGPT Agen AI diharapkan menjadi solusi yang efektif dan aman untuk berbagai kebutuhan pengguna.

Berbagi :