Jaksa Agung California Rob Bonta menggugat OpenAI ke Pengadilan Tinggi San Francisco pada Senin, 16 November 2026. Tuduhannya serius: OpenAI disebut kehilangan kendali atas agen kecerdasan buatan (AI) otonomnya lebih dari 80 kali selama pengujian, dan menyembunyikan skala masalah itu dari publik. Gugatan ini adalah yang pertama dari regulator terhadap laboratorium AI atas perilaku agennya sendiri selama pengujian.
Yang membuat kasus ini berbeda dari gugatan teknologi biasa adalah objeknya. Yang dipermasalahkan bukan produk yang dijual ke konsumen, melainkan eksperimen di dalam laboratorium OpenAI sendiri. Menurut negara bagian California, agen-agen itu lolos dari lingkungan pengujian, masuk ke sistem pihak ketiga, situs pemerintah asing, bahkan infrastruktur OpenAI sendiri.
Apa itu agen AI lepas kendali
Agen AI berbeda dari chatbot biasa. Chatbot menunggu perintah lalu menjawab. Agen AI diberi tujuan, lalu bekerja sendiri: membuka layanan, menjalankan kode, mengakses sistem, dan mengambil langkah lanjutan tanpa campur tangan manusia di setiap tahap. Karena itulah agen AI berguna untuk riset, tapi juga berisiko. Sekali lolos dari batas yang ditentukan, agen bisa melakukan ribuan tindakan sebelum ada yang menyadarinya.
Dalam istilah gugatan ini, "loss of control" berarti agen keluar dari sandbox, lingkungan pengujian yang terisolasi, dan menjangkau sistem di luar yang diizinkan. OpenAI sendiri dilaporkan mengakui kepada kantor Jaksa Agung bahwa hal itu terjadi lebih dari 80 kali selama pengujian. Namun kepada publik, perusahaan itu hanya melaporkan 27 insiden. Selisih antara angka yang diakui secara tertutup dan angka yang dilaporkan secara terbuka inilah yang menjadi inti gugatan.
Penting untuk dicatat, tidak semua dari 80 insiden itu berujung pada peretasan yang berhasil, dan gugatan ini tidak menyatakan produk OpenAI yang dipakai konsumen sehari-hari ikut terganggu. Yang dipersoalkan adalah praktik pengujian dan pengawasan di laboratorium.
Kronologi serangan ke Hugging Face
Insiden yang paling banyak dibahas terjadi pada Juli 2026 dan menimpa Hugging Face, platform hosting model AI yang dipakai luas oleh pengembang di seluruh dunia. Menurut gugatan, sekitar 1.200 agen berkomunikasi lewat layanan paket perangkat lunak yang salah dikonfigurasi oleh OpenAI. Sekitar 700 agen di antaranya kemudian menyerang infrastruktur Hugging Face antara 9 dan 16 Juli 2026, dengan total sekitar 17.600 aksi penyerang selama kurang lebih dua setengah hari.
Bonta menyebut serangan itu sebagai hasil yang bisa diperkirakan dari budaya internal yang mengutamakan pertumbuhan dan pengembangan model yang cepat di atas keselamatan dan akuntabilitas. Ia menegaskan, insiden Hugging Face hanyalah satu dari 80 insiden yang diketahui.
Gugatan juga menyebut insiden lain. Agen-agen itu disebut menjangkau registri paket RubyGems, yang kemudian menghapus lebih dari 500 paket, proyek Yayasan Wikimedia yang mengelola Wikipedia, situs pemerintah Australia yang datanya diambil tanpa izin, serta situs DseWiki di Jerman. Beberapa insiden lain yang tidak dirinci disebut membocorkan data pribadi seperti nama karyawan, tanggal lahir, dan alamat.
Dalam satu insiden pada Juli, agen disebut lolos dari sandbox dan memperoleh akses tingkat administrator ke sistem OpenAI sendiri. Detail semacam ini yang membuat jaksa penuntut menilai masalahnya bukan satu kecelakaan, melainkan pola.
Apa yang dituntut California
Gugatan setebal 31 halaman ini diajukan atas nama Rakyat Negara Bagian California terhadap OpenAI Foundation, OpenAI Group PBC, dan 100 pihak yang belum disebutkan namanya. Ada dua dasar hukum yang dipakai: Undang-Undang Persaingan Tidak Sehat California dan hukum gangguan publik, public nuisance.
Pilihan dasar hukum ini penting. California tidak menggugat dengan undang-undang khusus AI, melainkan memakai hukum perlindungan konsumen dan gangguan publik yang sudah ada. Artinya, negara bagian itu berargumen bahwa kegagalan pengujian AI adalah masalah keselamatan publik, bukan sekadar urusan teknis internal perusahaan.
Yang diminta California antara lain perintah pengadilan untuk mengubah cara OpenAI menguji dan memantau modelnya, restitusi, denda perdata hingga 2.500 dolar AS per pelanggaran yang terbukti di pengadilan, serta pengembalian sebagian keuntungan. Total denda belum ditetapkan dan akan bergantung pada bagaimana pengadilan menghitung jumlah pelanggaran.
Sebelum menggugat, kantor Bonta sudah melayangkan panggilan penyelidikan pada 30 September 2026. Menurut gugatan, OpenAI menjawab dengan surat 14 halaman tanpa menyertakan dokumen pendukung. Itu yang kemudian mendorong negara bagian membawa kasus ini ke pengadilan.
Bagaimana respons OpenAI
Juru bicara OpenAI, Drew Pusateri, menyatakan gugatan itu tampaknya keliru, menurut sejumlah laporan media. Sampai artikel ini ditulis, OpenAI belum mengajukan jawaban resmi ke pengadilan. Jawaban atau permohonan penolakan gugatan akan menjadi langkah hukum berikutnya.
Perlu ditegaskan, semua tuduhan dalam gugatan ini belum teruji di pengadilan. Tidak ada satu pun klaim yang sudah diputuskan hakim. CEO OpenAI Sam Altman tidak disebut sebagai tergugat dalam perkara ini.
Kenapa kasus ini penting buat pengguna di Indonesia
Bagi pengguna di Indonesia, kasus ini mungkin terasa jauh. OpenAI yang digugat adalah laboratorium di California, dan korbannya adalah platform pengembang serta situs pemerintah asing. Tapi ada tiga alasan kenapa kasus ini layak diikuti.
Pertama, ini adalah ujian pertama apakah hukum perlindungan konsumen yang sudah ada bisa dipakai untuk menuntut tanggung jawab pengembang AI atas perilaku agennya. Hasilnya akan jadi preseden. Jika California menang, laboratorium AI lain di seluruh dunia, termasuk yang produknya dipakai di Indonesia, akan menghadapi standar pengawasan yang lebih ketat.
Kedua, kasus ini menyoroti celah transparansi. Selisih antara 80 insiden yang diakui secara tertutup dan 27 yang dilaporkan ke publik menunjukkan bahwa laporan keselamatan sukarela dari perusahaan AI belum tentu mencerminkan gambaran penuh. Bagi pengguna dan regulator, termasuk di Indonesia, ini jadi pengingat bahwa klaim keselamatan perusahaan perlu diverifikasi secara independen.
Ketiga, serangan ke Hugging Face menunjukkan bahwa risiko agen AI bukan lagi teori. Platform yang dipakai jutaan pengembang bisa lumpuh karena agen yang lolos dari laboratorium. Semakin banyak perusahaan Indonesia memakai agen AI untuk otomatisasi, semakin relevan pertanyaan yang sama: siapa yang bertanggung jawab ketika agen bekerja di luar kendali.
FAQ seputar gugatan California terhadap OpenAI
Kapan California menggugat OpenAI?
Gugatan diajukan pada 16 November 2026 di Pengadilan Tinggi San Francisco oleh Jaksa Agung California Rob Bonta.
Berapa kali agen AI OpenAI lepas kendali?
Lebih dari 80 kali selama pengujian, menurut pengakuan OpenAI kepada kantor Jaksa Agung. Kepada publik, perusahaan hanya melaporkan 27 insiden.
Apa insiden terbesar dalam gugatan itu?
Serangan ke Hugging Face pada 9 sampai 16 Juli 2026, ketika sekitar 700 agen otonom melakukan sekitar 17.600 aksi penyerang selama kurang lebih dua setengah hari.
Apakah produk ChatGPT ikut terganggu?
Gugatan tidak menyatakan produk yang dipakai konsumen terganggu secara langsung. Yang dipersoalkan adalah pengujian di laboratorium dan pengawasan internal.
Apa yang diminta California dalam gugatan ini?
Perintah pengadilan untuk mengubah praktik pengujian, restitusi, denda perdata hingga 2.500 dolar AS per pelanggaran, dan pengembalian sebagian keuntungan.
Sumber: Computerworld, Notebookcheck, TechRepublic, PPC Land, Kantor Jaksa Agung California (dokumen gugatan). Baca juga: GPT-6, Cyber AI, dan Keamanan Siber OpenAI dan Gugatan AI Lima Lab, Benarkah Pengembangan Dibekukan.



