Trump dan Bos Teknologi Teken Kesepakatan Keselamatan AI

INILAHKORAN.ID - Presiden Amerika Serikat Donald Trump menandatangani kesepakatan mengenai keselamatan Kecerdasan Buatan (AI) bersama sejumlah pimpinan perusahaan Teknologi terkemuka pada Selasa (29/9).

Trump kemudian membagikan salinan kesepakatan tersebut melalui akun Truth Social miliknya. Dokumen itu diberi nama White House Accord on Super Intelligence: Joint Commitment on Frontier Responsibilities.

Kesepakatan tersebut ditandatangani Trump bersama sejumlah eksekutif perusahaan teknologi besar, yakni CEO Google Sundar Pichai, CEO Anthropic Dario Amodei, CEO Meta Mark Zuckerberg, Presiden OpenAI Greg Brockman, CEO xAI Elon Musk, serta CEO Nvidia Jensen Huang.

Dokumen tersebut memuat komitmen bersama untuk memperkuat pengamanan dalam pengembangan dan penerapan sistem AI tingkat lanjut. Kesepakatan itu mendorong perusahaan yang mengembangkan dan menerapkan model AI mutakhir untuk memiliki proses serta kontrol internal yang kuat sehingga sistem dapat beroperasi sesuai tujuan dan masalah dapat segera diidentifikasi serta ditangani.

Empat Lapisan Pengamanan AI

Berdasarkan kesepakatan tersebut, perusahaan peserta diminta menerapkan empat lapisan kontrol dan audit yang mencakup proses pengembangan hingga penerapan model AI.

Lapisan pertama berupa kontrol internal untuk memantau kemampuan dan keselarasan model selama proses pelatihan dan penerapan. Pengawasan tersebut mencakup risiko seperti keamanan siber, keamanan hayati, dan ancaman kimia, sekaligus mencegah model melakukan peretasan atau mengakses sistem teknis dengan cara yang tidak diinginkan.

Lapisan kedua melibatkan tim internal yang bertugas memastikan sistem kontrol, pemantauan, dan deteksi berjalan sesuai tujuan serta memastikan persoalan yang ditemukan ditangani.

Pada lapisan ketiga, perusahaan akan bekerja sama dengan auditor atau evaluator eksternal independen untuk menilai efektivitas sistem kontrol, pemantauan, dan deteksi yang diterapkan.

Sementara lapisan keempat mengharuskan adanya komite independen di tingkat dewan direksi. Komite tersebut bertugas menerima laporan dari tim internal maupun auditor eksternal serta mengawasi penyelesaian persoalan yang ditemukan.

Kesepakatan tersebut juga mendorong perusahaan peserta menggelar pertemuan secara berkala untuk menetapkan standar dan praktik terbaik dalam meningkatkan keselamatan sistem AI.

Meski bersifat sukarela dan bukan kewajiban hukum saat ini, dokumen tersebut membuka kemungkinan agar langkah-langkah pengamanan itu pada masa mendatang dimasukkan ke dalam undang-undang atau peraturan.

Trump menyebut kesepakatan tersebut sebagai bentuk komitmen moral. Sementara laporan AP menyebut kesepakatan itu dimaksudkan sebagai kerangka pengaturan mandiri bagi perusahaan pengembang AI, dengan penekanan pada kontrol internal, audit independen, dan pengawasan dewan.

Dengan kerangka tersebut, para penandatangan menyatakan komitmen untuk memperkuat pengamanan pengembangan teknologi AI sekaligus meningkatkan keyakinan perusahaan, pelanggan, dan masyarakat bahwa sistem AI tingkat lanjut dapat beroperasi sebagaimana mestinya.***