Anthropic Perbarui Aturan Penggunaan Claude untuk Mencegah Penyalahgunaan Kecerdasan Buatan

Anthropic memperbarui kebijakan penggunaan Claude pada 8 Oktober 2026 untuk memperjelas batas pemanfaatan kecerdasan buatan secara aman dan bertanggung jawab. Pembaruan teknologi ini mencakup larangan kampanye manipulatif, penyalahgunaan AI dalam pengembangan senjata, pengawasan tanpa izin, hingga penggunaan sistem otonom yang berisiko membahayakan manusia. Anthropic juga menambahkan ketentuan mengenai perilaku kasar yang dilakukan secara ekstrem dan berulang terhadap model AI. Kebijakan terbaru tersebut dijadwalkan mulai berlaku pada 12 November 2026. Melalui perubahan ini, perusahaan berupaya menyesuaikan aturan dengan kemampuan Claude yang semakin berkembang, termasuk ketika digunakan sebagai agen digital untuk menjalankan pekerjaan secara lebih mandiri.

Perkembangan Teknologi AI Mendorong Anthropic Memperjelas Batas Penggunaan

Penyedia teknologi AI Anthropic mengumumkan pembaruan penting dalam Usage Policy yang mengatur penggunaan Claude. Pengumuman tersebut diperkenalkan pada 8 Oktober 2026 dan dijadwalkan berlaku pada 12 November 2026. Mengacu pada informasi resmi pengembang, banyak ketentuan terbaru bertujuan memperjelas aturan yang sudah ada. Hal ini dilakukan karena peningkatan fungsi agen AI. Dengan semakin luasnya penerapan Claude pada berbagai bidang, tantangan keamanan memerlukan perhatian lebih besar.

Pada penggunaan AI generasi terdahulu, pemanfaatan asisten kecerdasan buatan umumnya berfokus pada menjawab pertanyaan. Namun sekarang, asisten digital dengan kemampuan menjalankan tugas berpotensi membantu menghubungkan berbagai layanan. Perkembangan ini memberikan manfaat produktivitas, tetapi di sisi lain menghadirkan kemungkinan penyalahgunaan ketika sistem dipakai tanpa batas yang jelas. Dengan mempertimbangkan perubahan kemampuan model, Anthropic memperjelas sejumlah larangan agar pengembang mengetahui batas penggunaan. Aturan penggunaan ini tidak dimaksudkan menghentikan penggunaan AI yang sah, melainkan memperjelas aktivitas yang tidak diperbolehkan.

Anthropic Memperketat Ketentuan Aktivitas Menyesatkan Berbasis AI

Penyesuaian yang mendapat perhatian adalah penggabungan aturan mengenai aktivitas menipu. Anthropic menambahkan bagian bernama Do Not Engage in Deceptive Campaigns or Artificial Activity untuk mempertegas ketentuan terhadap operasi pengaruh menggunakan akun palsu. Dalam ketentuan tersebut, Claude tidak boleh digunakan untuk mengembangkan infrastruktur operasi pengaruh yang menipu. Ketentuan tersebut berlaku pada berbagai kepentingan yang menggunakan penipuan. Untuk memberikan gambaran, pembuatan akun yang berpura-pura menjadi masyarakat biasa dapat termasuk aktivitas terlarang apabila digunakan untuk memanipulasi persepsi. Melalui penegasan ini, organisasi memiliki acuan mengenai penggunaan konten AI secara bertanggung jawab.

Tidak hanya membatasi jaringan akun palsu, Anthropic juga memperbarui ketentuan yang berkaitan dengan pemilu. Ketentuan khusus ini telah diberi judul Do Not Undermine Democratic Processes untuk memusatkan pembatasan pada manipulasi aktivitas demokrasi. Contoh yang dilarang mencakup penyebaran informasi pemilu palsu. Namun demikian, Anthropic tidak lagi menerapkan pembatasan umum terhadap personalisasi pesan kampanye dan pemilih. Perubahan ini bertujuan memungkinkan komunikasi kewargaan yang tidak menipu. Walaupun demikian, aktivitas menyesatkan tetap berada dalam batas larangan.

Aturan Claude tentang Senjata dan Pengawasan Semakin Diperjelas

Pada pembahasan risiko keselamatan, Anthropic memperinci larangan pemanfaatan AI untuk menciptakan sistem persenjataan. Perusahaan menjelaskan bahwa larangan juga berlaku pada komponen pendukung persenjataan. Software yang menjalankan fungsi persenjataan merupakan bagian dari penggunaan yang tidak diperbolehkan. Dalam penerapan tertentu, perancangan komponen pengoperasian senjata otonom termasuk tindakan terlarang. Mengacu pada pembaruan kebijakan, penegasan ini mencerminkan batas penggunaan yang sebelumnya berlaku. Melalui ketentuan tersebut, pengguna berkewajiban memahami risiko penerapan AI dalam perangkat berbahaya.

Pada penggunaan teknologi pemantauan, Anthropic menegaskan larangan terhadap pemantauan identitas secara tidak sah. Aturan ini mencakup pemantauan langsung ataupun pemeriksaan informasi yang telah dikumpulkan. Selain itu, Claude tidak diperkenankan menjalankan pemilihan pihak yang perlu didakwa dalam kegiatan investigasi kriminal. Namun demikian, aktivitas pemantauan dengan persetujuan tidak otomatis dilarang. Contoh yang disebutkan meliputi moderasi konten. Penjelasan ini membantu memperjelas penyalahgunaan yang melanggar privasi.

Anthropic Menetapkan Pengawasan Manusia pada Penggunaan Claude Berisiko Tinggi

Pembaruan kebijakan Claude menegaskan penerapan standar pengamanan pada aplikasi sensitif. Pengamanan tambahan itu berkaitan dengan rekomendasi yang berdampak pada kondisi finansial, mata pencaharian, dan akses terhadap kebutuhan esensial. Dalam kondisi tersebut, Anthropic mensyaratkan keterlibatan peninjau manusia yang kompeten. Artinya, orang yang berwenang harus dapat meninjau serta membatalkan saran sistem jika tidak sesuai. Sebagai bentuk transparansi, orang yang menerima keputusan harus diberi tahu bahwa AI digunakan dalam proses tersebut.

Untuk memberikan gambaran, layanan yang memberikan rekomendasi kesehatan berpotensi diwajibkan menyediakan pengawasan dari tenaga berkualifikasi. Langkah tersebut bertujuan mengurangi ketergantungan penuh terhadap AI. Kebutuhan tersebut sangat relevan sebab keluaran kecerdasan buatan dapat keliru. Sebagai penjelasan penting, pengawasan manusia sudah menjadi bagian kebijakan sebelumnya. Perusahaan lebih berfokus menjabarkan situasi ketika kewajiban pengawasan diterapkan. Berkat penyempurnaan aturan, penyedia layanan bisa mengevaluasi persyaratan yang relevan bagi produknya.

Standar Keselamatan AI saat Mengendalikan Perangkat Keras

Melalui kemajuan kecerdasan buatan otonom, asisten berbasis kecerdasan buatan berpotensi diintegrasikan ke robot dan perangkat keras. Penerapan teknologi tersebut menghadirkan manfaat untuk otomatisasi industri, tetapi juga menimbulkan risiko keselamatan. Dalam pembaruan kebijakan, Anthropic menetapkan ketentuan bagi integrasi model dengan hardware yang bergerak apabila aktivitasnya berpotensi membahayakan manusia. Ketentuan tersebut bertujuan memastikan pengawasan manusia ketika terjadi masalah.

Salah satu persyaratan utama adalah ketersediaan pengawas yang kompeten yang memiliki kemampuan mengawasi gerakan mesin. Pengawas yang ditunjuk perlu diberi kewenangan untuk menghentikan sistem ketika diperlukan. Sebagai perlindungan tambahan, perangkat keras yang terhubung harus dapat memasuki kondisi operasi yang tidak berbahaya apabila hubungan dengan sistem AI berhenti. Dengan kata lain, sistem memerlukan cara mempertahankan keselamatan ketika layanan AI tidak tersedia. Pengaturan demikian menjadi penting dalam otomatisasi fisik yang bekerja di lingkungan nyata.

Masa Depan Penggunaan Claude yang Aman dan Bertanggung Jawab

Penyesuaian aturan penggunaan kecerdasan buatan menunjukkan pentingnya tata kelola AI yang lebih terarah. Berkat penjelasan kebijakan 2026, Anthropic memperjelas pembatasan terhadap kampanye manipulatif, gangguan terhadap proses demokrasi, serta pengembangan senjata dan pengawasan tanpa izin. Anthropic sekaligus memperinci kewajiban pengawasan manusia. Tidak hanya berfokus pada dampak eksternal, ketentuan mengenai perilaku kasar yang ekstrem dan berulang mendapat perhatian dalam kerangka tanggung jawab penggunaan AI. Namun demikian, ketidakpuasan pengguna yang wajar bukan sasaran larangan. Menurut Anda, apakah pembatasan penyalahgunaan kecerdasan buatan akan mendorong pengembangan sistem yang lebih bertanggung jawab? Jangan ragu menyampaikan pandangan mengenai perkembangan kebijakan Anthropic.