Chatbot AI Claude Dibatasi untuk Kandidat Politik, Ada Apa?

Chatbot AI Claude Dibatasi untuk Kandidat Politik, Ada Apa?

Kandidat politik di Amerika Serikat tidak akan dapat menggunakan chatbot AI Claude dari Anthropic untuk menjawab pertanyaan selama kampanye. Anthropic, perusahaan pengembang Claude, mengumumkan kebijakan baru ini untuk mencegah penyalahgunaan AI dalam politik.

Claude tidak diperbolehkan untuk digunakan dalam pembuatan chatbot yang dapat meniru kandidat politik, dan tidak diperbolehkan untuk digunakan dalam kampanye politik yang ditargetkan. Pelanggaran terhadap kebijakan ini akan mengakibatkan peringatan dan penangguhan akses ke layanan Anthropic. Simak beritanya disini!

Kebijakan Anthropic untuk Pemilu

kebijakan anthropic untuk pemilu
Sumber: Anthropic Blog

Anthropic telah mengumumkan kebijakan “penyalahgunaan pemilu” untuk mengantisipasi potensi AI dalam menghasilkan informasi, gambar, dan video yang salah dan menyesatkan secara massal. Kebijakan ini mencakup tiga kategori utama:

  • Mengembangkan dan menegakkan kebijakan terkait isu pemilu.
  • Mengevaluasi dan menguji model terhadap potensi penyalahgunaan.
  • Mengarahkan pengguna ke informasi pemungutan suara yang akurat. Anthropic juga melakukan “pengujian tim merah” yang ketat terhadap sistemnya, yaitu upaya terkoordinasi yang agresif oleh mitra yang dikenal untuk “membobol” atau menggunakan Claude untuk tujuan jahat.

Perusahaan ini menguji bagaimana sistemnya merespons perintah yang melanggar kebijakan penggunaan yang dapat diterima, seperti permintaan informasi tentang taktik untuk menekan pemilih. Selain itu, Anthropic telah mengembangkan serangkaian pengujian untuk memastikan “paritas politik”, yaitu representasi komparatif di antara kandidat dan topik.

Baca Juga: Anthropic Raih Investasi $100 Juta dari SK Telecom, Langkah Besar dalam AI Telekomunikasi!

Upaya Anthropic dan Perusahaan Lain

Di Amerika Serikat, Anthropic bermitra dengan TurboVote untuk membantu pemilih dengan informasi yang dapat diandalkan daripada menggunakan alat AI generatifnya. Jika pengguna yang berbasis di AS meminta informasi pemungutan suara, sebuah pop-up akan menawarkan pengguna opsi untuk diarahkan ke TurboVote, sumber daya dari organisasi nonpartisan Democracy Works.

Solusi ini akan diterapkan “dalam beberapa minggu ke depan” dengan rencana untuk menambahkan langkah serupa di negara lain selanjutnya. Perusahaan lain seperti Meta dan OpenAI juga telah menerapkan aturan yang membatasi penggunaan alat AI mereka dalam politik.

Meta menerapkan aturan yang membatasi penggunaan alat AI-nya dalam politik pada musim gugur yang lalu, dan OpenAI memiliki kebijakan serupa. OpenAI, perusahaan di balik ChatGPT, juga mengambil langkah serupa dengan mengarahkan pengguna ke situs web non-partisan CanIVote.org.

Kesimpulan

Upaya Anthropic sejalan dengan gerakan yang lebih luas dalam industri teknologi untuk mengatasi tantangan yang ditimbulkan AI terhadap proses demokrasi. Misalnya, Komisi Komunikasi Federal AS baru-baru ini melarang penggunaan suara deepfake yang dihasilkan AI dalam panggilan robocall, sebuah keputusan yang menggarisbawahi urgensi pengaturan aplikasi AI di bidang politik.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*Disclaimer

Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca

Referensi