Terungkap, Rahasia Dibalik Program Hibah $1 Juta OpenAI

Apakah kamu pernah membayangkan jika kecerdasan buatan (AI) bisa sepenuhnya memahami nilai-nilai kemanusiaan? OpenAI baru-baru ini mengungkapkan pelajaran berharga dari program hibah senilai $1 juta yang melibatkan masyarakat untuk menentukan perilaku AI. Temuan ini membuka jalan bagi implementasi AI yang lebih selaras dengan harapan dan nilai-nilai umat manusia. Simak berita lengkapnya disini!

Pelajaran dari Partisipasi Publik

partisipasi publik openai — **Sumber: OpenAi blog**

OpenAI menemukan bahwa pendapat publik sering berubah, yang menunjukkan perlunya proses masukan yang berulang. Mereka menyadari bahwa proses kolektif harus efisien dalam menangkap nilai-nilai dasar dan cukup sensitif untuk mendeteksi perubahan pendapat yang signifikan seiring waktu.

Dalam program ini, beberapa tim menghadapi kesulitan dalam menjembatani kesenjangan digital. Hal ini menyebabkan hasil yang miring karena keterbatasan platform dan masalah dalam memahami bahasa atau konteks lokal. Rekrutmen partisipan yang beragam menjadi tantangan tersendiri.

Konsensus dalam Keberagaman Opini

Mencapai kesepakatan dalam kelompok yang terpolarisasi bukanlah hal yang mudah, terutama ketika ada subkelompok dengan opini kuat mengenai isu tertentu. Tim Collective Dialogues menemukan bahwa sekelompok kecil sangat menentang pembatasan jawaban dari asisten AI, yang menyebabkan perbedaan pendapat dengan hasil pemungutan suara mayoritas.

Tim Inclusive.AI mengeksplorasi mekanisme pemungutan suara dan menemukan bahwa metode yang mencerminkan perasaan kuat seseorang serta memastikan partisipasi yang setara dianggap lebih demokratis dan adil. Menyeimbangkan konsensus dan mewakili opini yang beragam menjadi tantangan tersendiri untuk mencapai satu kesimpulan.

AI dalam Tata Kelola Masa Depan

Beberapa partisipan merasa cemas tentang peran AI dalam penulisan kebijakan dan menginginkan transparansi penggunaannya. Namun, setelah diskusi, tim mencatat adanya peningkatan harapan bahwa masyarakat dapat mengarahkan AI dengan baik. OpenAI berkomitmen untuk mengimplementasikan ide-ide dari partisipan publik.

Mereka akan membentuk tim baru yang bernama Collective Alignment, yang terdiri dari peneliti dan insinyur untuk menciptakan sistem pengumpulan dan pengkodean masukan publik terhadap perilaku model AI mereka ke dalam produk dan layanan OpenAI.

Kesimpulan

Kesimpulan dari program hibah ini menunjukkan bahwa OpenAI serius dalam mengintegrasikan AI dengan nilai-nilai kemanusiaan. Dengan pembentukan tim Collective Alignment, masa depan AI tampaknya akan lebih transparan dan selaras dengan keinginan masyarakat. Ini adalah langkah maju yang menjanjikan bagi dunia teknologi dan interaksi manusia dengan AI.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*Disclaimer

Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.

Referensi

Cointelegraph. OpenAI Learnings $1M Grant Program. Diakses pada tanggal 18 Januari 2024
Bitget. OpenAI reveals lessons learned from $1M grant program. Diakses pada tanggal 18 Januari 2024

Array