OpenAI Membentuk Tim Baru untuk Menghadapi Ancaman AI, Gimana Mekanismenya?
OpenAI, perusahaan penelitian dan penyebaran kecerdasan buatan (AI) yang menciptakan ChatGPT, baru-baru ini meluncurkan inisiatif baru untuk menilai berbagai risiko yang terkait dengan AI.
Inisiatif ini diberi nama “Preparedness” dan akan fokus pada ancaman AI yang berpotensi terkait dengan ancaman kimia, biologis, radiologis, dan nuklir, serta persuasi individual, keamanan siber, dan replikasi serta adaptasi otonom. Simak berita lengkapnya berikut ini!
Tim Preparedness dan Fokusnya
Tim Preparedness dipimpin oleh Aleksander Madry dan akan mencoba menjawab pertanyaan seperti seberapa berbahaya sistem AI perbatasan jika disalahgunakan serta apakah aktor jahat akan mampu menerapkan bobot model AI yang dicuri.
“Kami percaya bahwa model AI perbatasan, yang akan melampaui kemampuan yang saat ini ada dalam model yang paling canggih, memiliki potensi untuk memberikan manfaat bagi seluruh umat manusia,” tulis OpenAI, mengakui bahwa model AI juga menimbulkan “risiko yang semakin parah.”
OpenAI kini sedang mencari talenta dengan latar belakang teknis yang berbeda untuk tim Preparedness barunya. Selain itu, perusahaan juga meluncurkan tantangan Preparedness AI untuk pencegahan penyalahgunaan yang menghancurkan, menawarkan $25.000 dalam kredit API untuk 10 pengajuan teratas.
Baca Juga: OpenAI Siapkan Alat Deteksi Gambar AI dan Kemungkinan Peluncuran GPT-5!
Risiko AI dan Upaya Mitigasinya
Risiko yang berpotensi terkait dengan kecerdasan buatan telah sering dihighlight, bersamaan dengan ketakutan bahwa AI memiliki potensi untuk menjadi lebih cerdas daripada manusia.
Meskipun mengakui risiko ini, perusahaan seperti OpenAI telah aktif mengembangkan teknologi AI baru dalam beberapa tahun terakhir, yang pada gilirannya memicu kekhawatiran lebih lanjut.
Pada Mei 2023, organisasi nirlaba Center for AI Safety merilis surat terbuka tentang risiko AI, mendesak komunitas untuk meredam risiko kepunahan dari AI sebagai prioritas global bersama risiko skala masyarakat lainnya, seperti pandemi dan perang nuklir.
OpenAI sebelumnya mengatakan bahwa mereka berencana membentuk tim baru yang berdedikasi untuk mengatasi ancaman AI potensial pada Juli 2023. Dengan pembentukan tim Preparedness ini, OpenAI berharap dapat lebih siap dalam menghadapi dan merespon berbagai risiko yang mungkin ditimbulkan oleh AI.
Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.
*Disclaimer
Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.
Referensi:
- Cointelegraph. ChatGPT: OpenAI Forms New Team to Address AI Risks. Diakses pada tanggal 28 Oktober 2023
- Digit News. ChatGPT Creator Forms Team to Tackle AI’s “Catastrophic Risks”. Diakses pada tanggal 28 Oktober 2023
- Verdict. OpenAI forms new team for risks posed by AI. Diakses pada tanggal 28 Oktober 2023