OpenAI Membentuk Tim Baru untuk Menghadapi Ancaman AI, Gimana Mekanismenya?

OpenAI Membentuk Tim Baru untuk Menghadapi Ancaman AI, Gimana Mekanismenya?

OpenAI, perusahaan penelitian dan penyebaran kecerdasan buatan (AI) yang menciptakan ChatGPT, baru-baru ini meluncurkan inisiatif baru untuk menilai berbagai risiko yang terkait dengan AI.

Inisiatif ini diberi nama “Preparedness” dan akan fokus pada ancaman AI yang berpotensi terkait dengan ancaman kimia, biologis, radiologis, dan nuklir, serta persuasi individual, keamanan siber, dan replikasi serta adaptasi otonom. Simak berita lengkapnya berikut ini!

Tim Preparedness dan Fokusnya

tim preparedness dna fokusnya
Sumber: OpenAI

Tim Preparedness dipimpin oleh Aleksander Madry dan akan mencoba menjawab pertanyaan seperti seberapa berbahaya sistem AI perbatasan jika disalahgunakan serta apakah aktor jahat akan mampu menerapkan bobot model AI yang dicuri.

“Kami percaya bahwa model AI perbatasan, yang akan melampaui kemampuan yang saat ini ada dalam model yang paling canggih, memiliki potensi untuk memberikan manfaat bagi seluruh umat manusia,” tulis OpenAI, mengakui bahwa model AI juga menimbulkan “risiko yang semakin parah.”

OpenAI kini sedang mencari talenta dengan latar belakang teknis yang berbeda untuk tim Preparedness barunya. Selain itu, perusahaan juga meluncurkan tantangan Preparedness AI untuk pencegahan penyalahgunaan yang menghancurkan, menawarkan $25.000 dalam kredit API untuk 10 pengajuan teratas.

Baca Juga: OpenAI Siapkan Alat Deteksi Gambar AI dan Kemungkinan Peluncuran GPT-5!

Risiko AI dan Upaya Mitigasinya

risiko openai
Sumber: TechTalks

Risiko yang berpotensi terkait dengan kecerdasan buatan telah sering dihighlight, bersamaan dengan ketakutan bahwa AI memiliki potensi untuk menjadi lebih cerdas daripada manusia.

Meskipun mengakui risiko ini, perusahaan seperti OpenAI telah aktif mengembangkan teknologi AI baru dalam beberapa tahun terakhir, yang pada gilirannya memicu kekhawatiran lebih lanjut.

Pada Mei 2023, organisasi nirlaba Center for AI Safety merilis surat terbuka tentang risiko AI, mendesak komunitas untuk meredam risiko kepunahan dari AI sebagai prioritas global bersama risiko skala masyarakat lainnya, seperti pandemi dan perang nuklir.

OpenAI sebelumnya mengatakan bahwa mereka berencana membentuk tim baru yang berdedikasi untuk mengatasi ancaman AI potensial pada Juli 2023. Dengan pembentukan tim Preparedness ini, OpenAI berharap dapat lebih siap dalam menghadapi dan merespon berbagai risiko yang mungkin ditimbulkan oleh AI.

Ikuti kami di Google News untuk mendapatkan berita-berita terbaru seputar crypto. Nyalakan notifikasi agar tidak ketinggalan beritanya.

*Disclaimer

Konten ini bertujuan memperkaya informasi pembaca. Selalu lakukan riset mandiri dan gunakan uang dingin sebelum berinvestasi. Segala aktivitas jual beli dan investasi aset crypto menjadi tanggung jawab pembaca.

Referensi: