Mereka yang memimpin revolusi AI juga menyerukan regulasi, membuat perbandingan dengan pandemi dan perang nuklir.
** Bersiaplah: Kecerdasan buatan dapat menyebabkan kepunahan umat manusia. **
Pada hari Selasa, ratusan pemimpin dan peneliti industri AI; termasuk eksekutif dari Microsoft, Google dan OpenAI, mengeluarkan peringatan serius. Mereka mengklaim bahwa teknologi kecerdasan buatan yang mereka rancang suatu hari nanti dapat menimbulkan ancaman nyata dan saat ini bagi keberadaan manusia. Selain kengerian pandemi dan perang nuklir, mereka melihat AI sebagai risiko yang sama bagi masyarakat.
Dalam sebuah surat yang diterbitkan oleh Center for AI Safety, pakar AI memberikan pernyataan singkat berikut: "Mengurangi risiko kepunahan AI harus dibandingkan dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir. Bersama-sama sebagai prioritas global."
Itu saja, itulah yang mereka katakan.
Sumber: Pusat Keamanan AI
Pernyataan itu menggambarkan kecerdasan buatan sebagai ancaman yang akan segera terjadi, mirip dengan bencana nuklir atau pandemi global. Tetapi para penandatangan, ahli industri teknologi ini, gagal memperluas peringatan buruk mereka.
Bagaimana tepatnya skenario kiamat ini seharusnya turun? Kapan kita harus menandai kalender kita untuk kebangkitan tuan robot kita? Mengapa penemuan inovasi manusia seperti kecerdasan buatan mengkhianati penciptanya? Keheningan para arsitek AI ini menggema, dan mereka tidak memberikan jawaban.
Faktanya, para pemimpin industri ini tidak memberikan informasi lebih dari chatbot dengan tanggapan kalengan. Dalam dunia ancaman global, kecerdasan buatan tampaknya telah melompati antrean, mengalahkan perubahan iklim, konflik geopolitik, dan bahkan invasi alien pencarian kata kunci Google.
Google mencari kecerdasan buatan dibandingkan dengan isu global lainnya seperti perang, invasi alien, dan perubahan iklim. Gambar: Google
Menariknya, perusahaan cenderung mengadvokasi regulasi jika itu adalah kepentingan mereka. Ini dapat dilihat sebagai cara mereka mengatakan "kami ingin menjadi bagian dari pembuatan peraturan ini", mirip dengan rubah di kandang ayam yang memohon peraturan baru.
Perlu juga dicatat bahwa CEO OpenAI Sam Altman telah mendorong peraturan AS. Tetap saja, dia mengancam akan meninggalkan Eropa jika politisi di benua itu terus mencoba mengatur AI. "Kami akan berusaha untuk mematuhinya," kata Altman dalam pertemuan panel di University College London. "Jika kami dapat memenuhinya, kami akan melakukannya. Jika tidak, kami akan menghentikan operasi."
Agar adil, dia mengubah nadanya beberapa hari kemudian dan mengatakan OpenAI tidak punya rencana untuk meninggalkan Eropa. Tentu saja, ini terjadi setelah dia mendapat kesempatan untuk membahas masalah tersebut dengan regulator selama "minggu yang sangat produktif".
**AI berisiko, tetapi apakah risikonya sebesar itu? **
Para ahli tidak mengabaikan potensi bahaya kecerdasan buatan. Surat terbuka sebelumnya yang ditandatangani oleh 31.810 advokat menyerukan moratorium pelatihan model AI yang kuat, termasuk Elon Musk, Steve Wozniak, Yuval Harari, dan Andrew Yang.
“Protokol-protokol ini harus memastikan tanpa keraguan bahwa sistem yang mematuhinya aman,” kata surat itu, mengklarifikasi bahwa “ini tidak menyiratkan moratorium umum pada pengembangan AI model kotak hitam dengan kemampuan yang muncul, hanya perlombaan berbahaya untuk kembali ke ras tak terduga yang lebih besar."
Potensi masalah AI Foom (di mana AI mampu meningkatkan sistemnya sendiri, meningkatkan kemampuannya melebihi kecerdasan manusia) telah dibahas selama bertahun-tahun. Namun, laju perubahan yang cepat saat ini, ditambah dengan liputan media yang berat, telah membuat debat ini menjadi sorotan global.
Sumber: Ulasan Jurnalisme Columbia
Ini telah memicu perbedaan pandangan tentang bagaimana AI akan mempengaruhi masa depan interaksi sosial.
Beberapa membayangkan era utopis di mana kecerdasan buatan berinteraksi dengan manusia dan kemajuan teknologi berkuasa. Yang lain berpendapat bahwa manusia akan beradaptasi dengan AI, menciptakan pekerjaan baru seputar teknologi, serupa dengan pertumbuhan pekerjaan yang mengikuti penemuan mobil. Namun, yang lain bersikeras bahwa ada kemungkinan besar AI akan matang dan menjadi tidak terkendali, menimbulkan ancaman nyata bagi umat manusia.
Sampai saat itu, bisnis seperti biasa di dunia AI. Awasi ChatGPT Anda, Bard Anda, atau Siri Anda, mereka mungkin hanya memerlukan pembaruan perangkat lunak untuk menguasai dunia. Namun untuk saat ini, tampaknya ancaman terbesar umat manusia bukanlah penemuan kita sendiri, melainkan bakat kita yang tak terbatas untuk melebih-lebihkan.
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Pembuat AI memperingatkan teknologi mereka 'berisiko punah'
Mereka yang memimpin revolusi AI juga menyerukan regulasi, membuat perbandingan dengan pandemi dan perang nuklir.
** Bersiaplah: Kecerdasan buatan dapat menyebabkan kepunahan umat manusia. **
Pada hari Selasa, ratusan pemimpin dan peneliti industri AI; termasuk eksekutif dari Microsoft, Google dan OpenAI, mengeluarkan peringatan serius. Mereka mengklaim bahwa teknologi kecerdasan buatan yang mereka rancang suatu hari nanti dapat menimbulkan ancaman nyata dan saat ini bagi keberadaan manusia. Selain kengerian pandemi dan perang nuklir, mereka melihat AI sebagai risiko yang sama bagi masyarakat.
Dalam sebuah surat yang diterbitkan oleh Center for AI Safety, pakar AI memberikan pernyataan singkat berikut: "Mengurangi risiko kepunahan AI harus dibandingkan dengan risiko skala sosial lainnya seperti pandemi dan perang nuklir. Bersama-sama sebagai prioritas global."
Itu saja, itulah yang mereka katakan.
Sumber: Pusat Keamanan AI
Pernyataan itu menggambarkan kecerdasan buatan sebagai ancaman yang akan segera terjadi, mirip dengan bencana nuklir atau pandemi global. Tetapi para penandatangan, ahli industri teknologi ini, gagal memperluas peringatan buruk mereka.
Bagaimana tepatnya skenario kiamat ini seharusnya turun? Kapan kita harus menandai kalender kita untuk kebangkitan tuan robot kita? Mengapa penemuan inovasi manusia seperti kecerdasan buatan mengkhianati penciptanya? Keheningan para arsitek AI ini menggema, dan mereka tidak memberikan jawaban.
Faktanya, para pemimpin industri ini tidak memberikan informasi lebih dari chatbot dengan tanggapan kalengan. Dalam dunia ancaman global, kecerdasan buatan tampaknya telah melompati antrean, mengalahkan perubahan iklim, konflik geopolitik, dan bahkan invasi alien pencarian kata kunci Google.
Google mencari kecerdasan buatan dibandingkan dengan isu global lainnya seperti perang, invasi alien, dan perubahan iklim. Gambar: Google
Menariknya, perusahaan cenderung mengadvokasi regulasi jika itu adalah kepentingan mereka. Ini dapat dilihat sebagai cara mereka mengatakan "kami ingin menjadi bagian dari pembuatan peraturan ini", mirip dengan rubah di kandang ayam yang memohon peraturan baru.
Perlu juga dicatat bahwa CEO OpenAI Sam Altman telah mendorong peraturan AS. Tetap saja, dia mengancam akan meninggalkan Eropa jika politisi di benua itu terus mencoba mengatur AI. "Kami akan berusaha untuk mematuhinya," kata Altman dalam pertemuan panel di University College London. "Jika kami dapat memenuhinya, kami akan melakukannya. Jika tidak, kami akan menghentikan operasi."
Agar adil, dia mengubah nadanya beberapa hari kemudian dan mengatakan OpenAI tidak punya rencana untuk meninggalkan Eropa. Tentu saja, ini terjadi setelah dia mendapat kesempatan untuk membahas masalah tersebut dengan regulator selama "minggu yang sangat produktif".
**AI berisiko, tetapi apakah risikonya sebesar itu? **
Para ahli tidak mengabaikan potensi bahaya kecerdasan buatan. Surat terbuka sebelumnya yang ditandatangani oleh 31.810 advokat menyerukan moratorium pelatihan model AI yang kuat, termasuk Elon Musk, Steve Wozniak, Yuval Harari, dan Andrew Yang.
“Protokol-protokol ini harus memastikan tanpa keraguan bahwa sistem yang mematuhinya aman,” kata surat itu, mengklarifikasi bahwa “ini tidak menyiratkan moratorium umum pada pengembangan AI model kotak hitam dengan kemampuan yang muncul, hanya perlombaan berbahaya untuk kembali ke ras tak terduga yang lebih besar."
Potensi masalah AI Foom (di mana AI mampu meningkatkan sistemnya sendiri, meningkatkan kemampuannya melebihi kecerdasan manusia) telah dibahas selama bertahun-tahun. Namun, laju perubahan yang cepat saat ini, ditambah dengan liputan media yang berat, telah membuat debat ini menjadi sorotan global.
Sumber: Ulasan Jurnalisme Columbia
Ini telah memicu perbedaan pandangan tentang bagaimana AI akan mempengaruhi masa depan interaksi sosial.
Beberapa membayangkan era utopis di mana kecerdasan buatan berinteraksi dengan manusia dan kemajuan teknologi berkuasa. Yang lain berpendapat bahwa manusia akan beradaptasi dengan AI, menciptakan pekerjaan baru seputar teknologi, serupa dengan pertumbuhan pekerjaan yang mengikuti penemuan mobil. Namun, yang lain bersikeras bahwa ada kemungkinan besar AI akan matang dan menjadi tidak terkendali, menimbulkan ancaman nyata bagi umat manusia.
Sampai saat itu, bisnis seperti biasa di dunia AI. Awasi ChatGPT Anda, Bard Anda, atau Siri Anda, mereka mungkin hanya memerlukan pembaruan perangkat lunak untuk menguasai dunia. Namun untuk saat ini, tampaknya ancaman terbesar umat manusia bukanlah penemuan kita sendiri, melainkan bakat kita yang tak terbatas untuk melebih-lebihkan.