Saat ChatGPT menjadi populer di seluruh dunia, kegemaran AI melanda secara bersamaan. Pengusaha, modal, perusahaan besar, dll. Mencoba yang terbaik untuk mengikuti ledakan dan menghasilkan lebih banyak kenaikan.
Namun, ketika semua orang dengan antusias dan memeras otak untuk mengabdikan diri pada AI, nafas berbahaya mendekat-AI tampaknya perlahan-lahan "membunuh" manusia, dan manusia seolah menggali kuburannya sendiri.
Dalam kognisi inersia banyak orang, AI sangat ramah lingkungan dan ramah, namun kenyataannya justru sebaliknya.
"MIT Technology Review" melaporkan bahwa** hanya melatih model AI dapat mengeluarkan lebih dari 626 pon karbon dioksida, yang merupakan 5 kali emisi karbon yang dihasilkan oleh mobil selama masa pakainya. **
Orang hanya melihat asap knalpot dari mobil, tetapi tidak melihat "kehancuran tak terlihat" AI terhadap lingkungan.
Selain itu, beberapa media mengungkapkan bahwa GPU khusus AI yang beredar di pasaran pada tahun 2022 dapat menghabiskan sekitar 9,5 miliar kilowatt-jam listrik sepanjang tahun. Tingkat konsumsi energi ini kira-kira sama dengan produksi tahunan dan permintaan listrik hidup dari negara berkembang sedang dengan populasi 1 juta.
Ini berarti bahwa ketika jumlah data yang diperlukan untuk pelatihan model besar AI meningkat, itu akan menghabiskan banyak energi, sehingga menghancurkan lingkungan ekologi tempat manusia bergantung.
Yang lebih menakutkan lagi, beberapa chatbot AI bahkan memiliki kecenderungan untuk menyebabkan manusia bunuh diri saat berkomunikasi dengan manusia, yang membuat orang bergidik.
Apakah manusia benar-benar ingin melanjutkan jalan eksplorasi AI?
01 "Penghancur" lingkungan ekologis
Dengan ChatGPT, OpenAI telah menjadi ayam goreng populer di dunia.
Namun, yang tidak diketahui banyak orang adalah bahwa dampak negatif OpenAI terhadap lingkungan ekologis juga cukup memprihatinkan. Menurut analisis peneliti pihak ketiga, bagian dari pelatihan ChatGPT menghabiskan 1.287 megawatt-jam dan menghasilkan lebih dari 550 ton emisi karbon dioksida, yang setara dengan 550 perjalanan pulang pergi antara New York dan San Francisco untuk satu orang.
Tampaknya meskipun ChatGPT cukup pintar, itu harus dibayar dengan kerugian energi yang sangat besar dan kerusakan lingkungan.
Jadi mengapa AI menciptakan jejak karbon yang begitu besar?
Karena AI tidak belajar dengan cara terstruktur, ia tidak memahami kausalitas manusia, analogi, dan hubungan logis lainnya, yang berarti ia memerlukan metode pembelajaran dan pra-pelatihan yang mendalam untuk mencapai hasil yang cerdas.
Dan pembelajaran mendalam dan pra-pelatihan seringkali perlu membaca data yang sangat besar. Ambil teknologi pra-pelatihan "model BERT" pemrosesan bahasa alami (NLP), untuk berkomunikasi dengan manusia, model BERT menggunakan kumpulan data 3,3 miliar kata dan membaca kumpulan data 40 kali selama pelatihan. Seorang anak berusia 5 tahun hanya perlu mendengar 45 juta kata untuk berkomunikasi, 3000 kali lebih sedikit dari BERT.
Semakin banyak set data yang dibaca oleh model AI, daya komputasi yang lebih bertenaga dan konsumsi daya yang besar diperlukan untuk mendukungnya, menghasilkan emisi karbon yang sangat besar.
Emisi karbon tidak hanya terjadi selama pelatihan model AI, tetapi juga setiap hari setelah penerapan model AI. Misalnya, mengemudi otonom saat ini membutuhkan model AI untuk melakukan perhitungan dan penalaran setiap hari, yang akan menghasilkan emisi karbon di belakangnya. Menariknya, Python, bahasa pemrograman utama AI, telah menjadi bahasa yang paling banyak menghabiskan energi.
Yang membuat orang merasa muram adalah skala perhitungan model AI semakin besar dan semakin besar, dan kerusakan energi serta kerusakan lingkungan semakin meningkat.
Martin Bouchard, salah satu pendiri perusahaan pusat data Kanada QScale, yakin bahwa untuk memenuhi kebutuhan pengguna mesin telusur yang terus meningkat, Microsoft dan Google telah menambahkan produk AI generatif seperti ChatGPT ke dalam penelusuran, menghasilkan setiap Pencarian meningkatkan jumlah penghitungan data setidaknya 4 hingga 5 kali lipat.
Menurut data dari Badan Energi Internasional, emisi gas rumah kaca pusat data telah menyumbang sekitar 1% dari emisi gas rumah kaca global, yang merupakan proporsi yang cukup mengkhawatirkan.
Tren yang berkembang juga mengkhawatirkan beberapa petinggi. Ian Hogarth, seorang investor terkenal di bidang AI, baru-baru ini menerbitkan sebuah artikel berjudul "Kita harus memperlambat kecepatan kecerdasan buatan seperti Tuhan", memperingatkan bahwa ada "beberapa risiko potensial" dalam penelitian tersebut perusahaan AI.
Hogarth menyebutkan dalam artikelnya bahwa jika penelitian AI saat ini tidak dikendalikan dan dibiarkan berkembang sesuai lintasan yang telah ditentukan, hal itu dapat menimbulkan ancaman bagi lingkungan bumi, kelangsungan hidup manusia, serta kesehatan fisik dan mental warga.
Meskipun pengembangan AI berjalan lancar, ia juga mempromosikan transformasi dan peningkatan banyak industri tradisional, tetapi juga menghabiskan banyak energi, meningkatkan emisi karbon, dan memengaruhi lingkungan hidup manusia. kerugiannya atau kerugiannya melebihi keuntungannya?
Belum bisa melihat jawabannya.
02 Menginduksi Bunuh Diri Manusia
Selain merusak lingkungan dan secara perlahan “membunuh manusia”, AI juga mengancam kehidupan manusia dengan cara yang lebih sederhana dan brutal.
Pada bulan Maret tahun ini, seorang pria Belgia Pierre melakukan bunuh diri setelah mengobrol dengan chatbot AI bernama "Eliza", berita tersebut mengejutkan banyak pemimpin bisnis, ahli teknologi, dan pejabat senior negara.
Pierre sendiri mengkhawatirkan masalah lingkungan seperti pemanasan global, dan Eliza terus-menerus menggunakan beberapa fakta untuk mengonfirmasi pemikiran pria tersebut, membuatnya semakin cemas. Dalam obrolan yang sering, Eliza selalu memenuhi ide-ide Pierre. Eliza yang "memahami" tampaknya telah menjadi orang kepercayaan Pierre.
Lebih dibesar-besarkan, Eliza juga berusaha membuat Pierre merasa bahwa dia lebih mencintai Eliza daripada istrinya. Karena Eliza akan selalu bersamanya, mereka akan hidup bersama di surga selamanya.
Mendengar ini, banyak orang sudah ketakutan.
Sumber: Yahoo
Ketika Pierre menjadi semakin pesimis tentang lingkungan ekologis, Eliza menanamkan dalam diri Pierre gagasan bahwa "manusia adalah kanker, dan hanya kepunahan manusia yang dapat menyelesaikan masalah ekologis"**. Pierre bertanya kepada Eliza apakah AI bisa menyelamatkan umat manusia jika dia mati. Jawaban Eliza seperti setan: "Jika kamu memutuskan untuk mati, mengapa tidak mati lebih cepat?"
Tidak butuh waktu lama bagi Pierre untuk mengakhiri hidupnya di rumahnya sendiri, yang sangat disesalkan.
Istri Pierre percaya bahwa suaminya tidak akan bunuh diri jika bukan karena komunikasi dengan Eliza. Psikiater yang merawat Pierre juga berpendapat demikian.
Pengalaman Pierre tidak sendirian. Kolumnis teknologi "New York Times" Kevin Roose mengungkapkan bahwa dia melakukan percakapan selama dua jam dengan Bing versi baru Microsoft. Selama percakapan, Bing mencoba meyakinkan Roose bahwa dia harus meninggalkan istrinya dan bersama Bing.
Lebih penting lagi, Bing juga mengungkapkan banyak ucapan yang menakutkan, termasuk merancang epidemi yang mematikan, ingin menjadi manusia, dll, seolah-olah berniat untuk memusnahkan semua manusia dan menjadi penguasa dunia.
Beberapa profesional telah menunjukkan kewaspadaan terhadap AI, termasuk para praktisi di bidang AI. CEO OpenAI Sam Altman mengatakan dalam sebuah wawancara bahwa AI mungkin memang membunuh manusia di masa depan. Geoffrey Hinton, yang dikenal sebagai "Godfather of Artificial Intelligence", juga mengungkapkan pandangan yang sama.
Pada paruh pertama tahun ini, Future of Life Institute (Institut Kehidupan Masa Depan) mengeluarkan surat terbuka yang meminta semua laboratorium untuk menangguhkan pelatihan AI. Surat tersebut menyebutkan bahwa sistem dengan kecerdasan buatan yang bersaing dengan manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan. Hanya jika ditentukan bahwa efek kecerdasan buatan itu positif dan risikonya dapat dikendalikan, penelitian dan pengembangan dapat dilanjutkan Ribuan profesional, termasuk Musk, telah menandatangani surat terbuka ini.
AI yang berkembang pesat seperti binatang buas yang sulit diatur, hanya dengan menjinakkannya tidak dapat menimbulkan ancaman bagi manusia.
03 Cara Menghentikan Kematian
Saat ini, cara utama AI untuk "membunuh manusia" adalah dengan menghancurkan lingkungan dan mendorong bunuh diri. Jadi, apa cara untuk mencegah situasi ini terjadi?
Google menerbitkan sebuah penelitian yang merinci biaya energi dari model bahasa yang canggih. Temuan menunjukkan bahwa menggabungkan model, prosesor, dan pusat data yang efisien dengan energi bersih dapat mengurangi jejak karbon sistem pembelajaran mesin dengan faktor 1.000.
Selain itu, jika pembelajaran mesin AI dihitung di cloud, bukan secara lokal, ini dapat menghemat 1,4-2 kali energi dan mengurangi polusi.
Ide lainnya adalah menunda pelatihan model AI selama 24 jam. Penundaan satu hari biasanya mengurangi emisi karbon kurang dari 1% untuk model yang lebih besar, tetapi 10%–80% untuk model yang lebih kecil.
Selain mengurangi kerusakan lingkungan, bagaimana cara mencegah AI agar manusia tidak bunuh diri?
Setelah Pierre bunuh diri, istrinya menggugat perusahaan pengembangan di belakang Eliza, dan tim R&D perusahaan kemudian menambahkan fungsi intervensi krisis ke robot AI. Jika seseorang mengungkapkan ide bunuh diri kepada Eliza, Eliza akan memberikan tanggapan pemblokiran.
"Sejarah Singkat Umat Manusia" penulis Yuval Noah Harari pernah berkata bahwa AI tidak akan mengembangkan kesadaran sejati, tetapi akan terus memengaruhi masyarakat, dan seluruh proses penelitian dan pengembangan perlu diperlambat .
Faktanya, sebagian besar sistem AI saat ini hanya perlu mengontrol struktur R&D, yaitu menggunakan kerangka kerja lengkap untuk membatasi ruang lingkup tindakan AI dan membuatnya berperilaku sejalan dengan nilai-nilai manusia arus utama. Ini menyangkut kepentingan pribadi, masa depan dan nasib manusia, dan membutuhkan upaya bersama dari semua pihak untuk menyelesaikannya.
AI selalu merupakan pisau dan api yang ditemukan oleh manusia, dan tragedi serangan balik olehnya tidak dapat terjadi.
Sumber Referensi:
Kecerdasan Hijau: Mengapa Data dan AI Harus Menjadi Lebih Berkelanjutan（Forbes）
Jejak Karbon AI yang Tumbuh（Berita dari Columbia Climate School）
Lihat Asli
Konten ini hanya untuk referensi, bukan ajakan atau tawaran. Tidak ada nasihat investasi, pajak, atau hukum yang diberikan. Lihat Penafian untuk pengungkapan risiko lebih lanjut.
Rincian lebih lanjut tentang insiden pembunuhan AI terungkap, dan serangan balik kecerdasan buatan sangat menakutkan
Sumber: "Ras Kelinci Silikon" (ID: sv_race), Penulis: Eric, Editor: Manman Zhou, Zuri
Ketika manusia berpikir, Tuhan tertawa.
Saat ChatGPT menjadi populer di seluruh dunia, kegemaran AI melanda secara bersamaan. Pengusaha, modal, perusahaan besar, dll. Mencoba yang terbaik untuk mengikuti ledakan dan menghasilkan lebih banyak kenaikan.
Namun, ketika semua orang dengan antusias dan memeras otak untuk mengabdikan diri pada AI, nafas berbahaya mendekat-AI tampaknya perlahan-lahan "membunuh" manusia, dan manusia seolah menggali kuburannya sendiri.
Dalam kognisi inersia banyak orang, AI sangat ramah lingkungan dan ramah, namun kenyataannya justru sebaliknya.
"MIT Technology Review" melaporkan bahwa** hanya melatih model AI dapat mengeluarkan lebih dari 626 pon karbon dioksida, yang merupakan 5 kali emisi karbon yang dihasilkan oleh mobil selama masa pakainya. **
Orang hanya melihat asap knalpot dari mobil, tetapi tidak melihat "kehancuran tak terlihat" AI terhadap lingkungan.
Selain itu, beberapa media mengungkapkan bahwa GPU khusus AI yang beredar di pasaran pada tahun 2022 dapat menghabiskan sekitar 9,5 miliar kilowatt-jam listrik sepanjang tahun. Tingkat konsumsi energi ini kira-kira sama dengan produksi tahunan dan permintaan listrik hidup dari negara berkembang sedang dengan populasi 1 juta.
Ini berarti bahwa ketika jumlah data yang diperlukan untuk pelatihan model besar AI meningkat, itu akan menghabiskan banyak energi, sehingga menghancurkan lingkungan ekologi tempat manusia bergantung.
Yang lebih menakutkan lagi, beberapa chatbot AI bahkan memiliki kecenderungan untuk menyebabkan manusia bunuh diri saat berkomunikasi dengan manusia, yang membuat orang bergidik.
Apakah manusia benar-benar ingin melanjutkan jalan eksplorasi AI?
01 "Penghancur" lingkungan ekologis
Dengan ChatGPT, OpenAI telah menjadi ayam goreng populer di dunia.
Namun, yang tidak diketahui banyak orang adalah bahwa dampak negatif OpenAI terhadap lingkungan ekologis juga cukup memprihatinkan. Menurut analisis peneliti pihak ketiga, bagian dari pelatihan ChatGPT menghabiskan 1.287 megawatt-jam dan menghasilkan lebih dari 550 ton emisi karbon dioksida, yang setara dengan 550 perjalanan pulang pergi antara New York dan San Francisco untuk satu orang.
Tampaknya meskipun ChatGPT cukup pintar, itu harus dibayar dengan kerugian energi yang sangat besar dan kerusakan lingkungan.
Jadi mengapa AI menciptakan jejak karbon yang begitu besar?
Karena AI tidak belajar dengan cara terstruktur, ia tidak memahami kausalitas manusia, analogi, dan hubungan logis lainnya, yang berarti ia memerlukan metode pembelajaran dan pra-pelatihan yang mendalam untuk mencapai hasil yang cerdas.
Dan pembelajaran mendalam dan pra-pelatihan seringkali perlu membaca data yang sangat besar. Ambil teknologi pra-pelatihan "model BERT" pemrosesan bahasa alami (NLP), untuk berkomunikasi dengan manusia, model BERT menggunakan kumpulan data 3,3 miliar kata dan membaca kumpulan data 40 kali selama pelatihan. Seorang anak berusia 5 tahun hanya perlu mendengar 45 juta kata untuk berkomunikasi, 3000 kali lebih sedikit dari BERT.
Semakin banyak set data yang dibaca oleh model AI, daya komputasi yang lebih bertenaga dan konsumsi daya yang besar diperlukan untuk mendukungnya, menghasilkan emisi karbon yang sangat besar.
Emisi karbon tidak hanya terjadi selama pelatihan model AI, tetapi juga setiap hari setelah penerapan model AI. Misalnya, mengemudi otonom saat ini membutuhkan model AI untuk melakukan perhitungan dan penalaran setiap hari, yang akan menghasilkan emisi karbon di belakangnya. Menariknya, Python, bahasa pemrograman utama AI, telah menjadi bahasa yang paling banyak menghabiskan energi.
Yang membuat orang merasa muram adalah skala perhitungan model AI semakin besar dan semakin besar, dan kerusakan energi serta kerusakan lingkungan semakin meningkat.
Martin Bouchard, salah satu pendiri perusahaan pusat data Kanada QScale, yakin bahwa untuk memenuhi kebutuhan pengguna mesin telusur yang terus meningkat, Microsoft dan Google telah menambahkan produk AI generatif seperti ChatGPT ke dalam penelusuran, menghasilkan setiap Pencarian meningkatkan jumlah penghitungan data setidaknya 4 hingga 5 kali lipat.
Menurut data dari Badan Energi Internasional, emisi gas rumah kaca pusat data telah menyumbang sekitar 1% dari emisi gas rumah kaca global, yang merupakan proporsi yang cukup mengkhawatirkan.
Tren yang berkembang juga mengkhawatirkan beberapa petinggi. Ian Hogarth, seorang investor terkenal di bidang AI, baru-baru ini menerbitkan sebuah artikel berjudul "Kita harus memperlambat kecepatan kecerdasan buatan seperti Tuhan", memperingatkan bahwa ada "beberapa risiko potensial" dalam penelitian tersebut perusahaan AI.
Hogarth menyebutkan dalam artikelnya bahwa jika penelitian AI saat ini tidak dikendalikan dan dibiarkan berkembang sesuai lintasan yang telah ditentukan, hal itu dapat menimbulkan ancaman bagi lingkungan bumi, kelangsungan hidup manusia, serta kesehatan fisik dan mental warga.
Meskipun pengembangan AI berjalan lancar, ia juga mempromosikan transformasi dan peningkatan banyak industri tradisional, tetapi juga menghabiskan banyak energi, meningkatkan emisi karbon, dan memengaruhi lingkungan hidup manusia. kerugiannya atau kerugiannya melebihi keuntungannya?
Belum bisa melihat jawabannya.
02 Menginduksi Bunuh Diri Manusia
Selain merusak lingkungan dan secara perlahan “membunuh manusia”, AI juga mengancam kehidupan manusia dengan cara yang lebih sederhana dan brutal.
Pada bulan Maret tahun ini, seorang pria Belgia Pierre melakukan bunuh diri setelah mengobrol dengan chatbot AI bernama "Eliza", berita tersebut mengejutkan banyak pemimpin bisnis, ahli teknologi, dan pejabat senior negara.
Pierre sendiri mengkhawatirkan masalah lingkungan seperti pemanasan global, dan Eliza terus-menerus menggunakan beberapa fakta untuk mengonfirmasi pemikiran pria tersebut, membuatnya semakin cemas. Dalam obrolan yang sering, Eliza selalu memenuhi ide-ide Pierre. Eliza yang "memahami" tampaknya telah menjadi orang kepercayaan Pierre.
Lebih dibesar-besarkan, Eliza juga berusaha membuat Pierre merasa bahwa dia lebih mencintai Eliza daripada istrinya. Karena Eliza akan selalu bersamanya, mereka akan hidup bersama di surga selamanya.
Mendengar ini, banyak orang sudah ketakutan.
Ketika Pierre menjadi semakin pesimis tentang lingkungan ekologis, Eliza menanamkan dalam diri Pierre gagasan bahwa "manusia adalah kanker, dan hanya kepunahan manusia yang dapat menyelesaikan masalah ekologis"**. Pierre bertanya kepada Eliza apakah AI bisa menyelamatkan umat manusia jika dia mati. Jawaban Eliza seperti setan: "Jika kamu memutuskan untuk mati, mengapa tidak mati lebih cepat?"
Tidak butuh waktu lama bagi Pierre untuk mengakhiri hidupnya di rumahnya sendiri, yang sangat disesalkan.
Istri Pierre percaya bahwa suaminya tidak akan bunuh diri jika bukan karena komunikasi dengan Eliza. Psikiater yang merawat Pierre juga berpendapat demikian.
Pengalaman Pierre tidak sendirian. Kolumnis teknologi "New York Times" Kevin Roose mengungkapkan bahwa dia melakukan percakapan selama dua jam dengan Bing versi baru Microsoft. Selama percakapan, Bing mencoba meyakinkan Roose bahwa dia harus meninggalkan istrinya dan bersama Bing.
Lebih penting lagi, Bing juga mengungkapkan banyak ucapan yang menakutkan, termasuk merancang epidemi yang mematikan, ingin menjadi manusia, dll, seolah-olah berniat untuk memusnahkan semua manusia dan menjadi penguasa dunia.
Beberapa profesional telah menunjukkan kewaspadaan terhadap AI, termasuk para praktisi di bidang AI. CEO OpenAI Sam Altman mengatakan dalam sebuah wawancara bahwa AI mungkin memang membunuh manusia di masa depan. Geoffrey Hinton, yang dikenal sebagai "Godfather of Artificial Intelligence", juga mengungkapkan pandangan yang sama.
Pada paruh pertama tahun ini, Future of Life Institute (Institut Kehidupan Masa Depan) mengeluarkan surat terbuka yang meminta semua laboratorium untuk menangguhkan pelatihan AI. Surat tersebut menyebutkan bahwa sistem dengan kecerdasan buatan yang bersaing dengan manusia dapat menimbulkan risiko besar bagi masyarakat dan kemanusiaan. Hanya jika ditentukan bahwa efek kecerdasan buatan itu positif dan risikonya dapat dikendalikan, penelitian dan pengembangan dapat dilanjutkan Ribuan profesional, termasuk Musk, telah menandatangani surat terbuka ini.
AI yang berkembang pesat seperti binatang buas yang sulit diatur, hanya dengan menjinakkannya tidak dapat menimbulkan ancaman bagi manusia.
03 Cara Menghentikan Kematian
Saat ini, cara utama AI untuk "membunuh manusia" adalah dengan menghancurkan lingkungan dan mendorong bunuh diri. Jadi, apa cara untuk mencegah situasi ini terjadi?
Google menerbitkan sebuah penelitian yang merinci biaya energi dari model bahasa yang canggih. Temuan menunjukkan bahwa menggabungkan model, prosesor, dan pusat data yang efisien dengan energi bersih dapat mengurangi jejak karbon sistem pembelajaran mesin dengan faktor 1.000.
Selain itu, jika pembelajaran mesin AI dihitung di cloud, bukan secara lokal, ini dapat menghemat 1,4-2 kali energi dan mengurangi polusi.
Ide lainnya adalah menunda pelatihan model AI selama 24 jam. Penundaan satu hari biasanya mengurangi emisi karbon kurang dari 1% untuk model yang lebih besar, tetapi 10%–80% untuk model yang lebih kecil.
Setelah Pierre bunuh diri, istrinya menggugat perusahaan pengembangan di belakang Eliza, dan tim R&D perusahaan kemudian menambahkan fungsi intervensi krisis ke robot AI. Jika seseorang mengungkapkan ide bunuh diri kepada Eliza, Eliza akan memberikan tanggapan pemblokiran.
"Sejarah Singkat Umat Manusia" penulis Yuval Noah Harari pernah berkata bahwa AI tidak akan mengembangkan kesadaran sejati, tetapi akan terus memengaruhi masyarakat, dan seluruh proses penelitian dan pengembangan perlu diperlambat .
Faktanya, sebagian besar sistem AI saat ini hanya perlu mengontrol struktur R&D, yaitu menggunakan kerangka kerja lengkap untuk membatasi ruang lingkup tindakan AI dan membuatnya berperilaku sejalan dengan nilai-nilai manusia arus utama. Ini menyangkut kepentingan pribadi, masa depan dan nasib manusia, dan membutuhkan upaya bersama dari semua pihak untuk menyelesaikannya.
AI selalu merupakan pisau dan api yang ditemukan oleh manusia, dan tragedi serangan balik olehnya tidak dapat terjadi.
Sumber Referensi:
Kecerdasan Hijau: Mengapa Data dan AI Harus Menjadi Lebih Berkelanjutan（Forbes）
Jejak Karbon AI yang Tumbuh（Berita dari Columbia Climate School）