Jakarta –
Ilmuwan komputer dan pionir kecerdasan buatan (AI) Yoshua Bengio telah memperingatkan bahaya AI bagi masyarakat dan menyerukan pengurangan risiko. Bengio, seorang profesor di Universitas Montreal, telah memenangkan banyak penghargaan atas karyanya di bidang AI dan pembelajaran mendalam.
Dia khawatir ada orang-orang berkuasa yang ingin menggantikan manusia dengan mesin. Mesin ini mampu melakukan banyak keterampilan kognitif manusia. Teknologi AGI (kecerdasan buatan) bertujuan untuk menyamai atau melampaui kecerdasan manusia.
“Intelijen memberi kekuasaan. Jadi siapa yang akan mengendalikan kekuasaan itu? Memiliki sistem yang mengetahui lebih banyak dari kebanyakan orang bisa berbahaya jika berada di tangan yang salah dan menciptakan lebih banyak ketidakstabilan di tingkat geopolitik, misalnya terorisme,” ujarnya.
Menurutnya, beberapa organisasi dan pemerintah akan mampu mendanai pengembangan mesin AI yang kuat, dan semakin besar sistemnya, maka akan semakin pintar pula sistem tersebut. “Mesin ini menghabiskan biaya miliaran dan sangat sedikit organisasi dan negara yang mampu melakukannya,” kata Bengio kepada detikINET CNBC.
“Akan ada pemusatan kekuasaan: kekuatan ekonomi yang dapat berdampak buruk bagi pasar, kekuatan politik yang dapat berdampak buruk bagi demokrasi, dan kekuatan militer yang dapat berdampak buruk bagi stabilitas geopolitik planet ini. Jadi, terdapat banyak pertanyaan terbuka. Mari belajar dengan baik dan mulai menyelesaikannya secepat mungkin.
Kejadian tersebut mungkin akan muncul dalam beberapa dekade mendatang, namun tidak menutup kemungkinan akan segera terjadi. “Juga, ada orang yang mungkin ingin menyalahgunakannya dan mungkin ada orang yang ingin melihat manusia digantikan oleh mesin. Orang-orang itu mungkin punya banyak energi dan mereka hanya bisa melakukan itu jika kita memasang penghalang yang tepat sekarang. .” “, katanya.
Bengio mengadopsi surat terbuka pada bulan Juni berjudul “Hak untuk Memperingatkan Kecerdasan Buatan Tingkat Lanjut”. Surat tersebut memperingatkan adanya risiko serius terhadap pengembangan AI. “Hal pertama yang perlu dilakukan pemerintah adalah memiliki peraturan yang mewajibkan perusahaan untuk mendaftar ketika mereka membangun sistem pengujian ini,” kata Bengio.
Karena AI berkembang begitu cepat, pemerintah juga harus lebih kreatif dan membuat undang-undang yang beradaptasi dengan perubahan teknologi. Perusahaan yang mengembangkan AI juga harus bertanggung jawab atas tindakannya, termasuk mengambil tindakan jika timbul masalah. Tonton video “Video: Kekhawatiran Peraih Nobel Fisika Terhadap Hasil Penelitiannya” (fyk/fay)