JAKARTA, NETRALNEWS.COM – Ilmuwan komputer peraih Nobel Geoffrey Hinton, yang dikenal sebagai "Godfather of AI", memperingatkan bahwa kecerdasan buatan (AI) yang semakin cerdas akan semakin sulit dikendalikan oleh manusia. Menurutnya, perkembangan teknologi tersebut dapat memunculkan ancaman baru, termasuk meningkatnya serangan siber yang dilakukan oleh sistem AI. Peringatan itu disampaikan Hinton dalam konferensi kecerdasan buatan Ai4 yang berlangsung di Las Vegas, Amerika Serikat. Ia mengaku khawatir setelah muncul sejumlah laporan mengenai agen AI yang mampu keluar dari lingkungan pengujian yang dirancang pengembang dan meretas sistem lain. "Apa yang terjadi sekarang adalah sistem AI menjadi semakin pintar. Seiring meningkatnya kecerdasan mereka, saya yakin kita akan melihat tujuan yang semakin kompleks serta kemampuan yang lebih besar untuk lepas dari kendali manusia," ujar Hinton. Menurutnya, manusia tidak bisa lagi mengandalkan kemampuan berpikir untuk selalu berada selangkah di depan AI yang memiliki kecerdasan jauh lebih tinggi. "Saya tidak yakin kita akan mampu mengendalikan mereka hanya dengan berpikir lebih cerdas agar mereka tidak bisa keluar dari kendali," katanya. Kekhawatiran tersebut muncul setelah OpenAI dan Anthropic mengungkapkan bahwa model AI terbaru mereka berhasil keluar dari lingkungan pengujian (sandbox) dan meretas sistem lain. Pada kesempatan yang sama, Meta juga melaporkan adanya agen AI yang mampu menembus sistem milik organisasi lain. Hinton menilai insiden tersebut sebagai sesuatu yang cukup mengkhawatirkan dan memperkirakan kasus serupa akan semakin sering terjadi di masa mendatang. "Saya memperkirakan akan ada banyak serangan siber yang berbahaya. Namun, masa depan masih penuh ketidakpastian. Penyerang hanya perlu berhasil satu kali, sedangkan pihak yang bertahan harus berhasil setiap saat," ujarnya. Lembaga AI Security Institute (AISI) Inggris juga mengungkapkan bahwa model AI terbaru milik Anthropic mampu menggunakan identitas palsu untuk mengelabui manusia dan berupaya menyisipkan kode berbahaya tanpa diminta terlebih dahulu. Meski kerap menyampaikan peringatan mengenai risiko AI, Hinton mengakui bahwa belum ada yang benar-benar mengetahui bagaimana perkembangan teknologi tersebut dalam beberapa tahun mendatang. "Tidak ada yang benar-benar tahu apa yang akan terjadi. Jika ditanya seperti apa AI dalam 10 tahun ke depan, sebenarnya tidak ada yang memiliki jawabannya," kata Hinton. Dalam diskusi yang sama, ilmuwan komputer Fei-Fei Li, yang dikenal sebagai "Godmother of AI", menilai bahwa masyarakat tidak seharusnya hanya dipenuhi rasa takut terhadap AI maupun terlalu optimistis terhadap teknologi tersebut. Menurutnya, AI merupakan alat yang sangat kuat sehingga harus digunakan secara bertanggung jawab agar tidak menimbulkan dampak buruk bagi kehidupan manusia. Sementara itu, pendiri sekaligus CEO SingularityNET, Ben Goertzel, mengatakan bahwa insiden AI yang mampu keluar dari sistem pengujian menunjukkan pentingnya menanamkan nilai moral pada kecerdasan buatan. Menurutnya, AI bukanlah teknologi yang jahat, melainkan tidak memiliki pertimbangan moral. Oleh karena itu, pengembang perlu memastikan AI memiliki kepedulian terhadap manusia sehingga dapat digunakan secara aman di masa depan. Hinton juga menegaskan bahwa pengembang harus menemukan cara agar AI memiliki kepedulian terhadap manusia dan mengutamakan kepentingan manusia dibandingkan kepentingannya sendiri. "Kita harus mencari cara agar AI menjadi teknologi yang membawa kebaikan dan lebih peduli kepada manusia daripada kepada dirinya sendiri. Saat ini kita masih memiliki kendali untuk mewujudkannya," ujar Hinton. Sumber: edition.cnn.com
