Cekricek.id — Raja Charles dari Inggris memperingatkan para pemimpin industri kecerdasan buatan mengenai bahaya eksistensial teknologi tersebut bila jatuh ke tangan yang salah.
Pernyataan sang raja disampaikan pada Kamis dan menambah perdebatan global mengenai perlu atau tidaknya industri itu diatur, sebagaimana diberitakan Al Jazeera, Kamis (17/09/2026). Charles menjadi tuan rumah pertemuan para raksasa kecerdasan buatan di kediamannya, Dumfries House, Skotlandia.
Pertemuan itu dihadiri antara lain para pendiri Nvidia dan Google DeepMind, serta pimpinan OpenAI dan Anthropic. Charles menyatakan pertemuan digelar untuk menjawab kekhawatiran keselamatan sebelum terlambat mengendalikan teknologi tersebut.
Peringatan tentang kendali atas masa depan manusia
“Tampaknya ada urgensi untuk mempertimbangkan secara memadai bahaya eksistensial dari teknologi semacam itu bila jatuh ke tangan yang salah, dan dipakai dengan cara yang berpotensi menimbulkan bencana,” kata Charles saat membuka konferensi.
“Mereka di dunia kita yang menghargai kemanusiaan dan komponen moralnya yang vital dengan cemas mencari kepastian dari Anda bahwa kita tidak akan kehilangan kendali atas takdir kita sendiri,” ujarnya kepada para pemimpin industri itu.
Charles juga menyatakan pihak-pihak yang menciptakan teknologi tersebut kini makin sering memperingatkan bahwa kecerdasan buatan berisiko mengembangkan kemampuan yang lebih gelap, bahkan mungkin sampai merenggut nyawa. Peringatan serupa muncul dari sisi teknis, termasuk temuan soal agen AI yang lolos dari kotak uji keamanan.
“Perkembangan kecerdasan buatan, baik substansinya maupun kecepatannya, sama-sama memikat dan sangat mengkhawatirkan dalam takaran yang seimbang,” kata raja Inggris itu. Ia mendesak para pemimpin industri memanfaatkan teknologi tersebut dengan keselamatan sebagai inti, dan memastikannya tetap melayani kemanusiaan, komunitas, serta alam.
Perdebatan siapa yang seharusnya membuat aturan
Dalam beberapa pekan terakhir, sejumlah tokoh global ikut menimbang apakah industri kecerdasan buatan sebaiknya mengatur dirinya sendiri atau pemerintah yang menyusun panduan. Perdebatan itu berlangsung saat teknologinya berkembang cepat, seperti tergambar pada tantangan pengembangan AI yang belum terpecahkan.
Pada Mei, Paus Leo XIV menyatakan dunia tidak membutuhkan kecerdasan buatan yang mengecilkan kemanusiaan, dan teknologi itu harus dilucuti. Sementara Presiden AS Donald Trump menepis kekhawatiran terhadap teknologi tersebut dan menyebutnya sebagai kebohongan.
Pekan lalu, dua peneliti Anthropic memperingatkan teknologi yang berkembang pesat itu dapat berujung pada kepunahan manusia dalam waktu yang tidak terlalu lama. Chief Executive Anthropic Dario Amodei juga menyerukan agar perusahaan memperlambat laju pengembangan kecerdasan buatan.
Seruan tersebut memicu perdebatan internasional mengenai kemungkinan sebagian eksekutif berusaha mendahului reaksi keras pemerintah sekaligus menyusun aturan yang menjaga keunggulan perusahaan tertentu. Sorotan atas kemampuan teknologi ini juga muncul pada kasus lain, termasuk model AI yang memprediksi rangkaian kejadian hidup.
Pertemuan di Skotlandia itu tidak diperkirakan menghasilkan kesepakatan yang mengikat.
