Raja Charles III baru-baru ini memperingatkan para eksekutif industri kecerdasan buatan (AI) mengenai "bahaya eksistensial" yang ditimbulkan apabila teknologi tersebut jatuh ke tangan yang salah.
Pernyataan tersebut disampaikan oleh Raja Charles dalam sebuah KTT yang dikumpulkannya di Dumfries House, Skotlandia, untuk membahas bagaimana teknologi dapat dimanfaatkan demi kepentingan masyarakat.
Pertemuan penting ini turut dihadiri oleh sejumlah tokoh penting, termasuk Kanishka Narayan selaku Menteri AI Inggris, penasihat Paus, serta para peserta dari raksasa teknologi AI seperti Nvidia, OpenAI, dan Anthropic.
Peringatan ini muncul di tengah serangkaian peringatan dari orang-orang di dalam industri mengenai kemampuan model AI tingkat lanjut atau "frontier" yang berkembang sangat pesat serta regulasi yang dibutuhkan untuk mengendalikannya.
Dalam pidatonya, Raja Charles menyampaikan bahwa pihak yang menciptakan teknologi ini kini semakin sering memperingatkan adanya risiko AI mengembangkan kapasitas yang lebih gelap, bahkan hingga berpotensi untuk mengambil nyawa.
Ia juga menambahkan bahwa ada urgensi dalam mempertimbangkan secara memadai bahaya eksistensial apabila teknologi semacam itu jatuh ke pihak yang salah dan digunakan dengan cara yang berpotensi membawa malapetaka.
Tugas yang berada di hadapan para pemimpin industri tersebut dinilai bukan sekadar memajukan teknologi, melainkan memastikan bahwa teknologi tetap berada dalam pengabdian kepada kemanusiaan, komunitas, dan alam.
KTT tersebut diadakan untuk mempertimbangkan apakah "serangkaian prinsip bersama" dapat dikembangkan guna membantu memandu penerapan AI di masa depan.
Jensen Huang selaku chief executive dari Nvidia, yang merupakan perusahaan paling bernilai di dunia dengan nilai pasar sekitar $5,15 triliun, turut hadir di antara para pemimpin puncak industri tersebut.
Dalam kesempatan itu, Huang menyampaikan keyakinannya bahwa keamanan adalah hal yang sangat utama, seraya menambahkan bahwa perusahaan harus menahan suatu produk dan terus melakukan rekayasa apabila produk tersebut belum cukup aman. 
KOMENTAR ANDA