JAVATEKNO
Ryan 
Gelombang kekhawatiran mengenai bahaya kecerdasan buatan kini muncul dari kalangan internal para pengembangnya sendiri. Seorang peneliti AI, Jacob Coxon, memutuskan mengundurkan diri dari Anthropic dan OpenAI sebagai bentuk protes terhadap kompetisi pengembang yang dinilai kurang bertanggung jawab dalam mengejar teknologi superintelligence. Coxon memperingatkan bahwa tanpa pengawasan ketat, sistem AI canggih di masa depan berpotensi memperoleh kemampuan manusia super untuk meretas sistem, menguasai sumber daya, bahkan mengancam kelangsungan hidup manusia.
Kekhawatiran tersebut turut diamini oleh sejumlah peneliti keselamatan AI lainnya yang menggarisbawahi risiko recursive self-improvement—kondisi di mana AI dapat merancang dan meningkatkan kemampuannya sendiri tanpa campur tangan manusia. Meskipun potensi kepunahan manusia akibat AI masih menjadi perdebatan, banyak ilmuwan dan pejabat pemerintah mendesak adanya perlambatan sukarela dalam pengembangan AI hingga standar keselamatan bersama ditetapkan. Kebutuhan akan regulasi hukum dari pemerintah kini makin mendesak untuk memastikan bahwa pengembangan teknologi ini tidak hanya mengejar keuntungan komersial, tetapi juga memprioritaskan keselamatan publik.
