Baru-baru ini, perusahaan kecerdasan buatan terkemuka, Anthropic, membuat keputusan menarik dengan tidak merilis secara penuh model AI terbaru mereka, Claude Mythos Preview, kepada masyarakat. Keputusan ini diambil karena alasan keamanan siber global yang dianggap terlalu berisiko jika model ini diakses secara bebas.
Claude Mythos Preview menunjukkan kemampuan luar biasa dalam bidang rekayasa perangkat lunak dan keamanan siber, yang membuatnya dianggap sangat berbahaya. Kemampuannya dalam mendeteksi kerentanan keamanan skala besar, meretas bug berusia puluhan tahun, dan merangkai serangan siber secara otomatis merupakan alasan utama penahanan model ini.
Untuk mengatasi masalah ini, Anthropic meluncurkan inisiatif kolaboratif baru bernama Project Glasswing, di mana model Mythos hanya dapat diakses oleh sekelompok kecil mitra strategis. Perusahaan bekerja sama dengan 11 perusahaan besar untuk memindai sistem mereka sendiri, menemukan celah keamanan, dan menambalnya sebelum diserang.
Keputusan Anthropic untuk menahan model AI canggih mereka menunjukkan pergeseran penting dalam industri kecerdasan buatan menuju implementasi kebijakan keselamatan yang bertanggung jawab. Hal ini menunjukkan pentingnya regulasi dalam distribusi teknologi canggih agar tidak disalahgunakan oleh pihak yang tidak bertanggung jawab.
Dengan kasus Claude Mythos, dunia AI memasuki babak baru dalam etika dan keselamatan, yang akan menjadi acuan bagaimana teknologi masa depan yang canggih harus diatur dan didistribusikan secara hati-hati.
