BENGKULU — Pekan lalu, pemerintah AS secara resmi memerintahkan Anthropic untuk menarik dua model kecerdasan buatan terbarunya, Fable 5 dan Mythos 5. Regulator beralasan keputusan ini diambil demi keamanan nasional setelah peneliti dari Amazon menemukan metode untuk melewati sistem pengaman (guardrails) pada model Fable 5.
Anthropic pun langsung mematuhi perintah tersebut dan menarik kedua model dari platform mereka. Langkah ini sontak memicu perdebatan sengit di kalangan peneliti keamanan siber dan pengembang AI.
Sejumlah peneliti keamanan siber langsung bereaksi dengan menandatangani surat terbuka yang mengecam keputusan pemerintah. Mereka menyebut langkah penarikan paksa ini justru berbahaya dan berlebihan.
Anthropic sendiri angkat bicara dan menegaskan bahwa celah keamanan (jailbreak) yang ditemukan pada model Fable 5 sebenarnya juga ada di model AI lain dari perusahaan pesaing. Dengan kata lain, hukuman yang dijatuhkan hanya kepada Anthropic dinilai tidak proporsional.
Keputusan ini jelas mengguncang para pengembang yang membangun aplikasi di atas platform Anthropic. Mereka kini harus mencari alternatif atau menunggu kepastian kapan model tersebut bisa digunakan kembali. Situasi ini juga menimbulkan tanda tanya besar bagi calon investor yang mengamati rencana IPO Anthropic.
Di sisi lain, episode kontroversial ini justru bisa menjadi bumerang bagi regulator. Alih-alih menjatuhkan reputasi Anthropic, publik justru ramai membicarakan model Fable 5 dan Mythos 5. Sorotan media yang masif secara tidak langsung memperkenalkan merek Anthropic ke khalayak yang lebih luas.
Langkah pemerintah AS ini menambah daftar panjang hubungan rumit antara Anthropic dan pemerintahan Trump. Apakah ini murni masalah keamanan nasional atau ada motif politik di baliknya? Para pengamat masih memperdebatkan hal tersebut.
Yang jelas, para pengembang kini berada dalam posisi sulit. Mereka harus menimbang risiko bisnis jika terus bergantung pada platform yang sewaktu-waktu bisa ditarik paksa oleh regulator. Sementara itu, Anthropic diprediksi akan berusaha keras memperbaiki sistem keamanan modelnya agar bisa kembali dirilis dalam waktu dekat.
Podcast Equity dari TechCrunch yang membahas episode ini secara lebih mendalam menyarankan para pengembang untuk mulai menyiapkan rencana cadangan. Mengandalkan satu penyedia layanan AI di tengah ketidakpastian regulasi bukanlah strategi yang bijak.