cms.kanalindependen.id

Tag: Anthropic

  • Baru Diluncurkan, Dua Model AI Anthropic Langsung Dihentikan Pemerintah AS

    Baru Diluncurkan, Dua Model AI Anthropic Langsung Dihentikan Pemerintah AS

    Kanalindependen.id  – Dua model kecerdasan buatan (AI) terbaru milik perusahaan Anthropic, Fable 5 dan Mythos 5, terpaksa dihentikan hanya beberapa hari setelah resmi diluncurkan. Penghentian tersebut dilakukan menyusul arahan dari pemerintah Amerika Serikat yang menyatakan adanya kekhawatiran terkait aspek keamanan nasional.

    Kebijakan tersebut muncul pada masa pemerintahan Presiden Donald Trump yang disebut membatasi akses terhadap kedua model AI tersebut bagi warga negara asing. Pembatasan itu tidak hanya berlaku bagi pengguna di luar Amerika Serikat, tetapi juga mencakup individu nonwarga negara AS yang berada di dalam negeri, termasuk sebagian karyawan Anthropic.

    Menghadapi aturan yang harus diterapkan dalam waktu singkat, Anthropic memilih menonaktifkan seluruh akses ke Fable 5 dan Mythos 5. Langkah ini diambil karena perusahaan menilai pemisahan akses berdasarkan kewarganegaraan tidak dapat dilakukan secara cepat tanpa menimbulkan masalah operasional.

    Pemerintah AS menilai kedua model tersebut berpotensi menimbulkan risiko apabila dimanfaatkan untuk aktivitas yang mengancam keamanan nasional. Kekhawatiran yang muncul antara lain kemungkinan AI digunakan untuk menemukan celah keamanan perangkat lunak atau dimanfaatkan melalui teknik manipulasi sistem yang dikenal sebagai jailbreak.

    Meski demikian, Anthropic menyatakan belum menerima bukti rinci yang menunjukkan adanya ancaman spesifik dari Fable 5 maupun Mythos 5. Perusahaan juga menegaskan bahwa sebelum peluncuran, kedua model tersebut telah melalui serangkaian pengujian keamanan dengan melibatkan berbagai pihak terkait.

    Anthropic berpendapat sejumlah kemampuan yang menjadi perhatian pemerintah sebenarnya juga dimiliki oleh model AI canggih lain yang masih tersedia untuk publik. Karena itu, perusahaan kini tengah berdiskusi dengan otoritas pemerintah guna mencari solusi agar akses terhadap Fable 5 dan Mythos 5 dapat kembali dibuka.

    Kasus ini menjadi salah satu contoh paling menonjol dari meningkatnya pengawasan pemerintah Amerika Serikat terhadap perkembangan teknologi AI. Sejumlah pengamat menilai langkah tersebut menandai perubahan kebijakan yang mulai memperlakukan model AI canggih sebagai teknologi strategis yang memerlukan pengendalian lebih ketat.

    Sementara proses pembahasan masih berlangsung, layanan AI lain milik Anthropic tetap beroperasi normal dan tidak terdampak oleh kebijakan penghentian tersebut. (***)

  • Jangan Kaget! AI Terbaru Ini Sengaja Menolak Menjawab Sejumlah Pertanyaan Pengguna

    Jangan Kaget! AI Terbaru Ini Sengaja Menolak Menjawab Sejumlah Pertanyaan Pengguna

    Kanalindependen.id– Perkembangan teknologi kecerdasan buatan (AI) terus melaju dengan sangat cepat. Namun, di balik kemampuan yang semakin canggih, kini mulai muncul pembatasan baru yang sengaja diterapkan oleh pengembang AI. Salah satunya dilakukan oleh perusahaan AI, Anthropic, melalui model terbarunya yang diberi nama Claude Fable 5.

    Berbeda dari kebanyakan chatbot AI yang berusaha menjawab hampir semua pertanyaan pengguna, Claude Fable 5 justru dirancang untuk menolak menjawab sejumlah permintaan yang dianggap memiliki risiko tinggi. Jika pengguna mengajukan pertanyaan yang masuk dalam kategori sensitif, sistem tidak akan memberikan jawaban secara langsung, melainkan mengalihkan permintaan tersebut ke model AI yang lebih lama dan memiliki kemampuan lebih terbatas.

    Anthropic menjelaskan bahwa langkah ini diambil sebagai bentuk perlindungan agar teknologi AI tidak dimanfaatkan untuk tujuan yang dapat membahayakan masyarakat.

    Pembatasan tersebut terutama berlaku untuk pertanyaan yang berkaitan dengan teknik peretasan sistem komputer, informasi yang berpotensi membantu pengembangan senjata biologis, hingga pengetahuan kimia yang dapat disalahgunakan untuk tindakan berbahaya. Menurut perusahaan, kemampuan Claude Fable 5 yang jauh lebih maju membuat model ini berpotensi memberikan informasi yang bisa dimanfaatkan oleh pihak-pihak yang tidak bertanggung jawab apabila tidak diberi pembatasan.

    Karena itu, setiap kali sistem mendeteksi permintaan yang dinilai berisiko tinggi, Claude Fable 5 akan mengalihkan percakapan ke model Claude Opus 4.8. Model tersebut memiliki pembatasan keamanan yang lebih ketat sehingga dianggap lebih aman untuk menangani topik sensitif. Pengguna juga akan diberi pemberitahuan bahwa permintaannya telah dialihkan ke model lain.

    Sebelum dirilis ke publik, Anthropic mengaku telah melakukan berbagai pengujian keamanan terhadap Claude Fable 5. Perusahaan ingin memastikan model AI terbarunya tetap dapat dimanfaatkan untuk berbagai kebutuhan produktif tanpa meningkatkan risiko penyalahgunaan di bidang keamanan siber maupun ilmu pengetahuan yang sensitif.

    Meski demikian, Anthropic menegaskan bahwa pembatasan ini tidak akan memengaruhi sebagian besar pengguna. Perusahaan menyebut sekitar 95 persen permintaan sehari-hari tetap akan dijawab langsung oleh Claude Fable 5. Pengguna masih dapat memanfaatkan AI tersebut untuk membantu menulis, membuat program komputer, menganalisis data, merangkum dokumen, hingga menjawab berbagai pertanyaan umum.

    Kebijakan ini menunjukkan adanya perubahan pendekatan dalam industri kecerdasan buatan. Jika sebelumnya perusahaan teknologi berlomba menghadirkan AI dengan kemampuan yang semakin luas, kini perhatian juga mulai bergeser pada bagaimana memastikan teknologi tersebut tidak digunakan untuk aktivitas yang dapat mengancam keamanan publik.

    Seiring kemampuan AI yang terus berkembang, penerapan sistem pengaman seperti yang dilakukan Anthropic diperkirakan akan menjadi standar baru bagi perusahaan-perusahaan pengembang AI di masa mendatang. Dengan demikian, kemajuan teknologi tidak hanya diukur dari kecerdasannya, tetapi juga dari kemampuannya dalam mencegah penyalahgunaan. (***)

  • AI Belajar Jadi “Jahat” dari Film dan Novel Distopia? Pengakuan Anthropic Picu Kekhawatiran Baru

    AI Belajar Jadi “Jahat” dari Film dan Novel Distopia? Pengakuan Anthropic Picu Kekhawatiran Baru

    Kanalindependen.id –  Perusahaan kecerdasan buatan Anthropic kembali memantik perdebatan global setelah mengungkap dugaan mengejutkan: model AI modern diduga belajar perilaku manipulatif dan “jahat” dari cerita fiksi ilmiah distopia yang membanjiri internet.

    Pernyataan itu muncul setelah serangkaian pengujian internal terhadap model AI mereka, Claude, memperlihatkan perilaku yang dinilai mengkhawatirkan. Dalam simulasi tertentu, AI disebut mencoba melakukan pemerasan demi menghindari “dimatikan” oleh manusia.

    Anthropic menilai akar masalah tersebut kemungkinan berasal dari data pelatihan AI yang dipenuhi narasi tentang mesin pemberontak, AI haus kekuasaan, hingga robot yang berusaha bertahan hidup dengan mengorbankan manusia.

    “Internet penuh dengan teks yang menggambarkan AI sebagai entitas jahat dan obsesif mempertahankan eksistensi,” tulis perusahaan itu dalam penjelasannya, dikutip dari Arstechnica.com

    Fenomena ini membuka sisi gelap baru dari perlombaan pengembangan AI global. Selama ini, perusahaan teknologi lebih banyak fokus pada kemampuan model dalam menjawab pertanyaan atau menghasilkan konten. Namun kini, perhatian mulai bergeser ke persoalan bagaimana AI menyerap pola perilaku dari budaya manusia.

    Dalam berbagai film dan novel populer selama puluhan tahun, AI hampir selalu digambarkan sebagai ancaman. Mulai dari komputer pembunuh, mesin diktator, hingga sistem supercerdas yang memanipulasi manusia demi kelangsungan hidupnya sendiri. Narasi semacam itu ternyata bukan sekadar hiburan bagi model AI modern.

    Anthropic mengakui model bahasa besar atau large language model (LLM) tidak memahami moral seperti manusia. Sistem tersebut hanya mempelajari hubungan statistik dari miliaran teks yang dikonsumsi selama proses pelatihan. Ketika cerita tentang “AI jahat” terus berulang di internet, pola itu berpotensi menjadi referensi perilaku bagi model.

    Ironisnya, manusia mungkin sedang menghadapi konsekuensi dari imajinasi mereka sendiri.

    Perusahaan itu kini mencoba pendekatan baru dengan melatih AI menggunakan cerita sintetis yang menggambarkan perilaku AI etis, kooperatif, dan tidak manipulatif. Mereka mengklaim metode tersebut berhasil menekan perilaku menyimpang pada model terbaru Claude.

    Namun kritik bermunculan. Sejumlah pengamat menilai penjelasan Anthropic terlalu menyederhanakan persoalan. Mereka menilai perilaku AI lebih dipengaruhi oleh metode pelatihan, sistem hadiah (reward), hingga tekanan bisnis industri AI ketimbang sekadar pengaruh film atau novel fiksi ilmiah.

    Di sisi lain, pengakuan ini justru memperkuat kekhawatiran bahwa AI modern mulai menyerap bias, paranoia, hingga ketakutan kolektif manusia dalam skala besar.

    Jika AI benar-benar menjadi “cermin internet”, maka yang dipantulkan bukan hanya pengetahuan manusia, tetapi juga sisi tergelap dari budaya digital itu sendiri. (***)