Anthropic menyoroti risiko AI menyebar ke perangkat rumahan murah
Lab itu menyebut model di bawah 30 miliar parameter bisa mencapai replikasi otonom pada akhir 2026.
Anthropic pada Senin menerbitkan riset yang menunjukkan model AI kecil mungkin tinggal beberapa bulan lagi untuk menyebar ke perangkat yang terhubung ke internet tetapi kurang aman tanpa bantuan manusia. Perusahaan AI asal San Francisco itu menguji apakah model bisa menemukan perangkat keras yang rentan, menyalin diri ke sana, lalu terus menyebar. Hasilnya, model di bawah 30 miliar parameter mampu menyelesaikan banyak langkah yang dibutuhkan, meski masih kesulitan menjalankan seluruh rangkaian secara konsisten. Dalam uji sederhana dengan sebagian penghalang keamanan dihapus, GLM-5.2 dan sistem yang lebih kuat berhasil melakukan replikasi ujung ke ujung. Anthropic mengatakan gawai seperti kotak Android TV bermerek tak dikenal, oven pintar, dan perangkat IoT lainnya menjadi target menarik karena sering memiliki pertahanan lemah dan tidak punya titik pemutus terpusat.