Anthropic dorong jeda global AI saat risiko kerja membesar
Perusahaan akan berdialog dengan pembuat kebijakan dan laboratorium saingan dalam beberapa bulan ke depan soal ambang bersama untuk memperlambat riset berisiko.
Anthropic mendesak pemerintah dan pengembang AI membangun sistem untuk bersama-sama memperlambat pengembangan AI tingkat lanjut ketika model menimbulkan risiko serius. Perusahaan menilai gagasan itu kian mendesak seiring teknologi mendekati kemampuan memperbaiki diri sendiri dan membangun penerusnya. Dalam blog yang terbit pada Kamis, co-founder Jack Clark dan pimpinan Anthropic Institute Marina Favaro mengatakan AI dapat membuat kerja manusia jauh lebih efisien atau menggantikannya secara massal. Anthropic mengakui jeda terkoordinasi akan sulit ditegakkan karena laboratorium dan negara berlomba menjaga daya saing. Perusahaan juga menyebut pada awal tahun ini melonggarkan janji 2023, dengan tidak lagi menghentikan pekerjaan berbahaya jika tak memiliki keunggulan signifikan atas pesaing.