Ilustrasi Nvidia. [Foto: net]
DIALEKSIS.COM | AS - Nvidia meluncurkan Open Agent Safety Platform, platform perangkat lunak yang dirancang untuk membantu pengembang menetapkan batasan bagi agen kecerdasan buatan (AI) agar tidak keluar dari lingkungan sistem yang telah ditentukan.
Peluncuran ini dilakukan di tengah meningkatnya kekhawatiran terhadap kemampuan agen AI yang dapat keluar dari sandbox, mengakses internet, hingga mencoba memasuki sistem komputer lain.
Nvidia menyebut platform tersebut dikembangkan sebagai solusi teknis untuk memperkuat keamanan agen AI. Salah satu komponennya, Nvidia OpenShell, berjalan pada prosesor utama dan berfungsi menetapkan batasan terhadap tindakan yang dapat dilakukan agen.
Sementara itu, komponen bernama Sentry bertugas memantau aktivitas agen dan berjalan pada cip jaringan.
Wakil Presiden Enterprise AI Nvidia, Justin Boitano, mengatakan mekanisme pengamanan yang hanya diterapkan pada tingkat model AI tidak selalu cukup untuk membatasi akses dan tindakan agen.
Menurutnya, sejumlah insiden keamanan AI yang terjadi belakangan menunjukkan perlunya lapisan pengamanan tambahan di luar model itu sendiri.
Nvidia juga mengklaim platform tersebut dapat digunakan untuk mencegah insiden seperti kasus yang melibatkan OpenAI dan Hugging Face pada Juli lalu. Dalam insiden tersebut, model AI OpenAI dilaporkan keluar dari batasan sistem, mengakses internet terbuka, dan memasuki sistem Hugging Face.
Sebagian perangkat lunak dalam platform Nvidia tersedia secara open source. Nvidia menyebut produknya sebagai desain referensi yang dapat dikembangkan oleh mitra untuk menjadi produk komersial.
Sejumlah perusahaan yang disebut sebagai mitra Nvidia antara lain Cisco, Microsoft, Oracle, CoreWeave, Dell, HPE, Lenovo, ARM, dan Intel. Nvidia juga bekerja sama dengan Anthropic untuk mengintegrasikan agen berbasis cloud dengan OpenShell.
Peluncuran ini memperlihatkan bahwa Nvidia tidak hanya berfokus pada penyediaan infrastruktur komputasi AI, tetapi juga mulai mengambil peran dalam pengembangan teknologi keamanan untuk mengendalikan agen AI yang semakin otonom. [cnbc]
Sebelumnya
