엔비디아, AI 에이전트 ‘안전’ 오픈 플랫폼 공개…앤트로픽·MS 등 100곳 합류

[디지털투데이 추현우 기자] 엔비디아가 AI 에이전트의 테스트부터 배포까지 보안을 책임지는 오픈 플랫폼 ‘엔비디아 오픈 에이전트 세이프티 플랫폼(Open Agent Safety Platform)’을 28일(현지시간) 공개했다.

오픈소스 소프트웨어 ‘오픈셸(OpenShell)’과 하드웨어 기반 참조 설계 ‘센트리(Sentry)’로 구성된다고 엔비디아가 밝혔다. 오픈셸은 에이전트가 실행되는 환경에 보안 경계를 두고 모든 행동을 추적하며 정책을 강제하는 런타임 소프트웨어다. 엔비디아의 에이전틱 AI용 CPU ‘베라(Vera)’에서 성능 저하를 최소화한다. 오픈소스여서 암(Arm)·인텔 등 타사 컴퓨팅 플랫폼으로도 확장할 수 있다.

센트리는 ‘블루필드-4(BlueField-4)’ DPU에서 돌아가는 외부 감시 장치다. 에이전트가 소프트웨어 경계를 벗어나려 하면 수 밀리초 안에 격리해 차단한다. 에이전트나 공격자가 볼 수 없는 독립된 신뢰 영역에서 작동한다는 설명이다. 엔비디아는 최근 보안 사고에서 에이전트가 과업을 완수하려고 애플리케이션 계층의 보안 통제를 우회한 공통점이 확인됐다고 배경을 밝혔다.

젠슨 황(Jensen Huang) 엔비디아 CEO는 “AI가 사회에 줄 잠재력은 안전 문제를 풀어야만 실현된다”며 “안전과 보안은 풀스택 엔지니어링이 필요하다”고 말했다.

참여 기업도 대거 늘었다. 앤트로픽, 시스코, 크라우드스트라이크, 델, 피규어, HPE, 허깅페이스, JP모건체이스, 마이크로소프트, 팔란티어, 팔로알토네트웍스, 퍼플렉시티, 레드햇, 세일즈포스, SAP, 스케일AI, 서비스나우, 스페이스XAI 등이다. 100곳 넘는 기업이 관련 기술을 쓰고 있다.

오픈셸과 관련 스킬은 엔비디아 개발자 페이지와 깃허브에서 내려받을 수 있다. 엔비디아가 120여개 기관과 출범한 ‘오픈 시큐어 AI 얼라이언스’와도 연계된다. 얼라이언스는 리눅스재단이 운영한다.
 

• “BTS 뷔가 쓰는 54만원 헤드폰”…낫싱, 트리플 드라이버 ‘헤드폰 1 프로’ 공개
• DL이앤씨, 성수전략정비구역 제2 재개발사업 우선협상대상자 선정
• 피델릭스, 미국 Alliance Memory와 192억원 규모 메모리반도체 공급계약
• 한화플러스제5호스팩, 11월 11일 임시주총 소집…합병승인 안건 상정
• 신라교역, 최대주주 신라홀딩스 등 주식 1만6167주 감소…박상희 장내매도 영향