[Tech Insight] AI 자동화와 업무 보조는 공존할 수 없다…왜?

디지털투데이 2026.09.22

디오고 알메이다 타입세이프AI 창업자. [사진: 디오고 알메이다 링크드인 페이지]

[디지털투데이 황치규 기자]디오고 알메이다가 설립한 타입세이프AI가 내놓은 새로운 AI 모델 제브(Jev)가 테크 커뮤니티에서 화제다.

ㆍ개발자 세계서 챗GPT 공동 개발자가 내놓은 새 AI 모델 주목

제브는 텍스트 대신 확률값을 내놓는게 특징. 파운데이션 캐피털 자야 굽타(Jaya Gupta) 파트너에 따르면 제브는 판단 기능만 따로 뺀 모델로 볼 수 있다. 제브는 복잡한 상황과 좁은 질문, 고를 수 있는 답 목록을 주면 제브는 문장 대신 결정과 확률을 알려준다.

그는 “소프트웨어가 필요로 하는 것은 긴급인지 아닌지, 계속할지 멈출지, 허용할지 막을지 같은 결정이다. 그런데 지금은 언어 모델이 먼저 문장을 쓰고, 그 문장을 다시 결정으로 바꾼다. 에이전트가 내부에서 반복하는 작업 상당수는 문장을 쓸 필요가 없다”고 말했다.

ㆍ[Tech Insight] 거대한 지능의 언번들링이 몰고올 야심만만 시나리오

타입세이프AI는 제프를 기존 대형언어모델(LLM)이 가진 한계를 극복할 대안으로 포지셔닝하는 모습.

디오고 알메이다 CEO는 타입세이프AI 창업 전 오픈AI에서 4년 6개월 근무하며 GPT-4, 인스트럭트GPT, 챗GPT 개발에 공동 참여했고 인간 피드백 기반 강화학습(RLHF) 개발에도 관여했다.

알메이다 CEO에 따르면 현재 AI를 둘러싼 담론은 어떤 일에는 지나치게 뛰어나 보이고 다른 일에는 쓸모가 없다는 두가지 서사가 공존한다.

그는 얼마 전 한 행사에서 “뉴스에 나오는 성공 사례는 대부분 사람이 과정에 개입하는 보조 업무다. 성과가 나지 않는 일은 AI가 혼자 처리해야 하는 자동화 업무다. 자동화 업무가 더 단순해 보이는데도 결과는 반대”라며 고객 서비스를 대표적인 사례로 꼽았다.

그는 “고객 응대 챗봇은 대부분 조치를 직접 실행하지 못한다. 문서를 찾아 안내하는 데서 멈춘다. 모델이 틀릴 수 있어 실행 권한을 주지 않기 때문”이라고 말했다.

알메이다 CEO는 코딩 에이전트도 큰틀에서 보조 도구로 보고 있다. 코드는 기계보다 사람을 위한 언어에 가깝다는 이유에서다. 그는 “버전 관리 없이 코딩 에이전트를 믿을 수 있겠느냐는 질문을 이같은 관점을 위한 예로 제시했다.

그에 따르면 이같은 상황이 벌어지는 원인은 RLHF 때문이다. RLHF는 사람이 좋아하는 답을 내도록 모델을 학습시키는데 초점이 맞춰져 있다. 그는 “RLHF로 학습한 모델은 가능성이 두 개일 때 안전해 보이는 쪽을 고른다. 그래서 답이 거의 항상 그럴듯하다. 틀린 답도 그럴듯해 보인다. 알메이다 CEO는 정밀도가 높아질수록 LLM은 쓸모가 줄어든다”면서 “머신러닝은 정반대여서 정밀도가 높아질수록 효용이 급격히 커진다”고 말했다.

그는 AI로 사람 업무를 보조하는 것(human in the loop assistance tasks)와 자동화를 모두 잡을 수 있다는 기대에도 선을 그었다. 두가지 목표가 서로 다른 방향으로 모델을 끌면 성능이 오락가락하는 ‘울퉁불퉁한 지능’이 된다는 설명이다.

그는 “신뢰할 만한 자동화를 하려면 정확도가 ‘9가 여러 개 붙는’ 수준이어야 한다”고 말했다.

그에 따르면 타입세이프AI는 보조 기능이 아니라 자동화에 집중한다. 사람이 개입하는 보조 서비스를 만들려는 기업들에 제브는 어울리지 않을 수 있다는 얘기다. 알메이다 CEO는 “기업에 “결정에 위험이 따르는 일은 AI에 맡기지 말라”면서 “오픈클로를 신규 사용자 온보딩에 쓸지 묻기 전에 위험 요소가 있는지, 피해를 막을 보안 장치가 있는지부터 봐야 한다”고 말했다.