[디지털투데이 손슬기 기자] 셀렉트스타는 자사 연구진이 참여한 AI 신뢰성·안전성 관련 논문 5편이 자연어처리(NLP) 학회 ‘EMNLP 2026’에 채택됐다고 28일 밝혔다.
채택 논문은 메인 콘퍼런스 1편과 공식 부속 논문집(Findings) 1편, 워크숍 논문 3편이다. 올해 EMNLP는 오는 10월 24일부터 29일까지 헝가리 부다페스트에서 열린다.
메인 콘퍼런스에 채택된 연구는 AI가 문제를 맞히는지뿐 아니라 틀렸을 때 사람과 비슷한 방식으로 오답을 고르는지도 분석하는 평가 방법을 제시했다. 사람과 대규모언어모델(LLM)의 정답·오답 선택 분포를 비교해 AI가 인간의 판단 패턴과 얼마나 유사한지 측정하는 방식이다.
논문집 채택 논문은 유해한 요청을 걸러내는 가드 모델의 판단 신뢰도를 분석했다. 일부 가드 모델이 판단이 불확실한 상황에서도 높은 확신을 보이면서 잘못된 결정을 내릴 수 있다는 점을 확인했다. 셀렉트스타는 이를 AI 서비스의 과도한 차단을 줄이는 가드레일 기술에 활용할 계획이다.
워크숍에는 금융 분야 연구 2편과 문화권별 AI 안전성 연구 1편이 채택됐다. 금융 연구에서는 기존 방어 성능을 유지하면서 AI 가드레일을 개선하는 방법과 여러 웹페이지를 함께 분석해 금융 피싱 사이트를 탐지하는 기술을 다뤘다.
셀렉트스타는 이번 연구 결과를 AI 평가 플랫폼 ‘다투모’와 레드티밍, 가드레일 기술 등에 적용해 국가·산업별 AI 안전성 평가 기술을 고도화할 계획이다.
김세엽 셀렉트스타 대표는 “연구 성과를 평가·레드티밍·가드레일 기술과 연결해 기업이 실제 서비스 환경에서 활용할 수 있는 AI 신뢰성 검증 체계로 발전시키겠다”고 말했다.
댓글0