이로운앤컴퍼니는 숭실대학교 AI 안전성 연구센터와 공동 개발한 생성형 인공지능(AI) '탈옥 공격' 대응 기술을 자사의 AI 보안 솔루션 '세이프엑스'에 탑재했다고 밝혔다. 해당 기술은 연구 개발을 마친 뒤 이로운앤컴퍼니로 기술 이전됐으며, 이번 통합을 통해 보안성과 정밀 탐지 능력이 크게 향상됐다는 것이 회사측의 설명이다.
통합된 기술은 'TAPD'로, 기존의 이분법적 필터링 방식을 개선해 유해성과 탈옥 가능성을 각각 판단하는 구조를 채택했다. 특히 '나빠 보이지만 안전한 템플릿(LUBS)' 기법을 도입해, 과도한 차단 문제를 줄이고 정상 요청의 전달률을 높인 것이 특징이다.
세이프엑스에 적용된 TAPD는 평균 86%의 정확도를 기록했으며, 실시간 서비스 환경에서도 응답 지연률이 0.2% 미만으로 측정됐다. 특히 한국어 환경에서는 97.88%의 탐지 정확도를 보여 국내 AI 서비스 시장에 특화된 기술력을 갖췄다는 평가다.
(중략)
전문 보기┃디지털타임스(링크)
이로운앤컴퍼니는 숭실대학교 AI 안전성 연구센터와 공동 개발한 생성형 인공지능(AI) '탈옥 공격' 대응 기술을 자사의 AI 보안 솔루션 '세이프엑스'에 탑재했다고 밝혔다. 해당 기술은 연구 개발을 마친 뒤 이로운앤컴퍼니로 기술 이전됐으며, 이번 통합을 통해 보안성과 정밀 탐지 능력이 크게 향상됐다는 것이 회사측의 설명이다.
통합된 기술은 'TAPD'로, 기존의 이분법적 필터링 방식을 개선해 유해성과 탈옥 가능성을 각각 판단하는 구조를 채택했다. 특히 '나빠 보이지만 안전한 템플릿(LUBS)' 기법을 도입해, 과도한 차단 문제를 줄이고 정상 요청의 전달률을 높인 것이 특징이다.
세이프엑스에 적용된 TAPD는 평균 86%의 정확도를 기록했으며, 실시간 서비스 환경에서도 응답 지연률이 0.2% 미만으로 측정됐다. 특히 한국어 환경에서는 97.88%의 탐지 정확도를 보여 국내 AI 서비스 시장에 특화된 기술력을 갖췄다는 평가다.
(중략)
전문 보기┃디지털타임스(링크)