카나나 세이프가드는 카카오가 자체 개발한 언어모델 ‘카나나’ 기반으로 제작됐다.
한국어에 특화된 성능을 보유하고 있다.
AI 모델 정밀도재현율 평가 수치인 ‘F1 스코어’ 기준으로 평가한 결과, 한국어 성능에서 글로벌 모델 이상의 성과를 기록했다.
카카오는 개발과 동시에 모델 3종을 누구나 활용할 수 있도록 공개했다.
AI 플랫폼 ‘허깅페이스’에서 다운로드 할 수 있다.
△사용자 언어 또는 AI 답변서 증오, 괴롭힘, 성적 콘텐츠 관련 유해성을 탐지하는 ‘카나나 세이프가드’ △개인 정보, 지식재산권 등 법적 주의가 필요한 요청을 탐지하는 ‘카나나 세이프가드-사이렌’ △AI 서비스 악용 목적 사용자 공격을 탐지하는 ‘카나나 세이프가드-프롬프트’ 등이다.
아주경제=한영훈 기자 han@ajunews.com
<본 콘텐츠의 저작권 및 법적 책임은 아주경제(www.ajunews.com)에 있으며, 뽐뿌는 제휴를 통해 제공하고 있습니다.>
