뉴스홈 산업 IT/모바일

카카오, 생성형 AI 안전성 위한 `Kanana Safeguard` 공개…국내 최초 오픈소스 배포

최윤식 기자

등록 2025-05-28 03:10

카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard’를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.

 

카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 `Kanana Safeguard`를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.

이번 공개는 생성형 AI 기술이 빠르게 확산되며 사회적 우려가 커지는 가운데, 안전하고 책임 있는 AI 생태계를 조성하기 위한 선제적 대응의 일환이다.

 

‘Kanana Safeguard’는 카카오가 자체 개발한 언어모델 ‘Kanana’를 기반으로 한국어 및 한국 문화에 최적화된 성능을 갖춘 것이 특징이다. 자체 구축한 한국어 데이터셋을 활용했으며, F1 스코어 평가 결과 글로벌 모델 대비 우수한 성과를 보인 것으로 알려졌다.

 

공개된 모델은 총 3종이다. 기본형인 ‘Kanana Safeguard’는 AI 서비스 내에서 증오, 괴롭힘, 성적 콘텐츠 등 유해 발화를 탐지하는 역할을 하며, ‘Kanana Safeguard-Siren’은 개인정보, 저작권 등 법적 민감 정보를 식별한다. 마지막으로 ‘Kanana Safeguard-Prompt’는 AI를 악용하려는 시도나 위험한 프롬프트를 감지하도록 설계됐다.

 

이 모델들은 모두 세계 최대의 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)를 통해 다운로드 가능하며, 상업적 활용과 수정·재배포가 자유로운 아파치 2.0(Apache 2.0) 라이선스를 적용받는다.

 

카카오 김경훈 AI Safety 리더는 “기술 발전과 함께 AI의 윤리와 안전에 대한 논의가 더욱 중요해지고 있다”며 “Kanana Safeguard의 오픈소스 배포를 통해 책임감 있는 AI 개발과 활용 문화가 확산되길 기대한다”고 밝혔다.

 

카카오는 향후 지속적인 업데이트를 통해 모델의 고도화를 추진하고, 국내외 AI 기술 안전성 강화에 적극 기여할 방침이다.

 

최윤식

최윤식

기자

헤드라인 뉴스

이재명 대통령 “안보·균형발전·주식시장 정상화 총력”…중동전쟁 대응 점검

삼성전자, 2026년 임금협약 최종 타결…노사 “글로벌 경쟁력 강화 힘 모은다”

5월 27일 ‘세계 수달의 날’… 돌아오는 수달, 그러나 아직 안전하지 않은 강

서소문고가 사고 통제 완화…서울 시내버스 정상 운행·집중배차 실시

서소문고가 철거현장 붕괴로 3명 사망…서울시 재대본 가동

광화문광장 방문객 2배 급증…BTS·‘감사의 정원’ 효과 본격화

이재명 대통령 부부, 포천 백운계곡 찾아 이용 실태·안전관리 점검

환경부, 2025년 우수환경산업체 9개사 지정

환경재단, 부산서 ‘2025 청소년 해양환경교육’ 성료

LG전자, 아동·청소년 대상 자원 순환 교육 강화
텅 빈 버스 줄이고 배차 간격 줄이고…정읍시, 시내버스 교통량 조사 착수
주차난 덜고 교통 사각지대 해소한다…관악구, 촘촘한 '교통 인프라' 구축
[영상] "도심을 가르다"… 생태·문화·축제, 춘천의 새 명소 공지천이 흐른다
과천시, 관계기관 합동 '관악산 산림 보호 캠페인' 실시
가정의 달 화훼 원산지 단속서 77곳 적발…카네이션 위반 최다

최신 뉴스

많이 본 뉴스

회사소개 기사제보 광고 및 제휴문의 개인정보취급방침 청소년보호정책 이용자위원회 메일수집거부
일간환경
등록번호서울, 아02796
등록일자2013-07-30
오픈일자2013-07-30
발행일자2026-06-18
발행인이 승
편집인이 승
연락처070)4639-5359
FAX070)4325-5030
이메일help@dadamedia.net
주소 서울특별시 영등포구 경인로 775 (문래동3가) 4동 502호
(주)지브린

일간환경 © 일간환경 All rights reserved.

일간환경의 모든 콘텐츠(기사 등)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

RSS