default_top_notch
default_news_top
default_news_ad1
default_nd_ad1

챗봇 심심이, "AI 윤리문제 해결 노력"

기사승인 2021.03.01  20:52:56

공유
default_news_ad2

- 악성 글, 악플 탐지 솔루션

   
▲ 심심이 최정회 대표

인공지능(AI) 감성대화 챗봇 ‘심심이’가 최근 수면 위로 떠오른 AI 챗봇 악용 및 윤리적 문제라는 시행착오에 적절히 대처하며 발전 중인 것으로 평가받고 있다. 이는 ‘심심이’가 탑재하고 있는 악성 글, 악플 탐지 솔루션 덕분이다.

심심이는 지난 2002년 서비스를 개시한 세계 최초의 대중적인 일상대화 챗봇이다. 스마트폰이 시장에 등장하기도 전, 독보적인 다양성과 재미, 생동감을 가진 일상대화 챗봇으로서 대중에게 널리 이용돼 왔다. 현재는 81개 언어로 서비스를 제공 중이며, 하루 2억 회 이상의 응답 기록을 보유하고 있다.

이와 같은 심심이는 최근 문제가 되고 있는 AI 챗봇의 윤리적 이슈에 대해 그 이전부터 지속적으로 연구를 진행해왔다. 심심이는 만 14세 미만은 사용할 수 없으며, 성행위나 폭력, 위협, 인종과 피부색, 성 취향 등 특정 집단에 증오심을 조장하는 콘텐츠를 금지한다는 정책을 명확히 하고 있다.

특히 '나쁜말 미션'을 통해 나쁜말 판별기를 개선하는 기능, 괴롭힘을 미리 차단하는 기능 등이 추가되는 등 사용자들의 비윤리적인 AI 악용 행위를 차단하고 있다. 이는 심심이가 지난 2019년 말 정식 출시한 문장 분류 솔루션 ‘DBSC’(Deep Bad Sentence Classifier) 덕분에 가능한 결과다.

DBSC는 자체 연구개발 노하우를 바탕으로 악플을 99% 이상 실시간 탐지할 수 있는 문장 분류 솔루션이다. 악플 아닌 댓글을 과도하게 필터링하지 않으면서도, 금지 키워드를 피해 문장을 교묘하게 변형한 악플, 은유적인 악성 표현들을 집어낸다.

심심이에 따르면, DBSC의 딥러닝 모델 정확도는 99% 이상이다. 또 머신러닝의 성능 지표중 하나인 F1점수 또한 0.99 이상으로 나타나 높은 정밀도와 재현율을 자랑하고 있다. 이외에도 2021년 2월 기준 2,700만 명 이상의 패널이 작성한 약 1억 4천만 쌍의 일상대화 전용 대화세트를 통해 대화의 질을 높이는 등 지속적인 연구를 진행 중이다.

심심이 최정회 대표는 “AI로 대표되는 4차 산업혁명 시대에는 AI 윤리 문제도 매우 심도 있게 다뤄져야 한다. 이미 심심이도 과거 악플이나 성희롱, 놀림 등에 시달린 바 있으나, 이를 넘어서기 위해 지속적인 연구 개발로 DBSC 솔루션을 탄생시킨 것”이라고 밝혔다. 이어 “2021년 3월 기준 전 세계 누적 사용자 4억 명 이상인 ‘심심이’가 앞으로도 꾸준히 대중과 함께하기 위해서는 이러한 부분에 대한 지속적인 대응이 필요하다”면서 “이를 바탕으로 AI윤리 문제에 모범적으로 대처해나가는 인공지능 챗봇 서비스를 선도해나갈 것”이라고 덧붙였다. 

박경일 robot@irobotnews.com

<저작권자 © 비즈포아이알 무단전재 및 재배포금지>
default_news_ad5
default_side_ad1
default_nd_ad2

인기기사

default_side_ad2

포토

1 2 3
set_P1
default_side_ad3

섹션별 인기기사 및 최근기사

default_side_ad4
default_nd_ad6
default_news_bottom
default_nd_ad4
default_bottom
#top
default_bottom_notch