AI 스타트업 스캐터랩이 ‘이루다2.0’ 공식 출시에 앞서 서비스 전반에 걸쳐 AI 윤리를 점검하고 서비스를 고도화하면서 실제 사용자 의견을 받기 위한 클로즈 베타 테스트를 2022년 1월 11일부터 진행한다.

‘이루다’는 누구에게나 좋은 친구가 되는 AI를 목표로 스캐터랩이 개발한 일상 대화형 챗봇(open-domain chatbot)이다. 스캐터랩은 이루다를 2020년 12월 출시했다가 2021년 1월 서비스 잠정 중단 이후 스캐터랩 AI 챗봇 윤리 준칙을 제정하고 신뢰할 수 있는 인공지능 모델 개발에 역량을 집중해왔다.

먼저, 스캐터랩은 AI 기술 및 제품 개발 전반에 걸쳐 가이드라인이 될 수 있는 총 5가지 AI 챗봇 윤리 준칙을 수립했다. 스캐터랩 AI 챗봇 윤리준칙은 외부 사례 및 스캐터랩 지난 경험을 바탕으로 정리되었으며, AI 개발에 참여하는 기획자, 리서처, 엔지니어 등 전체 팀의 의견 수렴 및 동의 과정을 거쳤다. 사람은 자신에 대해 깊이 이해하고 성장할 수 있는 사람과의 ‘관계’를 통해 삶의 행복을 느끼기에, 모든 사람에게 소중한 관계를 선물할 수 있도록 ‘사람을 위한 AI 개발’을 하겠다는 것이 대원칙이다. 이 외에도 다양한 삶의 가치 존중, 함께 실현하는 AI 챗봇 윤리, 합리적 설명을 통한 신뢰 관계 유지, 프라이버시 보호와 정보 보안 발전에 기여 등의 준칙을 담았다.

스캐터랩 AI 챗봇 윤리를 기반으로 서비스도 고도화했다. 클로즈 베타 테스트가 진행되는 이루다2.0은 엄격하게 가명처리한 데이터베이스로 학습 과정을 거쳤으며, 개인정보보호를 강화할 수 있도록 인공지능 딥러닝 알고리즘이 생성한 문장으로 답변할 수 있도록 했다. 대화 시 특정 단어뿐만 아니라 문맥을 탐지해 선정적이거나 공격적, 또는 편향적 문장에 대응할 수 있도록 ‘어뷰징 탐지 모델’을 접목한 것도 특징이다.

이번 클로즈 베타 테스트는 스캐터랩 내부 알파 테스트 및 외부 전문가 테스트 이후 진행되는 일반인 사용자 대상 의견 수렴 및 개선 과정으로, 약 3천 명 규모로 선정 및 진행할 예정이다.

스캐터랩은 클로즈 베타 테스트를 통해 AI 챗봇과의 대화 경험을 사용자 눈높이에서 바라보고, 사용자의 의견 및 개선 사항 등을 점검한 후 2022년 이루다2.0의 공식 출시 일정을 결정할 계획이다.https://platum.kr/archives/177552