하이퍼커넥트, NLP 분야 최고 국제학회 ‘EMNLP 2021’서 논문 발표
높은 품질의 답변 빠르게 제시할 수 있는 챗봇 기술 개발
하이퍼커넥트는 11월 7일부터 11일까지 도미니카공화국 푼타카나(Punta Cana)에서 온·오프라인으로 동시 진행된 EMNLP 2021에서 ‘효율적인 일상 대화를 위한 대규모 생성 모델에서 검색 모델로의 지식 증류 기법(Distilling the Knowledge of Large-scale Generative Models into Retrieval Models for Efficient Open-domain Conversation)’ 논문을 발표했다.
일상 대화에서 대규모 생성 모델의 챗봇 성능은 언어 모델의 크기가 커짐에 따라 비약적으로 발전했으나, 실제 서비스에 적용 시 답변 대기시간이 길다는 문제점이 있다. 반면에 검색 모델은 답변 대기시간이 훨씬 짧아질 수 있지만, 사전에 정의된 답변 집합으로 제한돼 대규모 생성 모델에 비해 성능이 떨어지는 단점이 있다. 이에 하이퍼커넥트는 빠르게 답변할 수 있는 검색 기반 모델에 대화의 품질을 높일 수 있는 생성 모델의 지식을 주입해 효율적으로 서비스를 운영할 수 있는 G2R (Generative-to-Retrieval distillation)을 제시했다. 이렇게 훈련된 검색 기반 대화 시스템은 기본 검색 모델에 비해 상당히 향상된 성능을 제공하면서도 대규모 생성 모델보다 추론에 드는 지연 시간이 단축된다.
하이퍼커넥트 하성주 AI 랩 총괄 디렉터는 “IT 업계뿐만 아니라 의료·금융·교육 등 다양한 산업 분야에서 24시간 응답할 수 있는 챗봇 서비스가 접목되고 있다”며 “하이퍼커넥트의 이번 논문은 챗봇을 통해 향상된 품질의 답변을 빠르게 전달하는 기술로서, 관련 서비스 품질을 한 단계 높이는 데 이바지할 것으로 기대된다”고 말했다.
한편 하이퍼커넥트는 자체 AI 랩 운영을 통해 실제 서비스 제작·운영 단계에서 활용할 수 있는 기술을 지속해서 개발·발표하고 있다. 음성 언어 처리 분야의 세계 최고 권위를 인정받는 ‘인터스피치(INTERSPEECH)’에서 2년 연속으로 음성 인식 기반 키워드 검출, 음성 합성 등 음성 분야 AI 연구 성과를 공개했다. 올해 초에는 롱테일 이미지 분류 문제를 해결할 방안을 제시하며 글로벌 최고 수준의 딥러닝 분야 콘퍼런스 ‘CVPR 2021’에서 연구 성과를 발표한 바 있다.
웹사이트: https://hyperconnect.com/
연락처
하이퍼커넥트 홍보대행
KPR
정숙영 AE
02-3406-2255
이메일 보내기