본 웹 사이트는 정부 R&D 과제 수행 내용과 성과를 기록하고 공유하기 위한 목적으로 만들었습니다.
과제 정보
- 중앙행정기관명: 과학기술정보통신부
- 전문기관명: 정보통신기획평가원
- 사업명: 사람중심인공지능핵심원천기술개발
- 공고번호: 제2021-1022호
- 연구개발과제번호: 2022-0-00951
- 과제명: 스스로 불확실성을 자각하며 질문하면서 성장하는 에이전트 기술 개발
- 연구개발 기간: 2022.4.1 ~ 2026.12.31
수행 기관
- 주관연구개발기관
- 한국전자통신연구원
- 공동연구개발기관
- 한국과학기술원
- 광주과학기술원
- 서울대학교
- 경희대학교
- 한양대학교
- 조선대학교
연구 필요성
기존의 인공지능 에이전트는 아는 것과 모르는 것을 구분할 수 있는 능력이 없어 학습되지 않은 다양한 상황에 대한 유연성이 없으며 지식의 불확실성을 판단하지 못하여 스스로 성장할 수 없습니다. 따라서, 인공지능 에이전트가 지식의 불확실성을 스스로 자각하고 불확실성을 해소하기 위한 질문을 하며 새로운 지식을 학습할 수 있다면 학습하지 않은 상황에 마주해서도 유연하게 대응할 수 있습니다.
 |
|---|
연구개발 목표
자신의 추론 불확실성을 자각하고 불확실성을 해소할 수 있는 질문을 생성하여 외부의 대상과 능동적으로 질의응답을 하면서 지식을 학습 성장할 수 있는 인공지능 에이전트 기술을 개발하고, 다중 도메인의 문제와 리빙랩을 통해 기술 적용성을 검증합니다.
연구개발 내용
본 연구에서는 기존 인공지능 에이전트의 한계를 극복하기 위해 아래의 3개 핵심 기술로 구성되는 LBA-에이전트 브레인 플랫폼을 개발합니다.
- 불확실성을 자각하는 멀티모달 인지 (UMC: Uncertainty-aware Multimodal Cognition): 에이전트의 인지 대상에 다양한 변화 요인이 발생했을 때 스스로 아는 것과 모르는 것을 구분하면서 환경과 상황을 인지하는 멀티모달 지식 축적과 멀티모달 불확실성 지각 기술
- 불확실성 기반 질문 생성 (UQG: Uncertainty-based Question Generation): 모르는 것에 대한 질문을 생성하고 답을 알려줄 수 있는 대상에게 질의하여 응답을 얻음으로써 불확실성을 해소하기 위한 불확실성 기반 질문 생성과 응답 해석 기술
- 열린 세계 지식 성장 학습 (OCL2: Open-World Continual Lifelong Learning): 응답을 통해 얻은 새로운 지식을 통해 불확실한 상황에서도 더욱 정확하게 환경과 상황을 인지하는 능력을 획득하는 에이전트 지식 성장 학습 기술
또한, 상기 LBA-에이전트 브레인 플랫폼을 기반으로 과제 1단계에서 복수 도메인을 대상으로 응용을 개발하여 기술의 성능과 범용성을 검증하고, 2단계에서 실환경 서비스를 구축하여 리빙랩에서 기술의 실세계 적용성을 검증합니다.