본 과제는 인공지능 에이전트가 기존에 학습되지 않은 상황에 대한 지식의 불확실성을 자각하고, 지식의 불확실성을 해소하기 위한 질문을 하며 성장하는 인공지능 기술 개발을 목표로 합니다.
기존의 인공지능 에이전트는 아는 것과 모르는 것을 구분할 수 있는 능력이 없어 학습되지 않은 다양한 상황에 대한 유연성이 없으며 지식의 불확실성을 판단하지 못하여 스스로 성장할 수 없습니다. 인공지능 에이전트가 지식의 불확실성을 자각하고 불확실성을 해소하기 위한 질문을 하며 지식을 성장 학습할 수 있다면 학습하지 않은 상황에 마주해서도 유연하게 대응할 수 있게 됩니다. 이를 위해 다음과 같은 핵심 기술이 필요합니다.
- 인공지능 에이전트가 멀티모달 Out-Of-Distribution(OOD) 정보를 접하는 경우, 자신의 추론 불확실성을 판단하고, 이를 해소할 수 있는 질문을 생성하는 방법
- 인공지능 에이전트가 생성된 질문을 외부의 대상(인간, 에이전트 등)과 능동적으로 주고받으면서 자신의 추론 불확실성을 해소하며 학습 및 성장하는 방법
본 연구에서는 아래의 3개 핵심 기술로 구성되는 LBA-에이전트 브레인 플랫폼을 개발합니다.
- 불확실성을 자각하는 멀티모달 인지 (UMC: Uncertainty-aware Multimodal Cognition)에이전트의 인지 대상에 다양한 변화 요인이 발생했을 때 스스로 아는 것과 모르는 것을 구분하면서 환경과 상황을 인지하는 멀티모달 지식 축적과 멀티모달 불확실성 지각 기술,
- 불확실성 기반 질문 생성 (UQG: Uncertainty-based Question Generation)모르는 것에 대한 질문을 생성하고 답을 알려줄 수 있는 대상에게 질의하여 응답을 얻음으로써 불확실성을 해소하기 위한 불확실성 기반 질문 생성과 응답 해석 기술,
- 열린 세계 지식 성장 학습 (OCL2: Open-World Continual Lifelong Learning)응답을 통해 얻은 새로운 지식을 통해 불확실한 상황에서도 더욱 정확하게 환경과 상황을 인지하는 능력을 획득하는 에이전트 지식 성장 학습 기술
또한, 상기 LBA-에이전트 브레인 플랫폼을 기반으로 과제 1단계에서 복수 도메인을 대상으로 응용을 개발하여 기술의 성능과 범용성을 검증하고, 2단계에서 실환경 서비스를 구축하여 리빙랩에서 기술의 실세계 적용성을 검증합니다.