오픈AI가 챗GPT를 통해 보여준 생성형 AI의 잠재력은 2023년 내내 대중의 큰 관심을 불러일으켰다. 다양한 업체들이 경쟁적으로 유사한 AI 모델을 개발하고 서비스를 출시함에 따라, 이를 뒷받침하는 클라우드 서비스까지 동시에 성장하게 되었다. 하지만, 클라우드 기반 AI가 내재하고 있는 과도한 전력 사용, 프라이버시 등의 문제점들이 대두되었고, 이를 해결하기 위한 솔루션으로서 온디바이스 AI가 부상하게 되었다.