고가의 GPU 없어도 노트북 등 업무용 장비 만으로 구현
오픈소스진흥협회(회장 박형배)는 협회 산하 인공지능개선그룹을 통해 개인 노트북에서 구동 가능한 독립형 생성 AI(인공지능)를 구축하는데 성공했다고 6일 발표했다.
이 기술을 활용하면 고가의 GPU 등 하드웨어를 추가로 장착할 필요 없이 개인용 컴퓨팅 장비만 있으면 독립적으로 생성 AI를 구현할 수 있다고 협회는 밝혔다.
특정 산업이나 기업에 특화된 AI를 구축하려면 데이터 전문가가 참여해 AI를 학습시키는 복잡한 과정이 필요하지만 이 기술은 조직 내부의 정보를 파일로 정리해서 한 데 모아놓으면 이를 독립형 생성 AI가 효율적으로 흡수하도록 벡터DB화 시켜준다.
박형배 회장은 "이번에 구축한 독립형 생성 AI는 퓨샷(few-shot) 프롬프트 또는 질의응답, 요약 등의 작업에 유용하다"며 "이에 적합한 기업 모델을 발굴해 함께 협업할 계획"이라고 말했다.
독립형 AI는 개인이나 조직이 보유하고 있는 지적재산과 핵심정보를 외부로 노출하지 않으면서 AI를 활용해 업무를 혁신할 때 유용한 도구로 주목받고 있다.
