Flow-ai
플로우 AI / LLM 서버 개발
OpenAI
Node.js
Express
Java
JavaScript
PostgreSQL
jQuery
Jex Framework
2024.01.22 - 2024.04.05
마드라스체크(주) · SaaS 개발부


(0 / 0)
프로젝트 배경
협업툴 flow의 사용자들이 업무 검색, 프로젝트 구조 설계 등에서 AI의 창작과 생산성을 활용한 지원을 받을 수 있도록 AI 기능을 개발했습니다.
핵심 기능
AI 업무 검색: OpenAI API(GPT-4 → GPT-4o)와 Function Calling, Structured Output을 활용하여 자연어로 업무를 검색하고 필터링할 수 있습니다.
프로젝트 템플릿 자동 생성: Few-shot Prompting 기법으로 사용자 요구사항에 맞는 프로젝트 구조를 자동으로 생성합니다.
중간 LLM 서버: Node.js + Express로 OpenAI API를 받아 flow WAS로 전달하는 중간 서버를 구축하여 유연한 확장이 가능한 아키텍처를 구성했습니다.
사용자의 AI 사용 로그를 PostgreSQL에 저장하고 분석하여 AI 응답 품질을 지속적으로 개선하고 있습니다.
핵심 기술 및 구현
- OpenAI API: GPT-4, GPT-4o를 활용한 Function Calling, Structured Output, Few-shot Prompting 구현
- Node.js & Express: OpenAI API와 flow WAS 간 중간 서버 역할 수행
- Java 연동: flow WAS 백엔드와 Node.js AI 서버 간 RESTful API 통신
- PostgreSQL: AI 사용 로그 저장 및 인터랙션 데이터 분석
- Frontend Integration: jQuery 기반 실시간 AI 응답 처리 및 스트리밍 UI