Flow-ai

플로우 AI / LLM 서버 개발

OpenAI
Node.js
Express
Java
JavaScript
PostgreSQL
jQuery
Jex Framework

2024.01.22 - 2024.04.05

마드라스체크(주) · SaaS 개발부

flowAi1
flowAi2
(0 / 0)

프로젝트 배경

협업툴 flow의 사용자들이 업무 검색, 프로젝트 구조 설계 등에서 AI의 창작과 생산성을 활용한 지원을 받을 수 있도록 AI 기능을 개발했습니다.

핵심 기능

AI 업무 검색: OpenAI API(GPT-4 → GPT-4o)와 Function Calling, Structured Output을 활용하여 자연어로 업무를 검색하고 필터링할 수 있습니다.

프로젝트 템플릿 자동 생성: Few-shot Prompting 기법으로 사용자 요구사항에 맞는 프로젝트 구조를 자동으로 생성합니다.

중간 LLM 서버: Node.js + Express로 OpenAI API를 받아 flow WAS로 전달하는 중간 서버를 구축하여 유연한 확장이 가능한 아키텍처를 구성했습니다.

사용자의 AI 사용 로그를 PostgreSQL에 저장하고 분석하여 AI 응답 품질을 지속적으로 개선하고 있습니다.

핵심 기술 및 구현

  • OpenAI API: GPT-4, GPT-4o를 활용한 Function Calling, Structured Output, Few-shot Prompting 구현
  • Node.js & Express: OpenAI API와 flow WAS 간 중간 서버 역할 수행
  • Java 연동: flow WAS 백엔드와 Node.js AI 서버 간 RESTful API 통신
  • PostgreSQL: AI 사용 로그 저장 및 인터랙션 데이터 분석
  • Frontend Integration: jQuery 기반 실시간 AI 응답 처리 및 스트리밍 UI