AI 진단/피드백 파이프라인 구축

수행 내용

• •HTTP 직접 호출과 동기 단일 프롬프트에 묶여 있던 진단 프로세스를 Spring AI 기반 7단계 AI 파이프라인(STT 로드 → Semantic Chunking → STT 보정 → 지표 산출 → LLM 피드백 → 문제 생성 → 알림)으로 재설계
  • •진단 품질 개선으로 CS 인입 98% 감소
  • •기존 Java/Spring 환경 안에서 운영할 수 있게 통합해 유지보수 부담과 개발 난이도 완화
  • •파이프라인 단계를 비동기로 분리해 병목을 줄이고 처리 시간 안정화
• •Gemini·Amazon Bedrock·OpenAI 모델을 단계별 역할에 맞게 배치하고, 백오피스에서 모델·프롬프트를 무중단 변경할 수 있는 구조 설계
  • •LLM 비용 약 50% 절감
• •AI 할루시네이션 보정 단계와 포맷 검증 실패 재시도 로직 추가
  • •진단 리포트 생성 시간 6~7분 → 1~2분 (약 75% 단축)

관련 글