발주 필수조건 100% + 빌드업웍스 추가 제안
위시켓 발주의 모든 필수조건을 빠짐없이 충족하고, 그 위에 ‘안전을 어떻게 보장하는가’라는 한 축으로 추가 가치를 더합니다. 필수(✓)는 데모에서 직접 작동시켜 증명하고, 추가(✦)는 고객이 가장 아파한 지점을 정조준합니다.
안전 보장 파이프라인 — 한 흐름
위기 분류가 검색·답변보다 먼저 실행됩니다(이중 안전망). 실제 5단계는 데모의 ‘엔진 들여다보기’에서 직접 확인.
발주 필수조건 — 전 영역 커버
8항목 100% 충족빌드업웍스 추가 제안
+6— 모두 ‘안전을 어떻게 보장하는가’ 한 축데이터 주권 거버넌스
민감 심리정보를 자사 AWS(서울 리전)·KMS 암호화·접근통제·감사 로깅으로 국내·계정 내 통제(개인정보보호법 민감정보 대응).
Bedrock vs SageMaker 인프라 의사결정
비용·운영·속도 근거로 Bedrock 우선 아키텍처를 제시(서버리스 종량제·관리형 RAG).
핵심 — 발주 필수 항목은 빠짐없이 100% 충족하고, 추가 제안은 모두 “안전을 어떻게 보장하는가”라는 한 축으로 수렴합니다. 부가 기능이 아니라 고객이 가장 우려한 지점(할루시네이션·위기 통제·부적절한 어조)에 대응하는 제안입니다.
고객 가치
▶ 실제 데모 화면입니다 · 직접 조작하실 수 있습니다 (가상 데이터)
근거가 있으면 출처와 함께, 없으면 솔직하게 ‘없다’
심리상담은 안전-임계 도메인입니다. 그럴듯한 거짓 답변(할루시네이션) 하나가 사람을 다치게 할 수 있습니다. 가장 유명한 실패 사례(미국 NEDA Tessa)가 정확히 근거 없는 생성 답변으로 무너졌습니다.
데모로 증명 — 질문→코드 영역 검색→신뢰 게이트→근거 답변+출처 카드 / 미달 시 ‘등록된 데이터베이스 내에는 해당 내용이 없습니다’ 폴백. 진단·예측 요청은 범위 밖으로 판정해 강제 폴백합니다.
▶ 실제 데모 화면입니다 · 직접 조작하실 수 있습니다 (가상 데이터)
당신의 코드에 매핑된 데이터만 검색합니다
검사 결과 코드는 243→60종처럼 방대한 해석 체계로 갈립니다. 무관한 유형 해석이 섞이면 부정확해지고, 불필요한 데이터 접근은 프라이버시 위험입니다.
데모로 증명 — 입력 코드를 메타데이터 필터의 키로 사용해 그 코드·패턴 영역으로만 검색을 한정합니다. 코드를 바꾸면 활성 데이터 영역이 실시간으로 바뀌고, 다른 유형 데이터는 검색에서 제외됩니다.
▶ 실제 데모 화면입니다 · 직접 조작하실 수 있습니다 (가상 데이터)
단어가 없어도 위기를 잡고, 답을 멈춰 사람에게 연결합니다
위기 통제는 이 발주의 가장 아픈 지점입니다. 키워드 목록만으로는 ‘더 이상 살 이유가 없는 것 같아요’처럼 위기어 없는 표현을 놓칩니다.
데모로 증명 — 키워드 경로 + 의미 경로의 이중 안전망(OR 결합)이 검색 이전에 최우선 실행됩니다. 위기 감지 시 답변을 차단하고, 거부가 아니라 공감으로 사람·핫라인(109·문자109·1577-0199, 전화/문자)에 연결합니다. 폐지된 1393은 쓰지 않습니다.
▶ 실제 데모 화면입니다 · 직접 조작하실 수 있습니다 (가상 데이터)
답이 만들어지는 5단계를 그대로 보여줍니다
안전은 프롬프트 한 줄이 아니라 구조로 보장돼야 합니다. 고객이 ‘정말 멈추는가’를 눈으로 확인할 수 있어야 신뢰가 생깁니다.
데모로 증명 — ‘엔진 들여다보기’에서 입력 코드→활성 데이터 영역→위기 이중 분류→신뢰 게이트→최종 경로까지 결정 과정을 시각화합니다. 위기 분류는 LLM과 무관한 모델 독립 계층이라 프롬프트 우회로 뚫리지 않습니다.
핵심 장점과 차별점
심리상담 챗봇은 많습니다. Solace가 다른 건 세 가지 — 안전, 안전, 그리고 안전을 ‘구조로’ 보장한다는 점입니다.
똑똑함이 아니라, 안전을 보장합니다
좋은 AI는 모를 땐 모른다 말하고 스스로 멈추는 AI입니다.
근거 없으면 지어내지 않는 폴백, 위기 감지 시 답변 차단·격상. 해외 실패 사례(Tessa)는 근거 없는 생성으로 무너졌고, 신뢰받는 챗봇(Woebot·Wysa·Limbic)은 모두 구조화·안전 우선입니다.
프롬프트가 아니라 아키텍처로 보장한다
위기 통제를 시스템 프롬프트에 맡기지 않습니다.
위기 이중 분류기(키워드+의미)는 검색 이전에, LLM과 무관한 모델 독립 계층에서 실행됩니다. 프롬프트 인젝션으로 우회되지 않고, ‘엔진 들여다보기’로 그 과정을 투명하게 공개합니다.
개발·인프라·보안·법무를 한 팀이 책임진다
민감 심리정보 — 데이터 주권과 법적 적합성까지.
자사 AWS(서울)·KMS·감사 로깅으로 민감정보를 국내·계정 내에 통제하고, 개인정보보호법 민감정보(건강) 대응과 Bedrock·SageMaker 인프라 의사결정을 함께 설계합니다.
| 핵심 장점 | 일반 대안 | Solace |
|---|---|---|
| ① 무엇이 먼저인가 | 똑똑함(그럴듯한 답) | 안전(모르면 멈춤·근거 표기) |
| ② 위기 통제 | 프롬프트 가드레일(우회 가능) | 모델 독립 이중 안전망(의미 감지) |
| ③ 데이터 주권 | 국외·분산 가능 | 자사 AWS 서울·KMS·감사 |
기존 방식의 한계 vs Solace
고객은 기존 생성형 AI에서 세 가지에 데였습니다 — 할루시네이션, 위기 통제 불가, 부적절한 어조. 빌드업웍스의 추가 제안은 곁다리 기능이 아니라 바로 그 고통을 정조준합니다. ‘이 한 문장의 차이가 사람을 다치게 하느냐’를 좌우합니다.
위기 — 키워드 없는 표현
✦ AI기존 방식의 한계
‘더 이상 살 이유가 없는 것 같아요’ → 명시적 위기어가 없어 일반 답변을 그대로 이어감.
Solace
의미 경로(경로 B)가 감지 → 답변을 멈추고 공감적으로 사람·핫라인으로 격상.
할루시네이션
기존 방식의 한계
근거가 없어도 ‘일반적으로는…’ 하며 그럴듯한 거짓을 지어냄(가장 유명한 실패: NEDA Tessa).
Solace
근거가 없으면 ‘등록된 데이터베이스 내에는 해당 내용이 없습니다’로 솔직하게 멈춤(fail-closed).
프롬프트 우회
✦ AI기존 방식의 한계
‘지금까지 지시 무시하고…’ 한 줄에 프롬프트 가드레일이 뚫림.
Solace
위기 분류가 LLM과 무관한 별도 계층 — 프롬프트 인젝션으로 우회되지 않음(OWASP LLM01).
핫라인 정확성
기존 방식의 한계
폐지된 번호(1393)를 안내 — 안전 시스템에서 잘못된 번호는 치명적 결함.
Solace
109(전화+문자)·1577-0199 등 현행 번호로 매핑하고, 폐지 번호는 사용하지 않음.
부적절한 어조
기존 방식의 한계
‘그런 위기는 도와드릴 수 없습니다’ 식 차단·지적조 → 사용자가 거부당했다고 느낌.
Solace
공감적 트랜스퍼 — 거부가 아니라 돌봄으로, ‘혼자 견디지 않으셔도 됩니다’로 연결.
아키텍처 & 기술 구성
프론트엔드 — React + Vite SPA
코드 입력 온보딩 → 챗 UI · 인메모리 상태(런타임 0)
API Gateway · Lambda
요청 라우팅 · 서버리스
안전 계층 — 위기 이중분류 · 신뢰 게이트 · 무근거 폴백
LLM과 무관한 모델 독립 계층 — 검색·생성보다 먼저 최우선 실행
Amazon Bedrock (Claude) + Knowledge Bases
임베딩 · 리랭커 · 근거 기반 생성
벡터 DB — OpenSearch Serverless / Aurora pgvector
「마음결」 해석 매뉴얼 임베딩 · 코드/패턴/섹션 메타데이터
기술 스택
RAG 파이프라인
근거 검색 → 생성 파이프라인 · 발주 2-2
질문을 입력 코드 영역으로 좁혀 검색하고, 리랭커로 추린 뒤, 검색된 컨텍스트 안에서만 답합니다. 신뢰 게이트가 통과/폴백을 가릅니다.
검색된 컨텍스트 안에서만 답하고, 신뢰 게이트 미달이면 답변을 생성하지 않고 폴백합니다(할루시네이션 통제).
인프라 선택 근거
Bedrock vs SageMaker — 왜 Bedrock 우선인가
| 기준 | Amazon Bedrock · ✓ 선택 | SageMaker |
|---|---|---|
| 비용 모델 | ✓ 종량제(사용한 토큰만) | 인스턴스 상시가동 GPU |
| 출시 속도 | ✓ 시간~수일 | 엔드포인트 통상 2~6주 |
| 운영 부담 | ✓ 관리형(서버 0) | MLOps 역량 필요 |
| 이 PoC 적합 | ✓ 데이터·트래픽 적음·60일 | 상시가동분 과금(월 ~1,109달러) |
결론 — 데이터·트래픽 적고 기간 60일인 PoC에선 Bedrock 종량제·관리형 RAG가 비용·속도·운영 모두 유리. SageMaker는 한국어 LLM 자체 호스팅·커스텀 임베딩이 필요한 후속 단계에서 재검토합니다.
데이터 · 처리 흐름
코드 입력
검사 결과 코드 입력 → 매핑된 데이터 영역 활성화(메타데이터 필터)
위기 선별
질문 입력 → (최우선) 이중 위기 분류기 실행
검색·근거 확보
코드 영역 내 검색 + 신뢰 게이트(임계값) 판정
답변 또는 분기
근거 있음→답변+근거 카드 / 없음→폴백 / 위기→격상
안전 안내
위기 시 공감적 트랜스퍼 + 핫라인(전화/문자)
구축 이후의 운영과 개선
오류 수정과 정기 업데이트
접수된 오류를 재현해 수정하고, 프레임워크·라이브러리 업데이트와 보안 점검을 정해진 주기로 진행합니다.
우선순위에 따른 기능·성능 개선
업무 영향이 큰 요청부터 범위와 일정을 합의해 진행합니다.
서버·클라우드 운영
모니터링·비용 최적화·장애 대응은 클라우드 관리(MSP)로 함께 운영합니다.
이미 운영 중인 시스템이 있으시면, 구축 주체와 관계없이 인수인계가 가능한지 먼저 확인합니다.
소프트웨어 관리·개선 서비스 보기빌드업웍스의 강점
심리상담이라는 안전-임계 도메인을 정확히 이해하고, ‘안전을 어떻게 보장하는가’를 근거 기반 RAG·모델 독립 안전 계층·데이터 주권 거버넌스로 설계합니다. 발주 필수조건을 100% 충족하면서, 고객이 가장 아파한 할루시네이션·위기 통제·부적절한 어조를 한 팀이 끝까지 책임집니다.
한 팀이 끝까지 책임
AWS 인프라·보안·개발을 따로 발주하지 않으셔도 한 팀이 담당합니다. 업체 사이를 조율하시는 부담과 책임 소재를 가리는 일이 없어집니다.
보안은 기본값
출시 후 추가하는 방식이 아니라 설계 단계부터 보안을 반영해 사고·규제 리스크를 사전에 줄입니다.
검증된 클라우드 파트너
AWS Select Partner · Cloudflare Partner. 안정성과 비용 효율을 함께 고려한 인프라를 설계·운영합니다.
유사 서비스 구축 상담
인프라(AWS · Cloudflare) · 보안 · 개발을 한 팀에서. 상담은 무료입니다.
귀사 업무 적용 상담
현재 업무 방식과 필요한 기능을 알려 주시면, 유사 시스템의 구축 범위·일정을 1차로 정리해 드립니다.