◎ CASE / 063◎ CUSTOM LLM◎ JP◎ 2025◎ SHIPPED
日本 税理士法人POWERED BY CREWLESS
세무·규정 자체 LLM (온프레)
On-prem Compliance LLM for Finance
내규·세제·판례 문서를 온프레 자체 LLM으로. PII 마스킹·감사 로그·권한 분리로 규제 요건까지 충족.
ROLE
온프레 LLM 구축 · 규제 대응 설계
PERIOD
구축 6주 + 운영 계약
MARKET
JP
HEADLINE
4h→30min · 조사·문서 작성
(01) Challenge · 풀고자 한 문제
“시작점”
세제·판례·내규가 방대하고 개정도 잦아, 조사와 문서 작성에 한 건당 반나절이 걸렸습니다. 고객 정보와 민감 데이터를 다루는 특성상 외부 AI 서비스는 규제·기밀 문제로 사용이 불가능했습니다.
(02) Solution · 어떻게 풀었나
“접근”
온프레미스 자체 LLM에 내규·세제·판례를 RAG로 연결하고, PII 마스킹·감사 로그·권한 분리(RBAC)를 기본으로 설계했습니다. 누가 무엇을 조회했는지 전부 기록되며, 답변에는 근거 조문·판례를 함께 제시합니다.
(04) Outcomes · 만든 결과
숫자로 증명.
4h→30min
조사·문서 작성
근거 조문·판례를 함께 제시해 초안까지
Audit
감사 로그
전 조회 이력 기록으로 감사 대응
RBAC
권한 분리
역할별 접근 범위 제한
0
외부 반출
PII 마스킹 + 온프레로 데이터 통제
(05) Stack · 사용한 기술
검증된 도구만.
01 · LLM/Model
- ▸Private LLM
- ▸로컬 임베딩
02 · Data/RAG
- ▸RAG
- ▸내규·판례 색인
- ▸PII Masking
03 · Infra/Security
- ▸On-prem
- ▸Audit Log
- ▸RBAC
▸ Related · CUSTOM LLMALL PROJECTS →
START / FREE CONSULT · NDA OK