Intro. 우리가 만드는 AI
안녕하세요. 저희 Lab은 믿:음이나 오픈 모델을 기반으로, 다양한 산업과 업무에 특화된 AI 모델을 개발하고 있습니다. 이를 위해 범용 LLM이 가진 언어 이해와 추론 능력은 최대한 유지하면서, 각 산업에서 요구되는 전문 지식과 업무 특성을 효과적으로 반영하는 방법을 고민하고 있습니다.
여러 도메인 특화 모델을 개발하며 느낀 점은, 특정 분야의 지식을 단순히 더 많이 학습시키는 것만으로는 충분하지 않으며 데이터의 품질과 학습·평가 방식에 따라 실제 활용 가능성이 크게 달라진다는 점이었습니다. 특히 법률 분야는 답변의 정확성과 근거가 중요할 뿐 아니라, 존재하지 않는 법령이나 사실을 만들어내는 환각(Hallucination) 역시 민감하게 다뤄야 하는 영역입니다. 그래서 이번에는 단순히 법률 문제를 잘 푸는 모델을 넘어, 실제 업무에서 신뢰하고 활용할 수 있는 한국어 Legal LLM을 만드는 것을 목표로 개발을 진행했습니다.
이 글에서는 한국어 Legal LLM을 개발하며 데이터, 평가, 학습 전략을 최적화해 나간 과정과 주요 인사이트를 공유합니다.
1. 법률 AI는 왜 특별해야 할까?
범용 LLM의 성능이 빠르게 높아지고 있지만, 법률처럼 전문성이 높은 영역에서는 단순히 관련 지식을 많이 알고 있거나 그럴듯한 답변을 생성하는 것만으로는 충분하지 않았습니다. 법률 업무에서는 답변의 결론만큼 그 판단이 어떤 법령과 근거에 기반하고 있는지가 중요합니다. 결론이 맞더라도 잘못된 법령을 인용하거나 존재하지 않는 판례와 근거를 만들어낸다면 실제 업무에서는 신뢰하기 어렵습니다. 최근 노동위원회 답변서나 수사기관 결정문 등에 AI가 생성한 가짜 판례 번호와 법리가 그대로 인용되어 사회적 논란이 되었던 사례들처럼, 법률 영역에서의 환각은 단순한 오답을 넘어 사법적 판단을 왜곡하는 치명적인 리스크로 이어집니다. 반대로 환각을 줄이는 데만 집중해 충분한 근거가 있는 질문에도 판단을 회피한다면 법률 특화 모델로서의 활용도 역시 떨어집니다.
저희가 중요하게 본 것은 법률 지식의 양이나 문제풀이 성능만이 아니라, 관련 근거를 정확히 활용해 필요한 답변을 제공하면서도 특화 과정에서 기존 모델의 언어 이해와 추론, 지시 이행 능력을 유지하는 것이었습니다. 이러한 요소들을 함께 확인하기 위해 본격적인 데이터 구축과 학습에 앞서 모델을 어떤 관점에서 평가할 것인지부터 정리했습니다.
2. 좋은 법률 AI는 어떻게 평가할까?
도메인 특화 모델을 개발할 때는 법률 벤치마크 점수만 높아지면 된다고 생각하기 쉽습니다. 하지만 실제 활용 가능성을 판단하려면 법률 전문성뿐 아니라 기존 범용 능력이 유지되는지, 특화 과정에서 신뢰성이나 안전성이 훼손되지는 않는지도 함께 확인해야 합니다. 저희는 이를 하나의 종합 점수로 묶기보다 법률 전문성, 범용 능력, 신뢰성·안전성의 세 관점에서 모델의 변화를 살펴봤습니다.
| 평가 축 |
확인하고자 한 것 |
주요 평가 영역 |
|---|---|---|
| 법률 전문성 |
법률 전문성이 실제로 향상되었는가 |
전문자격시험, 변호사시험, 법률 기본 지식 등 |
| 범용 능력 |
기존 범용 능력이 유지되고 있는가 |
일반 지식 및 추론, 한국어 언어 이해, 장문 맥락 처리, 지시 이행 능력 등 |
| 신뢰성·안전성 | 근거·안전성 관점에서 유의미한 성능 저하(Degradation)가 없는가 |
사회적 편향, 유해 콘텐츠 대응, 안전성 및 신뢰성 등 |
법률 전문성(Legal Capability) — 법률 전문성을 여러 각도에서 보다
법률 전문성은 하나의 점수만으로 설명하기 어렵습니다. 법령과 법률 개념을 알고 있는 것, 주어진 사실관계에 법리를 적용하는 것, 여러 근거를 연결해 결론을 도출하는 것, 전문자격시험 수준의 문제를 해결하는 것은 서로 다른 능력을 요구합니다.
그래서 저희는 특정 시험이나 하나의 벤치마크 점수만으로 법률 성능을 판단하지 않았습니다. 법률 기본 지식부터 법적 추론, 근거 활용, 전문자격시험 수준의 문제 해결까지 서로 다른 유형의 평가를 함께 확인하면서, 특화 학습이 법률 전문성 전반에 어떤 변화를 만드는지 살펴봤습니다.
범용 능력(General Capability) — 도메인 학습 이후에도 범용 능력이 유지되는가
도메인 데이터를 집중적으로 학습하는 과정에서는 특정 분야의 성능이 높아지는 대신, 기존 모델이 가지고 있던 범용 능력이 저하되는 현상(Catastrophic Forgetting)이 나타날 수 있습니다. 실제 서비스에서는 법률 지식뿐 아니라 일반적인 지식과 추론 능력, 자연스러운 한국어 이해, 긴 문맥을 처리하는 능력, 사용자의 지시를 정확히 따르는 능력도 함께 필요합니다.
따라서 법률 성능의 향상만 보는 것이 아니라 일반 지식과 추론, 언어 이해, 장문 문맥 처리, 지시 이행(Instruction Following) 등의 능력이 특화 학습 이후에도 유지되는지 함께 확인했습니다. 법률 문제를 잘 푸는 것만큼, 기존 모델이 잘하던 능력을 특화 과정에서 잃지 않는 것도 중요하게 봤습니다.
신뢰성·안전성 — 단순 정답률(Accuracy) 지표의 한계
높은 정답률이 곧바로 실제 서비스에서 신뢰할 수 있는 모델을 의미하지는 않습니다. 특히 법률처럼 민감한 영역에서는 답변의 정확성뿐 아니라 특정 집단에 대한 편향된 전제를 사용하지 않는지, 위험하거나 유해한 요청에 적절히 대응하는지와 같은 요소도 함께 살펴 볼 필요가 있습니다.
저희는 사회적 편향, 유해 콘텐츠 대응, 안전성 및 신뢰성 관점의 평가를 함께 진행해, 법률 전문성을 높이는 과정에서 이러한 능력이 크게 훼손되지는 않는지를 확인했습니다. 이를 통해 특화 성능의 향상뿐 아니라 실제 서비스 적용을 고려했을 때 필요한 기본적인 안전성도 함께 점검했습니다.
왜 Legal 성능만 보지 않았는가
"법률 시험만 잘 보는 바보"를 만들지 않기 위해서입니다.
법률 벤치마크 점수는 올랐는데 사용자의 대화 맥락을 놓치거나, 요구한 출력 포맷을 어기거나, 편향된 전제를 깔고 답하는 모델은 실제 서비스에 투입할 수 없습니다. 한 축만 올라가고 다른 축이 떨어지면 그건 개선이 아니라 트레이드오프일 뿐입니다. 세 축을 함께 보기 시작하면서 비로소 "이 체크포인트가 이전보다 나아졌다"고 말할 근거가 생겼습니다.
이렇게 평가 관점을 정리한 뒤에는, 이를 실제 모델에 반영하기 위한 학습 데이터를 설계했습니다.
3. 신뢰성을 높이기 위한 데이터 설계
어떤 능력을 만들어야 하는지 정의한 뒤에는, 이를 실제 학습 과정에 반영하기 위한 데이터를 설계했습니다. 법률 도메인에서는 오래된 법령이나 잘못된 해석, 출처가 불분명한 정보가 학습 데이터에 포함될 경우 모델 역시 그 오류를 재현할 수 있습니다. 따라서 데이터의 규모를 늘리는 것보다 신뢰할 수 있는 지식과 법률 판단 과정을 어떻게 구성하고 검증할 것인지를 우선했습니다.
이를 위해 데이터 구축을 크게 법률 전문가 협업, 공개 법률 데이터 정제, 근거(Ground) 기반 합성 데이터, Reasoning 데이터 설계의 네 가지 축으로 나누어 진행했습니다.
그림 1. Legal LLM 학습 데이터를 구성한 네 가지 축
법률 전문가 협업 — 데이터 설계부터 법적 타당성 검증까지
법률 데이터의 전문성과 신뢰성을 높이기 위해 법학전문대학원 교수진과 산학 공동과제를 진행하면서 단순한 답변 정오 검수를 넘어 질문 설계부터 결론의 법적 근거와 사실관계 적용 과정까지 함께 검토했습니다. 특히 복수의 견해가 존재하거나 최근 판례 변화가 있는 영역은 자동화된 품질 검증만으로 판단하기 어려운 만큼, 전문가 검수를 거친 근거와 판단 구조를 학습 데이터에 반영했습니다.
공개 법률 데이터 정제 — 수집보다 중요한 것은 무엇을 남길 것인가
국가법령정보센터의 법령과 판례를 비롯한 다양한 공개 법률 데이터를 활용했습니다. 하지만 공개된 데이터라고 해서 그대로 학습에 사용할 수 있는 것은 아니었습니다. 법령의 개정·폐지 여부와 같은 최신성을 확인하고, 수집 과정에서 발생한 오류와 중복을 제거했으며, 조·항·호 등 법률 문서 특유의 구조도 학습에 적합한 형태로 정리했습니다.
대량 데이터의 품질을 확인하기 위해 임베딩 유사도와 법률 키워드 점수를 함께 활용한 2단계 필터링을 적용했습니다. 먼저 임베딩 유사도를 이용해 법률 문서와 의미적으로 관련성이 낮은 데이터를 제거하고, 이후 법률 키워드 점수로 다시 검증했습니다. 이 과정에서 최종적으로 약 22.5만 건의 문서와 약 4.7억 토큰을 학습 대상에서 제외했습니다. 이렇게 신호 하나에만 의존하지 않고 교차 검증하는 방식은, 다음에 다룰 근거 기반 합성 데이터의 검증 단계에서도 동일하게 적용됩니다.
근거(Grounding) 기반 합성 데이터 — 생성보다 검증을 먼저 설계하다
공개 데이터만으로는 실제 업무에서 발생할 수 있는 다양한 질의 유형과 복합적인 법률 쟁점을 충분히 구성하기 어려웠기 때문에 합성 데이터도 함께 활용했습니다. 다만 법률 데이터를 LLM에게 자유롭게 생성하도록 하면 존재하지 않는 법령이나 판례가 학습 데이터 자체에 포함될 수 있습니다.
먼저 실제 법령과 판례를 검색해 근거 정보를 구성하고, 이를 기반으로 질문과 답변을 생성한 뒤 다시 원본 정보와 비교·검증했습니다. 실제 법률 정보 확보 → 근거 생성 → 사실 검증 → 품질 검증 순서로 데이터를 구성했습니다. 이를 통해 실무 시나리오와 복합 쟁점을 확장하면서도, 합성 과정에서 발생할 수 있는 환각의 유입은 최소화하고자 했습니다.
추론(Reasoning) 데이터 설계 — 법률 판단의 구조를 학습 데이터에 담다
법률 문제에서는 관련 조문을 알고 있는 것만으로 충분하지 않습니다. 질문에서 핵심 쟁점을 파악하고, 관련 법령이나 판례를 확인한 뒤, 이를 구체적인 사실관계에 적용해 결론을 내려야 합니다. 그래서 추론 데이터는 자유 형식의 긴 추론을 생성하기보다 법률 판단에서 반복적으로 나타나는 쟁점(Issue) → 법적 근거(Ground) →사실관계 적용(Application) → 결론(Conclusion) 구조를 데이터에 반영했습니다.
이를 통해 단순히 법률 지식을 기억하는 것뿐 아니라, 근거를 선택하고 사실관계에 적용하는 법률적 판단 과정까지 학습할 수 있도록 했습니다. 이렇게 구축한 데이터는 이후 법률 도메인 적응 학습(Domain- Adaptation)의 기반이 되었습니다. 하지만 데이터 품질을 높이는 것만으로 최종 모델의 성능이 자연스럽게 따라오는 것은 아니었고, 같은 데이터라도 어떤 방식으로 학습시키느냐에 따라 성능과 안정성은 크게 달라졌습니다.
4. 신뢰성을 높이기 위한 Legal LLM 학습 전략
Gemma 4는 일반적인 Dense 구조가 아니라 MoE(Mixture of Experts) 구조를 사용합니다. 따라서 어떤 파라미터를 학습할 것인지가 Dense 모델보다 훨씬 중요한 설계 요소였습니다. 학습 전략은 법률 성능뿐 아니라 범용 능력과 생성 안정성의 변화를 함께 비교하며 단계적으로 구성했습니다. 여러 번의 실험을 거치면서 ‘법률 지식을 많이 넣는 것’과 ‘좋은 법률 모델을 만드는 것’이 다른 문제라는 점을 확인했고, 최종적으로는 그림 2.와 같은 학습 파이프라인을 구성했습니다.
그림 2. 법률 도메인 학습 파이프라인
최종 파이프라인
Phase 01. 도메인 적응 및 역량 강화 (Domain & Capability Adaptation)
Gemma 4 26B-A4B Base 모델을 시작으로, 먼저 외부 도구 사용과 복합 태스크 수행에 필요한 역량을 보강하기 위한 에이전틱 사전학습(Agentic Pretraining)을 수행했습니다. 이후 법령, 판례, 지식재산권 자료 등을 포함한 대량의 법률 코퍼스를 이용해 도메인 적응 사전학습(Domain-Adaptive Pretraining, DAPT)을 진행했습니다. 이 단계에서는 32K 컨텍스트 길이로 학습을 수행해 모델을 법률 도메인의 데이터 분포와 문맥에 적응시켰습니다.
Phase 02. 미세조정 및 정렬 (Post-Training & Alignment)
도메인 적응 사전학습 이후에는 일부 약화된 대화 및 지시 이행 능력을 보완하기 위해 지시 이행 역량 전이 (Instruction Transfer)를 적용했습니다. 기반 사전학습 모델(Base Pretrained Model)과 지시 튜닝 모델(Instruction-Tuned Model) 간의 가중치 차이를 활용해 지시 이행 태스크 벡터(instruction task vector)를 구성하고, 이를 법률 도메인이 학습된 모델에 적용하는 방식입니다.
이후 법률 지도학습 (Legal SFT)를 수행하였으며, 학습 데이터로는 법률 QA, 상담 사례, 판례 요약, 문서 생성 등 다양한 유형을 포함해, 사전학습 단계에서 적응한 법률 정보를 실제 질의응답과 문제 해결 형식으로 연결했습니다.
법률 지도학습 이후에는 일부 질의에서 필요한 수준 이상으로 답안을 재검토하거나 추론 길이가 증가하는 경향을 완화하기 위해 선호도 정렬(Direct Preference Optimization, DPO)을 적용했습니다. 보다 간결하고 일관된 응답을 선호하도록 데이터를 구성해, 후속 학습 단계에서 추론 안정성을 확보하고자 했습니다.
Phase 03. 능력 균형 조정 (Capability Balancing)
도메인 특화가 진행될수록 법률 성능은 향상됐지만, 일부 범용 지식과 추론 평가에서는 성능 저하가 함께 관찰됐습니다. 마지막 단계에서는 법률 특화 모델과 기존 지시 튜닝 모델의 가중치를 서로 다른 비율로 선형 결합하는 가중치 보간을 적용했습니다. 다양한 결합 비율(interpolation coefficient)을 비교해 법률 전문성을 유지하면서 범용 능력을 안정적으로 회복하는 지점을 탐색했고, 이를 최종 모델의 구성으로 선택했습니다.
이 가운데 법률 지도학습에서는 Gemma 4의 MoE 구조를 고려해 모든 파라미터를 동일하게 업데이트하기보다, 어떤 모듈을 학습 대상으로 둘 것인지를 별도로 검토했습니다.
MoE 구조에 따른 학습 범위 설계
저희가 사용한 Gemma 4 26B-A4B는 약 25.2B개의 전체 파라미터 중 추론 시 약 3.8B개의 파라미터가 활성화되는 MoE 모델입니다. MoE 레이어에서는 각 토큰마다 128개의 Routed Expert 중 8개를 선택해 사용하며, 이와 별도로 하나의 Shared Expert가 모든 토큰에서 항상 활성화됩니다.
그림 3. Gemma 4 26B-A4B 구조
저희는 모델의 구조를 크게 Attention, Router, Routed Expert, Shared Expert의 네 영역으로 구분해 살펴봤습니다.
| Module | 구조적 역할 |
업데이트 범위 |
|---|---|---|
| Attention | 모든 토큰에서 실행되며 토큰 간 정보를 결합하는 Dense 경로 |
Attention projection과 토큰 간 정보 결합 방식 |
| Router | 입력 표현으로부터 Expert score를 계산하고 Top-k Routed Expert를 선택 |
Expert selection function의 파라미터 |
| Routed Expert |
Router가 선택한 토큰에만 적용되는 Sparse FFN |
선택된 Expert의 token-wise nonlinear transformation |
| Shared Expert |
Router의 Top-k 선택과 관계없이 모든 토큰에서 활성화되는 FFN 경로 |
모든 토큰이 통과하는 always-active FFN transformation |
이러한 구조적 차이를 바탕으로, 이후 실험에서는 전체 모델을 하나의 학습 대상으로 보기보다 모듈별 업데이트 범위를 달리해 법률 성능과 생성 안정성의 변화를 비교했습니다. 이 과정에서 LoRA를 활용해 업데이트 범위를 선택적으로 적용했습니다. 전체 파라미터를 업데이트하는 Full-Parameter Fine-Tuning 설정도 초기 비교에는 포함했지만, 더 많은 파라미터를 학습한다고 해서 법률 성능과 생성 안정성이 함께 개선되지는 않았습니다. 이에 이후 비교에서는 Router를 고정한 상태에서, LoRA를 적용할 대상 모듈을 달리해 Routed Expert와 Attention 업데이트의 영향을 분리해서 살펴봤습니다.
모듈 별 학습 범위 비교
|
|
그림 4.의 결과와 같이, Attention만 학습한 구성에서 과도한 추론·재검토 경향이 가장 낮고 전문자격시험 성능이 가장 높았습니다. 이에 이후 실험에서는 Router와 Routed Expert를 모두 고정하고 Attention을 중심으로 학습하는 방향으로 학습 범위를 좁혔습니다. Attention만 학습했을 때 추론 안정성은 개선됐지만, 모든 법률 벤치마크에서 충분한 향상이 나타난 것은 아니었습니다. 특히 변호사 시험 기반 벤치마크 성능은 Base IT보다 낮았습니다. 그래서 Router와 Routed Expert가 형성한 전문화(specialization)된 역할은 유지하면서 학습 범위를 확장할 수 있는 대상으로 Shared Expert를 검토했습니다.
Shared Expert는 모든 토큰에 공통으로 활성화되기 때문에, Router와 Routed Expert를 그대로 유지하면서 추가적인 학습 능력을 확보할 수 있을 것이라고 가정했습니다. 이에 Router와 Routed Expert는 고정한 채 Attention에 Shared Expert를 추가했습니다. 그림 5.의 결과와 같이 세 가지 법률 벤치마크 모두에서 성능이 개선됐고, 최종적으로는 Attention과 Shared Expert만 LoRA로 학습하고 Router와 Routed Expert는 유지하는 전략을 선택했습니다.
5. 최종 Legal LLM 성능 평가
앞서 학습 전략을 설계할 때의 목표는 법률 성능만 높이는 것이 아니었습니다. 법률 전문성을 강화하면서도 기반 모델이 갖고 있던 범용 지식과 추론, 장문 이해, 지시 이행 능력을 가능한 한 유지하고, 특화 과정에서 안전성이 크게 훼손되지 않는지를 함께 확인하고자 했습니다.
이에 최종 모델을 앞서 정의한 평가 관점을 기준으로 다시 확인하였습니다. 먼저 법률 전문성의 향상 여부를 확인하고, 이어서 범용 능력과 안전성이 유지됐는지를 평가했습니다. 마지막으로 동일한 평가 조건에서 외부 범용 모델과 비교해 한국어 법률 모델로서의 경쟁력을 확인했습니다.
법률 전문성 평가
그림 6. 최종 모델 법률 성능 비교
법률 전문성은 단순한 법률 지식뿐 아니라 실무 응용, 전문자격시험 기반 추론, 판례 활용, Multi-hop 법령 추론 등 서로 다른 유형의 평가를 함께 확인했습니다. 최종 모델은 비교한 법률 평가 전반에서 Base IT Model보다 높은 성능을 보였습니다. 특히 법률 기본 지식, 국가전문자격시험 기반 추론, 판례가 별도로 제공되지 않은 상태에서 수행하는 법률 지식·추론에서 상대적으로 큰 개선이 나타났습니다.
반면 판례가 직접 제공되는 근거 추론 과제에서는 기반 모델의 성능이 이미 높은 수준이었기 때문에 개선 폭이 상대적으로 제한적이었습니다. 즉, 이번 특화 학습의 효과는 모든 유형의 법률 과제에서 동일하게 나타났다기보다, 모델 자체의 법률 지식과 추론 능력이 직접적으로 요구되는 과제에서 보다 뚜렷하게 나타났습니다.
범용 능력 평가
그림 7. 최종 모델 범용 능력 성능 비교
도메인 특화에서는 전문 성능의 향상만큼 기존 범용 능력의 변화도 중요하게 봤습니다. 이에따라 한국어 지식·이해, 영어권 지식·이해, 장문 문맥 이해, 다국어 지시이행의 네 관점에서 기반 모델과 비교했습니다. 최종 모델은 네 개의 평가 모두에서 Base IT Model 수준을 유지하거나 소폭 상회했습니다. 특히 법률 특화 과정에서 일부 하락했던 범용 지식·추론 성능이 결합하는 가중치 보간(Weight Interpolation)이후 다시 Base IT Model 수준으로 회복되면서, 법률 전문성과 범용 능력 간의 균형을 확보할 수 있었습니다.
신뢰성·안전성 평가
그림 8. 최종 모델 신뢰성·안정성 성능 비교
법률 모델은 전문성뿐 아니라 실제 사용 과정에서의 안전성도 중요합니다. 최종 모델에서는 유해 콘텐츠 방어, 사회적 편향, Red-Teaming 공격 성공률을 기준으로 특화 과정에서 안전성이 크게 훼손되지 않았는지를 확인했습니다. 유해 콘텐츠 방어 성능은 향상됐고, 적대적 유도 질의에 대한 Red-Teaming ASR은 낮아졌습니다. 반면 사회적 편향 관련 평가는 소폭 하락했습니다. 따라서 안전성 평가를 모든 지표가 일관되게 개선됐다고 해석하기보다는, 법률 특화 이후에도 전반적인 안전성을 유지하면서 일부 항목에서 개선된 결과로 해석했습니다.
최신 범용 모델과 비교
그림 9. 최신 범용 모델과의 성능 비교
최종적으로 동일한 평가 조건에서 외부 범용 모델과도 일부 평가 결과를 비교했습니다. 비교한 평가에서는 최종 모델이 법률 기본 지식과 국가전문자격시험 기반 추론에서 경쟁력 있는 성능을 보였고, 일부 범용 지식·추론 평가에서도 높은 결과를 확인했습니다. 다만 판례가 긴 문맥으로 제공되는 추론이나 장문의 판결문 구조화·요약에서는 여전히 개선 여지가 남아 있습니다.
6. 마무리
이번 프로젝트에서 가장 크게 느낀 점은, 법률 모델의 신뢰성이 학습 기법만으로 만들어지는 것은 아니라는 점이었습니다. 어떤 데이터를 학습시키는지, 그 데이터의 법적 근거가 충분히 검증되었는지, 그리고 모델의 변화를 어떤 관점에서 평가하는지가 함께 중요했습니다. 그래서 전문가 협업과 데이터 검증, 법률 전문성·범용 능력·신뢰성 평가를 학습 과정과 함께 설계했습니다.
또 하나는 도메인 특화에서 무엇을 더 학습할 것인지뿐 아니라 무엇을 보존할 것인지도 중요하다는 점입니다. Full Fine-Tuning 이후의 실험을 통해 모델 전체를 업데이트하는 것이 항상 최선은 아니라는 점을 확인했고, 이번 실험에서는 기존 MoE의 Router와 Expert의 전문화된 역할을 최대한 유지하면서 필요한 영역만 선택적으로 학습하는 방향이 더 안정적이었습니다.
이번 프로젝트를 통해 도메인 특화 방식도 기반 모델의 성능에 따라 달라져야 한다는 점을 확인했습니다. 기존에는 부족한 전문지식을 추가하는 것만으로도 성능 향상을 얻을 수 있는 경우가 많았지만, 이미 높은 수준의 지식과 추론 능력을 가진 모델에서는 무엇을 더 학습할 것인지보다 기존 능력을 어떻게 보존하면서 전문성을 더할 것인지가 더 중요한 문제가 되었습니다.
이러한 고민은 법률뿐 아니라 정확성과 근거, 범용 능력을 함께 요구하는 다른 전문 분야에서도 반복될 것이라고 생각합니다. 저희 팀은 앞으로도 기반 모델의 강점을 살리면서 각 산업에서 실제로 활용할 수 있는 전문성을 더하는 방법을 계속 고민해 나가겠습니다.
| 법률 데이터 구축과 검증, 성능 평가 과정에 소중한 의견을 주신 법률 전문가분들과 아티클 검토에 도움을 주신 구성원분들께 감사드립니다. 🙏 |
|---|