제약·금융·공공처럼 규제가 센 조직에 AI 도입을 설계할 때, 첫 관문은 "답이 맞느냐"가 아니다. "이 답을 어디서 가져왔고, 얼마나 믿어도 되며, 6개월 뒤 감사에서 똑같이 재현되느냐"다. 이걸 증명하지 못하면 아무리 정확한 답도 결재를 통과하지 못한다.
지금까지 모델은 답만 내놨다. 출처와 확신도는 사람이 사후에 손으로 붙였다. 6월 말에 나온 발표들은 그 자리를 겨눈다. 답과 함께, 그 답을 되짚을 근거 — 만들어진 이력, 단어별 확신도, 라이선스된 출처 — 를 제품이 직접 붙여 내놓기 시작했다.
결과에는 그것이 만들어진 이력이 붙는다
Anthropic이 6월 30일 베타로 낸 Claude Science는 실험실용 워크벤치다. 새 모델이 아니다 — 기존 Claude 계열 위에서 돈다. 새로운 것은 답이 아니라 답에 붙는 이력이다. 모든 산출물은 "어떻게 만들어졌는지에 대한 감사 가능한 이력"을 달고 나와, 검증하고 재현할 수 있다. 60개가 넘는 과학 DB·스킬이 연결돼 있고, 별도의 리뷰어 에이전트가 인용과 계산을 점검해 오류를 표시·수정한다. 제약사가 어떤 결과 위에서 움직이려면 그 결과가 어디서 왔는지 되짚을 수 있어야 하기 때문이다. 값어치는 더 똑똑한 답이 아니라 되짚히는 답에서 나온다.
추출된 값마다 출처와 확신도가 딸려 나온다
Mistral이 6월 23일 낸 OCR 4는 문서에서 뽑은 텍스트에 세 가지를 함께 붙인다. 위치를 잡는 바운딩 박스, 블록 유형 분류(제목·표·수식·서명 등), 그리고 단어·페이지 단위 확신도다. 확신도가 핵심이다. 확신이 낮은 영역은 사람 검토로 보내고 높은 영역은 자동 승인하도록 프로그램으로 나눌 수 있다. 자동화는 모델이 모든 걸 맞혀서가 아니라, 모델이 어디서 확신하지 못하는지를 값으로 드러내기 때문에 가능해진다. 뽑은 값이 원본 어디에서 왔는지 짚어주는 출처 기반 인용도 같은 데서 나온다.
출처는 모델이 아니라 계약에서 오기도 한다
OpenAI와 Getty Images는 6월 22일 다년 전시(display) 계약을 맺었다. 학습(training)이 아니라 전시 계약이라는 점이 요지다. ChatGPT의 답에 4억 장이 넘는 Getty의 라이선스 이미지가 출처·링크와 함께 표시된다. 이미지 답의 출처가 모델 가중치가 아니라 라이선스 계약에서 온다. 되짚을 수 있음은 점점 모델이 저절로 갖는 성질이 아니라, 모델 위에 얹는 법적·상업적 장치가 된다.
| 발표 | 답에 딸려 나오는 것 | 그걸로 가능해지는 일 |
|---|---|---|
| Claude Science | 만들어진 감사 이력 | 결과 검증·재현 |
| Mistral OCR 4 | 단어별 확신도 | 확신 낮은 것만 사람에게 |
| Getty × OpenAI | 라이선스된 출처·링크 | 이미지 답의 출처 증명 |
세 발표는 같은 곳을 가리킨다. 도입의 승부처가 "더 나은 답"에서 "되짚을 수 있는 답"으로 옮겨간다. 규제가 셀수록 더 그렇다. 조녁컴퍼니가 AX 전환 교육에서 "답을 잘 뽑는 법"보다 "답에 출처·확신도·재현 이력을 어떻게 묶어 결재를 통과시킬 것인가"를 먼저 다루는 이유다. 사업영역 →