JP모건 LLM 스위트 그 후｜2024년 소식 다시 보기

2024년 보도는 무엇을 전했나

2024년 7월의 글은 미국 대형 은행 JP모건 체이스가 사내 전용 생성형 AI 「LLM 스위트(LLM Suite)」를 직원에게 나눠 주기 시작했다는 소식이었습니다. 바탕이 된 것은 파이낸셜 타임스 보도입니다. 이번에는 그 원문 자체는 확인하지 못했고, 같은 내용을 전한 보도를 통해 당시의 주요 내용을 정리합니다.

• 쓸 수 있는 사람: 처음 쓰게 된 곳은 자산·웰스 매니지먼트 부문으로, 약 5만 명, 전체 직원의 약 15%라고 보도되었습니다.
• 할 수 있는 일: 문서 초안 쓰기, 아이디어 내기, 긴 문서 요약. 특정 주제를 조사하는 리서치 애널리스트 같은 역할도 꼽혔습니다.
• 자체로 만든 이유: 정보 유출과, AI가 그럴듯한 오류를 답하는 문제를 걱정해 ChatGPT나 Gemini 같은 일반용 챗봇을 업무에 쓰는 것을 제한하고 있었습니다.
• 다른 AI 도구: 고객 정보를 다루는 「커넥트 코치」와 「스펙트럼 GPT」도 소개되었습니다.

2024년의 저희 글(일본어)은 이 보도를 소개하면서 월스트리트의 기대와 불안을 나란히 적었습니다. 다만 「5만 명」이라는 숫자가 언제 시점의, 어느 범위의 인원인지를 분명히 나누어 쓰지 않았습니다.

히카리짱의 정리2024년 보도는 우선 5만 명에게 나눠 주기 시작했다는 출발점 이야기였어요. 그 뒤는 공식 발표로 확인해 볼게요.

LLM 스위트의 그 후: 2024년부터 2026년

LLM 스위트는 JP모건이 새 AI 모델을 직접 만든 것이 아닙니다. 2024년 8월 CNBC 보도에 따르면 외부 대규모 언어 모델에 연결하는 입구로 짜여 있고, 처음에는 OpenAI의 모델로 시작했습니다. 그 뒤의 움직임을 시기순으로 표에 정리합니다.

인원은 늘었지만, 세는 방식이 다릅니다

2024년 7월 약 5만 명(처음 배포한 대상)에서, 2025년 상반기에는 약 20만 명이 쓸 수 있게 되었다고 은행은 설명합니다. 2025년 10월에는 쓸 수 있는 사람이 약 25만 명이고 매일 쓰는 사람은 그 절반쯤이라고 은행 임원이 말했습니다. 2026년 10월의 「20만 명」은 쓰고 있는 사람의 수입니다. 다만 숫자의 뜻은 보도마다 다릅니다. 2025년 10월 포천은 약 15만 명이 「매일」 쓴다고 썼고, 다른 보도는 2026년 2월 투자자 설명으로 「매주」 약 15만 명, 1인당 약 4시간 절약이라고 전했습니다. 2026년 10월의 「20만 명」은 「이용하고 있다」고만 적혀 있습니다. 어느 것도 같은 기준으로 센 숫자라고 단정할 수 없습니다.

쓰임새는 문서 작성에서 「업무 안」으로

2024년의 용도는 초안 쓰기, 요약, 아이디어 내기였습니다. 2026년 연차보고서에는 같은 기반 위에서 직원의 질문에 답하고 행동까지 이어 주는 AI 에이전트가 더해졌습니다. 거래 감시에서는 AI 덕분에 확인하는 양이 두 배를 넘은 반면, 사람이 손으로 하는 확인은 절반이 되었다고도 적혀 있습니다. 다만 이것은 회사가 쓴 숫자이고 제3자의 검증은 없습니다.

안전을 보는 방식과 쓰는 모델

데이터 취급에 대해 2024년 8월 은행의 데이터 책임자는, 자사 데이터는 차별화의 재산이므로 모델 학습에 쓰이는 것을 원하지 않는다고 설명했습니다. 2026년 10월에는 신원 확인과 접근 권한 관리, 환경 분리를 기본에 두고, AI 기술이 관리 체계보다 앞서 나가고 있어 때로는 도입을 되돌리기도 한다고 말했습니다. 모델에 대해서는 다이먼이 2026년 연차 서한에서, 열린 것도 닫힌 것도, 큰 것도 작은 것도 있어 하나의 도구가 지배하지 않을 것이라는 견해를 썼습니다. 특정 회사에 묶이지 않는 방침은 2024년부터 달라지지 않았습니다.

히카리짱의 정리처음 5만 명에서 2025년에는 약 20만 명이 쓸 수 있게 되었고, 쓰임새도 초안 쓰기에서 업무 안으로 나아갔어요. 세는 방식이 보도마다 다르니 숫자는 나란히 놓고 읽는 게 좋겠어요.

2024년 글 다시 보기

2024년 글에 적은 내용을 지금의 공식 발표와 보도에 비추어 봅니다. 판정에는 쓸 당시에 맞았는지도 포함했습니다.

가장 크게 고칠 점은 「몇 명이 쓰는가」만 성과처럼 쓴 것입니다. 5만 명에게 나눠 주는 것과 일이 바뀌는 것은 다른 이야기입니다. 다음 장부터 그 차이를 어떻게 볼지 생각해 봅니다.

히카리짱의 정리5만 명이라는 출발점 숫자는 당시 보도 그대로였지만, 「자체 개발」의 뜻과 다른 회사의 상황은 다시 말해야 했어요.

한국·일본·해외 은행은 무엇을 했나

같은 시기에 한국과 일본의 대형 은행도 사내용 생성형 AI를 넓혔습니다. 각 사의 발표와 보도에서 확인한 범위를 표로 정리합니다. 일본 은행은 「일본에서는」으로 표시했습니다.

형태는 크게 셋으로 나뉩니다. JP모건이나 골드만처럼 여러 모델을 자사의 입구로 잇는 형, 미쓰비시UFJ은행처럼 기성 기업용 제품을 전 직원에게 넓히는 형, 미쓰이스미토모처럼 자사 챗을 키워 가는 형입니다. 어느 쪽이 옳다기보다 회사 규모와 데이터를 자사에서 어디까지 관리하고 싶은가에 따라 고르는 법이 달라진다고 저희는 읽습니다.

한국에서는 규제 환경이 달랐습니다

한국 금융권은 외부 인터넷 연결을 제한하는 망분리 규제 때문에 클라우드 기반 생성형 AI를 도입하기 어려웠습니다. 금융위원회는 2024년 8월 13일 「금융분야 망분리 개선 로드맵」을 발표해, 샌드박스(규제 특례)로 생성형 AI 활용을 허용하고 금융감독원·금융보안원이 신청 회사별로 보안 점검을 하겠다고 밝혔습니다(출처 19). 한국 은행의 사내 AI는 이런 조건 속에서 단계적으로 넓어진 것으로 보입니다.

히카리짱의 정리한국과 일본의 은행도 자체로 키우는 형과 기성 제품을 넓히는 형으로 나뉘어요. 고르는 법은 회사 규모와 데이터 관리 방침에 달려 있어요.

사내 AI 어시스턴트를 들일 때 배울 점

JP모건은 직원이 수십만 명인 회사입니다. 그대로 따라 할 수는 없지만, 생각하는 방식은 한국 회사에도 쓸 수 있습니다. 여섯 가지로 정리합니다.

1. 개인 계정이 아니라 회사 환경에서 쓴다. JP모건은 데이터를 밖으로 내보내지 않기 위해 외부 ChatGPT를 먼저 제한하고, 그다음 사내 환경을 갖추었습니다. OpenAI는 ChatGPT Business와 Enterprise의 업무 데이터를 초기 설정에서는 모델 학습에 쓰지 않는다고 설명합니다.
2. 모델을 하나로 정하지 않는다. 은행은 쓰는 모델을 용도에 따라 바꾸며 특정 회사에 묶이지 않는 방침을 2024년부터 말해 왔습니다. 회사도 몇 달마다 다시 볼 수 있는 계약으로 해 두면 안심입니다.
3. 쓰는 법을 가르친다. 데이터 책임자는 업무별로 지시를 내리는 법(프롬프트) 교육이 필요하다고 말합니다. 나눠 주기만 해서는 쓰이지 않습니다.
4. 처음에는 실패해도 곤란하지 않은 일부터. 2024년의 용도는 이메일·보고서 초안, 요약, 엑셀 질문이었습니다. 고객에게 직접 돌려주는 일은 오류 위험이 커서 은행도 신중하다고 보도되었습니다.
5. 효과는 자사에서 잰다. 은행은 2025년 10월 비용과 효과를 모두 약 20억 달러라고 설명했지만 계산의 내용은 공개되지 않았습니다. 큰 회사의 숫자가 아니라, 자사의 2~3명이 2~4주 시험해 시간이 얼마나 줄었는지를 잽니다.
6. 개인정보와 사람의 확인 규칙을 먼저. 한국에서는 개인정보보호위원회가 2025년 8월 6일 「생성형 인공지능(AI) 개발·활용을 위한 개인정보 처리 안내서」를 공개했습니다. 외부 서비스형 LLM을 쓰는 경우 등 활용 유형별 기준이 담겨 있다고 보도되었습니다(출처 20, 보도로 확인했으며 원문은 확인하지 못했습니다). AI의 답변은 반드시 담당자가 마지막에 봅니다.

작은 회사가 시험할 수 있는 기업용 요금제

큰 은행처럼 직접 짜지 않아도 기업용 요금제로 시작할 수 있습니다. 요금은 공식 한국어 페이지에서 2026년 10월 26일에 확인한 표기입니다. 통화와 조건이 제각각이니 계약 전에 공식 페이지에서 다시 확인하세요.

이미 쓰는 업무 소프트웨어에 맞춰 고르는 생각은 생성형 AI 비교와 도입 사례 다시 보기에 썼습니다. Microsoft라면 Copilot 사용법, ChatGPT라면 ChatGPT Plus와 무료판의 차이도 참고가 됩니다.

히카리짱의 정리나눠 주기 전에 회사 환경, 가르치는 법, 개인정보 규칙, 사람의 확인 네 가지를 정해 두면 작게 시작해도 헤매지 않아요.

오늘부터 시작하는 순서와 숫자 읽는 법

LLM 스위트는 JP모건의 사내 전용 도구입니다. 이번 확인에서는 외부 회사가 계약해 쓸 수 있는 제품으로서의 안내는 찾지 못했습니다. 같은 생각을 자사에서 시험한다면 다음 순서를 권합니다.

1. 지금 직원들이 어떤 AI를 쓰는지 묻는다. 개인 계정에 업무 문서를 넣고 있지는 않은지, 나무라지 않고 확인합니다.
2. 넣어서는 안 되는 정보를 적어 둔다. 고객 이름, 계약서, 채용 정보 등을 사내 규칙으로 먼저 적습니다.
3. 2~3명이 2~4주, 한 가지 업무에 한정해 시험한다. 회의록 요약, 이메일 초안처럼 결과를 사람이 확인하기 쉬운 일부터 시작합니다.

앞으로 JP모건의 발표를 읽을 때는 다음 세 가지를 보면 헷갈리지 않습니다.

• 인원의 속뜻: 「쓸 수 있는 사람」 「주 1회 이상 쓰는 사람」 「매일 쓰는 사람」 중 어느 것인가.
• 효과를 재는 방법: 절약한 시간을 비용 절감이나 인원 감축과 같게 다루는가. 2026년 2월 설명에서는 그 시간을 가치 계산에 넣지 않았다고 보도되었습니다(출처 15, 보도).
• 에이전트를 다루는 방식: 2026년에는 직원을 대신해 절차를 진행하는 AI 에이전트에게 어디까지 맡길지가 쟁점입니다. 은행 임원은 자율의 정도와 관리 체계를 함께 강화한다고 말합니다.

큰 회사의 인원과 금액은 자사의 기준이 되지 못합니다. 자사에서 작게 잰 숫자가 가장 쓸모 있습니다.

마지막으로 권리의 문제입니다. 사내 AI로 만든 글이나 자료를 밖으로 낼 때는 다른 사람의 글이나 작품과 닮지 않았는지 사람이 확인합니다. 거래처 자료를 넣는 경우에는 계약상 비밀 유지 범위도 확인하세요. 한국에서는 2026년 1월 22일 인공지능기본법이 시행되었고, 생성형 AI 서비스를 제공하는 사업자에게 결과물 표시 의무가 있다고 보도되었습니다(출처 22). 사내에서만 쓰는 경우에 어떻게 적용되는지는 이번에 확인하지 못했으니, 필요하면 전문가에게 확인하세요.

히카리짱의 정리먼저 회사의 정보 취급을 정하고, 소수 인원이 한 가지 일부터 시험해 보세요. 큰 회사의 숫자보다 자사에서 잰 숫자가 더 믿을 만해요.