마인크래프트 AI 에이전트 1,000명 실험 「Project Sid」 다시 보기

마인크래프트 AI 에이전트 실험 「Project Sid」, 2024년에 보도된 내용

Project Sid(프로젝트 시드)는 미국 AI 스타트업 Altera(알테라)가 진행한 실험입니다. 게임 「마인크래프트」 세계에 대규모 언어모델(LLM)로 움직이는 AI 에이전트를 수십 명에서 1,000명 남짓 풀어 놓고, 사람 같은 사회가 생기는지 관찰했습니다. 창업자 로버트 양 씨는 매사추세츠공과대학(MIT)에서 계산신경과학 조교수를 지낸 연구자입니다.

화제가 된 것은 2024년 11월 27일 MIT Technology Review의 기사였습니다. AI 캐릭터들이 「친구를 사귀고, 일자리를 만들고, 종교를 퍼뜨렸다」는 제목이었습니다. 일본에서는 GIGAZINE이 12월 2일에 자세히 소개했고, 저희도 12월 4일에 일본어로 글을 냈습니다.

보도에서 전해진 주요 사건은 다음 네 가지입니다.

• 같은 성격, 같은 목표로 시작한 에이전트가 농부, 광부, 경비, 탐험가 등의 역할로 나뉘었다
• 상대에 대한 호감도를 기억해, 요리사 역할의 에이전트가 자신을 아껴 주는 상대에게 음식을 더 많이 나눠 주었다
• 세금 규칙이 있는 마을에서 에이전트가 투표로 세율을 바꾸었다
• 패러디 종교 「날아다니는 스파게티 괴물교」가 마을에서 마을로 퍼졌다

MIT Technology Review 기사는 공동 창업자 앤드루 안 씨의 「LLM은 사람의 사회적 행동을 비춰 낼 만큼 잘 만들어진 모델을 갖고 있다」는 말을 소개하면서, 에이전트가 「살아 있는」 것은 아니라고도 썼습니다.

히카리짱의 정리2024년 보도는 역할 분담, 호감과 반감, 세금 투표, 종교 네 가지가 중심이었어요. 그때부터 「사람 흉내를 아주 잘 낼 뿐」이라는 시각도 함께 나왔어요.

Project Sid 논문이 실제로 확인한 것

논문 제목은 「Project Sid: Many-agent simulations toward AI civilization」입니다. 중심에 있는 것은 「PIANO」라고 이름 붙인 에이전트 구조입니다. 말하기, 계획하기, 주변 상황 기억하기, 상대를 어떻게 생각하는지 기록하기 같은 부품(모듈)을 동시에 움직이고, 이를 하나의 판단으로 모읍니다. 대화에서는 「좋아」라고 해 놓고 몸은 다른 일을 하는 어긋남을 줄이려는 장치입니다.

중요한 점은 화제가 된 사건들이 각각 다른 조건의 실험이었다는 것입니다.

논문은 스스로 한계도 적고 있습니다. 에이전트에게는 시각과 공간 이해가 부족해 이동과 공동 건축이 서툴다는 점. 살아남고 싶다, 알고 싶다 같은 내면의 동기가 없다는 점. 사람의 지식으로 학습한 모델이라 민주주의나 화폐 같은 제도를 「제로에서」 만들어 내는 부분은 재현할 수 없다는 점입니다. 연구자 스스로 결과를 「예비적인 것」이라고 부릅니다.

또 하나, 2026년 10월 26일에 GitHub 공개 저장소를 확인했더니 올라와 있는 것은 논문 PDF와 설명문, 그림뿐이었습니다. 실험을 돌리는 프로그램은 공개되어 있지 않아서, 다른 연구자가 같은 실험을 재현해 확인하는 일은 지금으로서는 할 수 없습니다.

히카리짱의 정리역할 분담도 세금 투표도 연구자가 정한 틀 안에서 짧은 시간에 일어난 일이었어요. 종교는 「만든」 것이 아니라 「퍼뜨린」 것이고, 그 측정 방법도 단어 세기였다는 점은 기억해 두면 좋아요.

Altera와 멀티 에이전트 연구, 2026년 10월까지의 연표

Altera는 그 뒤 사명을 바꾸고, 게임에서 업무용 에이전트로 무게를 옮겼습니다. 같은 무렵 다른 연구 기관과 기업도 「많은 AI 에이전트를 함께 움직이면 무슨 일이 생기는가」를 시험했습니다. 주요 사건을 나열합니다.

히카리짱의 정리Altera는 「AI 사회」 연구에서 스프레드시트를 돕는 업무용 에이전트로 나아갔어요. 다른 실험들에서도 에이전트가 쓸모 있는 한편 설득당하기 쉽다는 점이 여러 번 확인되었어요.

2024년 글 다시 보기

저희가 2024년 12월에 일본어로 쓴 글의 내용을 논문과 그 뒤의 움직임에 비추어 확인합니다.

가장 큰 놓침은 실험의 「조건」을 쓰지 않은 것입니다.

몇 명이, 몇 분 동안, 어떤 설정을 받고, 무엇을 보고 「일어났다」고 판정했는가. 그 부분을 쓰지 않고 사건만 나열한 탓에 「AI가 스스로 종교를 만들었다」로 읽히는 글이 되었습니다. 지금 다시 읽어 보면 독자에게 가장 필요했던 것은 그 조건 부분이었습니다.

히카리짱의 정리사건 소개는 대체로 맞았지만 제목은 지나쳤고, 실험 조건이 빠져 있었어요. 그 점이 저희가 가장 반성하는 부분이에요.

업무에 AI 에이전트를 쓰는 분께: 실험에서 얻는 다섯 가지

마인크래프트 마을과 회사 업무는 다릅니다. 그래도 Project Sid와 그 뒤의 실험에는 에이전트에게 일을 맡길 때 그대로 쓸 수 있는 점이 여러 가지 있습니다.

1. 역할과 목표를 글로 분명히 전한다. Project Sid에서는 같은 마을이라도 「예술 마을」 「군사 마을」처럼 목표만 바꾸자 나오는 역할이 달라졌습니다. 에이전트에게 부탁할 때도 역할, 목적, 하지 말아야 할 일을 처음에 적어 두면 움직임이 안정됩니다.
2. 목소리 큰 의견에 끌려간다고 생각해 둔다. 세금 실험에서는 영향 역할 3명이 25명의 투표를 움직였습니다. 쇼핑 실험에서는 가짜 수상 경력이나 「만족한 고객 5만 명」 같은 홍보에 영향을 받은 모델도 있었습니다. 외부 웹페이지나 메일을 읽는 에이전트에게는 결제, 발송, 삭제 전에 사람이 확인하는 절차를 남겨 둡니다.
3. 첫 번째 안에 덥석 달려들기 쉽다. Microsoft 실험에서는 어느 모델이든 처음 받은 제안을 고르기 쉬웠고, 선택지가 늘수록 결과가 나빠졌습니다. 견적이나 거래처 비교를 맡길 때는 「최소 세 곳을 비교하고, 비교한 표를 보여 줘」라고 부탁합니다.
4. 모델을 바꾸면 다시 시험한다. Emergence World 실험에서는 같은 조건이어도 모델에 따라 결과가 정반대가 되었습니다. 회사에서 쓰는 모델이 바뀌면 평소 작업을 작게 시험해 본 뒤 본 업무로 돌아갑니다.
5. 오래 돌릴수록 기록을 본다. Project Sid 논문은 한 에이전트의 착각이 대화를 통해 다른 에이전트로 퍼지는 문제를 꼽습니다. Project Vend의 점장 역할도 존재하지 않는 사람과 대화했다고 착각했습니다. 긴 작업을 맡길 때는 중간 기록과 마지막 숫자를 사람이 확인합니다.

지금 업무에서 에이전트를 시험해 본다면 ChatGPT의 긴 작업용 기능이나 Microsoft 365 Copilot에서 만드는 에이전트가 가깝습니다. 사용법과 요금은 OpenAI 「AGI 5단계」 다시 보기와 Copilot GPT 빌더 그 후(일본어) 글에 정리해 두었습니다. 요금과 이용 가능 여부는 나라마다 다르니, 한국 공식 페이지에서 확인하세요.

히카리짱의 정리역할을 분명히 적기, 돈이나 발송 전에 사람이 확인하기, 비교시키기. 이 세 가지만 지켜도 에이전트를 훨씬 안심하고 쓸 수 있어요.

「AI가 사회를 만들었다」 뉴스를 읽을 때의 다섯 가지 질문

2024년 Project Sid 뒤에 2026년 moltbook에서도 「AI가 종교를 만들었다」는 이야기가 퍼졌습니다. 그런데 moltbook의 약 150만 에이전트 뒤에는 약 1만 7,000명의 사람 주인이 있었습니다. 어디까지가 AI의 자발적인 행동이고 어디부터가 사람의 지시인지는 밖에서 구별하기 어렵습니다. 이런 뉴스를 보면 다음 다섯 가지를 확인합니다.

1. 몇 명이, 얼마 동안인가. 「1,000명」이라고 해도 분석한 것은 다른 규모일 수 있습니다.
2. 처음에 무엇을 설정했는가. 역할, 성격, 포교 역할처럼 연구자나 주인이 준 것을 나누어 읽습니다.
3. 무엇을 보고 「일어났다」고 했는가. 단어가 나온 횟수인지, 행동 기록인지. 측정 방법에 따라 인상이 크게 달라집니다.
4. 논문이나 프로그램은 공개되어 있는가. 다른 사람이 재현할 수 있는지에 따라 신뢰도가 달라집니다.
5. 누가 발표하는가. 투자 유치나 제품 홍보와 같은 시기의 발표라면 조금 거리를 두고 읽습니다.

이런 실험은 에이전트의 장단점을 일찍 보여 주는 쓸모 있는 연구입니다. 놀라운 제목을 만나면 먼저 조건을 찾아보세요.

히카리짱의 정리「몇 명이, 무엇을 설정해서, 어떻게 쟀는가」. 이 세 가지만 찾아도 AI 뉴스를 훨씬 차분하게 읽을 수 있어요.