기사 원문 -
https://www.tomshardware.com/tech-industry/artificial-intelligence/famed-gamer-creates-working-5-million-parameter-chatgpt-ai-model-in-minecraft-made-with-438-million-blocks-ai-trained-to-hold-conversations-working-model-runs-inference-in-the-game 개발자이자 마인크래프트 애호가인 한 마인크래프트어(Minecrafter)가 GitHub 에 CraftGPT라는 프로젝트를 공개했습니다 . 마인크래프트 레드스톤 엔지니어링의 놀라운 업적 중 하나는, 게임 내에 1Hz CPU를 구축한 것으로 유명한 Sammyuri가 Minecraft 내부 컴퓨터에서 실행되는 작은 언어 모델을 구축 하고 TinyChat 데이터셋을 학습시켰다는 것입니다. CraftGPT 프로젝트는 게임 내 1,020 x 260 x 1,656개의 블록(총 4억 3,900만 개)으로 구성되었으며, 광고된 대로 작동하지만, 주요 사용성 단점은 "응답이 생성될 때까지 몇 시간을 기다려야 한다"는 것입니다.
https://youtu.be/VaeI9YgE1o8
위 영상은 CraftGPT를 실행하기 위해 제작된 거대한 게임 내 컴퓨터를 보여줍니다. Sammyuri는 컴퓨터 조립 과정을 '스피드 스쳐 지나가는' 영상을 촬영하기 위해 게임의 Distant Horizons 모드가 필요했다고 설명합니다.
당연히 이처럼 인상적인 Redstone 프로젝트라 하더라도 CraftGPT가 PC에 LLM을 설치하고 실행하는 기존 방식을 대체할 수는 없습니다. Sammyuri는 사용자/테스터에게 기대치를 낮춰 달라고 요청합니다. 프로젝트 개발자는 "이 모델은 주제에서 벗어나거나, 문법적으로 올바르지 않은 답변을 생성하거나, 단순히 쓸모없는 결과를 출력하는 경향이 매우 높습니다."라고 인정합니다.
그렇다면 Sammyuri는 어떻게 Redstone을 사용하여 이 프로젝트를 완성했을까요? Redstone은 마인크래프트 환경 내에서 전자 부품을 제공합니다. 이 영상은 게임 내 CraftGPT 장치를 부품별로 조립하는 모습을 보여줍니다. 토크나이저, 행렬 곱셈기 등이 포함되어 있습니다. Sammyuri는 사용된 소형 언어 모델이 마인크래프트의 명령 블록이나 데이터 팩 없이 만들어졌다고 설명합니다. 또한, 개발자는 "이 모델은 5,087,280개의 매개변수를 가지고 있으며, 기본 영어 대화의 TinyChat 데이터셋을 사용하여 Python 으로 학습되었습니다 ."라고 말합니다.
AI 랭글러들은 500만 개의 매개변수를 가진 CraftGPT가 "임베딩 차원이 240이고, 어휘가 1,920개이며, 6개의 레이어로 구성되어 있다"는 점에도 관심을 가질 수 있습니다. 맥락 윈도우 크기는 64개 토큰으로, (매우) 짧은 대화에 충분합니다. Sammyuri는 "임베딩과 LayerNorm 가중치는 각각 18비트와 24비트로 저장되지만, 대부분의 가중치는 8비트로 양자화되었다"고 덧붙였습니다.
CraftGPT는 사실 여러분이 매일 사용하는 챗봇 사이트나 앱과 비교했을 때 전혀 뒤떨어집니다. 채팅 품질, 깊이, 심지어 정확도 측면에서도 몇 가지 한계가 있다는 점은 이미 언급했습니다. 하지만 CraftGPT의 가장 큰 문제점은 아마도 성능과 관련된 것일 것입니다.
마인크래프트 레드스톤 기반 프로세서나 컴퓨터는 현대의 경이로운 기술일지 몰라도, 실제 하드웨어에 비하면 미미합니다. 따라서 CraftGPT 채팅 경험은 응답 시간 때문에 심각하게 방해받습니다. Sammyuri는 일반적으로 시스템이 간단한 질문에 답변하는 데 약 두 시간이 걸린다고 말합니다. 이는 MCHPRS(마인크래프트 고성능 레드스톤 서버)를 사용하여 틱 속도를 약 4만 배로 높인 경우에도 마찬가지입니다.
이전에 놀라운 Minecraft Redstone 기술에는 독립형 16비트 CPU와 Minecraft에서 DOOM(1993) 버전을 실행할 수 있는 IRIS 컴퓨터가 포함되었습니다.
