Ollama 의사결정 모델로 1인 기업 만들기, 클로드·GPT·제미나이 비교

Ollama 의사결정 모델을 내 컴퓨터에 받아, 그걸 두뇌로 쓰는 AI 1인 기업 시제품을 만드는 과정을 40단계로 정리했습니다. 문장 대신 확률을 내놓는 JEV 스타일 모델이 무엇인지부터, 같은 프롬프트로 클로드·GPT·제미나이가 각각 만든 결과 비교, 연결 오류를 푸는 방법까지 담았습니다.

JEV 스타일 Ollama 의사결정 모델이란

CONNECT AI LAB 채널의 1983초 영상입니다. 화자는 클로드, GPT, 제미나이 세 도구에 같은 프롬프트를 넣어 각각 회사를 만들게 하고 결과를 비교합니다. 영상 제목은 내 컴퓨터에서 "0원"으로 돌린다고 하는데, 화자의 근거는 내 컴퓨터에 모델을 넣으면 "운영비가 무료거든요"라는 말뿐입니다. 전기료나 장비 비용 이야기는 없습니다.

Ollama(올라마)는 인공지능 모델을 인터넷 서버가 아니라 내 컴퓨터에서 돌리게 해 주는 무료 프로그램입니다. 한 번 받아 두면 사용할 때마다 요금이 나가지 않습니다.

이해관계도 밝혀 둡니다. 화자는 끝부분에서 자신의 커넥트 AI 랩 멤버십과 논문·학회 연구를 소개하고 관심 있는 사람의 참여를 권합니다.

• 핵심 개념: JEV 스타일 모델은 문장 대신 질문·행동·확률값을 내놓는 의사결정형 AI라는 설명입니다.
• 준비: Ollama 설치, 터미널에서 버전 확인(0.35 이상), 작은 모델 받기.
• 실습: 회사 만들기 프롬프트를 사주팔자 서비스용으로 고친 뒤 클로드·GPT·안티그래비티(제미나이)에 똑같이 넣고, 만들어진 웹사이트를 로컬 모델에 연결합니다.
• 화자 결론: 세 도구 사이에 큰 차이는 없었고, 오류는 각각 한 번씩 났습니다.
• 프롬프트 원문과 로컬 API 예시는 설명란·고정 댓글에 있다고 했습니다. 발화에는 내용이 없어, 이 글에서는 같은 구조의 예시를 따로 만들어 넣었습니다.

문장 대신 확률을 내놓는다

화자는 온라인 쇼핑몰 예시로 설명합니다. 라지를 샀는데 엑스라지가 왔다는 항의 이메일이 들어왔다고 해 보죠.

• 일반 언어 모델은 "죄송합니다. 저희의 실수입니다. 환불 처리를 해 드리겠습니다." 같은 문장을 만듭니다.
• JEV 스타일은 "어떤 팀이 처리를 할 것인가"라는 질문에 결제팀 30%, 배송팀 20%, 디자인팀 10%처럼 행동별 확률을 내놓습니다.

이렇게 확률 모델을 쓰면 "토큰도 적게 사용하고" 빠르게 할 수 있다는 게 화자의 주장입니다. 토큰은 AI가 글을 처리하는 단위로, 긴 문장을 만들지 않으니 처리량이 줄어든다는 뜻입니다.

질문 타입 세 가지

• 초이스: 여러 개 중 하나를 고른다. 예: 어떤 팀이 처리할지.
• 맞다·아니다: 예: 환불을 요청하는 건지 아닌지.
• 스코어: 점수를 매긴다. 예: 이 항의가 얼마나 급한지.

예시 출력

중복 결제 환불 요청을 넣었을 때의 출력이라고 화자가 설명한 값입니다. 화면은 대조하지 못했습니다.

• 빌링 팀 98%
• 환불 요청 여부 0.997. 1에 가까울수록 요청한다는 뜻입니다.
• 긴급도 스코어는 자막 표기로 0.8378, 0.429, 0.193입니다. 화자는 이를 직원 100명에게 물었을 때 38명은 괜찮다, 42명은 빨리 해 줘야 한다, 19명은 지금 당장 환불해야 한다고 판단한 것으로 비유합니다. 다만 자막상 0.8378은 비유의 38명과 맞지 않아(비유대로면 0.378로 보임) 화면과 대조해 봐야 합니다.

무료로 받을 수 있는 비슷한 모델

화자는 JEV 자체는 오픈소스로 받을 수 없다고 말합니다. 대신 확률적으로 행동을 고르는 무료 모델로 '님블'과 '탭'(자막 표기)을 소개합니다.

• 화자가 말한 수치: 님블 9B 76%, 탭 4B 73.3, 탭 0.8B 63.5. 무슨 지표인지는 발화에 없습니다.
• 9B, 4B, 0.8B는 모델 크기(매개변수 수, B는 10억)입니다. 클수록 똑똑하지만 메모리를 많이 씁니다.
• 고르는 기준: 램이 60GB 이상이면 님블 9B, 기본적인 컴퓨터면 0.8B.

준비물

• 컴퓨터: 맥, 리눅스, 윈도우 상관없습니다.
• Ollama: 화자 기준 0.35 이상이어야 영상에서 쓰는 API를 쓸 수 있습니다. API는 다른 프로그램이 Ollama에 질문을 보내고 답을 받는 통로입니다.
• AI 코딩 도구: 화자는 클로드(소넷 5.5), GPT 코덱스(6.1 솔), 안티그래비티(제미나이 3.8 플래시)를 썼습니다. 모델 이름은 자막 표기입니다. 하나만 있어도 따라 할 수 있습니다.
• 설명란·고정 댓글의 로컬호스트 API 예시와 회사 만들기 프롬프트. 내용은 발화에 없으니, 아래 편집자 예시로 대신할 수 있습니다.
• 비용: 로컬 모델 운영비는 화자 말로 무료입니다. 세 코딩 도구의 사용 요금은 발화에 없고, 요금은 바뀌므로 각 서비스의 공식 안내를 확인해야 합니다.

1장. Ollama 설치와 버전 확인

1. 브라우저 검색창에 "올라마" 또는 "ollama"를 입력합니다.
   • 확인: 낙타처럼 생긴 라마 그림이 있는 ollama.com이 나옵니다.
2. 라마 그림을 누릅니다.
   • 확인: 다운로드 버튼이 있는 화면이 뜹니다.
3. 다운로드를 누릅니다.
   • 확인: 운영체제를 고르는 화면이 나옵니다.
4. 자기 운영체제(맥·리눅스·윈도우)를 선택합니다.
   • 확인: 선택한 운영체제용 다운로드가 시작됩니다.
5. 받은 파일을 열어 설치합니다.
   • 위치: 맥은 받은 파일을 응용 프로그램 폴더로 옮긴 뒤 실행하고, 윈도우는 설치 파일을 더블클릭해 안내대로 넘깁니다.
   • 확인: Ollama 화면이 나옵니다. 화자는 "딱 열면 바로 요게 나올 겁니다"라고 말하고, 크게 설정할 건 없다고 합니다.
6. 터미널을 엽니다.
   • 위치: 맥은 Spotlight(⌘+스페이스)에서 "터미널"이라고 쳐서 열고, 윈도우는 시작 메뉴 검색에서 cmd를 입력합니다.
   • 대안: 방법을 모르면 AI에게 "커맨드 라인 터미널 들어갈 수 있는 방법 알려줘"라고 물어보라고 화자는 말합니다.
7. 버전 확인 명령어를 입력합니다.
   • 참고: 자막에는 "올라마 디고 짝대기 짝대기 VR SION 버전"으로 나옵니다. 띄어쓰기 뒤 하이픈 두 개와 version입니다.

ollama --version

8. 엔터를 누릅니다.
   • 확인: 버전 숫자가 뜹니다. 화자 화면에서는 "올라마 버전은 0.35입니다"라고 나왔습니다.
   • 주의: 0.35보다 낮으면 업데이트합니다. 맥·윈도우는 ollama.com에서 설치 파일을 다시 받아 덮어 설치하고, 리눅스는 아래 공식 설치 명령을 다시 실행합니다.

curl -fsSL https://ollama.com/install.sh | sh

2장. 모델 받기

9. 모델 받기 명령어를 입력합니다.
   • 주의: 모델 이름은 판독 불가입니다. 자막에는 "T1 땡땡 0.8B"(땡땡은 콜론)로, 다른 곳에서는 '태부 0.8B', 'TV1 0.8B'로 들립니다. 설명란이나 고정 댓글에서 정확한 이름을 확인해 <모델이름> 자리에 넣습니다.

ollama pull <모델이름>:0.8B

10. 엔터를 누릅니다.
    • 확인: pulling manifest 문구와 함께 다운로드 진행 막대가 올라갑니다.
    • 대안: 램이 60GB 이상이면 님블 9B를 써 보라고 화자는 권합니다. 태그 이름은 판독 불가입니다.
11. 목록 확인 명령어를 입력합니다.

ollama list

12. 엔터를 누릅니다.
    • 확인: 받은 모델 목록에 0.8B 모델이 있으면 성공입니다.

3장. 로컬 API로 출력 확인

13. 설명란이나 고정 댓글에서 로컬호스트 API 예시를 찾습니다.
    • 주의: 예시 코드 내용은 발화에 없습니다. 화자의 예시에는 "멘토님 코랩 세 번째에서 세 칸에서 에러가 나요"라는 유튜브 댓글 질문이 들어 있었습니다.
14. 예시를 실행합니다.
    • 확인: 타입·초이스·확률이 JEV 스타일로 출력됩니다. 화자는 "여기까지 이제 세팅이 완료된 거예요"라고 말합니다.
    • 대안: 예시를 못 찾았다면 Ollama가 API로 답하는지부터 확인합니다. Ollama는 내 컴퓨터의 11434번 포트(프로그램끼리 주고받는 문 번호)에서 기다립니다. 맥·리눅스 터미널에서 아래 명령을 넣으면 모델의 답이 JSON(데이터를 주고받는 글 형식)으로 돌아옵니다.

curl http://localhost:11434/api/generate -d '{"model":"<모델이름>","prompt":"다음 이메일이 환불 요청이면 yes, 아니면 no로만 답해: 어제 결제가 두 번 됐어요","stream":false}'

4장. 회사 만들기 프롬프트 고치기

화자가 상상한 회사는 글로벌 기반으로 AI가 사주를 봐 주고 과금하는 사주팔자 웹사이트입니다. 이메일, 결제, 환불, 홍보, 유튜브 댓글 관리, 마케팅 관리를 맡깁니다.

15. 설명란이나 댓글에서 회사 만들기 프롬프트를 복사합니다.
    • 확인: 프롬프트가 클립보드에 복사됐습니다.
16. AI 채팅 입력창에 프롬프트를 붙여 넣습니다.
    • 참고: 화자는 "어떤 인공지능을 해도 상관이 없습니다"라고 말합니다.
17. 시프트+엔터를 눌러 줄을 바꿉니다.
    • 확인: 커서가 프롬프트 아래 새 줄로 내려갑니다.
18. 아래 요청 문장을 입력합니다. 화자가 말로 읽은 문장을 그대로 옮겼습니다.

위에 프롬프트를 변경하지 말고 중간중간 내용만 사주팔자 서비스를 운영하는 웹사이트 글로벌 기반으로 변경 해서 다시 작성

19. 서밋(보내기)을 누릅니다.
    • 확인: 사주팔자 서비스용으로 고쳐진 프롬프트가 나옵니다.
    • 대안: 프롬프트를 직접 고쳐도 됩니다.
20. 고쳐진 프롬프트가 원래 형태와 크게 다르지 않은지 확인합니다.
    • 주의: 리스폰스(response, 모델이 돌려줄 답의 형식을 정한 부분)가 특히 중요해서 형태가 달라지면 안 된다고 화자는 강조합니다.
21. 고쳐진 프롬프트 전체를 복사합니다.

원본 프롬프트가 없을 때 쓰는 예시

설명란의 프롬프트를 구하지 못했다면 같은 구조로 아래처럼 요청할 수 있습니다. 화자의 원문이 아니라 편집자가 영상 설명에 맞춰 만든 예시입니다.

내 컴퓨터의 Ollama(http://localhost:11434)에 있는 <모델이름> 모델을 두뇌로 쓰는
1인 기업 운영 화면을 만들어줘. 회사는 글로벌 사주팔자 웹사이트야.

들어온 이메일마다 모델에게 세 가지를 묻고 결과를 화면에 보여줘.
1) 초이스: 결제팀, 배송팀, 마케팅팀, 고객지원팀 중 처리할 팀과 팀별 확률
2) 맞다/아니다: 환불 요청인지와 그 확률
3) 스코어: 긴급도를 0에서 1 사이 숫자로

모델의 답은 반드시 JSON으로 받고, 형식이 깨지면 다시 묻게 해줘.
결과마다 좋아요/싫어요 버튼을 두고, 누른 기록을 JSON 파일로 내려받게 해줘.
예시 이메일 3개를 넣어 두고 '자동 실행' 버튼으로 차례로 처리하게 해줘.
Ollama 연결이 실패하면 원인과 해결 방법을 화면에 보여줘.

5장. 도구별 작업 폴더 만들기

22. 클로드에서 새 폴더 "사주팔자 테스트 클로드"를 만듭니다.
    • 참고: 화자가 어떤 클로드 앱을 썼는지는 발화에 없습니다. 폴더를 열어 작업하는 방식이므로 Claude Code(데스크톱 앱의 Code 탭 또는 터미널)로 하면 같습니다.
23. 그 폴더를 엽니다(오픈).
    • 확인: 클로드가 그 폴더에서 작업할 준비가 됩니다.
24. GPT(코덱스)에서 새 폴더 "사주팔자 테스트 GPT"를 만듭니다(크리에이트).
25. 그 폴더를 엽니다(오픈).
26. 안티그래비티에서 오픈 폴더를 누릅니다.
    • 참고: 구글에서 "안티그래비티 IDE"를 검색해 내려받으면 됩니다. 구글이 만든 AI 코딩 프로그램입니다.
    • 확인: 폴더 선택 창이 뜹니다.
27. 새 폴더 "사주 팔자 테스트 제미나이"를 만듭니다(크리에이트).
28. 오픈을 누릅니다.
    • 확인: 안티그래비티가 그 폴더를 엽니다.

6장. 세 도구에 같은 프롬프트 넣기

화자는 이 시점을 오후 8시 35분이라고 말합니다.

29. 클로드 입력창에 프롬프트를 붙여 넣습니다.
30. GPT 입력창에 프롬프트를 붙여 넣습니다.
    • 참고: 화자의 모델 선택은 "GPT 솔 6.1"입니다.
31. 안티그래비티 입력창에 프롬프트를 붙여 넣습니다.
    • 참고: 화자의 모델 선택은 제미나이 3.8 플래시입니다. 생각 수준(답하기 전에 얼마나 오래 생각할지 정하는 설정)은 제미나이 미디움, GPT 라이트, 클로드 중간으로 골랐습니다.
32. 각 입력창에서 엔터를 누릅니다.
    • 확인: 도구들이 기획이나 코드 작성을 시작합니다. 화자 화면에서는 제미나이가 가장 먼저 index.html을 만들기 시작했습니다.
33. 도구가 수락을 요청하면 엔터를 눌러 수락합니다.
    • 확인: 작업이 이어지고 완료 메시지가 나옵니다.

7장. 결과 열기와 Ollama 연결 오류 해결

34. 만들어진 웹사이트를 엽니다.
    • 확인: 캐릭터가 있는 회사 화면이 뜹니다.
    • 주의: 화자 화면에서는 세 도구 모두 처음에 Ollama 연결이 안 됐습니다. 제미나이는 "연결 실패"와 함께 CORS 및 오리진을 확인하라는 메시지, GPT는 서버 연결 안 됨, 클로드도 연결 안 됨이었습니다.
35. 오류 메시지를 복사합니다.
36. 그 도구의 입력창에 오류를 붙여 넣어 해결을 요청합니다.
    • 확인: 도구가 파일을 고치거나 실행할 코드를 줍니다. 화자 화면에서 클로드는 터미널에 넣을 복사 코드를 줬습니다.
    • 대안: 화자는 클로드에 "올라마가 켜져 있는데 연결이 안 돼"라고 적어 보냈습니다.
37. 도구가 터미널 명령을 줬다면 그 명령을 터미널에 붙여 넣습니다.
    • 대안: 도구가 직접 고쳤다면 이 단계와 다음 단계는 건너뜁니다. 제미나이는 다시 엔터를 누르자 "로컬 연동이 알아서 됐습니다".
38. 엔터를 눌러 실행합니다.
    • 확인: 서버가 실행됩니다.
39. 웹사이트를 다시 열어 연결을 확인합니다.
    • 확인: 제미나이와 클로드는 바로 연결됐고, GPT는 다시 테스트한 뒤 조금 시간이 지나 연결됐습니다.
40. 자동 실행을 누르거나 예시 이메일을 보냅니다.
    • 확인: 예시 이메일이 들어와 담당 팀과 확률이 나옵니다.
    • 화자 화면 예 1(제미나이): 중복 결제 이메일("29불 4주에 중복 결제됐습니다")이 들어와 환불 승인, 신뢰도 80%.
    • 화자 화면 예 2(클로드): 프리미엄 결제를 실수로 두 번 눌렀다는 환불 요청에 "결제 환불 67%", 환불 심사 팀으로 배정.

연결 실패를 직접 푸는 방법

영상은 도구가 준 명령을 그대로 실행해 해결했고, 그 명령 내용은 판독하지 못했습니다. 이 오류는 대개 CORS(웹페이지가 다른 주소의 서버에 요청하는 것을 브라우저가 막는 보안 규칙) 문제입니다. Ollama는 기본적으로 localhost처럼 내 컴퓨터 주소에서 열린 페이지의 요청만 받아 줍니다. 아래 순서로 해 봅니다.

첫째, 만든 index.html을 파일 그대로 더블클릭해 열었는지 봅니다. 주소창이 file://로 시작하면 요청이 막힐 수 있습니다. 작업 폴더에서 아래 명령으로 간이 서버를 띄우고 브라우저에서 http://localhost:8000으로 엽니다.

python3 -m http.server 8000

둘째, 그래도 막히면 허용 주소를 환경 변수 OLLAMA_ORIGINS로 지정합니다. 자막의 "올라마 점땡 모든 것에 수락"도 이 설정을 가리킨 것으로 보입니다. 맥에서는 아래 명령을 넣은 뒤 메뉴 막대의 Ollama를 종료했다가 다시 켭니다.

launchctl setenv OLLAMA_ORIGINS "*"

윈도우는 시작 메뉴에서 "시스템 환경 변수 편집"을 열고 사용자 변수에 이름 OLLAMA_ORIGINS, 값 *를 추가한 뒤 Ollama를 다시 켭니다. *는 모든 웹페이지를 허용한다는 뜻이라, 테스트가 끝나면 지우거나 내 페이지 주소만 적는 편이 안전합니다.

마지막 점검

• ollama --version 결과가 0.35 이상이다(화자 기준)
• ollama list에 받은 모델이 보인다
• 로컬 API 예시를 실행하면 타입·초이스·확률이 나온다
• 각 도구가 만든 웹사이트가 Ollama에 연결된다
• 예시 이메일에 담당 팀과 확률이 출력된다

막힐 때

• 웹사이트에 "연결 실패"가 뜬다: 위의 간이 서버와 CORS 설정을 차례로 해 봅니다. 그래도 안 되면 화자처럼 오류를 복사해 그 도구에 다시 줍니다.
• 고친 뒤에도 바로 연결되지 않는다: 화자는 "조금 시간이 걸리네"라며 잠시 뒤 다시 테스트해서 연결됐습니다. Ollama를 완전히 종료했다가 다시 켜는 것도 방법입니다.
• API가 안 된다: 화자 기준 Ollama 0.35 이상이어야 합니다. ollama --version으로 확인합니다.
• 고친 프롬프트로 결과가 이상하다: 리스폰스 부분 형식이 바뀌었는지 원래 프롬프트와 비교합니다.
• 다 쓰고 정리하고 싶다: 받은 모델은 ollama rm <모델이름>으로 지웁니다. 실습 폴더는 그대로 휴지통에 넣으면 됩니다.

클로드·GPT·제미나이 비교 결과 (화자 관찰, 1회)

화자는 결과물 품질, 가격, 걸린 시간을 보겠다고 했습니다. 가격 비교 결과는 발화에 없습니다. 한 번 해 본 관찰이라 도구 우열의 근거로 삼기는 어렵습니다.

제미나이 3.8 플래시 (안티그래비티)

가장 빨리 코드를 만들었습니다. 오류가 한 번 났고, 오류를 다시 주자 로컬 연동이 됐습니다. 좋아요·싫어요 피드백 데이터를 내려받아 강화 학습(잘한 결과에 보상을 줘 모델을 고쳐 가는 학습 방식)에 쓰는 형태를 알아서 넣었다고 합니다.

GPT 6.1 솔 (코덱스)

흰색과 초록색의 깔끔한 화면이었습니다. 연결이 안 돼 수정하는 데 오래 걸렸고, 화자는 "6분 걸렸습니다"라고 말합니다. 다시 테스트하자 조금 뒤 연결됐습니다.

클로드 소넷 5.5

기획에 시간을 많이 썼고, "10분 정도 걸린 거 같습니다". 연결이 안 되자 터미널에 넣을 코드를 줬고, 실행하니 연결됐습니다. 좋아요·싫어요로 학습하는 부분은 구현되지 않았다고 합니다.

화자의 결론

큰 차이는 없고, 클로드와 GPT의 UI/UX가 조금 더 좋았다는 게 화자의 생각입니다. 오류는 각각 한 번씩 났습니다. 속도가 중요하면 제미나이, 화면 완성도를 보면 클로드나 GPT 쪽으로 읽을 수 있습니다.

화자가 생각하는 AI 1인 기업

좋아요·싫어요로 결과를 평가해 데이터를 쌓고 JSON으로 받아 재사용하자는 건 "제 아이디어예요"라고 화자는 밝힙니다. "원래 제부 형태는 아닙니다"라고도 말합니다.

JEV에 대해서는 "사실 강화 학습이라고 보기는 어렵습니다"라고 봅니다. 강화학습의 일부인 확률적 행동 선택 방법을 언어 모델에 적용했더니 빠르게 의사결정하는 모델이 나왔다, 그게 전부라는 설명입니다.

화자가 그리는 이상적인 모습은 이렇습니다. 기업마다 목표, 이메일, 컴플레인, 매출 내역이 다르니 사람이 잘했다 못했다 피드백을 주며 데이터를 쌓아야 한다는 것. 그래서 JEV와 강화 학습이 합쳐지고, 언어 모델도 섞이고, "보안을 위해서 무조건 로컬 기반이 돼야 된다"는 주장입니다.

화자가 실제로 권한 것

1. 내 컴퓨터 사양에 맞는 모델을 고르라. 램 60GB 이상이면 님블 9B, 기본 컴퓨터면 0.8B.
2. Ollama는 0.35 이상인지 확인하라.
3. 고쳐진 프롬프트의 리스폰스 형식이 원래와 같은지 꼭 확인하라.
4. 다른 사람 말을 곧이곧대로 믿지 말고, 원리를 바탕으로 응용하고 확장하는 습관을 들여라.

설치부터 연결까지 흐름은 따라갈 수 있지만, 핵심 재료 세 가지(모델의 정확한 이름, 로컬 API 예시, 회사 만들기 프롬프트)는 설명란과 댓글로 넘어가 있습니다. 실습 전에 먼저 확보하는 편이 좋습니다. "0원", 토큰 절약, 세 도구 비교는 모두 화자의 주장이거나 한 번 해 본 관찰입니다.

이 글은 유튜브 자동 자막을 바탕으로 정리했고 화면은 대조하지 못했습니다. 모델 태그, 프롬프트 전문, API 예시 코드는 화면에만 있어 판독하지 못했고, 연결 오류 해결 명령과 예시 프롬프트는 편집자가 Ollama 공식 안내와 영상 설명에 맞춰 보탠 것입니다. 모델 이름은 영상 제목 표기 'JEV'를 따랐고, 자막 표기는 'JV', '제부', '재부', '빌딩 팀'(빌링 팀), '놀'(맞다·아니다), '콜스 및 오리진'(CORS 및 오리진), '풀링 메인스트'(pulling manifest), '환불 신사 팀'(환불 심사 팀), '재미나이'였습니다.

출처: youtu.be/…