요즘 인공지능 사용은, 다운로드 받은 후, 자신의 컴퓨터에서 실행하는 경우가 많습니다.
물론 이런 사용은, 매우 제한적인 사용만 가능하지만, 간혹 외부로 자료를 유출하지 않거나, 인터넷이 없는 곳에서 사용하기 좋습니다.
물론, 학습데이터가 특정 시간(2025년 3월 현재, 대부분이 2023년 12월)까지의 데이터만 학습한 것만 사용할 수 있지만, 인공지능 사이트도 분기단위로 갱신되는 것 같습니다.
이렇게, 자신 컴퓨터에서 인공지능 Model를 사용하기 위해서는 Ollama나 LM Studio, Cursor와 같은 것을 설치해야 하지만, 무료를 사용할 수 있는 두개만 설명하겠습니다.
- Ollama
1) 설치용량 : 4GB 수준
2) 사용 Model : 1~ 32B까지 다양함
3) 하드웨어 제약 : GPU가 없어도 동작
4) 사용 내역 관리 : 사용자가 관리해야 함5) 다국어 지원 : 영어 외에는 메모장에서 작성하여 붙여 넣기 해야 함
6) 웹서비스 : 컴퓨터 시작 시, 서비스가 실행 됨 - LM Studio
1) 설치용량 : 1GB 수준
2) 사용 Model : 4B ~ 32B로 제한적(일부는 1B도 있음)
3) 하드웨어 제약 : GPU가 있어야 함
4) 사용 내역 관리 : 툴에서 관리5) 다국어 지원 : 툴 내에서 입력할 수 있음
6) 웹서비스 : 툴에서 실행을 선택할 수 있음
당신의 컴퓨터 GPU에 따라 툴을 선택해야 합니다.
[2025/03/20]
DeepSeek-R1이 한국어 질의는 받지만, 대답 시 영어로 대답합니다.
이유는, 한국어 지원에 많은 resource를 소비하다고 하지만, 다른 의미가 있는 것 같습니다.
Qwen는 같은 용량에서도 한국어가 지원됩니다.
윤 영기 / Yoon, Young- Ki
T. 02-6085-4734
master mail : newton@eqboard.com
back-up mail : beowulf.kr@mail.com
KOREA