LangChain, GPT4All 설치

처음 다루어 볼 대상은 GPT4All입니다.

GPT4All

A free-to-use, locally running, privacy-aware chatbot. No GPU or internet required.

왜 ChatGPT 안 쓰고...

• 오픈 소스, 로컬 구동이라는 점이 눈에 띄었습니다.

• 성능 등의 문제로 결과적으로 GPT4All을 버리더라도 이를 통해 기본적인 사용법을 배우는 것이 낫다고 생각했습니다.

주의할 점

• 기본적인 성능이 떨어집니다.

• 모델에 따라 상업적 사용을 제한한 경우가 많으니 주의해야 합니다.

LangChain, GPT4All 설치하기

• LangChain은 AI를 실제 프로그래밍에 연동하여 활용할 수 있도록 돕는 일종의 SDK입니다. 크게 Python과 JavaScript 진영을 주로 지원하고 있습니다.
• GPT4All은 로컬에서 무료로 CPU만 사용하여 AI를 구동할 수 있게 해 줍니다. (물론 모든 AI를 지원하는 것은 아닙니다.)

이 문서에서는 Python 3.9.13 버전을 사용하겠습니다. 다음 명령어로 패키지를 설치합니다.

pip install langchain gpt4all

중간에 Microsoft C++ Build Tools이 없을 경우 에러가 발생할 수 있습니다.

Build Tools를 다운로드하여 C++를 사용한 데스크톱 개발 (Desktop development with C++)를 설치합니다.