Langchain

DeepSeek R1 모델 소개: OpenAI API 호환성과 Langchain 통합 가이드

최근 AI 업계에서 화제가 되고 있는 DeepSeek에서 DeepSeek R1이라는 오픈소스 대규모 언어 모델(LLM)을 발표했습니다. OpenAI의 O1과 유사한 Chain of Thought(CoT) 방식을 채택하여, 응답을 생성하기 전에 스스로 사고(Reasoning) 과정을 거치는 것이 특징입니다. 특히 OpenAI API와의 완벽한 호환성과 Langchain 연동을 지원합니다. 그럼 DeepSeek R1의 특징과 실제 구현 방법을 상세히 살펴보겠습니다. 참고로 언급될 Ollama에 대해 궁금하신 분은 다음 글들을 참고하시기 바랍니다. Ollama #1: […]

Ollama #2: 내 손으로 만드는 ChatGPT 로컬LLM – 커스텀 모델 설치부터 실용 앱까지

AI&GameDevAI

Ollama는 다양한 커스텀 모델들을 불러와 사용할 수 있으며 LangChain을 사용하여 간단하게 연동할 수 있습니다. 이번에는 커스텀 모델 설치부터 클립보드의 텍스트를 요약하는 간단한 앱을 개발해 보겠습니다.설치 및 기본 사용법은 비용 걱정 없이 내 컴퓨터에서 제약 없는 LLM 실행하기 를 확인해 주시기 바랍니다. 커스텀 모델 설치 ModelFile을 활용하여 GGUF(Georgi Gerganov Unified Format)로 저장된 대규모 언어 모델(LLM 모델)을 쉽게 임포트할 […]