이 글에서 여러분은 다음을 배우게 됩니다:
- AnythingLLM이 무엇이며, 어떤 점이 차별화되는지.
- Bright Data의 Web MCP를 AnythingLLM에 통합하면 기능이 크게 향상되는 이유.
- 웹 MCP를 AnythingLLM에 연결하고 지원되는 모든 AI 모델과 함께 사용하는 방법.
자, 시작해 보겠습니다!
AnythingLLM이란?
AnythingLLM은 오픈소스 올인원 AI 플랫폼으로, 자체 문서(PDF, 텍스트 파일 등)와 대화할 수 있는 프라이빗 로컬 AI 어시스턴트를 구축할 수 있습니다. 모든 대규모 언어 모델(LLM)을 활용할 수 있으며 RAG, AI 에이전트 및 다양한 워크플로를 지원합니다.
GitHub에서 52,000개 이상의 스타를 획득한 AnythingLLM은 현재 가장 인기 있는 오픈소스 AI 솔루션 중 하나로 자리매김했습니다. 그 인기는 다음과 같은 풍부한 기능 세트에서 비롯됩니다:
- 문서 상호작용: PDF, TXT, PPTX 등의 파일을 업로드하고 대화할 수 있습니다.
- 로컬 및 클라우드 LLM: 오픈소스 모델(Llama, Mistral 등) 또는 상용 API(OpenAI, Anthropic, Gemini 등 다수) 사용.
- RAG 및 인용: 출처가 명시된 문서에서 관련 컨텍스트를 검색합니다.
- 개인정보 보호 중심: 데스크톱 및 모바일 앱이 로컬에서 실행되어 데이터의 프라이버시를 유지합니다.
- 다중 사용자 및 작업 공간: 사용자 관리, 권한 설정, 공유 공간 구성.
- AI 에이전트 및 도구: 연구, 스크래핑 및 도구 기반 워크플로를 위한 내장 에이전트와 MCP 통합 지원.
- 벡터 데이터베이스 지원: 효율적인 검색을 위해 로컬 또는 클라우드 벡터 저장소와 통합합니다.
Bright Data의 Web MCP로 AnythingLLM 확장하는 이유
AnythingLLM은 MCP 서버를 통해 외부 도구로 AI 모델을 손쉽게 확장할 수 있게 합니다. 작업 공간 수준에서 MCP 서버를 연결하면, 해당 서버의 도구가 구성한 모든 AI 에이전트에서 즉시 사용 가능해집니다. 이후 작업 공간에서 모델을 전환하더라도 새 모델은 동일한 MCP 도구에 완전한 접근 권한을 유지합니다.
이러한 유연성은 AnythingLLM의 가장 큰 강점 중 하나입니다. MCP 구성을 건드리지 않고도 다양한 모델을 실험하고, 출력을 비교하거나, 더 강력한 LLM으로 업그레이드할 수 있습니다.
그렇다면 가장 큰 가치를 제공하는 MCP 서버는 무엇일까요? LLM의 가장 큰 한계인 ‘지식이 오래된 문제’와 ‘웹사이트와의 상호작용 불가능’을 해결하는 서버입니다!
바로 이 문제를 해결하기 위해 Web MCP가 설계되었습니다. Bright Data 기반의 이 오픈소스 MCP 서버는 AnythingLLM의 모든 AI 모델이 웹 검색, 실시간 데이터 수집, 프로그래밍 방식의 웹사이트 상호작용을 가능하게 합니다.
Web MCP는 Bright Data의 웹 자동화 및 데이터 수집 인프라 위에 구축된 60개 이상의 AI 지원 도구를 포함합니다. 무료 계정에서도 두 가지 유용한 도구를 이용할 수 있습니다:
| 도구 | 설명 |
|---|---|
search_engine |
Google, Bing 또는 Yandex 결과를 JSON 또는 Markdown 형식으로 가져옵니다. |
scrape_as_markdown |
모든 웹페이지를 깨끗한 마크다운으로 스크랩하면서 봇 방지 조치를 우회합니다. |
그리고 프리미엄 등급(Pro 모드)에서는 Amazon, Zillow, LinkedIn, YouTube, TikTok, Google Maps, Yahoo Finance와 같은 인기 플랫폼에서 구조화된 데이터 추출 기능을 사용할 수 있습니다. 또한 자동화된 브라우저 작업 및 기타 여러 고급 워크플로우를 위한 도구도 제공합니다.
AnythingLLM 내에서 Web MCP를 사용하는 방법을 살펴보겠습니다!
AnythingLLM에 Web MCP 통합하는 방법
이 튜토리얼 섹션에서는 AnythingLLM 내장 AI 에이전트를 통해 Web MCP를 사용하는 방법을 배웁니다. 이 설정은 어떤 모델을 구성하든 향상된 AI 경험을 제공합니다.
아래 지침을 따르세요!
필수 조건
이 튜토리얼을 따라하려면 다음이 준비되어 있어야 합니다:
- 로컬에 Node.js 설치 (컴퓨터에서 Web MCP 실행 필수).
- 활성 API 키가 있는 Bright Data 계정.
- AnythingLLM의 시스템 요구 사항을 충족하는 컴퓨터.
- 지원되는 공급자 중 하나의 LLM API 키 (여기서는 Gemini를 대상으로 하므로 Google Gemini API 키가 필요합니다).
다음 단계에서 안내해 드리므로 Bright Data 계정은 아직 설정하지 않아도 됩니다. MCP의 작동 방식과 Bright Data Web MCP에서 제공하는 도구에 대해 어느 정도 익숙해져 있으면 도움이 됩니다.
1단계: 로컬에 AnythingLLM 설치
AnythingLLM 데스크톱 설치 프로그램을 다운로드하여 실행하고 설치 마법사를 따르세요. 또는 AnythingLLM Docker 설정을 진행하세요.
참고: AnythingLLM이 GPU(NVIDIA 또는 AMD) 또는 NPU를 사용하려면 추가 종속성을 설치해야 합니다. 해당 패키지 설치 안내가 표시되면 “예”를 선택하세요. 로컬 LLM 실행 시 성능 저하를 방지할 수 있습니다.
설치가 완료되면 AnythingLLM을 실행하면 다음과 같은 화면이 표시됩니다:
훌륭합니다! 이제 예상대로 로컬에서 AnythingLLM이 실행 중입니다. 설정 마법사를 계속 진행할 시간입니다.
2단계: 설정 완료
먼저 AnythingLLM은 지원되는 LLM 중 하나를 통합할 것을 요청합니다.
로컬에 Ollama가 설치된 경우, 이를 통해 다운로드한 모델이 “추천 모델”로 표시됩니다. 이는 AnythingLLM 데스크톱 앱에 Ollama 기반의 내장형 로컬 LLM이 포함되어 있기 때문입니다. Ollama를 직접 사용하려면 Bright Data의 Web MCP를 Ollama에 통합하는 방법을 참조하세요.
요구 사항에 가장 적합한 모델을 선택하세요. 본 예시에서는 Gemini를 사용합니다:
참고: MCP를 통한 도구 호출을 지원하는 모든 LLM은 이 통합에 사용할 수 있으므로 AnythingLLM에서 이용 가능한 다른 LLM을 자유롭게 선택하세요.
Gemini API 키를 입력하고 사용하려는 특정 모델을 선택하라는 메시지가 표시됩니다. API 키를 붙여넣고, 이 예시에서는 gemini-2.5-flash 모델을 선택하세요:
다시 한번 말씀드리지만, 다른 Gemini 모델도 모두 작동합니다.
마법사를 계속 진행하려면 오른쪽의 “→” 화살표를 누르세요:
“데이터 처리 및 개인정보 보호” 정책에 동의하고 “→” 버튼으로 진행하세요:
다음으로, 선택 사항인 AnythingLLM 설문조사 참여 여부를 선택하거나 건너뜁니다.
그 후 작업 공간 생성 안내가 표시됩니다. 사용 사례에 기반하여 작업 공간에 의미 있는 이름을 지정하세요. 본 예시에서는 간편하게 “Bright Data Web MCP + AnythingLLM”으로 명명하겠습니다:
마지막으로 AnythingLLM 홈 페이지에 도달합니다:
여기서 AnythingLLM의 모든 기능과 옵션에 접근할 수 있습니다. 잘하셨습니다!
3단계: Bright Data의 Web MCP 설정
AnythingLLM을 Bright Data의 Web MCP에 연결하기 전에, 로컬 머신에서 MCP 서버를 실행할 수 있는지 확인하세요. 이는 Web MCP 서버에 로컬로 연결하는 방법을 시연할 예정이므로 중요합니다.
참고: Web MCP는 SSE 및 스트리밍 가능 HTTP를 통한 원격 서버로도 이용 가능합니다. 이 옵션은 기업용 사용 사례에 더 적합합니다.
먼저 Bright Data 계정이 필요합니다. 이미 계정이 있다면 로그인하세요. 빠른 설정을 위해 대시보드의 “MCP” 섹션에 있는 지침을 따르세요:
해당 페이지의 안내를 따르거나, 추가 지침이 필요하면 아래 설명을 참조하세요.
Bright Data API 키를 생성하세요. 이 키는 곧 로컬 Web MCP 인스턴스를 Bright Data 계정에 인증하는 데 사용되므로 안전한 곳에 보관하세요.
다음으로 @brightdata/mcp 패키지를 사용하여 컴퓨터에 Web MCP를 전역 설치하세요:
npm install -g @brightdata/mcp
다음 명령어를 실행하여 MCP 서버가 로컬에서 실행되는지 확인하세요:
API_TOKEN="<YOUR_BRIGHT_DATA_API>" npx -y @brightdata/mcp
또는 PowerShell에서 동일하게 실행:
$Env:API_TOKEN="<YOUR_BRIGHT_DATA_API>"; npx -y @brightdata/mcp
<YOUR_BRIGHT_DATA_API> 자리 표시자를 Bright Data API 토큰으로 대체하세요. 두 명령어(동등한 효과)는 필수 API_TOKEN 환경 변수를 설정하고 로컬에서 웹 MCP 서버를 시작합니다.
성공 시 다음과 유사한 출력이 표시됩니다:
기본적으로 Web MCP는 처음 실행 시 Bright Data 계정에 두 개의 영역을 생성합니다:
이 서비스들은 Web MCP에서 제공하는 60개 이상의 도구를 구동합니다.
존이 생성되었는지 확인하려면 Bright Data 대시보드의 “프록시 및 스크래핑 인프라” 페이지로 이동하세요. 테이블에 두 존이 모두 표시되어야 합니다:
Web MCP 무료 계층에서는 search_engine 및 scrape_as_markdown 도구(및 해당 배치 버전)만 사용할 수 있습니다.
모든 도구를 사용하려면 PRO_MODE="true" 환경 변수를 설정하여 Pro 모드를 활성화하세요:
API_TOKEN="<YOUR_BRIGHT_DATA_API>" PRO_MODE="true" npx -y @brightdata/mcp
또는 Windows의 경우:
$Env:API_TOKEN="<YOUR_BRIGHT_DATA_API>"; $Env:PRO_MODE="true"; npx -y @brightdata/mcp
프로 모드는 60개 이상의 모든 도구를 사용할 수 있게 하지만, 무료 계정에는 포함되지 않으며 추가 요금이 발생할 수 있습니다.
훌륭합니다! 이제 Web MCP 서버가 귀하의 컴퓨터에서 실행됨을 확인했습니다. 다음 단계에서 AnythingLLM을 로컬에서 서버를 시작하고 연결하도록 구성할 예정이므로 MCP 프로세스를 중지하십시오.
4단계: AnythingLLM에 Web MCP 통합
AnythingLLM에서 MCP 서버를 구성하려면 anythingllm_mcp_servers.json 구성 파일의 mcpServers 객체를 편집하세요. Docker를 통해 AnythingLLM을 사용하는 경우 전용 가이드를 따르세요.
해당 구성 파일은 AnythingLLM UI에서 “에이전트 스킬(Agent Skills)” 페이지를 처음 열 때 자동 생성됩니다. 따라서 UI에서 “에이전트 스킬”에 접근할 준비를 하세요.
먼저 왼쪽 하단의 “설정 열기” 아이콘을 누르세요:
그런 다음 왼쪽 메뉴에서 “에이전트 스킬” 옵션을 클릭하세요:
“에이전트 스킬” 페이지로 이동합니다:
상황에 따라 anythingllm_mcp_servers.json 설정 파일은 다음 경로에 생성됩니다:
- Mac:
/Users/<사용자>/Library/Application Support/anythingllm-desktop/storage/plugins/ - 리눅스:
~/.config/anythingllm-desktop/storage/plugins/ - Windows:
C:Users<사용자명>AppDataRoaminganythingllm-desktopstorageplugins
<user> 를 실제 사용자 이름으로 대체하십시오.
이제 anythingllm_mcp_servers.json 파일을 찾으세요:
선호하는 IDE로 열고 다음 내용이 포함되어 있는지 확인하세요:
{
"mcpServers": {
"bright-data": {
"command": "npx",
"args": [
"-y",
"@brightdata/mcp"
],
"env": {
"API_TOKEN": "<YOUR_BRIGHT_DATA_API_KEY>",
"PRO_MODE": "true"
}
}
}
}
이 설정은 자격 증명과 설정을 환경 변수로 사용하는 이전에 테스트한 npx 명령어를 반영합니다:
API_TOKEN은필수입니다. 이전에 생성한 Bright Data API 키로 설정하세요.PRO_MODE는선택 사항입니다. 무료 계층을 유지하고search_engine및scrape_as_markdown도구만 사용하려면 제거하세요.
해당 구성 파일 작성 방법에 대한 자세한 내용은 문서를 참조하세요.
anythingllm_mcp_servers.json 파일을 저장하면 AnythingLLM이 로컬 Bright Data Web MCP 인스턴스와 통신할 수 있게 됩니다. 연결을 테스트해 보세요!
단계 #5: Web MCP 연결 확인
AnythingLLM이 Web MCP 서버 인스턴스에 연결되는지 확인하려면 “에이전트 스킬” 페이지의 “새로 고침” 버튼을 클릭하세요:
참고: anythingllm_mcp_servers.json 구성 파일에 적용한 변경 사항은 즉시 반영되므로 AnythingLLM 데스크톱 애플리케이션을 재시작할 필요가 없습니다.
“MCP 서버” 섹션에 “Bright Data” 항목이 표시됩니다. 클릭하면 MCP를 통해 사용 가능한 모든 도구 목록을 확인할 수 있습니다:
이 예시에서는 Web MCP가 Pro 모드로 구성되어 60개 이상의 도구에 접근할 수 있습니다. 무료 티어를 사용 중인 경우 해당 티어에서 이용 가능한 도구만 표시됩니다. Web MCP 도구 전체 목록을 확인하고 각 도구가 속한 티어를 살펴보세요.
이제 AnythingLLM에서 Bright Data 웹 MCP가 설정되었으니, 다양한 지원 시나리오 중 하나에서 작동하는 모습을 확인해 보세요!
6단계: Bright Data 웹 MCP + AnythingLLM 통합 테스트
AnythingLLM에 설정된 AI 모델은 이제 Web MCP가 제공하는 모든 웹 데이터 검색 및 브라우저 상호작용 도구를 활용할 수 있습니다.
통합을 테스트하기 위해 뉴욕에서 아파트를 임대하려는 상황을 가정해 보겠습니다. 수동으로 모든 목록을 검토하며 적합한 곳을 찾는 것은 시간 소모적이고 지루할 수 있습니다. Zillow에서 필터를 적용하면 예산, 침실 수, 위치 및 기타 기준에 따라 목록을 찾을 수 있습니다:
이러한 결과에서 상위 3개 목록을 다음과 같이 선택했다고 가정해 보겠습니다:
- https://www.zillow.com/homedetails/104-69-88th-Ave-2R-Richmond-Hill-NY-11418/458388893_zpid/
- https://www.zillow.com/homedetails/210-W-133rd-St-4K-New-York-NY-10030/455270422_zpid/
- https://www.zillow.com/homedetails/Bronx-NY-10458/2105819305_zpid/
이제 AI 에이전트가 이를 평가하고 최적의 솔루션을 찾도록 도와주길 원합니다!
AnythingLLM 작업 공간으로 돌아가서 “채팅 보내기” 버튼을 누르세요:
@agent
이렇게 하면 AI 에이전트 세션이 시작됩니다:
참고: @agent 주석으로 AI 에이전트를 시작해야 하는 이유는 MCP 서버가 작업 공간의 AnythingLLM 에이전트와 통합되어 있기 때문이며, 표준 LLM 자체와는 통합되어 있지 않습니다. AnythingLLM의 AI 에이전트에 대해 자세히 알아보세요.
다음으로, 에이전트가 검색된 부동산 데이터를 기반으로 결정을 내릴 수 있도록 프롬프트를 전달하세요:
당신은 부동산 리스팅 전문가입니다. 가장 구체적인 MCP 도구를 사용하여 다음 Zillow 리스팅에서 부동산 리스팅 세부 정보를 검색하세요:
- "https://www.zillow.com/homedetails/104-69-88th-Ave-2R-Richmond-Hill-NY-11418/458388893_zpid/"
- "https://www.zillow.com/homedetails/210-W-133rd-St-4K-New-York-NY-10030/455270422_zpid/"
- "https://www.zillow.com/homedetails/Bronx-NY-10458/2105819305_zpid/"
제공된 정보를 바탕으로 3개 부동산을 순위별로 평가해 주세요. 각 부동산마다 URL, 주요 세부사항이 포함된 간략한 설명, 그리고 고려해야 할 이유를 설명하는 최대 3가지 장점과 최대 3가지 단점을 나열해 주세요.
이 예시를 더 현실적으로 만들기 위해, 여러분이 찾고 있는 것, 중요하게 생각하는 가치, 기타 관련 사항을 명확히 명시하여 프롬프트를 여러분의 특정 요구에 맞게 조정해야 합니다.
프롬프트를 실행하면 다음과 같은 결과를 얻을 수 있습니다:
AI 에이전트가 Bright Data Web MCP에서 적절한 도구를 식별하고, 제공된 Zillow 목록 URL에서 구조화된 데이터를 프로그래밍 방식으로 추출하는 방식을 주목하세요. 이후 데이터를 처리하여 원하는 순위를 산출합니다.
AI 에이전트에 따르면, 응답에서 설명된 바와 같이 최상의 부동산은 ZPID 2105819305입니다:
기본 Gemini(또는 다른 표준 LLM)는 이 작업을 수행할 수 없습니다. 일반 LLM은 Zillow나 다른 사이트를 실시간으로 스크래핑할 수 없습니다. 또한 Zillow는 스크래핑 방지 조치로 보호되어 있어 AI 통합을 위한 맞춤형 Zillow 스크래퍼를 구축하기 어렵습니다.
에이전트 드롭다운을 확장하면 에이전트가 사용하는 Web MCP 도구에 대한 추가 정보를 확인할 수 있습니다:
AI 에이전트가 구성된 Bright Data MCP 서버에서 web_data_zillow_properties_listing 도구를 성공적으로 호출한 점을 주목하세요. 해당 Pro 도구는 “구조화된 Zillow 부동산 목록 데이터를 신속하게 읽습니다. 유효한 Zillow 목록 URL이 필요합니다. 스크래핑보다 종종 더 빠르고 안정적입니다” 로 정의됩니다 . 따라서 AI 에이전트는 적절한 도구 선택을 한 것입니다!
Bright Data의 웹 MCP 도구 덕분에 AI 에이전트는 Zillow를 효율적이고 안정적으로 스크래핑할 수 있었습니다. 백엔드에서는 web_data_zillow_properties_listing 도구가 Bright Data Zillow 스크래퍼를 기반으로 작동합니다.
이 예시는 단 하나의 시나리오를 보여줄 뿐입니다. 다양한 프롬프트로 실험하고 Bright Data 웹 MCP 도구의 폭넓은 기능을 테스트하여 다른 수많은 사용 사례를 해결해 보세요.
자, 이제 AnythingLLM을 Bright Data의 Web MCP에 연결하는 힘을 경험해 보셨습니다.
결론
이 블로그 포스트를 통해 AnythingLLM에서 MCP 통합을 활용하는 방법을 이해하셨을 것입니다. 특히 Bright Data의 Web MCP가 제공하는 도구로 인기 있는 AI 모델을 확장하는 방법을 확인하셨습니다.
이 통합을 통해 웹 검색, 구조화된 데이터 추출, 실시간 웹 데이터 검색, 자동화된 웹 상호작용과 같은 강력한 기능을 AI 모델에 부여할 수 있습니다. 더 진보된 AI 워크플로를 구축하려면 Bright Data 생태계에서 제공하는 AI 지원 서비스 전체 제품군을 살펴보세요.
지금 바로 무료 Bright Data 계정을 생성하고 웹 데이터 도구를 탐색해 보세요!