로컬 LLM

로컬 LLM 확장 사용: 로컬에서 LLM 실행 (LLama 70B 또는 WebLLM + Gemini Nano와 함께 DeepSeek), 탭에서 AI 모델에 질문하기 - 개인 AI.

로컬 모델을 자연스럽고 빠르며 개인적으로 실행할 수 있도록 도와주는 브라우저 도우미를 만나보세요. 이러한 채팅을 좋아하고 컴퓨터에서 실행될 개인적인 모델을 원하신다면, 바로 이겁니다. 이제 외부 서비스에 제한받지 않고 다운로드할 수 있습니다. 웹사이트, PDF 또는 기타 파일에 대해 브라우저에서 직접 채팅하세요. 페이지에 대한 좋은 요약을 얻으세요. 이는 매끄럽고 깔끔한 로컬 LLM UI를 원하고 브라우징 중에 어시스턴트에게 질문할 수 있는 실용적인 방법을 원하는 사람들을 위해 만들어졌습니다. 🚀 로컬 사용을 위한 다음 모델: - 구글의 제미니 나노 - 크롬에 내장 - DeepSeek R1 Distill Llama 8B - 깊은 사고 - 로컬에서 실행 - Gemma 2 2B - Llama 3.2 1B ✅ 시작하는 팁 1. 확장 프로그램을 추가하고 사이드바를 엽니다. 2. 로컬 LLM UI에서 목록에서 선택합니다. 3. 한 번 다운로드를 누릅니다. 4. 그런 다음 매일 같은 설정을 계속 사용합니다. 선택할 수 있는 모델은 항상 보이므로 전환이 빠르고 예측 가능합니다. 경량 옵션과 강력한 옵션 간에 회전할 수 있으며, 선호하는 로컬 LLM 스위트를 유지하고 도구를 전환하지 않고도 생산성을 유지할 수 있습니다. 사용 가능한 선택 사항에는 브라우저 내 경험을 위한 다양한 사전 구축된 웹 LLM이 포함됩니다. 이는 어떤 웹사이트에서든 채팅으로 질문하고 탭 컨텍스트와 함께 모델을 사용할 수 있도록 도와주며, 개인 AI를 기본 목표로 유지합니다. 📦 한 번 다운로드하면 항상 실행 1️⃣ 로컬 웹 LLM을 한 번 받습니다. 2️⃣ 세션 간에 채팅을 준비합니다. 3️⃣ AI LLM 작업을 위한 설정 마찰을 줄입니다. 4️⃣ 오프라인일 때도 일관성을 유지합니다. 모델에 대한 웹사이트 컨텍스트가 제공되므로 실제 브라우저 어시스턴트처럼 작동합니다. 탭, 선택한 텍스트 및 현재 페이지 내용에 대해 AI에게 질문할 수 있으며, 작업 흐름에 맞는 구체적인 답변을 얻을 수 있습니다. 매일 할 수 있는 것: • 웹페이지의 요약, 하이라이트 및 작업 항목 - 인터넷 필요 없음 • 선택한 텍스트를 자신의 톤으로 다시 작성 - LLM이 로컬에서 실행됨 • 모든 세션에서 대화하기 • 탭을 노트나 체크리스트로 변환하기 • 페이지 컨텍스트로 빠른 답변 초안 작성하기 왜 이것이 모든 LLM 도우미처럼 느껴지는가: ➤ AI와 함께 빠르고 반복 가능한 프롬프트 ➤ 로컬 LLM UI에서 명확한 상태 및 모델 전환 ➤ 연구 및 작성을 위한 더 쉬운 흐름 ➤ 로컬에서 LLM을 실행하고 싶다면 📺 즉시 할 수 있는 더 스마트한 것들: 🔄 엉망인 페이지를 학습이나 작업을 위한 구조화된 개요로 변환 🔍 탭을 떠나지 않고 정의, 이름 및 주요 사실 추출 ❓ LLM에 대한 후속 질문을 만들어 이해를 심화 🛡️ 여러 출처를 요약한 후 결론을 나란히 비교 🎁 로컬 열린 웹사이트 컨텍스트만 사용하여 짧은 브리프 작성 개인정보 보호 및 제어, 추가 복잡성 없이: ▸ 쿼리는 오픈소스 모델을 사용하는 동안 컴퓨터를 떠나지 않습니다. ▸ 개인 AI, 설계상 로컬 ▸ WebLLM 빌더와 탐험가를 위해, 오픈 소스 LLM을 제공합니다 🧩 - 마치 자신만의 로컬 LLM을 구축하는 것처럼 느껴집니다. 만약 조작하는 것을 좋아한다면, 설정을 개인 실험실처럼 다룰 수 있습니다: ➤ 속도를 위한 경량 스위트를 유지하고, 추론을 위한 더 강력한 스위트를 유지 ➤ 다양한 작업과 작문 스타일을 위해 다양한 로컬 LLM을 테스트 ➤ 품질 및 안정성 향상을 추적하기 위해 업데이트를 따르기 ➤ 일상적인 흐름을 변경하지 않고 오픈 소스 LLM 트렌드를 탐색 업데이트는 관리 가능하고 사용자 친화적입니다: 💎 출력 품질을 향상시키는 업데이트 🚀 흐름을 깨지 않고 간단한 모델 전환 실생활에 도움이 되는 추가 세부정보: • 탭 컨텍스트와 로컬에서의 개인 노트 간의 명확한 분리 • 연구, 작문 및 계획을 지원하는 반복 가능한 작업 흐름 • 긴 세션과 많은 열린 페이지에서도 일관된 동작 • 추가 단계 없이 AI 다운로드에서 일상적인 사용으로의 간단한 경로 누군가에게 자신의 LLM을 설치하는 쉬운 방법을 가르치고 있다면, 이것은 깔끔한 시작점입니다. 또한 다운로드 가능한 AI 리포지토리 사고방식과 일치하므로 AI를 한 번 다운로드하고 AI 모델을 준비해 두고 같은 설정 단계를 반복하지 않을 수 있습니다. 사람들이 좋아하는 사용 사례: ◆ 긴 기사를 요약하기 ◆ 문서에서 작업 항목 추출하기 ◆ 페이지 컨텍스트에서 이메일 다시 작성하기 ◆ 웹사이트에서 출처 비교하기 ◆ 빠르게 구조화된 노트 만들기 일상적인 브라우징을 위한 보너스 아이디어: 1️⃣ 기술 페이지에서 빠른 용어집 만들기 2️⃣ 문서를 따라갈 수 있는 체크리스트로 변환하기 3️⃣ 다양한 청중이나 수준을 위한 콘텐츠 다시 작성하기 4️⃣ 탭에서 한 번에 짧은 브리핑 생성하기 5️⃣ 개인 지식 기반을 위한 주요 요점 캡처하기