Helyi LLM

Használja a Helyi LLM kiterjesztést: futtassa az llm-et helyben (LLama 70B vagy DeepSeek WebLLM + Gemini Nano-val), kérdezze meg az…

Ismerj meg egy böngészősegédet, amely természetessé, gyorssá és magánszemélyessé teszi a helyi modellek futtatását. Ha tetszenek ezek a beszélgetések, és szeretnél egy személyes modellt, amely a számítógépeden fut - ez az. Most már nem vagy korlátozva külső szolgáltatásokra, és letöltheted. Beszélgess weboldalakról, PDF-ekről vagy bármilyen más fájlról közvetlenül a böngésződben. Kapsz egy jó összefoglalót az oldalakról. Azoknak készült, akik sima és tiszta helyi LLM felhasználói felületet szeretnének, és praktikus módot keresnek az asszisztens megkérdezésére böngészés közben. 🚀 Következő modellek elérhetők helyi használatra: - Google Gemini Nano - beágyazva a Chrome-ba - DeepSeek R1 Distill Llama 8B - mély gondolkodás - a helyi gépeden fut - Gemma 2 2B - Llama 3.2 1B ✅ Hogyan kezdj neki tippek 1. Add hozzá a bővítményt és nyisd meg az oldalsávot 2. Válassz a helyi LLM felhasználói felület listájából 3. Koppints a letöltésre egyszer 4. Ezután használd ugyanazt a beállítást minden nap A választási lehetőségek mindig láthatók, így a váltás gyors és kiszámítható. Forgathatsz a könnyű és erősebb opciók között, megtarthatod a kedvenc helyi LLM csomagodat, és produktív maradhatsz anélkül, hogy eszközök között ugrálnál. Elérhető választások közé tartozik a különböző előre épített webLLM a böngészőn belüli élményhez. Ez segít, hogy bármely weboldalon kérdezz a csevegésben, és használj modelleket a fül kontextusával, miközben a magán AI a fő cél. 📦 Töltsd le egyszer, majd futtasd mindig 1️⃣ Szerezz be helyi webLLM-et egyszer 2️⃣ Tartsd készen a csevegést a munkamenetek között 3️⃣ Csökkentsd a beállítási súrlódást az AI LLM feladatokhoz 4️⃣ Maradj következetes offline állapotban is A weboldal kontextusa elérhető a modellek számára, így úgy viselkedik, mint egy igazi böngésző asszisztens. Kérdezhetsz az AI-tól a füljeidről, a kiválasztott szövegről és az aktuális oldal tartalmáról, majd megalapozott válaszokat kapsz, amelyek illeszkednek a munkafolyamatodhoz. Amit minden nap megtehetsz: • Összefoglalók, kiemelések és teendők a weboldalon - és internet nélkül • Írd át a kiválasztott szöveget a saját stílusodban - és az LLM a helyi gépeden fut • Tarts beszélgetést az összes munkameneted során • Alakítsd át a fület jegyzetekké vagy ellenőrzőlistává • Készíts gyors válaszokat az oldal kontextusával Miért tűnik úgy, mint egy bármilyen LLM segítő: ➤ Gyors, megismételhető kérdések az AI-val ➤ Világos állapot és modellváltás a helyi LLM felhasználói felületen ➤ Könnyebb folyamat a kutatáshoz és íráshoz ➤ Ha csak helyben szeretnél LLM-et futtatni 📺 További okos dolgok, amiket azonnal megtehetsz: 🔄 Alakítsd át a zűrzavaros oldalakat strukturált vázlatokká tanulmányhoz vagy munkához 🔍 Kinyerj definíciókat, neveket és kulcsfontosságú tényeket anélkül, hogy elhagynád a fület ❓ Készíts követő kérdéseket az LLM mélyebb megértéséhez másodpercek alatt 🛡️ Összefoglalj több forrást, majd hasonlítsd össze a következtetéseket egymás mellett 🎁 Készíts egy rövid összefoglalót, amely csak a helyi nyitott weboldal kontextusát használja Adatvédelem és kontroll, extra bonyolultság nélkül: ▸ egyetlen lekérdezés sem hagyja el a számítógépedet, miközben nyílt forráskódú modelleket használsz ▸ magán AI, helyi tervezésű ▸ WebLLM Az építők és felfedezők számára nyílt forráskódú LLM-eket ad 🧩 - úgy érzed, mintha a saját helyi modelledet építenéd. Ha szeretsz kísérletezni, a beállításodat személyes laboratóriumként kezelheted: ➤ tarts fenn egy könnyű csomagot a sebességért, és egy erősebbet a gondolkodásért ➤ tesztelj különböző helyi LLM-eket különböző feladatokhoz és írási stílusokhoz ➤ kövesd a frissítéseket a minőség és stabilitás javulásának nyomon követésére ➤ fedezd fel a nyílt forráskódú LLM trendeket anélkül, hogy megváltoztatnád a napi folyamatodat A frissítések kezelhetők és felhasználóbarátok maradnak: 💎 Frissítések, amelyek javítják a kimeneti minőséget 🚀 Egyszerű modellváltás anélkül, hogy megszakítanád a folyamatodat Extra részletek, amelyek segítenek a valós életben: • Világos elválasztás a fül kontextusa és a saját jegyzeteid között a helyi gépeden • Megismételhető munkafolyamat, amely támogatja a kutatást, írást és tervezést • Következetes viselkedés még hosszú munkamenetek és sok nyitott oldal esetén is • Egyszerű út a letöltött AI-tól a napi használatig, extra lépések nélkül Ha valakinek könnyű módot tanítasz a saját LLM-jének telepítésére, ez egy tiszta kiindulópont. Ez illeszkedik egy letölthető AI tároló gondolkodásmódhoz is, így egyszer letöltheted az AI-t, készen tarthatod az AI modelleket, és elkerülheted az ugyanazon beállítási lépések megismétlését. Az emberek által kedvelt felhasználási esetek: ◆ hosszú cikkek összefoglalása ◆ teendők kinyerése dokumentumokból ◆ e-mailek átírása az oldal kontextusából ◆ források összehasonlítása weboldalon ◆ strukturált jegyzetek gyors létrehozása Bónusz ötletek a mindennapi böngészéshez: 1️⃣ Készíts egy gyors szótárt technikai oldalakról 2️⃣ Alakítsd át a dokumentációt egy követhető ellenőrzőlistává 3️⃣ Írd át a tartalmat különböző közönségek vagy szintek számára 4️⃣ Generálj egy rövid összefoglalót a fülből egyszerre 5️⃣ Rögzítsd a kulcsfontosságú tanulságokat a személyes tudásbázisod számára