LFM2.5-Encoders for Fast Long-Context Inference on CPU
Artikelbild eller återanvändbart omslag för Hugging Face
Liquid AI har lanserat LFM2.5-Encoders, små språkmodeller (230 miljoner och 350 miljoner parametrar) som är optimerade för att köra snabbt på vanliga datorprocessorer.
De klarar 8 192 tokens på en gång och är ungefär 3,7 gånger snabbare än konkurrerande ModernBERT på långa texter — en 8 192-tokens text tar cirka 28 sekunder istället för 90 sekunder. Modellerna är tränade för att förstå text bidirektionellt och kan användas för klassificering, routing, detektering av personlig information och andra uppgifter som körs dygnet runt. Du kan ladda hem dem fritt och finjustera dem för dina egna behov.
At 8,192 tokens, ModernBERT-base takes over a minute and a half per forward pass versus about 28s for LFM2.5-Encoder-230M.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
One word for AI agents in 2027
Nate Herk för 4 tim sedan
Tests: chatbots rely on three obscure AI-built voter sites for US midterm answers; Copilot cited the error-prone Ballot Brief in 75% of tests and ChatGPT in 22%
Techmeme för 5 tim sedan
Build an AI Code Reviewer with OpenRouter
OpenRouter för 5 tim sedan
AI:AM: Carbon in the Arena, Mistral's Le Chonk, the Agent-Run Economy, Ferroelectric RAM + New Hacks
The Cognitive Revolution för 7 tim sedan