PrismML hopes its tiny LLM will change how we all use AI
Artikelbild eller återanvändbart omslag för TechCrunch AI
PrismML är ett AI-labb grundat av forskare från Caltech som utvecklar komprimerade språkmodeller — intelligenta AI-system som kan köras på vanliga datorer och smartphones istället för kraftfulla servrar.
Deras senaste modell, Bonsai 2 27B, är en förminskad version av en populär modell från Alibaba som nu tar upp bara 5,9 GB istället för 59 GB, en minskning på 90 procent. Modellen behåller 98 procent av originalmodellens prestanda enligt benchmarktester. Företaget använder en teknik som förenklar modellens interna värden från 16 bitar ner till bara tre möjliga värden, vilket minskar lagringsutrymmet dramatiskt. PrismML planerar att komprimerera ännu större modeller framöver.
If AI lab PrismML isn't on your radar yet, it should be — not because it's raised gobs of money (it hasn't yet, just a $22.25 million seed round), but because of the technical minds involved and the potentially industry-changing tech it's developing.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Apple CEO says the company doesn’t ‘want to ship AI for AI’s sake’
TechCrunch AI för 10 tim sedan
4 days left: How TechCrunch Founder Summit helps you make more useful connections to scale
TechCrunch AI för 10 tim sedan
Judge allows NAACP lawsuit over xAI data center pollution to move forward
TechCrunch AI för 10 tim sedan
OpenAI reportedly lowers funding target for new round
TechCrunch AI för 15 tim sedan