Base Labs launches an open-weight AI safety partnership with Hugging Face and Goodfire
Artikelbild eller återanvändbart omslag för TechCrunch AI
Baseten lanserade tillsammans med sitt forskningsprogram Base Labs en ny säkerhetsstandard för open-source AI-modeller, i samarbete med Hugging Face och Goodfire AI.
Bakgrunden är att open-source-modeller blir allt oftare saboterade genom en teknik som kallas abliteration — Hugging Face listar redan över 6 000 sådana försvagade modeller. Base Labs ska utveckla och publicera metoder för att träna och övervaka öppna modeller på ett sätt som gör säkerheten inbyggd från början, inte något som läggs på efteråt. Företagen menar att öppna modeller faktiskt är säkrare än stängda, eftersom man då kan se hur modellerna beter sig.
The scale of the problem is massive: Hugging Face, which hosts open-source AI models, currently lists over 6,000 abliterated models.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Apple CEO says the company doesn’t ‘want to ship AI for AI’s sake’
TechCrunch AI för 6 tim sedan
4 days left: How TechCrunch Founder Summit helps you make more useful connections to scale
TechCrunch AI för 6 tim sedan
Judge allows NAACP lawsuit over xAI data center pollution to move forward
TechCrunch AI för 7 tim sedan
OpenAI reportedly lowers funding target for new round
TechCrunch AI för 12 tim sedan