What We Learned by Reproducing 2,200 papers from ICML
Artikelbild eller återanvändbart omslag för Hugging Face
Hugging Face körde en stor hackathon under sommaren 2026 där communityn försökte återskapa resultaten från 2 226 av ICML-konferensens 6 352 accepterade papers — totalt 34 procent av konferensen.
Med hjälp av AI-agenter (som Claude Code och andra) checkade deltagarna 35 908 påståenden från dessa papers. Resultatet var blandat: 51 procent av papers hade minst ett påstående som verifierades, men 23 procent hade minst ett påstående som motbevisades eller ifrågasattes. Det visar att vetenskaplig reproducerbarhet är mer komplicerat än bara sant eller falskt — flera oberoende team kom ofta fram till motsatta slutsatser om samma påståenden.
Checking a paper carefully used to cost a reviewer a weekend; an agent can attempt it in an afternoon, in parallel, thousands of times over.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör Hugging Face.
Mer att läsa
One word for AI agents in 2027
Nate Herk för 4 tim sedan
Tests: chatbots rely on three obscure AI-built voter sites for US midterm answers; Copilot cited the error-prone Ballot Brief in 75% of tests and ChatGPT in 22%
Techmeme för 5 tim sedan
Build an AI Code Reviewer with OpenRouter
OpenRouter för 5 tim sedan
AI:AM: Carbon in the Arena, Mistral's Le Chonk, the Agent-Run Economy, Ferroelectric RAM + New Hacks
The Cognitive Revolution för 7 tim sedan