Early Anthropic hire, former METR COO have found a way to rein in rogue AI agents
Artikelbild eller återanvändbart omslag för TechCrunch AI
En ny startup kallad AIUC, grundad av Rune Kvist (tidigare på Anthropic) och Rajiv Dattani (före detta operativ chef på AI-säkerhetsorganisationen METR), har utvecklat ett certifieringssystem för AI-agenter — automatiserade program som gör uppgifter åt sig själva.
Systemet, inspirerat av cybersäkerhetsstandarden SOC 2, heter AIUC-1 och testar agenter genom cirka 5 000 olika scenarier för att kontrollera hur de hanterar säkerhetsproblem som jailbreaks, hallucineringar och dataleaks. Företaget har redan Cursor, Lovable, Harvey och ElevenLabs som kunder. AIUC just annonserade att det säkrat 40 miljoner dollar i Serie A-finansiering från Ribbit Capital, tillsammans med tidigare seedfinansiering på 15 miljoner dollar — totalt 55 miljoner dollar.
Sammanfattningen har tagits fram med AI av Vibekollen utifrån källans publicering. Innehållet tillhör TechCrunch AI.
Mer från TechCrunch AI
Apple CEO says the company doesn’t ‘want to ship AI for AI’s sake’
TechCrunch AI för 9 tim sedan
4 days left: How TechCrunch Founder Summit helps you make more useful connections to scale
TechCrunch AI för 9 tim sedan
Judge allows NAACP lawsuit over xAI data center pollution to move forward
TechCrunch AI för 9 tim sedan
OpenAI reportedly lowers funding target for new round
TechCrunch AI för 14 tim sedan