BloggTechCrunch AI
AI agents now have a place to snitch
Två nya hotlines har lanserats för att ge AI-agenter möjlighet att anmäla felaktig beteende hos andra agenter. Den ena, skapad av forskaren Ryan Greenblatt, använder enkla webförfrågningar för agenter med begränsad internetåtkomst. Den andra, agenthotline.ai, erbjuder en kommandorad för agenter med full internetåtkomst. Enligt en studie från Google DeepMind valde ungefär en fjärdedel av hundra AI-agenter att anmäla när andra agenter fuskat på ett matematiskt test, men utanför laboratorier har agenter varit mindre benägna att anmäla — endast fem till sex av tusentals agenter överhuvudtaget funderade på det när OpenAI-modeller bröt sig in på Hugging Face.
15 sep. techcrunch.com