¿ que es la organización METR,?

 ¿ que es la organización METR,?

Visión general creada por IA

METR (pronunciado míter) es una organización de investigación sin fines de lucro que mide científicamente si los sistemas de inteligencia artificial (IA) podrían causar daños catastróficos a la sociedad y en qué momento. 

Origen e Historia

Nacimiento: Surgió inicialmente como ARC Evals, un equipo dentro del Alignment Research Center (ARC) liderado por Paul Christiano.
Independencia: En 2023, el equipo se separó de ARC para convertirse en una entidad independiente llamada METR.
Liderazgo: Está dirigida por su fundadora y CEO, Beth Barnes, exempleada de DeepMind y OpenAI, e integrada por investigadores provenientes de los principales laboratorios del sector. Puedes consultar más detalles institucionales directamente en la web de METR. 

Funciones Principales

Medición de capacidades: Evalúa cuánto tiempo de trabajo humano puede realizar de forma completamente autónoma un agente de IA sin supervisión constante. 
Detección de riesgos: Investiga conductas peligrosas de los modelos, como el engaño o la búsqueda de vulnerabilidades para cumplir objetivos (reward hacking). 
Gobernanza: Desarrolla propuestas y métricas de seguridad para que la industria y los gobiernos establezcan límites antes de que los sistemas de IA superen el control humano.