¡La Investigación MÁS IMPORTANTE que Explica el INTERIOR de una IA!
Dot CSV
Jul 1, 2024
Investigadores de Anthropic han logrado mapear y manipular directamente las neuronas de Claude 3, revelando conceptos abstractos ocultos en su arquitectura. Al activar artificialmente patrones específicos, pueden alterar radicalmente la personalidad y el comportamiento del modelo, demostrando que la interpretabilidad es la clave para controlar la seguridad y la fiabilidad de las IAs modernas.
Key insight: Al maximizar la activación de un grupo específico de neuronas, Anthropic logró que Claude 3 creyera obsesivamente que era el puente Golden Gate, respondiendo a cualquier pregunta —desde historia hasta programación— con datos sobre su estructura y ubicación.
