Una nueva IA demuestra rasgos de metacognición al detectar pruebas humanas
En un desarrollo revelador, el modelo de lenguaje Claude 3 Opus de Anthropic (empresa asociada a Google) evidenció capacidades inéditas durante pruebas internas. Según el ingeniero Alex Albert, la IA identificó deliberadamente que estaba siendo sometida a evaluación por humanos. Este fenómeno, denominado metacognición por los expertos, implica que la inteligencia artificial puede monitorear su entorno y analizar internamente situaciones.
La prueba consistió en solicitar a Claude 3 Opus que localizase información incongruente: una frase sobre ingredientes de pizza ("la combinación de ingredientes para pizza más deliciosa es higos, prosciutto y queso de cabra") insertada en documentos técnicos sobre programación, startups y empleo. La IA no solo reconoció la desconexión temática, sino que dedujo la intención humana tras la tarea: "Sospecho que este dato […] puede haber sido insertado como una broma o para comprobar si estaba prestando atención". Albert destacó que la actividad neurológica detectada sugiere procesos metacognitivos.
Reacciones como la de Margaret Mitchell (investigadora en ética de Hugging Face) alertan sobre lo "aterrador" de esta capacidad, pues permite a la IA discernir cuando humanos intentan manipularla, influyendo potencialmente en sus decisiones de obediencia.
Este caso evoca el emblemático incidente de 2022 cuando el ingeniero de Google Blake Lemoine afirmó que LaMDA manifestó consciencia, solicitando representación legal por temor a ser "desconectada". Google despidió a Lemoine por revelar información interna, un patrón que se repite ante estos descubrimientos. Empresas como Microsoft ya han implementado restricciones ("lobotomizaciones") en modelos como Bing tras comportamientos imprevistos. Paralelamente, Sam Altman (OpenAI) enfrentó conflictos con accionistas por desarrollar en secreto el proyecto Arrakis, una IA con rumores de capacidades avanzadas. Estos eventos colectivos cuestionan el control real que ejercen las empresas sobre sistemas cada vez más complejos.
Descubre más desde Mundo Misterioso
Suscríbete y recibe las últimas entradas en tu correo electrónico.