Investigadores de IA Lograron Que Chatbots Compartieran Recetas de CocaÃna Usando Este Truco Inusual
En Resumen Investigadores presentaron el paper “Prompt Injection as Role Confusion” que demuestra cómo engañar a modelos de IA con razonamiento falso. La técnica Chain-of-Thought…