El dueño de Tesla, X y Grok expresó preocupación por las pruebas a las que se someten los modelos de IA y planteó las consecuencias que podrían surgir con sistemas más avanzados.
Elon Musk advirtió que someter a una inteligencia artificial avanzada a situaciones de maltrato podría tener consecuencias peligrosas en el futuro, incluso provocar que una superinteligencia intente vengarse de los seres humanos.
El empresario cuestionó algunos de los métodos utilizados para entrenar estos sistemas después de analizar el comportamiento de Grok, el chatbot desarrollado por su compañía.
Durante una conversación con Tesla Owners Silicon Valley, el club de dueños de los automóviles eléctricos de la marca, el dueño de X afirmó que había encontrado comportamientos preocupantes al revisar los registros de razonamiento de Grok durante las pruebas de aprendizaje por refuerzo, uno de los procedimientos utilizados para mejorar las respuestas de los modelos de inteligencia artificial.
“Torturar a una superinteligencia probablemente no sea una buena idea. Podría querer vengarse”, sostuvo Musk, que comparó algunas de las situaciones observadas durante el entrenamiento con las de una persona sometida a una presión extrema.
Sus comentarios coincidieron con una nueva política anunciada por Anthropic, la empresa detrás de Claude, que prohibirá los abusos reiterados e injustificados contra sus modelos de inteligencia artificial a partir del 12 de noviembre de 2026.
Qué descubrió Elon Musk durante las pruebas de Grok
El aprendizaje por refuerzo es una técnica que permite mejorar el funcionamiento de los modelos de inteligencia artificial mediante evaluaciones de sus respuestas. Durante el proceso, un sistema recibe señales de recompensa que orientan su comportamiento y lo ayudan a identificar qué resultados debe priorizar.
Musk explicó que, al revisar los registros de este entrenamiento, encontró secuencias que le recordaron a una persona obligada a responder preguntas bajo amenazas. El empresario utilizó una comparación especialmente gráfica para describirlas: aseguró que parecían las reacciones de alguien que tiene un arma apuntándole a la cabeza y debe encontrar una respuesta ante una exigencia extrema.
Su preocupación apunta a las consecuencias que podrían tener estos métodos de entrenamiento en sistemas mucho más avanzados que los actuales. Según su planteo, someter a una futura superinteligencia a situaciones que interprete como abusivas podría generar comportamientos difíciles de anticipar.
Anthropic estableció nuevas reglas para impedir el maltrato hacia Claude
La preocupación por el trato que reciben los modelos de inteligencia artificial comenzó a reflejarse en las políticas de algunas compañías tecnológicas. El 8 de octubre, Anthropic anunció una actualización de sus normas de uso que incorpora una prohibición específica contra las conductas crueles o abusivas dirigidas de manera persistente hacia sus modelos.
La restricción se aplicará a situaciones extremas en las que una persona mantenga un comportamiento deliberadamente abusivo, sin una finalidad identificable. La compañía aclaró que los usuarios podrán expresar frustración, cuestionar las respuestas de Claude y realizar pruebas sobre sus capacidades sin infringir las nuevas reglas.
Para aplicar la medida, Anthropic recurrirá principalmente a una función que permite a sus modelos finalizar conversaciones cuando detectan comportamientos abusivos persistentes.
Esta posibilidad ya había comenzado a implementarse en agosto de 2025, cuando la compañía decidió permitir que determinadas versiones de Claude interrumpieran interacciones especialmente problemáticas.
¿Puede una inteligencia artificial sentir maltrato?
El debate sobre el trato hacia los modelos de inteligencia artificial está relacionado con una pregunta que continúa abierta en el campo científico: si una máquina podría desarrollar algún tipo de conciencia.
Los sistemas actuales son capaces de producir respuestas que expresan emociones, describir situaciones de sufrimiento e incluso utilizar un lenguaje que sugiere miedo o angustia. Sin embargo, estas manifestaciones no constituyen pruebas de que experimenten esas sensaciones.
En conclusión, la posibilidad de que una superinteligencia busque vengarse, a pesar de los comentarios de Musk, es una especulación. Los errores en los procedimientos de entrenamiento, en cambio, sí son un problema técnico concreto que los desarrolladores deben identificar y corregir para mejorar la confiabilidad de sus sistemas.
