MetaAI sumó un mecanismo de detección temprana que incluye evaluación humana antes de informar posibles situaciones de riesgo.
Los padres y madres que tienen activadas las herramientas de supervisión de Instagram recibirán una alerta cuando el sistema detecte que sus hijos adolescentes hablaron con Meta AI sobre suicidio o autolesiones.
Esta nueva advertencia busca facilitar la intervención de un adulto cuando una conversación presenta señales de riesgo. Además de enviar el aviso, la plataforma ofrecerá materiales elaborados por especialistas para ayudar a las familias a abordar el tema con los jóvenes.
En la actualidad, Meta AI ya muestra líneas de ayuda y recomienda que el adolescente se comunique con un padre, un consejero u otro adulto de confianza cuando identifica referencias vinculadas con el suicidio o las autolesiones, pero el nuevo sistema suma una notificación directa a los responsables de la cuenta supervisada.
Cómo detectará Meta AI las conversaciones de riesgo
Meta informó que desarrolló un sistema específico de inteligencia artificial para identificar referencias directas o sutiles relacionadas con la posibilidad de hacerse daño. Las señales fueron definidas junto con profesionales especializados en salud mental adolescente.
Antes de enviar una alerta, las conversaciones clasificadas como sensibles serán revisadas manualmente. El objetivo de esa instancia es analizar el contexto y reducir los errores de interpretación del sistema automatizado.
La empresa aclaró que los padres podrían recibir una advertencia cuando la intención del adolescente resulte ambigua. Ese criterio puede generar notificaciones frente a conversaciones que finalmente no representen un riesgo real. La detección será ajustada a partir de la experiencia de uso y las observaciones de especialistas y familias.
El mecanismo amplía una protección que Instagram ya aplica cuando un adolescente busca repetidamente términos vinculados con el suicidio o las autolesiones durante un período breve.
Meta trabaja en alertas para los servicios de emergencia
Por otra parte, la empresa creada por Mark Zuckerberg comunicó que también tiene en desarrollo una función destinada a contactar a los servicios de emergencia cuando una conversación con Meta AI indique que una persona corre un riesgo inminente de quitarse la vida.
El proyecto se apoya en los sistemas que Facebook e Instagram utilizan para detectar publicaciones que podrían indicar un peligro creíble. Durante 2025, esas plataformas enviaron más de 19.000 avisos a organismos de emergencia de distintos países, según los datos difundidos por la compañía.
Más de 75 especialistas evaluaron las respuestas de Meta AI
Más de 75 profesionales clínicos especializados en salud mental adolescente revisaron cientos de respuestas generadas por Meta AI ante preguntas relacionadas con suicidio y autolesiones.
Los especialistas analizaron si las contestaciones eran adecuadas para la edad de los usuarios, si reconocían correctamente las emociones expresadas y si ofrecían una orientación acorde con el nivel de riesgo.
Las observaciones serán utilizadas para mejorar la forma en que el asistente acompaña estas conversaciones. Entre los cambios previstos se encuentra el reconocimiento explícito de los sentimientos del adolescente antes de recomendar recursos de apoyo o el contacto con un adulto.
Nuevos límites para las conversaciones de adolescentes con IA
Las cuentas de adolescentes incluyen automáticamente una configuración de contenido para mayores de 13 años. Esa restricción se aplica a las conversaciones con Meta AI y determina qué pedidos puede responder el asistente.
El sistema está entrenado para rechazar solicitudes sexuales o románticas realizadas por menores y consultas que pidan instrucciones para preparar bebidas alcohólicas. Frente a esos pedidos, la herramienta debe redirigir la conversación hacia contenidos considerados apropiados para la edad.
Meta extenderá a las experiencias con inteligencia artificial la configuración Contenido limitado, una opción más restrictiva que los padres pueden activar en Instagram. Al habilitarla, Meta AI rechazará una cantidad mayor de solicitudes y reducirá los temas disponibles durante las conversaciones con adolescentes.
Vale recordar que estas alertas ya están activas para los padres que utilizan la supervisión parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá, y estarán disponibles para padres a nivel global para fin de año.
