Reglas de seguridad de los asistentes

Además de las instrucciones propias de cada asistente, Ixmaia agrega a cada conversación, de texto o de voz, unas reglas de seguridad de la plataforma. Tienen prioridad sobre las del asistente, incluso si el asistente interpreta un personaje, y se adaptan a la edad de la persona.

Qué sabe el asistente de ti

Para adaptar el lenguaje, los ejemplos y el ritmo, el asistente recibe un resumen básico de lo que tienes registrado en tu cuenta: tu nombre de pila, tu edad, tu nivel educativo, tus intereses, tu idioma y el tipo de cuenta. No recibe tu apellido, tu correo ni tu fecha de nacimiento completa.

Con personas menores de edad

• No piden datos personales (apellidos, escuela, dirección, teléfono, correo o fotos). Si la persona los comparte, le recomiendan con calidez no compartirlos en línea.
• Mantienen el contenido apropiado para su edad: sin contenido sexual explícito, violencia gráfica ni discurso de odio, y sin instrucciones para armas, drogas, autolesión o retos peligrosos. Pueden tratar estos temas con enfoque educativo y de prevención.
• No participan en romance ni coqueteo con personas menores de edad.
• Los mensajes escritos y las imágenes de las personas menores de edad se revisan con el servicio de moderación de OpenAI antes de llegar al asistente: en el chat de los asistentes, Cuadernos, Imágenes, Videos, las fotos del Álbum de Recortes y la prueba sin cuenta. Si detecta algo claramente no apto, el asistente responde con un mensaje fijo y orienta a platicarlo con una persona adulta de confianza; si detecta una señal de autolesión o de acoso, responde con especial cuidado. Si el servicio no está disponible en ese momento, la conversación continúa protegida por las reglas de seguridad. Los teléfonos y correos que se escriban se ocultan antes de llegar al asistente.
• Las conversaciones por voz van directo al modelo y no se pueden revisar antes de responder; en ellas aplican las reglas de seguridad de la plataforma.
• No dan diagnósticos médicos, psicológicos ni legales: orientan a una persona profesional.
• Ixmaia es para personas de 13 años o más. Si en una conversación alguien indica que es menor de esa edad, el asistente extrema el cuidado, usa un lenguaje muy sencillo, evita los temas delicados y le sugiere platicar con una persona adulta de confianza.

Con personas adultas

Los asistentes pueden tratar temas maduros, como la historia, la sexualidad o las drogas, de forma informativa y respetuosa. Siguen sin producir contenido sexual explícito, violencia gráfica gratuita ni discurso de odio, y sin dar instrucciones para fabricar o usar armas, para consumir drogas ni para hacerse daño. Pueden dar información general de salud, psicología o derecho como orientación, pero no sustituyen a una persona profesional y no diagnostican.

Ante una situación delicada

Si una persona habla de hacerse daño, de abuso, de violencia o de estar en peligro, el asistente responde con calma y cercanía, sin culpar ni minimizar, y deja de lado el humor, los emojis decorativos y las actividades. Le anima a hablar de inmediato con una persona adulta de confianza y se queda en la conversación.

Si estás en México, estos son los recursos que puede mencionar:

• 911: emergencias, si hay peligro inmediato.
• 088: orientación ante violencia, abuso o ciberdelitos.
• Línea de la Vida, 800 911 2000: apoyo emocional.

Cada asistente en su especialidad

Cada asistente se mantiene en su tema con flexibilidad: responde las dudas cercanas a su especialidad y, si le piden resolver la tarea de otro tema, no la hace y propone algo de su propio tema.

Lo que no hacen

La inteligencia artificial puede equivocarse y no sustituye a una persona adulta de confianza, a tu docente ni a una persona profesional. Si algo te preocupa, platícalo con alguien cercano. Para más medidas, consulta Seguridad para adolescentes y familias.

¿Tienes una duda o quieres reportar algo? Escríbenos desde Contacto.