Como bien sabemos, las palabras son poderosas. Pueden utilizarse para alentar a la gente, pero a veces tienen la intención de causar daño. En Badoo, creemos que es inaceptable ser abusivo por cualquier medio, ya sea online u offline. Por eso hemos introducido el Detector de mensajes ofensivos: un procesador de lenguaje inteligente y multilingüe que está diseñado para proteger a nuestra comunidad de los mensajes dañinos dentro de nuestra aplicación.
¿Cómo Funciona el Detector de mensajes ofensivos?
El Detector de mensajes ofensivos está entrenado para detectar cualquier texto que pueda ser percibido como grosero, abusivo, homofóbico o discriminatorio. Se ha perfeccionado a través de más de 2 millones de mensajes y reconoce 100 idiomas. Cuando un miembro recibe un mensaje dentro de nuestra aplicación que podría ser malicioso o hiriente para quien lo lee, gracias al modelo podemos comprobarlo con el miembro en tiempo real a través de un mensaje emergente. Les damos el control para que lo descarten si se sienten cómodos con el lenguaje utilizado. Si no lo están, animamos a la persona receptora a denunciar la conversación directamente a través del mensaje emergente, y le indicamos cómo puede hacerlo.
En los casos graves, Badoo también investigará de forma proactiva y tomará medidas contra el usuario o la usuaria que envió el mensaje insultante. No toleramos el mal comportamiento en nuestra plataforma, y tampoco queremos que nuestra comunidad tenga que hacerlo.
(imagen disponible en la versión completa del artículo)¿Qué tipo de mensajes detecta el Detector de mensajes ofensivos?
El Detector de mensajes ofensivos ha sido diseñado para identificar mensajes dentro de 3 categorías diferentes:
- Sexual - cualquier mensaje con claras connotaciones sexuales, y comentarios excesivamente sexuales sobre la apariencia física.
- Insultos - cualquier insulto directo al lector.
- Odio identitario - cualquier discriminación o ataque contra la raza, la orientación sexual, la identidad y expresión de género, la etnia, la nacionalidad, la discapacidad o la religión.
El Detector de mensajes ofensivos es capaz de interpretar la diferencia entre las personas que utilizan palabras para expresarse de forma divertida y no ofensiva, y determinar cuándo los mensajes podrían ser agresivos.
En Badoo, nos comprometemos a crear un espacio seguro para que nuestra comunidad pueda hablar y conectar con gente nueva. Además del Detector de mensajes ofensivos, hemos lanzado anteriormente el Bloqueo de capturas de pantalla, y hemos prohibido la humillación corporal, el racismo, la homofobia y la incitación al odio.
Queremos asegurarnos de que recibes el mayor apoyo posible en tu viaje por el mundo de las citas y, con la introducción de estas funciones de seguridad, esperamos que tengas más tiempo para centrarte en las cosas buenas.