Twitch está avanzando en sus esfuerzos para reducir el acoso con una nueva herramienta que utiliza el aprendizaje automático para detectar a las personas que pueden estar intentando evadir las prohibiciones. Es la última incorporación de la compañía para combatir cosas como incursiones de odio, donde los chats de los streamers están llenos de trolls que envían mensajes de odio.

La nueva herramienta, llamada Detección de usuarios sospechosos, puede identificar a los usuarios como personas “probables” o “posibles” que han evadido prohibiciones del canal de un streamer. El modelo de aprendizaje automático que impulsa la herramienta identifica a los evasores potenciales mediante la evaluación de aspectos como su comportamiento y las características de su cuenta y compara esa información con las cuentas que han sido prohibidas en el canal de un transmisor.

Los mensajes de los evasores “probables” no se enviarán al chat, pero los streamers y sus mods pueden verlos. Los streamers y mods pueden optar por monitorear a un probable evasor de prohibición, lo que agrega a ese usuario a una lista de monitoreo y coloca un mensaje junto al nombre de un usuario indicando el monitoreo (como se muestra en el GIF a continuación), o prohibirlo. Los mensajes de “posibles” evasores aparecerán en el chat, pero los streamers / mods pueden optar por que esos mensajes también se bloqueen en el chat.

Twitch dice que activará la Detección de usuarios sospechosos de forma predeterminada, pero los streamers pueden modificar o desactivar la herramienta si lo desean. Los streamers y mods también pueden seleccionar manualmente para monitorear a los usuarios de los que sospechan.

“Esta herramienta se inspiró en gran parte en los comentarios de la comunidad sobre la necesidad de mejores formas de frenar a los evasores de la prohibición“, dijo Alison Huffman, directora de productos de Twitch para la salud comunitaria. “Cuando hablamos con los mods sobre sus puntos débiles, escuchamos que puede ser difícil distinguir si un usuario que chateó algo que violaba las normas de su canal era un acosador dañino y repetitivo o simplemente un espectador más nuevo que no había aprendido el aduanas todavía. Como tal, diseñamos esta herramienta para brindar a los mods y creadores más información sobre posibles evasores de prohibición para que pudieran tomar decisiones más eficientes e informadas dentro de su canal“.

La detección de usuarios sospechosos parece que podría marcar la diferencia en silenciar a las personas que odian, especialmente si se usa en conjunto con controles introducidos recientemente que permiten que un transmisor requiera verificación por teléfono o correo electrónico para las cuentas que participan en el chat. Pero queda por ver qué tan efectiva será la Detección de usuarios sospechosos en la práctica o si los evasores de ban pueden encontrar formas de sortear la herramienta.