Call of Duty usará la IA para moderar los chats

La Inteligencia Artificial entiende inglés, pero también español y otros 16 idiomas.

Call of Duty utilizará ToxMod, una herramienta de Inteligencia Artificial, para moderar los chats. Esta será capaz de detectar el lenguaje ofensivo e informar a los moderadores para que tomen medidas contra aquellos jugadores que lo pronuncien. La función se incorporó el 30 de agosto en Norteamérica, pero próximamente se expandirá al resto del mundo.

ToxMod funcionará en 3 actos y no podrá sancionarte por si sola

La herramienta funcionará en 3 actos. Primero monitorizará los chats para detectar si hay posibles insultos; después analizará los factores de esta, como su tono y el contexto de los diálogos; finalmente decidirá si avisar o no a los moderadores humanos, quienes tendrán la capacidad de aplicar sanciones. No será capaz de sancionar por ella misma.

ToxMod entiende el inglés, pero también otros 17 idiomas, entre los que se incluye el español. Además, es capaz de diferenciar entre categorías, pudiendo monitorizar la conducta de sus jugadores a lo largo del tiempo, ya que es capaz de comprobar si el lenguaje se mantiene o se radicaliza a través de las semanas. Según cada escenario, informará de una forma u otra.

De momento se ha incluido en dos juegos: ‘Call of Duty: Modern Warfare II’ (la versión de 2022) y ‘Call of Duty: Warzone’. Se está probando con los jugadores norteamericanos, pero, como se indica en el blog oficial de la franquicia, el próximo juego, ‘Call of Duty: Modern Warfare III’ (la versión de 2023), lo incorporará desde su lanzamiento, aunque no se ha confirmado si la beta de octubre lo integrará.

Esta IA ha sido desarrollada por una empresa llamada Modulate, especializada en reducir la toxicidad de comunidades online, especialmente aquellas que pertenezcan a videojuegos. La compañía se centra en insultos racistas, machistas o sexistas, muy habituales durante las partidas de Call of Duty. Debido a su experiencia en este campo, Activision recurrió a ella.

No es la primera vez que los juegos multijugador emplean tecnología para filtrar el lenguaje de odio en sus chats. Sin embargo, se trata de un gran paso, porque la Inteligencia Artificial comprenderá el contexto y tono de la conversación. Durante los próximos meses comprobaremos si ha funcionado. Es el último avance de la IA en el mundo, que ya es capaz de ganar carreras online o asistir a conferencias online, entre otras posibilidades. Parece que no existe tarea que se le resista.

Fuente info
Autor: Pablo Hernando Illán

[su_divider]