La aparición de mensajes discriminatorios, xenófobos, racistas, de odio o que buscan ofender o incomodar ha ido aumentando en los últimos años. Internet ha facilitado una mayor comunicación con todo tipo de individuos con pensamientos divergentes, pero algunos usuarios pierden la percepción del respeto y transforman sus comentarios en agresiones. Google Perspective es una nueva herramienta que podría ser una solución a los problemas de trolls y abusos en línea.
El gran desafío del acoso y abuso en línea
El nuevo proyecto de inteligencia artificial de Google busca ser una herramienta efectiva para combatir el hostigamiento en la red y la creciente toxicidad en las interacciones en línea. Este tipo de comentarios han llegado a ser tan irritantes e invasivos que algunos medios han optado por eliminar esas secciones para proteger a sus lectores, como ocurrió recientemente con el afamado foro de cine IMDB.
Moderando los comentarios inapropiados uno a uno ha sido la alternativa de muchos de los sitios que buscan fomentar la interacción con sus lectores, pero en plataformas donde el número de usuarios es muy elevado esta labor se torna inviable. Google Perspective aspira a asistir a los editores de sitios web en la gestión adecuada de la moderación, mucho más ágil y lo mejor de todo, gratuita.
[Tweet «La asistencia para moderar comentarios en línea ha llegado con #Perspective y su IA»]Cómo opera Google Perspective
Google Perspective emplea machine learning que tiene la capacidad de identificar automáticamente los insultos, acosos y abusos en Internet. Cualquier oración que se someta a su interfaz será analizada en función de la “toxocidad” de la frase con una precisión muy superior a cualquier lista negra de palabras clave, y por supuesto, a una velocidad mucho mayor que un moderador humano.
La inteligencia artificial de Google Perspective “aprende” basándose en la similitud de comentarios anteriores que han sido etiquetados por los usuarios como “tóxicos”, es decir, aquellos comentarios que resultaron irrespetuosos, groseros o irracionales, y bajo los cuales, probablemente, muchos usuarios abandonen la conversación.
Perspective analizó cientos de miles de comentarios que habían sido clasificados por moderadores humanos. Por supuesto, cuanto más información procese, más acertados serán sus juicios en el futuro, por lo que a pesar de que está en sus etapas iniciales, irá mejorando con el tiempo a medida que reúna más datos para ajustar su precisión.
El periódico The New York Times ya ha probado la primera versión de Google Perspective, moderando los más de 11.000 comentarios que cada día eran revisados manualmente, y ahora cualquier medio o plataforma en internet puede usarlo de manera gratuita, a través de una API, aunque actualmente solo dispone de soporte para el idioma inglés.
En un futuro, conforme los editores de otros idiomas se sumen al proyecto, Google expandiráel espectro de lenguajes ofrecidos para que todos tengan la oportunidad de emplear esta herramienta de código abierto.
El debate sobre la censura en línea no excluye esta iniciativa
Quienquiera que participe en intercambios en los distintos canales que brinda Internet, entenderá que es sumamente importante establecer un entorno seguro en las discusiones digitales. De hecho, se trata de un dilema crucial para el porvenir de Twitter, que ya ha implementado numerosas medidas y herramientas contra los abusos en su plataforma.
Instagram es otra de las redes sociales que han mostrado preocupación por los trolls y comentarios hirientes en su plataforma y ha proporcionado una herramienta para eliminar los comentarios perjudiciales. Y en las plataformas de contenido, el problema no puede ser resuelto por iniciativa de los usuarios.
No obstante, surge una vez más el debate sobre si esto constituye censura, ya que el uso de inteligencia artificial para la moderación podría ocasionar “falsos positivos” o caer en una zona gris donde el sentido común resultaría esencial para tomar decisiones.
Google ha señalado que Perspective no está diseñado para tener la palabra final en la publicación de un comentario, ya que los moderadores serán libres de determinar la utilización de la herramienta. Google Perspective podrá servir para señalar un comentario y moderarlo más adelante, o avisar al usuario sobre la toxicidad de sus palabras e invitarlo a reflexionar sobre su mensaje antes de enviarlo.
¿Consideras que esta herramienta será efectiva en la lucha contra los trolls?
[Tweet «¡Adiós a los trolls! Llega #Perspective de #Google para luchar contra el abuso online»]Imagen: Shutterstock.com
