Uno de los principales inconvenientes en las diversas plataformas de comunicación en la actualidad es la existencia de mensajes nocivos, discriminatorios, de odio o que buscan incomodar. Los trolls y abusadores digitales se encuentran mayormente en las redes sociales como Twitter, aunque otras plataformas también padecen sus efectos. Ahora el nuevo sistema de Inteligencia Artificial en Wikipedia anhela poder poner fin a este tipo de abusos en su entorno.
Según Forbes, la toxicidad en los foros de Wikipedia es tan alta que los colaboradores activos (aquellos que han realizado al menos una edición al mes) han reducido su número un 40% en los últimos ocho años. Por ello, se ha optado por implementar Inteligencia Artificial en Wikipedia para obtener datos adicionales y lograr enfrentar este problema.
https://icrono.com/tendenciasmarketingacabar-con-los-trolls-en-twitter/
Jigsaw, la incubadora tecnológica anteriormente conocida como Google Ideas, en colaboración con la fundación Wikimedia, ha iniciado el proyecto de investigación denominado “Detox” que aplica machine learning para aprender de los comentarios publicados en la plataforma y discernir cuáles pueden ser ataques personales.
La inteligencia artificial de Wikipedia no solo se dedica a combatir a los trolls en sus foros, sino que también es un código abierto con el que se busca enfrentar de manera más efectiva el acoso en diversas plataformas, redes sociales y foros web en el futuro.
Cómo se implementa la inteligencia artificial en Wikipedia
El primer paso fue proporcionar a los algoritmos de machine learning más de 100.000 comentarios nocivos que se hallaron en páginas de Wikipedia Talk, previamente catalogados por un equipo humano de 4.000 individuos.
Cada uno de los mensajes fue examinado por diez personas distintas, asegurando así que el resultado no deja lugar a dudas sobre su toxicidad. Este ha sido el conjunto de datos más grande sobre abusos en línea jamás desarrollado, ya que no solo incluye ataques personales directos, sino también indirectas, que son extremadamente complicadas de interpretar para la inteligencia artificial.
Después del desafiante entrenamiento, la inteligencia artificial de Wikipedia ha logrado identificar cuáles comentarios son nocivos o tienen intenciones maliciosas, con la misma eficacia que los moderadores humanos.
[Tweet «El 34% de los comentarios abusivos en #Wikipedia fueron realizados por usuarios no identificados»]Más de la mitad de los comentarios abusivos fueron hechos por usuarios registrados
El algoritmo analizó 63 millones de comentarios de Wikipedia publicados a lo largo de un período de 14 años entre 2001 y 2015 con el objetivo de descubrir patrones de comentarios abusivos. Los hallazgos se integraron en el documento Ex Machina: Personal Attacks Seen at Scale paper.
Uno de los hallazgos más destacados fue que más del 80% de los comentarios clasificados como abusivos provienen de más de 9.000 individuos que emitieron menos de cinco comentarios abusivos en un año, contradiciendo la idea común de que este tipo de mensajes son enviados por un grupo aislado de trolls.
Otros datos significativos que logró recopilar la inteligencia artificial de Wikipedia:
- Casi el 10% de todos los ataques fueron perpetrados por 34 usuarios.
- El 34% de estos comentarios fueron realizados por usuarios no identificados.
- Más de la mitad de los ataques personales fueron llevados a cabo por usuarios registrados, a pesar de que los usuarios anónimos tuvieron seis veces más probabilidades de realizar ataques personales.
- Existen 20 veces más usuarios registrados que usuarios anónimos
A pesar de que puede que aún se necesite la revisión humana, la inteligencia artificial de Wikipedia ayudará a encontrar la mejor forma de combatir la negatividad en su plataforma.
Imagen: Depositphotos
