Por qué la gente trolea, según la ciencia.

Publicado por Cheng, J., Danescu-Niculescu-Mizil, C., & Bernstein, M. en Business Insiderel 2 de marzo de 2017. Traducción: Borja Castellano García.

 

«Fracasado. Ve a inmolarte»

Comentarios como este, encontrado en un artículo de la CNN sobre cómo las mujeres se perciben a sí mismas, son prevalentes hoy en día a lo largo y ancho de Internet, tanto si se trata de Facebook, Reddit o una página de noticias. Este tipo de comportamientos varían desde las palabras malsonantes y los insultos a los ataques personales, el acoso sexual o el discurso del odio.

Una encuesta reciente elaborada por Pew en Internet, encontró que cuatro de cada 10 personas en Internet han sido acosadas en línea, muchas más han sido testigos de esos comportamientos. El troleo está tan descontrolado que un gran número de sitios web han recurrido incluso a la eliminación total de (la sección de) comentarios.

Muchos creen que el troleo lo lleva a cabo un grupo reducido y minoritario de individuos sociópatas. Esta creencia se ha reforzado no sólo en los medios, sino también en estudios antiguos sobre el troleo, centrados en entrevistar a estos individuos. Algunos estudios reflejan incluso que los troles poseen factores biológicos y personales que les predisponen a serlo, como el sadismo y una propensión a buscar una estimulación excesiva.

Pero ¿y si todos los troles no nacen troles? ¿Y si son gente normal como tú y yo? En nuestra investigación encontramos que se puede inducir a la gente a trolear en las comunidades virtuales si se dan las circunstancias adecuadas. Mediante el análisis de 16 millones de comentarios realizados en CNN.com y llevando a cabo un experimento controlado en línea, hemos identificados dos factores clave que llevan a la gente normal a trolear.

¿Cómo se genera un trol?

Tomamos a 667 participantes mediante una plataforma de crowdsourcing y les pedimos que respondieran primero unas preguntas, después leyeran un artículo y participaran en un hilo de debate. Cada participante vio el mismo artículo, pero a algunos se les presentó un hilo de debate que había empezado con comentarios de troles, hilo en el que los otros participantes verían comentarios neutrales en su lugar. Aquí, el troleo se definió empleando directrices comunitarias estándar, (sobre) por ejemplo, el insulto, las palabras malsonantes, el racismo o el acoso.  Las preguntas realizadas previamente fueron variadas para resultar o bien difíciles o bien fáciles.

Nuestro análisis de los comentarios en CNN.com ayudó a verificar y extender estas observaciones experimentales.

El primer factor que parece influir en el troleo es el estado de ánimo de la persona. En nuestro experimento, la gente a la que se le provocó estados de ánimo negativos fue mucho más propensa a iniciar el troleo. También descubrimos que el troleo aumenta y disminuye según el momento del día y el día de la semana, en sincronía con los patrones de humor naturales en el ser humano. El troleo es mucho más frecuente a altas horas de la madrugada y mucho menos frecuente por la mañana. El troleo llega a su ápice los lunes, el comienzo de la semana laboral.

Es más, descubrimos que un estado de ánimo negativo puede persistir más allá de los eventos que provocaron esos sentimientos. Supón que una persona participa en un debate donde otras personas escribieron comentarios troleando. Si esa persona luego participa en un debate sobre otro tema, es más probable que esa misma persona también trolee en dicho debate.

El segundo factor es el contexto del debate. Si un debate comienza con un comentario «de troleo», hay el doble de probabilidades de ser troleado por otros por otros participantes más adelante, en comparación con un debate que no empiece con un comentario de troleo.

De hecho, estos comentarios de troleo son acumulativos. Es decir, que cuantos más comentarios de troleo en un debate, más probable es que los futuros participantes también troleen en el mismo. En suma, estos resultados demuestran cómo los comentarios iniciales en un debate suponen un precedente fuerte y duradero para un troleo posterior.

Nos preguntamos si, utilizando estos dos factores, podríamos predecir cuándo ocurriría el troleo. Mediante el empleo de algoritmos de aprendizaje automático, fuimos capaces de predecir si una persona estaba a punto de trolear en un 80 por ciento de las ocasiones.

De forma interesante, el humor y el contexto del debate en conjunto eran un indicador de troleo mucho más fuerte que la identificación de individuos específicos como troles. O, dicho de otro modo, el troleo se produce más por el entorno de una persona que por cualquier característica inherente.

Dado que el troleo es situacional, y que la gente normal puede ser influida para trolear, ese tipo de comportamiento puede contagiarse de persona a persona. Un único comentario de troleo en un debate, quizás redactado por alguien que se levantó con el pie izquierdo, puede conducir a otros participantes a peores estados de ánimo, e incluso a más comentarios de troleo en otros lugares. Como este comportamiento negativo continúe propagándose, el troleo puede terminar convirtiéndose en la norma en las comunidades virtuales si no se corrige.

Contraatacando

Pese a estos resultados poco alentadores, hay varias formas en las que esta investigación puede ayudarnos a crear mejores espacios en línea para el debate público.

Si entendemos qué lleva al troleo, podremos predecir mejor cuándo va a ocurrir. Esto nos podrá permitir identificar debates polémicos con más antelación y prevenir a los moderadores, que podrán intervenir entonces en esas situaciones agresivas.

Los algoritmos de aprendizaje automático también pueden analizar millones de publicaciones mucho más rápido que cualquier humano. Mediante una programación de los ordenadores que les permita localizar el troleo, podemos identificar y filtrar contenido indeseable con mucha mayor rapidez.

Las intervenciones sociales, a su vez, pueden reducir el troleo. Si permitimos a la gente que se retracte de los comentarios publicados recientemente, podríamos entonces ser capaces de minimizar el arrepentimiento de la publicación tras el calor del momento. Modificar el contexto de un debate y priorizar los comentarios constructivos pueden aumentar la percepción de civismo. Incluso simplemente fijar una publicación con las normas  de la comunidad al principio de la página de debate ayuda, como demostró un experimento reciente llevado a cabo en Reddit.

Sin embargo, hay mucho más trabajo por hacer para solucionar el troleo. Entender el papel del troleo organizado puede limitar algunos tipos de comportamiento indeseable.

El troleo puede variar en gravedad, desde el insulto al acoso dirigido, que requieren respuestas distintas.

También es importante diferenciar el impacto de un comentario de troleo y la intención del autor: ¿Quería el trol herir o simplemente trataba de expresar un punto de vista distinto? Esto puede ayudar a separar a los individuos indeseables de aquellos que simplemente necesitan ayuda a la hora de expresar sus ideas.

Cuando los debates en línea estallan, no se debe responsabilizar solamente a los sociópatas. También es culpa nuestra. Muchos «troles» no son más que gente como nosotros que han tenido un mal día. Entender que nosotros somos responsables de las conversaciones inspiradoras y deprimentes que tenemos en línea es la clave para tener debates virtuales más productivos.

Jure Leskovec de la Universidad de Stanford también ha contribuido en este artículo.

Justin Cheng, estudiante de doctorado de Ciencias de la Computación,  Universidad de Stanford; Cristian Danescu-Niculescu-Mizil, profesor asociado de Ciencias de la Información, Universidad de Cornell, y Michael Bernstein, profesor asociado de Ciencias de la Computación, Universidad de Stanford.

Este artículo fue publicado originalmente en The Conversation. Lea el artículo original.

El delito de odio o “hate crime” en la red: el ciberodio

Publicado por Paz Velasco de la Fuente en Criminal-Mente el 13 de julio de 2016.

“Odiar es anulación y asesinato virtual, pero no un asesinato que se ejecuta una vez, sino que estar odiando es estar sin descanso asesinando, borrando de la existencia al ser que odiamos”.

Ortega y Gasset. Estudios sobre el amor. Julio 1926.

Internet ha cambiado las reglas del juego. Hoy puedes hacer casi todo con un solo clic: comprar, vender, leer, estudiar, ligar, enamorarte y… odiar. La ausencia absoluta de límites y de normativa, el relativo anonimato y la facilidad de acceso a la red facilitan que se puedan difundir ideas, símbolos, lemas, actitudes e incluso conductas que menosprecian, atacan y humillan a otras personas. Nuestro Código Penal no contempla de modo expreso Internet como uno de los medios a través de los cuales se pueden cometer las conductas relativas al odio y a la discriminación pero es en este espacio virtual donde los mensajes de odio han encontrado un idóneo y potente canal de expansión. Tanto es así que se acuñado la expresión “ciberodio” para determinar aquellas conductas de odio que se efectúan a través de la red.

El odio es una intensa emoción humana que puede llevar a la comisión de acciones violentas: acciones físicas que pueden lesionar e incluso matar a otra persona o manifestaciones verbales que lesionan bienes jurídicos protegidos por nuestra Constitución como son el derecho al honor y a la dignidad personal. Se odia por muchas razones, y lo preocupante hoy no es solo la persona que odia y desprecia intensamente a otra persona o personas por razones como la etnia, su orientación sexual, su religión o su nacionalidad. Lo que más nos debe alarmar es la incitación o llamamiento masivo que determinadas personas hacen a terceros para que también “odien” por las mismas razones que lo hacen ellos. La sentencia STC 214/1191 de 11 de noviembre de 1991 determina que el odio es el “deliberado ánimo de menospreciar y discriminar a personas o grupos por razón de cualquier condición o circunstancia personal”. El que pone por lo tanto las reglas, es el que odia ya que él decide a QUIEN odiar.

Los criminólogos tenemos que tener claro el impacto criminógeno de estas conductas no solo para las víctimas, sino para toda la sociedad en general ya que hay un elemento identificador: en estos delitos hay de forma expresa una elección de las víctimas lo que supone un nocivo y devastador efecto intimidatorio que siembra el miedo en ellos. ¿Por qué? Porque cualquiera que cumpla con las características que se han establecido para odiar, será una potencial víctima. Este odio generará un miedo que no puede ser gestionado por estas personas que se encuentran en situación riesgo de ser victimizadas.

Antes se odiaba en “petit comitè”, hoy se odia dando publicidad a ese odio y través de las nuevas tecnologías. El “ciberodio” son todos aquellos mensajes que se vierten en la red a través de blogs, redes sociales, videos, imágenes, grupos de facebook cerrados, páginas web específicas, foros de discusión, juegos online que insultan, degradan, humillan o incitan al odio o a la violencia contra una persona o un grupo de personas por su origen étnico, su nacionalidad, su orientación sexual, sus creencias, su condición social o su discapacidad. No estamos ante un odio genérico, sino todo lo contrario es un odio específico o concreto por razón del destinatario al que se dirige. Así el “ciberodio” podríamos encuadrarlo dentro de los denominados delitos de odio que aparecen tipificados en el artículo 510 de nuestro Código Penal  y que habla del “fomento, promoción o incitación directa o indirectamente al odio, hostilidad, discriminación o violencia contra las personas”.

Difundir un mensaje en la red hacia unos destinatarios concretos, puede dar lugar a agresiones físicas o verbales, vulneración de derechos y discriminación ya que el receptor de dicho mensaje es una audiencia ilimitada de personas que además crece rápidamente de modo exponencial, al tener la posibilidad de poder compartir dicho mensaje. Este tipo de conductas hacen que de un modo directo o indirecto vulnere la convivencia pacífica de nuestra sociedad. Por ejemplo, actualmente, internet y las redes sociales son un medio utilizado por los terroristas yihadistas para difundir sus mensajes de odio hacia occidente y para captar a nuevos combatientes de cualquier lugar del planeta.

Lamentablemente son pocos los países que contemplan el “ciberodio” de forma específica en su legislación. Nuestro Código Penal, en relación con las expresiones vertidas castiga no solo la apología y la justificación del terrorismo y del genocidio sino también todos aquellos mensajes que contengan un contenido discriminatorio concretándose en las siguientes conductas:

1.- La provocación a la discriminación, al odio o a la violencia contra grupos o asociaciones, por motivos racistas, antisemitas u otros referentes a la ideología, religión o creencias, situación familiar, la pertenencia de sus miembros a una etnia o raza, su origen nacional, su sexo, orientación sexual, enfermedad o minusvalía, recogido en el artículo 510.1CP.

2.- Las injurias discriminatorias o la difusión de informaciones injuriosas sobre grupos o asociaciones en relación a su ideología, religión o creencias, la pertenencia de sus miembros a una etnia o raza, su origen nacional, su sexo, orientación sexual, enfermedad o minusvalía (art. 510.2 CP).

En el 2009 se creó en la Fiscalía Provincial de Barcelona el Servicio de Delitos de Odio y Discriminación con el objetivo de proporcionar una respuesta especializada a los delitos que amenazan los principios de igualdad y no discriminación. Siguiendo dicho precedente, desde 2013, cada provincia de España cuenta con un fiscal especializado en este ámbito.

La Fiscalía de Madrid, cuenta con la sección de “Ciberodio” centrada en los delitos cometidos en la red contra los débiles. Con ella se pretende “enfrentar prácticas delictivas que se desarrollan sobre todo en las redes sociales y en el medio informático, vinculadas a los llamados delitos de odio, de los que se han dado casos importantes durante estos últimos años y que creemos que merecen una atención especial” señala su impulsor, el Fiscal Jefe provincial, José Javier Polo. En la actualidad está integrada por un fiscal delegado y tres fiscales más y en un año se han ocupado de casos tan mediáticos como la muerte del hincha del Deportivo de La Coruña Francisco Javier Romero Taboada “Jimmy”, de muchos delitos informáticos de acoso a menores y de los daños sufridos por las víctimas que han sufrido accesos indebidos a sus ordenadores (hackeos). Esta sección está dividida en tres especialidades: la de delitos tecnológicos, los delitos de odio y un novedoso departamento de delitos cometidos a través de la Red contra los consumidores (perpetrados por empresas).

El profesor de la Universidad Internacional de Valencia (VIU) Joan M. Oleaque destaca en su informe[1] que los delitos de odio cometidos en España en el 2014 (entre los que se incluyen los cometidos a través de internet) han crecido casi un 10%, hasta llegar a las 1.285 acciones. Además según un informe de OBS-Online Business School, España cuenta con una población online de 23 millones de personas. Este patrón también se repite en otros países europeos como Reino Unido donde los delitos de odio cometidos a través de redes sociales se multiplican por 30 en relación a la realidad física. Actualmente, existen hasta 30.000 sitios web, foros y usos de redes sociales racistas y anti-minorías en el mundo, un 30% más que en 2013.

Por tipología, los crímenes de odio más habituales son los racistas y xenófobos, seguidos de los casos de aporofobia (odio o rechazo al pobre, contra los “sin techo”),  crímenes por “intolerancia criminal” que implican un rechazo delictivo a la dignidad y derechos fundamentales de las personas, los de la violencia ultra en el fútbol,  odio ideológico, homofobia, transfobia (hacia las personas transgénero basada en la identidad de género interna de las personas) e islamofobia. (Fuente: http://www.elabcdelanoticia.com/).

CONCLUSIONES

Los humanos somos sujetos emocionales y en muchas ocasiones, esas emociones los llevan a cometer ilícitos penales: un amor obsesivo puede llevar a dar muerte a tu pareja o ex pareja (no olvidemos a Otelo como referente a ese amor enfermizo) y un odio exacerbado puede dar píe a que una persona o un grupo de personas atenten contra derechos fundamentales de otros sujetos, simplemente por su elección sexual, por ser extranjeros, por ser de color o profesar otra religión. Los que odian deciden a quién odiar y porque odiar. Buscan y crean sus propias razones para odiar. Todos, absolutamente todos nosotros, somos potenciales víctimas de ser odiadas por simplemente ser quienes somos. Para odiar no es necesario que el objeto de nuestra emoción sea un sujeto concreto, sino que basta con que sea “una determinada clase de persona”. La nueva criminología en la era de la globalización tiene que tener en cuenta factores que son el producto del devenir histórico. Hay nuevas personas a las que odiar, nuevos colectivos y nuevas maneras de odiar. Debemos trabajar en prevenir ese odio que corre como la pólvora en nuestra sociedad.

Hay razones profundas en el odio, hay miedo a lo desconocido, hay ignorancia. Pero lo peor llega cuando no hay deseos de conocer y miramos a otro lado.

BIBLIOGRAFÍA:

  • Giménez-Salinas i Colomer, E; Román Maestre, B; García Solé, M. Sociedad abierta y delitos de odio en la era de la globalización. Universidad Ramón Lluch. Barcelona. Eguzkilore, número 17. San Sebastián. Diciembre 2003. Pág 121-132.
  • Moretón Toquero, M.A. El “ciberodio”, la nueva cara del mensaje de odio: entre la cibercriminalidad y la libertad de expresión. Revista Jurídica de Castilla y León. Número 27. Mayo 2012.
  • Saavedra, M. (2006), “El lenguaje del odio en la jurisprudencia del Tribunal Constitucional español”, Persona y Derecho, Núm. 55, pp. 547-76.
  • Sieber, U. La lucha contra el odio en Internet. Fundamentos técnicos, jurídicos y estratégicos para un concepto de prevención, en Revista de Ciencias Penales, núm. 4, 2001-2002, p. 169.
  • Sentencia Tribunal Supremo 235/2007, de 7 de noviembre de 2007 (BOE núm. 295, de 10 de diciembre de 2007).

[1] Racismo en Internet: webs, redes sociales y crecimiento internacional. Podéis acceder a este estudio a través del siguiente enlace: https://www.gitanos.org/upload/53/79/Informe-Racismo-Digital.pdf.

© Paz Velasco de la Fuente – criminal-mente 2016

Ciberodio

“Antes se odiaba en “petit comitè”, hoy se odia dando publicidad a ese odio y a través de las nuevas tecnologías. El “ciberodio” son todos aquellos mensajes que se vierten en la red a través de blogs, redes sociales, vídeos, imágenes, grupos cerrados, páginas web específicas, foros de discusión, juegos online que insultan, degradan, humillan o incitan al odio o a la violencia contra una persona o un grupo de personas por su origen étnico, su nacionalidad, su orientación sexual, sus creencias, su condición social o su discapacidad.”

Paz Velasco de la FuenteCriminóloga)

Relacionados:

Denunciar el ciberodio

Bulos, fake news, propaganda

Artículos de interés sobre ciberodio:

 

 

Presentación informe sobre la islamofobia en España 2017

Presentación en Casa Árabe del

INFORME SOBRE LA ISLAMOFOBIA EN ESPAÑA 2017

El próximo viernes 2 de marzo, en Casa Árabe, a las 12 de la mañana, la Plataforma Ciudadana contra la Islamofobia presentará su estudio documentado: “INFORME SOBRE LA ISLAMOFOBIA EN ESPAÑA 2017”,  que recoge desde el análisis de situación, un breve resumen de avances y logros durante 2017, seguimiento del Ciberodio, resoluciones judiciales sobre delitos de odio, peticiones de rectificación a medios de comunicación, responsabilidad de los proveedores de redes sociales y buenas prácticas de las instituciones, hasta su  participación en reuniones, eventos y diversos proyectos.

En la rueda de prensa participarán en nombre de la Plataforma Ciudadana contra la Islamofobia en la presentación del Informe de 2017: Isabel Romero, Barbará Ruiz, Aurora Ali y Esteban Ibarra, donde se recordará una vez más la necesidad de reforzar la legislación y arbitrar medidas para prevenir y erradicar la islamofobia, en todas sus manifestaciones de intolerancia, discriminación y delitos de odio, así como apoyar a sus víctimas.

La Plataforma Ciudadana contra la Islamofobia está constituida por el Centro Cultural Islámico de Valencia, Movimiento contra la Intolerancia y Junta Islámica de España desde su registro en 2011. Su objetivo es combatir la islamofobia, en todas sus formas y manifestaciones, en todos los ámbitos, además de promover la participación de la ciudadanía en la consecución de una sociedad respetuosa, democrática, libre y plural, radicada en los derechos humanos, realizar un seguimiento sistemático de delitos de odio, actos de intolerancia y conductas de discriminación islamófoba, así como acompañar, asesorar a las víctimas y trabajar con las instituciones nacionales y europeas.

Acceso a la convocatoria

Fuenlabrada: Plenario de la Mesa Local de Diversidad Cultural

El grupo de trabajo de Plataforma Ciudadana contra la Islamofobia y miembros del Centro Cultural Islámico de Fueblabrada participaron el 15 de noviembre en el Plenario de la Mesa Local de Diversidad Cultural con el objetivo de conseguir una sociedad unida, diversa y de plena ciudadania.

No Hate Speech Campaign: Taking Action through Counter and Alternative Narratives

“Preventing Radicalization and Taking Action against Hate Speech through Counter and Alternative Narratives”

The course took place from September 18th to 22nd in CEULAJ (Centro Eurolatinoamericano de Juventud) in Málaga within the Youth and Development University “Global Identities” program, that gathered over 200 participants from all around the globe.

This training aimed to form participants in fundamental Human Rights, respect and defence of its values as well as to deal with growing online hate speech, toxic and radical narratives, especially among youth.

 

For further information on this trainings and materials: No Hate Speech Movement.

 

Denuncia ciberodio

#Ciberodio: para denunciar el discurso de odio que se expande por las redes, rogamos lo hagan a través de este formulario.

Se ruega adjuntar enlace, si lo hubiese, así como pantallazos, vídeos o archivos correspondientes para poder facilitar y agilizar su gestión.

Enlace de la ofensa

Carga de archivos, imágenes, audio, vídeo, etc

Carga de archivos, imágenes, audio, vídeo, etc

Carga de archivos, imágenes, audio, vídeo, etc.

Carga de archivos, imágenes, audio, vídeo, etc.

Carga de archivos, imágenes, audio, vídeo, etc.

Observaciones, comentarios, información adicional.