Investigación de UDLA advierte falta de regulación en Chile para enfrentar discurso de odio amplificado por la inteligencia artificial

El aumento del discurso de odio en redes sociales y el impacto que hoy tienen los algoritmos y la inteligencia artificial motivaron una investigación que examina cómo Chile está respondiendo a este fenómeno y qué aprendizajes puede tomar de otras experiencias internacionales.

El estudio liderado por la Dra. María Lorena Rossel, académica investigadora de la Facultad de Derecho de UDLA Sede Viña del Mar, titulado “Regular el odio digital: entre la libertad de expresión y la protección de colectivos vulnerables en Chile”, fue publicado por la revista de Ciencias Sociales y Humanas, Universitas XX1.

El trabajo plantea que el país mantiene vacíos normativos para abordar discursos de odio que afectan a colectivos vulnerables como mujeres, migrantes, colectivos LGBTIQ+, personas con discapacidad, entre otros, y analiza posibles alternativas para fortalecer la protección de sus derechos en entornos digitales.

“La expansión de la inteligencia artificial (IA) en la comunicación política ha transformado las formas en que sus actores interactúan con la ciudadanía, facilitando la generación automatizada de mensa­jes personalizados y la difusión masiva de información en redes digitales. Esta dinámica ha contribuido a la propagación de noticias falsas y contenidos polarizantes, debilitando el debate público y favoreciendo la reproducción de discursos de odio, especialmente contra colectivos históricamente vulnerables como personas migrantes, mujeres y disidencias sexuales”, comenta la académica.

Desde una perspectiva jurídico-comparada, la investigación revisa las experiencias de Alemania y España, como también los estándares del sistema interamericano de derechos humanos, identificando los vacíos normativos del sistema chileno y propone criterios regulatorios para una intervención estatal legítima, proporcional y respetuosa de los derechos fundamentales.

La Dra. Rossel detalla que Alemania cuenta con un sistema más definido para sancionar la incitación al odio y exige acciones rápidas a las plataformas. España, en cambio, mantiene una redacción más amplia en su legislación, lo que ha generado diversos debates sobre su aplicación.

En contraste, dice que Chile no posee tipificaciones específicas ni obligaciones claras para intermediarios digitales y advierte que estos vacíos dificultan evaluar la gravedad de los mensajes y generan incertidumbre sobre las vías de intervención disponibles.

Entre los hallazgos menciona que “la IA actúa como catalizador de discursos de odio en entornos digitales, generando una forma de violencia simbólica que vulnera derechos fundamentales como la autodeterminación informativa, la igualdad, la participación política y la dignidad humana. La ausencia de regu­lación específica respecto de contenidos generados o amplificados por IA deja un vacío jurídico crítico en los ordenamientos actuales”.

Agrega que la normativa actual (Ley 19.733, artículo 31) “es débil y solo prevé sanciones administrativas, no criminales, y no regula adecuadamente el papel de plataformas ni algoritmos”.

También advierte que “los discursos de odio ya no se limitan a la incitación directa a la violencia, sino que operan como mecanismos normalizados de exclusión y estigmatiza­ción, especialmente contra personas migrantes, mujeres y disidencias sexuales. Estos discursos afectan el ejercicio efectivo del juicio de­mocrático, favoreciendo formas de autoritarismo digital por diseño”.

El estudio de la Dra. Rossel propone reservar el derecho penal para los casos de mayor riesgo y avanzar en medidas educativas, preventivas y de explicación abierta de cómo operan los algoritmos, siempre resguardando los derechos fundamentales y la participación democrática en entornos digitales.

Advierte que la regulación de discurso de odio digital en nuestro país es urgente y que el debate legislativo debe alinearse más con estándares internacionales, pero adaptado a las realidades digitales actuales, especialmente ante el rol creciente de la IA.

“La urgencia de una regulación clara y proporcional del discurso de odio en Chile no es meramente teórica. En los últimos años, diversas campañas políticas han evidenciado cómo, en ausencia de límites normativos efectivos, proliferan expresiones que estigmatizan a colectivos históricamente vulnera­bles, trivializan la violencia sexual, relativizan derechos fundamentales y rei­vindican discursos negacionistas o autoritarios. Estos ejemplos demuestran que, sin un marco jurídico que establezca límites precisos, el espacio político puede transformarse en un escenario de violencia simbólica impune, incompa­tible con la dignidad, la igualdad y la deliberación democrática”.