jueves, 25 de mayo de 2023

INTELIGENCIA ARTIFICIAL Y DISCURSOS DE ODIO

 

Inteligencia artificial, falsas noticias y discursos de odio[1]

 

por Marcelo A. Riquert[2]

 

1. Introducción

            Es usual hoy el llamado de atención sobre la proliferación de discursos de odio y falsas noticias potenciadas por algoritmos automatizados. La complejidad para afrontarlo deriva de la “tensión” con la libertad de expresión, constitucionalmente garantizada (arts. 14, 32 y 75 inc. 22, CN; 19 de la DUDH, 4 de la DADH, 19 de la PIDCyP, 13 y 14 de la CDN, 4 de la CIEFDR, III de la CPySDG).

Hay consenso sobre que internet tiene una enorme capacidad para expandir aquella libertad en su doble dimensión: como derecho de todas las personas a difundir e intercambiar ideas y como derecho a buscar y recibir información de todo tipo. Así, se entiende que es un instrumento indispensable para el ejercicio pleno de los derechos humanos, siendo el derecho a la libertad de expresión habilitante y posibilitador del ejercicio de otros derechos en internet (lo refleja con sintética elocuencia el conocido lema: “Internet is free. Internet is freedom. Internet is freedom of speech”)[3].

            No se profundizará sobre las múltiples consideraciones e implicancias de la libertad de expresión. Sin embargo, luce pertinente recordar que hay límites como la prohibición de propaganda a favor de la guerra o la apología del odio nacional, racial o religioso (arts. 20 del PIDCyP y 4 de la Convención Internacional sobre la Eliminación de toda forma de Discriminación Racial) lo que, claramente, introduce como problema adicional la cuestión atinente al modo de determinar cuándo nos encontramos ante una expresión comprendida en una prohibición o se trata de una admisible exteriorización simbólica de disidencia política o de opinión (por ejemplo, no saludar la bandera o quemarla, llevar vestimentas controversiales en un determinado contexto o con inscripciones que exponen la discrepancia).

Se han elaborado seis principios “rectores” de la libertad de expresión en Internet: 1) acceso universal; 2) pluralismo y diversidad; 3) igualdad y no discriminación; 4) privacidad; 5) libre y abierta: transparencia y neutralidad en la red; 6) gobernanza multisectorial[4]. No debe pasar por alto que, así como es frecuente que los internautas utilicen las redes sociales para compartir información de interés público, tal vez, su uso sea mayor para difamar o agredir a terceros, lo que se facilita porque se ha naturalizado el hacer circular, retransmitir o copiar opiniones, archivos de imágenes o vídeos que pueden ser tildados de injuriosos o discriminatorios. Se trata de una conducta sobre la que pocas veces se recapacita y que encuentra como habitual excusa para legitimarse que, eventualmente, constituye el ejercicio de la libertad de expresión[5].

 

2. Las “Fake News”

            De las Heras Vives señala que cuando hablamos de fake news debe fijarse el foco en dos cuestiones: 1) que tienen más que ver con el concepto de realidad que con el de verdad, a pesar de que estén imbricados: la realidad es lo que ocurre verdaderamente y la verdad es la existencia real de algo; 2) las fake news por sí mismas no son nada: comunicar lo que verdaderamente no ocurre sin ninguna finalidad es una necedad no exenta de responsabilidad[6].

            La CEO de la ONG “First Draft”, Claire Wardle, apunta a la existencia de finalidad cuando dice que las fake news “son aquellas creadas con fines de lucro u otros beneficios, difundidas a través de programas patrocinados por el Estado o por medio de la distorsión deliberada de los hechos, por grupos con una agenda particular, incluido el deseo de afectar elecciones políticas”[7]. Se incluye al contenido manipulado, impostor, engañoso, de conexión falsa e incluso la sátira y la parodia. Se habla tanto de información errónea como de desinformación, hechos alternativos o directas mentiras y, es claro, el principal problema derivado de que las noticias falsas proliferen en Internet y redes sociales es que puedan generar confusión en la ciudadanía al punto que altere su percepción de la realidad.

            En realidad, lo único novedoso es el aspecto tecnológico. Hemos pasado de los once principios de propaganda de Göebbels[8] a la construcción de una “posverdad”[9]. Es probable que, en la base del problema, facilitándola, esté que lo que nos llega, se lo recibe y reproduce en forma automática, sin pasarlo por el menor filtro de racionalidad[10]. Tampoco puede soslayarse que los avances en seguridad digital están detrás de la abundancia de imágenes falsas o manipuladas que se propagan con gran velocidad por Internet Estudios recientes comprueban que la mayoría de la gente no es capaz de detectar fotos manipuladas. Resalta Julián H. Langevin, el gran interrogante es “¿Qué sucede si ya no podemos confiar en nuestros ojos o nuestros oídos?"[11].

A partir de los usos del “big data” el peligro ya no solo son las noticias falsas, sino también las “Deep Fake News” (o Deepfake). Cualquiera, en muy poco tiempo, puede ser víctima de la exposición de falsas intervenciones, participaciones o dichos, dotadas de altísima calidad y, por eso, verosimilitud, con las graves derivaciones consecuentes. Y esta tecnología es, además, cada vez más asequible. Por ejemplo, una app como “Wombo.AI”, es gratuita, está disponible tanto para Android como IOS y lo que hace es animar una foto y transformarla en un video, haciendo que la persona retratada cante, se mueva, y su boca vaya siguiendo el audio[12].

            Reflexiona Sueiro que, en tiempos de revolución digital y posverdad, las falsificaciones profundas pueden exponerse ante jueces afectando el sistema de administración judicial[13], agravando la percepción de su crisis. La reiteración de falsedades puede constituir un aporte decisivo si se tiene en cuenta, como han demostrado diversos estudios tanto sobre el “efecto de desinformación” como del “efecto ilusorio de verdad”, que en esta época signada por las versiones sesgadas y falsedades multiplicadas por troles y robots permite advertir que las afirmaciones repetidas en forma consistente son más fáciles de procesar y, de revés, se las percibe como más verdaderas que nuevas afirmaciones, lo que desbarata la idea de que el conocimiento logra doblegar las mentiras[14].

 

3. Los discursos de odio

            El derecho de libre expresión fue pensado como una libertad individual, sin embargo, bajo su amparo, en la actualidad ciertos colectivos sociales propagan discursos contra otros, incitando a la violencia, la discriminación y el odio. En general, debido a múltiples razones que van desde la religión, el género, la orientación sexual, la discapacidad, hasta la nacionalidad, aunque el factor común es que, en todos los casos, lo que se busca favorecer es la intolerancia y la hostilidad. Estos discursos son los que se denominan “de odio” (hate speech) y su difusión puede darse tanto en forma oral, escrita, audiovisual, en los medios de comunicación o en Internet. Hay en ellos una apelación a factores emocionales más que racionales, resaltando una actitud de superioridad y dominación en procura de silenciar a grupos sociales con los que se mantiene diferencias étnicas, sociales, sexuales o religiosas (términos como xenofobia, homofobia, racismo, discriminación, delimitan distintos discursos de odio existentes)[15].

            En Internet y redes sociales los discursos de odio encontraron una manera más efectiva de propagarse, dando lugar a comportamientos que se han denominado “ciberacoso” y “ciberodio”. Una popular red social, Twitter, viene tratando de morigerar los crecientes niveles de agresión que se advierten en su ecosistema y, para hacerlo, ha comenzado a probar algoritmos de IA ya no para analizar lo que se publica, sino lo que estamos a punto de twittear[16]. En el fondo, la iniciativa es la implementación de la censura previa y, por lo tanto, un abierto ataque a la libertad de expresión e, indirectamente, al sistema democrático.

            No obstante, reflejo de la clásica bifrontalidad de la tecnología, en ocasiones es el vehículo de logros y reafirmaciones de libertades y derechos en términos democratizantes (paradigmático, el caso “Wikileaks”). Internet nos da la posibilidad de comunicarnos de modo que todos seamos autor y público, y que pocas cosas impidan que digamos lo que queremos decir.

            En Argentina, en octubre de 2020, fue oficialmente presentado “NODIO: Observatorio de la desinformación y la violencia simbólica en medios y plataformas digitales”, una iniciativa que ha despertado alguna controversia política y cuyo objetivo es proteger a la ciudadanía de las noticias falsas, maliciosas y falacias. Se lo implementa dentro del ámbito de la Defensoría del Público (organismo creado por la ley de Servicios de Comunicación Audiovisual, N° 26.522), bajo la órbita del Congreso Nacional, para defender la libertad de expresión. Entre sus funciones está recibir y canalizar los reclamos y consultas de las audiencias. No tiene capacidad sancionatoria alguna[17].

 

4. Referencia normativa

Refiere Weidenslaufer, el “Brexit” y otros eventos electorales recientes provocaron una mirada de especial interés sobre la difusión de declaraciones que tienen por objeto desinformar al público. Desde lo normativo, podrían observarse dos modelos para afrontarlo:

a) Bajo un paradigma de libertad de expresión, mediaría por imperio constitucional (por ej., Primera Enmienda, Constitución de USA, que protege la libertad de religión y de expresión) una imposibilidad de establecer una censura previa de los contenidos de Internet (habría derecho a intercambiar libremente ideas y puntos de vista, con independencia de si son controvertidos o falsos), con lo que sólo puede perseguirse la responsabilidad de quien genera daño con la difusión luego de esta (bajo distintas alternativas como daño o agravio por difamación, invasión a la privacidad, infligir intencionadamente angustia emocional o por interferencia dañosa). Los ISP también están protegidos cuando los contenidos son producidos por terceros, es decir, sin intervención en su creación, desarrollo o edición, ni incumplen promesa legal de retiro de material (sección 230 de la Ley Federal de Decencia en las Comunicaciones de 1996, o CDA).

            b) En Europa, la legislación alemana (de junio 2017, ley contra la publicación en redes sociales de discursos de odio, pornografía infantil, artículos relacionados con el terrorismo e información falsa) o francesa (LO Nº 2018-1201 y Nº 2018-1202, de 22 de diciembre de 2018, relativa a la lucha contra la manipulación de la información), fijan especiales obligaciones a las plataformas como Google+, Twitter, YouTube y Facebook. En la primera, criticada por Human Rights Watch por afectar la libertad de expresión y carencia de supervisión judicial, se procura combatir la difusión de diversos tipos de información (discursos de odio, fake news y otro tipo de material ilegal, con expresa remisión a delitos previstos en el CP alemán), con penas de orden económico que pueden llegar de 500.000 a 50.000.000 y tiene por destinatarias a las plataformas que tengan al menos dos millones de usuarios registrados. En la segunda, se procura evitar se distorsionen los procesos electorales, creando una nueva vía judicial civil de emergencia para detener la difusión de información falsa durante los tres meses anteriores a una elección nacional[18].

            Esta diferencia de enfoque es la que llevó a que esté ausente una regulación específica sobre el discurso de odio en el Ciberconvenio de Budapest de 2001, lo que se salvó un par de años después con el Protocolo Adicional de Estrasburgo[19].

            En Argentina, no hay regulación penal expresa en torno a las “fake news” aunque muchas falsedades, respetando los márgenes de la libertad de expresión, pueden ser atrapadas por diversas figuras penales vigentes. Así, en el CP originario, el art. 109 (calumnia), el 110 (injuria –el 115 la proferida en juicio y el 116 las recíprocas-), el 113 (publicación o reproducción de injurias o calumnias inferidas por otro) y el 114 (calumnia o injuria propagada por la prensa). Posterior, la Ley de Protección de Datos Personales Nº 25326/00, introdujo los arts. 117bis y 157 bis que, luego, sufrieron parcial derogación y modificaciones por Ley 26388/08. El primero, pena el proporcionar a sabiendas a un tercero información falsa contenida en un archivo de datos personales, agravado si se deriva perjuicio a alguna persona.

            También son típicas falsedades que resultan mediales, como la estafa del art. 172 del CP; el agiotaje del 300 inc. 1, o los balances falsos (ídem. inc. 2). Innecesario profundizar el ejercicio, queda claro que las falsedades, las mentiras no se penan “per se”, pero cuando se las usa con finalidades de consecuencias dañosas, en muchos casos, tienen repercusiones penales. También, que tenemos ciertas lagunas de tipicidad ante cierta fenomenología de raíz tecnológica.

            Se ha observado como un problema, siendo que los ISP tienen un rol indiscutible en el circuito de información (y de desinformación), la falta de previsión que permita penar a las personas jurídicas por este tipo de conductas[20]. Creo que, sin apartamiento de un derecho penal de “ultima ratio”, se trata de una cuestión sobre la que, con prudencia, se debiera avanzar.

            Respecto de los discursos de odio, cobra importancia el "Protocolo adicional” de Estrasburgo (30/01/2003), que se ocupa específicamente de la xenofobia, el racismo, el odio y la discriminación en Internet. Allí, se define qué se entiende por “material racista y xenófobo” (art. 2°) y se indica la necesidad de adoptar varias tipificaciones relacionadas con esta temática: a) Difusión de material racista y xenófobo mediante sistemas informáticos (art. 3); b) Amenazas con motivación racista y xenófoba (art. 4); c) Insultos con motivación racista y xenófoba (art. 5); d) Negación, minimización burda, aprobación o justificación del genocidio o de crímenes contra la humanidad (art. 6). También tienen relevancia la resolución del Parlamento Europeo, del 14/03/2013, sobre el refuerzo de la lucha contra el racismo, la xenofobia y los delitos motivados por el odio, que establece la necesidad de adoptar una política criminal contra esas manifestaciones de discriminación; y la DM 2008/913/JAI del Consejo, del 28/11/2008, relativa a la lucha contra determinadas formas y manifestaciones del racismo y la xenofobia mediante el derecho penal[21].

            En Argentina, la Ley 23592/88, contra los “Actos discriminatorios”, no ha sido actualizada. Su art. 2º consagra un severizante genérico para cualquier delito cometido con ánimo discriminatorio y el 3º tipifica la participación en una organización o en la propaganda de tales actos, así como en su aliento e inicio de realización. No puede soslayarse su eventual conexión con otras conductas punibles previstas en el marco de los “Delitos contra el orden público”, como la instigación a cometer delitos (art. 209, CP), la asociación ilícita (210 y 210bis) u organización o pertenencia a agrupaciones permanentes o transitorias para cometer otros atentados al orden público (213 bis), la incitación pública a la violencia colectiva contra grupos de personas o instituciones (212) o la apología del crimen (213). Es claro, la vieja ley sólo cubre parcialmente los requerimientos del Protocolo.

 

5. Fake news, discursos de odio y libertad de expresión

            Corresponde aclarar que, cuando aquí se habla de libertad de expresión, lo es mirando el fenómeno desde la perspectiva cultural del occidente democrático, donde la mirada jurídica tiende a mantener separados los asuntos de Estado y la religión[22]. En este contexto cultural no se discute su carácter de piedra basal de la democracia. Se sostiene que es la condición indispensable para impulsar el desarrollo en todas las áreas de la vida social, como la cultura, religión, filosofía y política. Y no hay dudas que la aparición de Internet ha facilitado y potenciado la libertad de expresión, lo que se sintetiza diciendo que democratiza el acceso al conocimiento y la información.

No puede soslayarse que hay una suerte de doble vía: todos tenemos el derecho a expresarnos libremente y también el de no ser molestados por las propias opiniones; tenemos el derecho a recibir información y diversos pareceres o puntos de vista, a investigar sobre ello y a difundirlos sin límites geográficos por cualquier medio, pero no es absoluto, sino que pueden fijárseles restricciones por ley que, usualmente, se sistematizan en dos grandes bloques. Uno, el concerniente a la protección del ámbito privado del sujeto (su intimidad, honra, reputación y buen nombre); el otro, en el ámbito de lo público, se refiere a cuestiones relacionadas con la seguridad nacional, el orden público, la salud y moral públicas[23].

            Esto último cobró singular dimensión durante la pandemia del COVID-19, que llevó a alertar a la OMS sobre la existencia de una verdadera “infodemia”. Las campañas de desinformación se ven facilitadas porque la masividad de datos puestos en determinadas manos permite concretar verdaderos ejercicios de ingeniería social, viralizando contenidos a medida del destinatario, de modo que la “fake news” le resulte singularmente atractiva, convincente. Valga la remisión al conocido caso “Cambridge Analytica”, paradigmático en cuanto a la advertencia para la percepción pública de que los datos personales obtenidos pueden no solo ser destinados para el marketing comercial. Reflejo de la preocupación institucional, similar a Europa, en el ámbito de la OEA, en octubre de 2019 se ha dado a conocer la “Guía para garantizar la libertad de expresión frente a la desinformación deliberada en contextos electorales”[24].

 

6. IA al servicio de la detección/prevención y de la reproducción/multiplicación

            Destaca Danesi, el uso de algoritmos de IA para la detección del contenido agraviante en las redes sociales está en la primera línea de defensa para identificar y remover el denominado “hate speech” o cualquier publicación que infrinja la “política de la empresa” o las “normas comunitarias”[25]. A la vez, el problema principal es que aquella operación no está exenta de sesgos y, en consecuencia, los algoritmos terminan discriminando y censurando contenido. Se ha revelado que es mucho más probable que los sistemas de IA destinados a detectar contenido abusivo en línea etiqueten los tweets como “ofensivos” si fueron publicados por personas que se identifican como afroamericanas[26].

            Como apunta Álvarez Larrondo, el problema en esta era del “big data” está dado por la convicción generalizada de que las computadoras son capaces de procesar miles de datos y actuar en consecuencia realizando dicha tarea siempre de manera justa y objetiva (además de veloz y barata). Esto es así porque nos han convencido, desde el discurso no contrastado, de que al mediar la intervención de una máquina los procesos dejarán de estar guiados por seres humanos con sus prejuicios: las máquinas que procesan números de manera objetiva. Sin embargo, se trata de una premisa falsa que soslaya que todos los sistemas y algoritmos, en un inicio, han sido concebidos por un humano con sus preconceptos y cargas morales. Estos programas no son más que modelos matemáticos, en líneas generales opacos, difíciles de comprender y sus mecanismos resultan invisibles para todos, inclusive para los matemáticos y los ingenieros informáticos que los pergeñan y elaboran[27]. De allí que Cathy O’Neil haya denominado a este tipo de modelos como “Armas de Destrucción Matemática”[28].

De Luca y Luzza alertan que diversos gobiernos vienen implementando medidas respecto al fenómeno de las fake news, porque lo consideran una amenaza para la democracia. Así, Alemania, Francia, Italia y España, que han ido desde actualizar la legislación hasta implementar canales de denuncia ciudadana[29]. También lo han hecho agencias y organizaciones internacionales (como el ACNUR)[30]. En Argentina, el Ministerio de Justicia y Derechos Humanos alerta sobre las fake news y sus probables consecuencias a nivel personal, sugiriendo consejos prácticos para proteger la propia reputación online e informando sobre los lugares donde recabar asesoramiento y denunciar en caso de ser víctima de falsas noticias[31].

 

7. Colofón

La programación de algoritmos automatizados que potencien la reproducción de falsas noticias y discursos de odio es una cuestión problemática de rigurosa actualidad. Su complejidad se amplifica porque lo que está en tensión es la libertad de expresión, garantizada a nivel constitucional y considerada en la perspectiva cultural de occidente como piedra basal de la democracia.

Internet tiene un enorme potencial para expandir la libertad de expresión en su doble dimensión: como derecho de todas las personas a difundir e intercambiar ideas y como derecho a buscar y recibir información de todo tipo. Por tal rol trascendente se elaboraron principios “rectores” de la libertad de expresión en Internet, siendo central un monitoreo serio y comprometido sobre su real vigencia.

En Argentina, no hay regulación penal expresa en torno a las “fake news”, lo que no quiere decir que todas las falsedades queden impunes. Respetando la libertad de expresión, pueden ser atrapadas por diversas figuras penales vigentes. Debiera actualizarse la legislación en lo referente al Protocolo de Estrasburgo, que se ocupa de la xenofobia, el racismo, el odio y la discriminación en Internet, e indica la necesidad de adoptar varias tipificaciones relacionadas con esta temática.



[1] Este trabajo fue originalmente publicado en AAVV “Of swords and shields: due process and crime control in times of globalization. Liber amicorum prof. dr. J.A.E. Vervaele”, ed. Eleven/Pompe Reeks, La Haya, Países Bajos, 2023, págs. 815/823

[2] Catedrático de Derecho Penal, Universidad Nacional de Mar del Plata.

[3] Cf. AAVV “Estándares internacionales de libertad de expresión. Guía básica para operadores de justicia en América Latina”, ed. CIMA/NED/Relatoría Especial para la Libertad de Expresión de NU, Montevideo, 2017, pág. 23.

[4] Cf. “Estándares…”, pág. 24.

[5] Cf. Aboso, en “Libertad de expresión, discurso de odio y derecho penal en la sociedad de la tecnología ¿Compartir o dar ‘like’ a una publicación en Facebook puede ser difamatorio?, pub. en AAVV “Sistema penal e informática”, vol. 4., Hammurabi, Bs.As., 2021, pág. 385.

[6] Luis De las Heras Vives, en “Las fake news ante el derecho penal español”, pub. en “Actualidad Jurídica Iberoamericana”, Madrid, Nº 12 bis, mayo de 2020, pág. 72.

[7] Cf. refiere Christine Weidenslaufer, en “La regulación de las fake news en el derecho comparado”, ATP, Biblioteca del Congreso Nacional de Chile, Sup. Nº 11973, enero de 2019, pág. 3.

[8] Cf. De las Heras Vives, pág. 73.

[9] El término apareció originalmente en inglés (post-truth) en 1992; el diccionario de la RAE ha incluido el neologismo “posverdad” definiéndolo como “Distorsión deliberada de una realidad, que manipula creencias y emociones con el fin de influir en la opinión pública y en actitudes sociales”.

[10] Cf. Mateo Brodsky, en “Fake news en tiempos de coronavirus”, pub. en “Sistema penal e informática”, Hammurabi, Bs.As., vol. 4, 2021, pág. 59.

[11] En “Juicios penales virtuales”, Hammurabi, Bs.As., 2020, pág. 130.

[12] Fuente: nota “Deepfakes. Wombo AI: la app que hace cantar a las selfies y causa furor en Internet”, pub. en diario “Clarín”, 12/03/2021, disponible en https://www.clarin.com/tecnologia/wombo-ai-app-hace-cantar-selfis-causa-furor-internet_0_kSD4KWdcm.html

[13] Sueiro, en “Vigilancia electrónica y otros modernos medios de prueba”, Hammurabi, Bs.As., 2º edición, 2019, pág. 92.

[14] Julián Maradeo, en “Fake news. Cómo se fabrican en la Argentina y en el mundo”, Ediciones B, Penguin Random House Grupo Editorial, Bs.As., 2021, págs. 53/54.

[15] Cf. Bustos Martínez – De Santiago Ortega – Martínez Miró – Rengifo Hidalgo, en “Discursos de odio: una epidemia que se propaga en la red. Estado de la cuestión sobre el racismo y la xenofobia en las redes sociales”, pub. en revista “Mediaciones Sociales”, Ed. Complutense, Madrid, Vol. 18, 2019, pág. 26.

[16] Fuente: noticia titulada “Ahora los algoritmos te censuran”, de Ariel Torres, pub. en diario “La Nación”, edición del 15/5/2021, suplemento “Ideas”, pág. 11.

[18] Weidenslaufer, págs. 1 y 4/11.

[19] Cf. Aboso, en “Libertad…”, pág. 407.

[20] Así, Brenda Eldrid, en “Fake news, debate público y libertad de expresión. Respuestas penales y extrapenales ante la responsabilidad de los intermediarios de servicios de Internet”, pub. en “Temas de Derecho Penal y Procesal Penal”, ed. Erreius, Bs.As., agosto 2020, punto VI.2.

[21] Así, Aboso, en “Libertad…”, pág. 412.

[22] Cctes.: De Luca y Luzza, en "Fake news: Cibercriminalidad y libertad de expresión en Internet", pub. en “Sistema penal e informática”, vol. 1., Hammurabi, Bs.As., 2018, pág. 51.

[23] Cf. Eldrid, ya citada, punto II.

[25] Danesi, en “Inteligencia…”, pág. 78.

[26] Danesi, en “Inteligencia…”, pág. 78.

[27] En “El nuevo Derecho Artificial. Desafíos para el Derecho en general”, pub. en AAVV “Inteligencia Artificial y Derecho”, Hammurabi, Bs.As., 2020, pág. 38.

[28] Cf. “Armas de destrucción matemática. Cómo el Big Data aumenta la desigualdad y amenaza la democracia”, Ed. Capitán Swing, Madrid, España, 2018.

[29] Ya citados, pág. 55.

[30] Cb. Bustos Martínez y otros, pág. 31.

No hay comentarios: