Muy buenos días, queridos followers, recién publicamos el artículo de DIGI sexualidad y analizábamos los aspectos positivos y algunos no tan positivos del uso de las nuevas tecnologías; sin embargo, el día de hoy nos toca hablar del área oscura, que son los delitos sexuales con las nuevas tecnologías.

Resulta de vital importancia mantenernos informados hoy en día y estar al tanto de las nuevas tecnologías, sé que a veces nos rebasa todo lo que va saliendo día tras día, pero para quienes nos movemos por estos medios, más aún si tenéis hijos, es primordial conocer de ello.

Antes que nada, aunque he tratado de forma superficial en el post anterior, quiero comentar lo que es la inteligencia artificial, es una vertiente de la informática que busca crear sistemas capaces de realizar tareas que tradicionalmente requieren inteligencia humana. Es una tecnología que se encuentra en constante evolución y a medida que se va desarrollando, se van descubriendo nuevas formas que pueden ser útiles para mejorar la eficiencia y la productividad en diferentes campos. Es decir, esta tecnología se va a retroalimentando a si misma, en pocas palabras: aprende, por así decirlo.

Evidentemente en muchos campos esto facilita tareas, en el área de la investigación y de la medicina hay avances positivos y muy importantes, en otras áreas se cuestiona el uso de estas tecnologías para sustituir el trabajo humano. Pero el tema discusión de hoy no es ese, sino el cómo está revolucionando el mundo de los ciberdelitos con el carácter de «deep fakes».

Una deepfake es un vídeo, imagen o audio creado que imita la apariencia y el sonido de una persona. El problema de ello es que la imitación suele ser tan perfecta que engaña a las personas, pero también a los algoritmos.

Como os podéis imaginar existen muchos problemas con estos engaños, que pueden ir desde fraudes en línea, timos de todo tipo y lo peor que nos atañe el día de hoy es crear pornografía como forma de bullying o venganza.

¿Cómo se pueden utilizar las inteligencias artificiales en la comisión de delitos sexuales? 

• Generando contenido inapropiado con IA: como deepfakes y contenidos sintéticos, permite la creación de imágenes y vídeos falsos de menores en situaciones inapropiadas y eludiendo la detección.

• Chatbots y modelos de lenguaje para manipulación emocional: crear Bots que interactúan con menores en plataformas de redes sociales, ganando su confianza para luego manipularlos.
• Análisis de datos y segmentación de víctimas: los delincuentes utilizan la inteligencia artificial para analizar grandes cantidades de datos personales para identificar personas vulnerables y dirigirse específicamente a ellos.

Otra de las problemáticas principales es que este tipo de inteligencia permite manipular imágenes preexistentes de una persona, desnudándola o alterándola para que contenga contenido sexualizado. Asimismo, también se han creado vídeos que aparentan ser reales, pero en realidad son fabricados completamente.

Es una situación muy dura y frustrante, en la que ya se han visto envueltas varias adolescentes, pero también otras personas que pueden sufrir difamación con este tipo de vídeos o imágenes manipuladas.

La capacidad de una inteligencia artificial es infinita para crear nuevo material a partir de imágenes ya existentes, entendamos que esto se puede convertir en pornografía, por supuesto no consensuada.

El problema es muy grave, puesto que como ya he mencionado no es tan sencillo identificar las imágenes reales o vídeos de los que han sido alterados, por lo que además del anonimato que existe en el ciberespacio, obstaculiza identificar al agresor.

¿Qué consecuencias trae a las víctimas?

El impacto: finalmente es el mismo impacto en la salud mental y emocional en cuanto a la integridad de la víctima que si se difundiera una foto de un desnudo real.

A nivel psicológico: hay sentimientos de vergüenza, miedo, desconfianza. Esto por supuesto que puede acarrear ciertos traumas, estrés, ansiedad, depresión.

Revictimización: hay personas que inclusive ya fueron víctimas de violencia sexual sin utilizar este tipo de imágenes.

Estigmatización: hay una sensación de humillación, impotencia, vergüenza, y muchas veces esto se utiliza a manera de chantaje, o de destruir relaciones o dañar a otras personas, como pudiera ser un sistema familiar.

El problema es que la legislación todavía se encuentra en un limbo, por así decirlo, veamos el porqué.

Ley Europea de Inteligencia Artificial – Reglamento(UE) 2024/1689 por el que se establecen normas armonizadas sobre inteligencia artificial ofrece a los desarrolladores e implementadores de lA requisitos y obligaciones claros en relación con los usos específicos de la IA. Garantiza la seguridad y los derechos fundamentales de las personas y las empresas en lo que respecta a la lA.

Real Decreto 729/2023 del Estatuto de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA) – Regula la creación y funcionamiento de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA), que será la autoridad encargada de supervisar el desarrollo y despliegue de la lA en España.

Ley de Ciberseguridad en España – Regulará las obligaciones en materia de ciberseguridad, lo cual también afectará al uso de la inteligencia artificial.

Modificación del Código Penal – Futura Ley de menores en entornos digitales incluirá una modificación del Código Penal para considerar delito la creación de imágenes pornográficas mediante lA sin el consentimiento de la persona afectada.

Estrategia Nacional de Inteligencia Artificial 2020-2025 – Fomentar el desarrollo de la lA en España, asegurando que se haga de manera responsable y alineada con las políticas de la Unión Europea

Todavía no hay ninguna ley que haya entrado en vigor, los delitos que se han cometido en esta materia han tenido que ser juzgados basándose en otro tipo de leyes, puesto que todavía no existe como tal en el código penal.

Finalmente, volvemos a cuestionarnos si la tecnología está superando lo que el ser humano puede controlar. Y aunque evidentemente día tras día nos está trayendo innumerables beneficios en el campo de la medicina y la tecnología entre otros, también es una realidad que en cuestión de delitos, incluidos los sexuales, crece el número de afectados, siendo en su mayoría los menores.

Para más consejos no olvidéis seguirme en IG Gretdelou_afrodix y seguir también a onSwingers para participar en debates y sorteos

Besos y hasta la próxima.

Gret de Lou