Lo que pasó en Almendralejo
En septiembre de 2023, en un instituto de Almendralejo (Badajoz), un grupo de chicos usó una app de inteligencia artificial para crear fotos falsas de sus compañeras. Las fotos las hacían parecer desnudas, usando imágenes reales que las chicas tenían en sus redes sociales o en WhatsApp.
¿Qué ocurrió exactamente?
- 21 chicas menores fueron víctimas
- 26 chicos las crearon o difundieron
- Las imágenes circularon por grupos de WhatsApp
- Las familias lo descubrieron y denunciaron
- El caso llegó hasta el Parlamento Europeo
¿Qué pasó con los que lo hicieron?
El Juzgado de Menores de Badajoz condenó a 15 de ellos por dos delitos: atentar contra la dignidad de las víctimas y pornografía infantil. La condena fue un año de libertad vigilada y asistir a clases sobre uso responsable de la tecnología. Además, la Agencia Española de Protección de Datos abrió una investigación aparte porque usar la cara de alguien sin su permiso también es ilegal.
Este caso demostró algo muy importante, el daño no solo es físico. Las víctimas sufrieron ansiedad, miedo y vergüenza. Su reputación digital quedó dañada para siempre.
¿Por qué Google bloquea ciertas imágenes?
Google y otras empresas bloquean imágenes que pueden hacer daño: pornografía infantil, imágenes que humillan a personas, etc. Si no lo hicieran, serían cómplices del daño. Igual que una empresa de transporte no puede llevar droga aunque "no sea la que la fabrica".
El problema es que esas decisiones las toman unas pocas empresas privadas, sin que nadie las vote ni las controle. ¿Y si un día deciden bloquear noticias que les molestan? ¿O ideas políticas? Ese poder es enorme y no tiene suficiente supervisión.
Bloquear contenido dañino está bien, pero tendría que hacerse con reglas claras y controladas por instituciones públicas, no solo por empresas que buscan beneficio.
La ley y los menores
En España, la responsabilidad penal de los menores depende de la edad. La ley que regula esto se llama Ley Orgánica 5/2000.
- de 14
Sin responsabilidad penal. Intervienen servicios sociales. Pero los padres sí pueden tener que pagar daños.
14 – 17
Sí hay responsabilidad penal. Se aplica la ley de menores: libertad vigilada, trabajos comunitarios o incluso internamiento.
Ojo: difundir también es delito
No hace falta que hayas creado el deepfake. Si lo recibes y lo reenvías, también puedes ser responsable. La herramienta de IA no tiene la culpa, tú sí. La app es solo el instrumento, como un cuchillo, el responsable es quien lo usa.
¿IA sin filtros para todos?
La tecnología en sí no es mala, pero una IA completamente sin filtros en manos de cualquier persona, incluyendo menores, es como dar una pistola cargada a un niño de 12 años y decirle que "elija bien".
El caso de Almendralejo lo demuestra, adolescentes, sin filtros tecnológicos ni madurez emocional suficiente, destruyeron la vida de sus compañeras en segundos. La libertad tecnológica sin límites no es libertad real para todos, es poder para los más fuertes y vulnerabilidad para las víctimas.
Además, la IA "sin filtros" no beneficia a investigadores o artistas sino que beneficia sobre todo a quienes quieren hacer daño sin consecuencias.
El anonimato en internet no existe
Aunque uses una cuenta falsa o mandes algo por un grupo cerrado, dejas rastros, la IP de tu dispositivo, los metadatos de las imágenes, los registros de WhatsApp o Telegram. En Almendralejo, la policía identificó a todos los implicados en pocos días sin que salieran de su propio grupo de chat.
¿Tienes responsabilidad a tu edad?
Sí. A partir de los 14 años, la LO 5/2000 sí hace responsables penalmente a los menores de los delitos cometidos, con las medidas adecuadas. Y aunque tengas menos de 14, los padres responden por los daños causados, lo que puede traducirse en indemnizaciones económicas muy graves para tu familia.
En internet no eres invisible. Eres rastreable. Y la edad no es escudo.
Comentarios
Publicar un comentario