La inteligencia artificial (IA) se ha convertido en una herramienta importante para facilitar la vida de las personas, pero como ocurre con muchos otros aspectos de la tecnología tiene un lado oscuro y se ha usado para generar violencia digital, según dio a conocer la Unidad de la Policía Cibernética, de la Secretaría de Seguridad Ciudadana (SSC) de la Ciudad de México.
Mediante un comunicado, la dependencia dio a conocer que a través de los patrullajes virtuales que realiza de manera permanente identificó la creciente incidencia de esta herramienta con fines de perjudicar la reputación y la seguridad de las personas.
¿Cómo se usa la IA para cometer ciberdelitos?
La herramienta de IA emplea una tecnología con algoritmos de aprendizaje automático que se pueden utilizar para realizar diversas actividades como generar imágenes de alta calidad de una persona cuya apariencia se quiere imitar o suplantar, replicar con precisión los rasgos, voz de la persona objetivo, además se pueden aplicar técnicas de edición y procesamiento para mejorar la calidad y hacer que sea aún más convincente.
También, se pueden utilizar modelos de síntesis de voz basados en IA para crear un audio que imite a la persona objetivo, y una vez que se ha creado la nota falsa, pueda ser publicada en línea o difundir en plataformas de redes sociales, sitios web o aplicaciones de mensajería, con lo que se pueden perpetuar sesgos y discriminación si no se diseña y utiliza de manera ética, también la IA puede ser empleada en ciberataques y actividades delictivas.
En lo que va de este año, el registro de incidentes cibernéticos sin IA, son principalmente por extorsión, acoso y amenazas, seguido de suplantación de identidad y sexting.
Estos reportes se encuentran relacionados con el modo de operar de los ciberdelincuentes que utilizan herramientas de IA, con la que además se pueden realizar otros ciberdelitos.
Tipos de delitos y violencia digital
- Ciberacoso: El uso de bots de IA para enviar mensajes ofensivos, amenazas o difamación de manera repetitiva a una víctima.
- Creación de noticias ofensivas: La generación de vídeos o imágenes falsas y manipuladas con IA para difamar o acosar a individuos.
- Ataques de ingeniería social avanzados: Utilizar la IA para recopilar información personal sobre una víctima y personalizar mensajes de acoso o extorsión.
- Suplantación de identidad mejorada: La IA se utiliza para crear perfiles falsos convincentes en redes sociales o plataformas de citas para acosar o engañar a otras personas.
- Robo de identidad digital: La IA puede ser utilizada para recopilar información personal y realizar fraudes o actividades delictivas en nombre de una víctima.
- Manipulación de reputación en línea: La IA puede ser empleada para publicar críticas falsas o comentarios perjudiciales con el objetivo de dañar la reputación de una persona o empresa.
Recomendaciones para evitar ser víctima de violencia digital
La Unidad de Policía Cibernética, emite las siguientes recomendaciones:
- Limitar la cantidad de información personal que se comparte en línea.
- No confiar en cuentas desconocidas y evitar entablar conversaciones, si recibes mensajes no solicitados.
- Antes de interactuar con perfiles en línea, verificar su autenticidad, buscar señales de que puedan ser perfiles falsos o bots.
- Nunca compartir contraseñas, números de seguridad social u otra información confidencial en línea, incluso si parece que lo piden legítimamente.
- Actualizar regularmente los sistemas operativos y aplicaciones, ya que las actualizaciones suelen incluir correcciones de seguridad.
- Crear contraseñas seguras y habilitar la autenticación en dos pasos.Evitar hacer clic en enlaces o descargar archivos adjuntos de remitentes desconocidos, ya que pueden contener malware.
- Realizar búsquedas regulares de tu nombre en línea para asegurarte de que no se están difundiendo contenidos perjudiciales sobre ti.
- Si eres víctima de violencia digital, busca apoyo, asesoría profesional y denuncia cualquier incidente a las autoridades correspondientes.
