La ingeniería social es uno de los trucos más antiguos de los hackers: manipular a una víctima para que entregue su información o instale malware. La forma más común de abordar a las víctimas es a través de un correo electrónico de phishing, un mensaje de texto o una llamada telefónica y el diseño de las campañas está potenciado y optimizado por las herramientas de la inteligencia artificial generativa (GenAI) desde que estas tecnologías se masificaron. Desde ESET, compañía líder en detección proactiva de amenazas, advierten que los cibercriminales ya convirtieron en actor malicioso a la misma GenAI. Puntualmente en X (antes Twitter), lograron engañar al chatbot Grok (la IA de X) para que difunda links de phishing en su cuenta de X.

En esta campaña, los cibercriminales eluden la prohibición de X de incluir enlaces en los mensajes promocionados (diseñada para luchar contra la publicidad maliciosa) mediante la publicación de vídeos llamativos. Es el tipo de ataque en el que los actores de amenazas dan instrucciones maliciosas disfrazadas de comandos de un usuario legítimos, incluyen su enlace malicioso en campo «from» debajo del vídeo, y preguntan a Grok de dónde procede el vídeo. Grok lee el mensaje, detecta el pequeño enlace y lo amplifica en su respuesta, dándole una falsa sensación de legitimidad, al ser replicado por la misma cuenta verificada del chatbot.

“Este caso no es solo un problema de X/Grok. Las mismas técnicas podrían aplicarse teóricamente a cualquier herramienta GenAI/LLM integrada en una plataforma de confianza. Esto pone de relieve el ingenio de los actores de las amenazas para encontrar la manera de eludir los mecanismos de seguridad. Pero también los riesgos que corren los usuarios al confiar en los resultados de la IA”, comenta Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.

Pie de imagen: “Grok publica links maliciosos y amplifica la reputación de dominio malicioso.

Pie de imagen: Cuentas de malvertising bombardean de contenido. El valor From es el link malicioso.

Pie de imagen: Dominio malicioso amplificado por Grok.

¿Por qué es peligrosa esta técnica?

• Este truco convierte a Grok en un actor malicioso, al incitarle a volver a publicar un enlace de phishing.

• Estas publicaciones de vídeo pagadas suelen alcanzar millones de impresiones, propagando potencialmente estafas y malware por todas partes.

• Los enlaces también se amplificarán en SEO y reputación de dominio, ya que Grok es una fuente de gran confianza.

• Los equipos de investigación encontraron cientos de cuentas que repetían este proceso hasta que fueron suspendidas.

• Los propios enlaces redirigen a formularios de robo de credenciales y descargas de malware, lo que podría llevar a la toma de la cuenta de la víctima, robo de identidad y más.

“La IA es un potenciador de la ingeniería social en dos sentidos. Por un lado, los grandes modelos lingüísticos pueden ser usados para el diseño de campañas de phishing muy convincentes a gran escala, con audios y videos falsos que logran engaños más verídicos que pueden engañar al usuario más escéptico. Por otro lado, este nuevo descubrimiento del abuso del chatbot de X (grok) dio lugar a esta técnica apodada «Grokking*», que sería una forma distinta de aprovechamiento de la GenAI por los cibercriminales”, agrega Gutiérrez Amaya de ESET.

Este tipo de ataques va en aumento. La empresa de análisis Gartner afirmaba recientemente que un tercio (32%) de las organizaciones había experimentado una inyección puntual durante el año pasado. Hay muchos otros escenarios potenciales en los que podría ocurrir algo similar al caso de uso de Grok/X.

Los mensajes maliciosos pueden ocultarse a la vista, en texto en blanco, metadatos o incluso caracteres Unicode. Cualquier GenAI que busque datos disponibles públicamente para ofrecer respuestas también es vulnerable al procesamiento de datos «envenenados» para generar contenido malicioso. Hay un número ilimitado de variaciones de esta amenaza. Desde ESET comentan que lo más importante es no confiar ciegamente en los resultados de ninguna herramienta GenAI.

Desde ESET acercan las siguientes recomendaciones:

• Si un bot GenAI presenta un enlace, pasar el mouse por encima para comprobar su URL de destino real. No hacer clic si se tienen dudas de su legitimidad.

• Ser siempre escéptico con los resultados de la IA, especialmente si la respuesta/sugerencia parece incongruente.

• Utilizar contraseñas fuertes y únicas (almacenadas en un gestor de contraseñas) y autenticación multifactor (MFA) para mitigar el riesgo de robo de credenciales.

• Asegurarse de que todo el software y los sistemas operativos de los dispositivos/ordenadores están actualizados, para minimizar el riesgo de explotación de vulnerabilidades.

• Invertir en software de seguridad multicapa de un proveedor de confianza para bloquear descargas de malware, estafas de phishing y otras actividades sospechosas en su máquina.

“Las herramientas de IA integradas han abierto un nuevo frente en la larga guerra contra el phishing. Asegúrate de no caer en la trampa, cuestiona siempre y nunca des por sentado que tiene las respuestas correctas”, concluye el investigador de ESET.

La herramienta “Pregúntale a Sagüeso” ofrece recomendaciones a viajeros y viajeras que salen desde Chile
con perros y gatos, informándoles sobre los requisitos sanitarios para los 10 principales destinos.

¿Viajas con tu mascota fuera de Chile? Ahora puedes consultar los requisitos sanitarios para salir del país con tu perro o gato a través de “Pregúntale a Sagüeso”, un chatbot creado por el Servicio Agrícola y Ganadero que utiliza inteligencia artificial para reforzar los canales de información en uno de los trámites más solicitados en fin de año y durante la temporada de vacaciones de verano. La nueva herramienta fue presentada esta mañana en el Aeropuerto de Santiago por el Director Nacional del SAG, José Guajardo Reyes, y el Subsecretario (s) de Agricultura, Wilson Ureta.

Hasta la fecha, el SAG ha emitido en 2024 más de 18.000 Certificados Zoosanitarios de Exportación (CZE) para mascotas que dejan Chile. Los perros encabezan la lista con 15.782 certificados emitidos, seguidos por los gatos con 3.076. Este documento, obligatorio para el traslado internacional de perros y gatos, garantiza que las mascotas cumplen con los requisitos sanitarios exigidos por los países de destino. Los tres principales destinos de salida estas mascotas son Argentina, Colombia y Estados Unidos.

En la ocasión el Subsecretario (s) de Agricultura, Wilson Ureta indicó “me gustaría relevar algo que nunca tenemos que dejar de destacar: lo importante de declarar los productos que se ingresan al país. Esto es muy relevante para la agricultura y la ganadería de todo el país. Hoy el equilibrio siempre es frágil con las plagas, con las amenazas que pueden tener en la agricultura desde el extranjero, y eso es tarea de todos, de los turistas, del Servicio Agrícola y Ganadero. Tenemos que trabajar en conjunto al respecto. Por eso, si usted tiene dudas de algún producto que trae desde el extranjero, por favor, declárelo, es la mejor forma de que el SAG pueda chequear ese producto y quede requisado, o que sea inocuo y pueda ingresarlo al país. Lo peor que pueden realizar es no declararlo. Y eso a ustedes los expone a multas registradas por la ley”.

Por su parte el Director Nacional del SAG, explicó la nueva herramienta presentada por el SAG, señalando que “hoy muchas familias viajan fuera de Chile con sus mascotas, con sus “perrijos”.  Por eso, en el SAG hemos incorporado en nuestra página web www.sag.cl  un chatbot. Una herramienta que permite que ustedes puedan hacer consultas, las que son respondidas con inteligencia artificial por Sagüeso, quien contestará las dudas sobre cuáles son los requisitos para salir, principalmente a los destinos que tienen más frecuencia para los turistas”.

Esta nueva herramienta refleja el compromiso del SAG por mejorar su atención ciudadana. Se trata de “Pregúntale a Sagüeso”, un chatbot basado en inteligencia artificial que proporciona información sobre el Certificado Zoosanitario de Exportación (CZE) para los 10 principales destinos de perros y gatos que viajan desde Chile: Argentina, Bolivia, Brasil, Canadá, Colombia, Estados Unidos, México, Perú, la Unión Europea y Venezuela.

El Subgerente de Comunicaciones y Asuntos Corporativos de Nuevo Pudahuel, Manuel Valencia, indicó: “estamos en plena temporada alta en el Aeropuerto de Santiago hemos completado 25.000.000 de pasajeros recientemente y estamos alistando 1.000.000 más durante el mes de diciembre, y muchas de estas personas están viajando con mascotas. El viaje con mascotas dejó de ser una tendencia aislada. Cada vez más personas salen del país y en viajes nacionales con sus perros, sus gatos, hurones y otro tipo de mascotas y para eso nos tenemos que preparar”.

Aumento de viajes con mascotas

Es importante destacar que el número de viajes con perros y gatos ha aumentado considerablemente tras la pandemia. A la cifra de personas que viajan desde Chile con mascotas, se suma el ingreso de animales al país, que alcanza los 26.301, de los cuales 23.382 son perros y 2.920 gatos. Los principales países de origen de estas mascotas son Argentina, Perú, Colombia, Bolivia y Brasil.

El Director Nacional del SAG hizo un llamado a planificar los viajes con mascotas con tiempo: “Por favor, organicemos nuestros viajes con tranquilidad, con anticipación, ya que surgen muchas preguntas y necesidades de última hora. Es importante coordinar con la aerolínea para determinar si la mascota viajará en cabina o en carga, y conocer los requisitos del país de destino. En Chile, la mascota debe tener chip instalado, estar vacunada contra la rabia y contar con la vacuna séxtuple, antiparasitarios y un examen clínico de un veterinario. Además, es necesario solicitar el Certificado Zoosanitario, preferentemente con una antelación de no más de 10 días, pero evitando dejarlo para el último momento, ya que el certificado generalmente se emite en 3 días.”

Finalmente, la máxima autoridad del SAG hizo un llamado a evitar el ingreso al país de productos de origen animal y vegetal de riesgo, que puedan traer plagas o enfermedades no presentes en Chile, lo que pondría en grave peligro la sanidad de nuestra agricultura y medio ambiente. Hasta la fecha, el Servicio ha interceptado más de 250 toneladas de productos de riesgo en todo el país. “Hoy día nuestro país está reconocido como uno de los lugares más sanos del mundo, no tenemos ni la décima parte de las plagas que hay en otros países. Por lo tanto, acá en el SAG somos muy estrictos por cuidar nuestra sanidad”, concluyó José Guajardo Reyes.

La Universidad Central de Chile, en su rol con el compromiso de fomentar el debate público y la educación cívica, presente el ChatBot Constitucional U.Central, un innovador dispositivo que permite facilitar la comprensión de la propuesta de nueva Constitución Política para la República de Chile y que será sometida a plebiscito el domingo 17 de diciembre.

La herramienta, a la que se puede acceder a través de WhatsApp, está elaborada con la más reciente tecnología en inteligencia artificial, permite el acceso al contenido de la propuesta elaborada por la Asamblea Constituyente, de forma interactiva y fácil de usar, permitiendo a los usuarios hacer preguntas específicas con respuestas instantáneas y precisas, basadas en un análisis exhaustivo del texto.

Pablo Matamoros, magister en Estudios Políticos Aplicados y académico de la Escuela de Gobierno y Comunicaciones de la U.Central, aseguró que “las respuestas proporcionadas por el ChatBot se basan únicamente en el contenido de la propuesta constitucional y no deben interpretarse como asesoramiento legal o representaciones oficiales de interpretaciones legales. Este recurso es ideal para estudiantes, académicos, periodistas y cualquier persona interesada en participar de manera informada en el proceso democrático de Chile”.

Además, el experto que diseñó la herramienta, agregó que “la tecnología necesita la interacción con la ciudadanía, y que el juicio crítico de las personas pueda dar utilidad a esta, por eso el aporte de las universidades es fundamental para colaborar en esta necesaria sinergia”.

Por su parte, el Doctor en Ciencias Políticas y también académico de la Escuela de Gobierno de la Universidad Central, Marco Moreno, destacó que “en el actual contexto de fatiga constitucional (expresado en desinterés y falta de información) y donde parece importar más la definición política que las críticas al texto, esta herramienta que la Universidad Central pone disposición de la ciudadanía puede contribuir a mejorar la información para centrar el debate sobre el contenido del texto evitando la pura polarización o la indiferencia hacia el proceso”.

Link ChatBot Constitucional: www.constitucion.ai