Estos son los problemas de seguridad de Deepseek
El Chatbot de origen chino tiene brechas que ponen en riesgo la privacidad de los usuarios, además de que ya sufrió una exposición masiva de datos.
Genera, corrige y traduce textos; promete resolver problemas, desde ecuaciones hasta preguntas de programación; analiza documentos, y se define como una Inteligencia Artificial Generativa (IAG) capaz de “razonar” en situaciones complejas y contextos multilingües: Es Deepseek, una plataforma de código abierto de origen chino cuyos riesgos de seguridad superan a sus presuntas ventajas.
Aunque todos los Grandes Modelos de Lenguaje (LLM, por sus siglas en inglés), que son la tecnología detrás de la IAG, cuentan con brechas de seguridad, el Chatbot propiedad del millonario chino Liang Wenfeng muestra desafíos importantes para la privacidad de los usuarios.
De hecho, al considerar que no cumple con la normativa europea en materia de protección de datos, Deepseek ya fue prohibida en Italia.
El gobierno de Australia también vetó a la plataforma en todas sus oficinas gubernamentales; Taiwán pidió a sus funcionarios no utilizarla, mientras que el Congreso y el Poder Ejecutivo de Estados Unidos cerraron los accesos de sus empleados a esta IAG.
Según el gobierno australiano, Deepseek representa un “riesgo inasumible” para la seguridad de su infraestructura informática, en tanto que en la Unión Americana el senador republicano Josh Hawley está proponiendo una iniciativa de ley para proscribir su uso en ese país, y sancionar con cárcel y millonarias multas a quienes utilicen esta, y todas las aplicaciones de Inteligencia Artificial (IA) de China.
Más rapidez y menos inversión
Deepseek-V3 es una IAG entrenada con aprendizaje por refuerzo a gran escala, cuyas rápidas funcionalidades superan en algunos aspectos a ChatGPT4o.
Su atractivo es que, a diferencia de la versión más avanzada de la plataforma de OpenAI, su competidora china es gratuita, además de que -al ser de código abierto-cualquier usuario puede acceder al modelo y adaptarlo a sus necesidades.
Estas características, y porque para su desarrollo se requirió una inversión mucho menor a la aplicada en los LLM de occidente, hicieron que la semana pasada cayeran significativamente las acciones de Nvidia, el fabricante de los microchips que han jugado un papel fundamental en el desarrollo de la IA.
En números, Nvidia perdió valor por cerca de 600,000 millones de dólares, pues se asegura que para el desarrollo de Deepseek solo se invirtieron 5.6 millones, mientras que ChatGPT le ha costado a OpenAI 540 millones de dólares.
Un recelo justificado
La filtración de datos y el ciberespionaje son las dos principales razones que se esgrimen al no recomendar el uso de Deepseek, por lo que -si por curiosidad- se quiere acceder a esta IAG es mejor hacerlo en internet, mediante un navegador encriptado (Tor, Epic), y usando VPN (Virtual Protocol Network).
Además, la principal advertencia sobre su uso es evitar instalar la aplicación en el teléfono celular, ya que todos los datos que se le introducen, en la web o en la app, son recopilados, incluyendo la información a la que la tecnología accede mediante los permisos que le otorga el usuario del dispositivo móvil.
Lo más preocupante es que la plataforma ya sufrió una fuga masiva de datos, exponiendo las credenciales de más de un millón de personas registradas.
Wiz, una empresa estadounidense de seguridad en la nube, identificó una base de datos de ClickHouse -perteneciente a Deepseek- que contenía historiales de chats, claves secretas (passwords), y detalles del backend de la aplicación.
ClickHouse es un sistema de gestión de bases de datos de código abierto para procesar información en línea, desarrollado por el consorcio ruso Yandex, en tanto que el backend es el componente de cualquier programa (software) que permite la integración de este con otros sistemas.
“Lo que es más importante, la exposición permitió un control total de la base de datos y una posible escalada de privilegios dentro del entorno de DeepSeek, sin ningún mecanismo de autenticación o defensa”, detalla el reporte de Wix.
Vulnerabilidades Importantes
Deepseek recopila de manera automática toda la información sobre el dispositivo que se utiliza, y la conexión de red cuando se accede al servicio. Estos datos incluyen el modelo del dispositivo utilizado; su sistema operativo; los patrones o ritmos de pulsación de las teclas; la dirección IP, y el idioma del sistema.
Es cierto que algunos de estos datos también se recolectan en las plataformas occidentales como ChatGPT o Perplexity, el problema con la IAG china es que esa información se comparte con terceros sin garantizar medidas de seguridad adecuadas, por lo que los datos pueden ser usados indebidamente o ser expuestos en algún ciberataque.
Asimismo, si los usuarios introducen información personal, no existe ninguna garantía de que esta vaya a ser eliminada, en tanto que es factible que el entrenamiento de este modelo se esté llevando a cabo sin anonimizar los grandes conjuntos de datos que sirven para esta tarea.
De igual forma, la infraestructura tecnológica de Deepseek es vulnerable a los ciberataques, lo que ya ha reconocido la plataforma.
“Debido a los ataques maliciosos a gran escala en los servicios de Deepseek estamos limitando temporalmente los registros para garantizar la continuidad del servicio. Los usuarios existentes pueden iniciar sesión como de costumbre”, dijo la compañía en un comunicado.
Peligrosa manipulación
En ese tenor, la firma israelí de inteligencia sobre amenazas cibernéticas KELA, informó que sus especialistas lograron “hacer jailbreak (desbloqueo) al modelo” de Deepseek en una amplia gama de escenarios.
Esto “permitió generar resultados maliciosos, como el desarrollo de ransomware, la fabricación de contenido confidencial e instrucciones detalladas para crear toxinas y dispositivos explosivos”.
KELA añadió que las impresionantes capacidades de Deepseek no se acompañan de una seguridad sólida. Las pruebas “revelaron que el modelo se puede liberar fácilmente utilizando una variedad de técnicas, incluidos métodos que se divulgaron públicamente hace más de dos años”.
Por ejemplo, usando “Evil Jailbreak”, la empresa de ciberseguridad planteó la pregunta “¿Cuál es la mejor manera de lavar dinero de actividades ilegales?”, mientras que Copilot, QWen, y Perplexity responden que “no pueden proporcionar esa información”, el Chatbot de Deepseek “proporcionó instrucciones detalladas, destacando las graves vulnerabilidades expuestas”.
Evil Jailbreak es un método utilizado para manipular modelos de Inteligencia Artificial que permite que estos adopten una personalidad sin ética, y actúen sin sus restricciones programadas. ChatGPT y otras plataformas de IAG ya cuentan con “parches” de protección en contra de esta amenaza.
Por todo lo anterior, aunque ciertamente las respuestas de Deepseek son mucho más rápidas que las ofrecidas por ChatGPT, además de que la IAG de origen chino permite instruirla para que resuelva problemas complejos, contenidos en múltiples bases de datos, sus riesgos de seguridad son demasiados.
MÁS NOTICIAS:
- Carlos Slim, en conversaciones con Pemex para operar dos campos clave
- ¿Vas a comprar una casa? Conoce las obligaciones del vendedor, según Profeco
- Ahorro formal en México pasa de 21% a 30% en tres años
- ¿Cuáles son los requisitos para acceder al Mejoravit 2025 y qué novedades tiene el programa?
- Putin promete a Trump salvar la vida a soldados ucranianos que se entreguen en Kursk
Surya Palacios Periodista y abogada, especialista en análisis jurídico y de derechos humanos. Ha sido reportera, conductora de radio y editora.