DeepSeek representa un gran avance, ya que ofrece similar rendimiento que otras plataformas de Gen AI con menos recursos. Sin embargo, plantea dudas respecto a seguridad y privacidad.
La irrupción de DeepSeek en la arena de la inteligencia artificial generativa (Gen AI) ha supuesto un auténtico terremoto.
La nueva plataforma de Gen AI china está dando tanto que hablar porque su modelo R1 consigue un rendimiento similar al que ofrece OpenAI-o1, pero con muchos menos recursos, empleando 6 modelos de lenguaje pequeños de código abierto, tal y como anunciaba en su perfil en X.
El revuelo generado por esta DeepSeek ha despertado la curiosidad de los usuarios, acumulando más de 10 millones de descargas en Google Play, a las que habría que sumar también las realizadas en la App Store de Apple.
Además, al igual que otras herramientas de Gen AI, DeepSeek puede ser utilizada directamente a través de su web.
Sin embargo, los expertos en seguridad muestran ciertos recelos respecto a los posibles riesgos de privacidad y seguridad que representa el modelo R1 de DeepSeek para las empresas.
“Este modelo ha marcado un hito en la accesibilidad de la inteligencia artificial al combinar capacidades avanzadas de razonamiento con acceso gratuito e ilimitado. En solo 48 horas, su aplicación móvil ha liderado las listas de descargas en la App Store de iOS. Sin embargo, junto con esta explosiva popularidad, surgen preocupaciones críticas sobre la seguridad y privacidad de los datos empresariales”, indica Check Point.
Hay que señalar que estas dudas también surgieron en los comienzos de ChatGPT. Por ejemplo, Italia bloqueó su uso, al entender que incumplía el RGPD europeo, como contábamos en Silicon.es.
Y ahora ha hecho exactamente con DeepSeek, eliminándola de las tiendas de aplicaciones italianas, debido a una investigación sobre la forma en que obtiene y utiliza los datos de los usuarios.
Los datos pueden ser compartidos con terceros
La medida adoptada por el país transalpino quizá sea seguida por otros, ya que su modelo de recopilación de datos plantea riesgos significativos, tal y como advierten los expertos en ciberseguridad.
“Según su política de privacidad, la plataforma almacena y procesa todas las interacciones de los usuarios, incluyendo mensajes, archivos, historiales de chat, entradas de voz, imágenes e incluso patrones de pulsaciones de teclas. Además, DeepSeek se reserva el derecho de revisar y utilizar estos datos para el entrenamiento de modelos de IA”, explica Check Point.
Así pues, la empresa de ciberseguridad señala que estos aspectos generan serios riesgos de seguridad y cumplimiento para las empresas. Por ejemplo, alerta de que los datos recopilados podrían ser utilizados para entrenar futuros modelos de IA, exponiendo información corporativa sensible.
Asimismo, reseña de que el contenido del usuario puede compartirse con terceros, incluidos proveedores de servicios y empresas afiliadas.
Igualmente, avisa de que aquellas compañías que operen bajo RGPD, HIPAA o CCPA pueden tener que afrontar sanciones debido a la estructura de manejo de datos de DeepSeek.
Por último, hace hincapié en que “la presencia de restricción de contenidos y censura sobre ciertos temas en DeepSeek genera preocupaciones de gobernanza que pueden afectar a las operaciones empresariales”.
Por ejemplo, esta nueva plataforma de Gen AI tiene serios apuros si se le pregunta que sucedió en la plaza de Tiananmén o por qué se compara a al presidente Xi Jinping con Winnie-the-Pooh, como contaba The Guardian.
Asimismo, Chester Wisniewski, director y CTO field global de Sophos, realiza algunas advertencias respecto al uso de DeepSeek por parte de las empresas.
“La naturaleza de ‘código abierto’ de DeepSeek lo abre a la exploración, tanto por adversarios como por entusiastas. Al igual que Llama, se puede jugar con él y eliminar en gran medida las barreras de seguridad. Esto puede dar lugar a abusos por parte de los ciberdelincuentes, aunque es importante señalar que el funcionamiento de DeepSeek sigue requiriendo muchos más recursos de los que dispone el ciberdelincuente medio”, apunta.
“Sin embargo, lo que supone más presión para las empresas, es que, debido a su rentabilidad, es probable que veamos varios productos y empresas adoptar DeepSeek, lo que potencialmente conlleva riesgos significativos para la privacidad”, comenta.
De este modo, recomienda realizar “una evaluación de riesgos exhaustiva, que se extienda a cualquier producto y proveedor que pueda incorporar DeepSeek o cualquier LLM futuro”. Además, remarca que las empresas “deben estar seguras de que cuentan con los conocimientos adecuados para tomar una decisión informada”.
Siguenos en nuestra Web , Blogger , Radios 24 Horas desde nuestra WEB podéis entrar a nuestro BLOGGER
WEB www.lavidaesocio.com
No hay comentarios:
Publicar un comentario