Apps impulsadas por IA chatbots son una nueva amenaza para la ciberseguridad

Apps impulsadas por IA chatbots ¿son una amenaza de seguridad?

HIXSA

8 febrero, 2024

La IA Chatbots ahora impulsados por IA generativas son capaces de generar respuestas IA que pueden engañarnos fácilmente. No debemos de confiar en los que los dicen las IA ya que ahora la Inteligencia Artificial está siendo aprovechados para robar tu información personal según una nueva investigación de la Fundación Mozilla.

Investigación sobre los IA chatbots de romance

Un análisis de 11 de los llamados “chatbots de romance y compañía”, publicado por la Fundación Mozilla, revela una serie de problemas de seguridad y privacidad. En conjunto, las aplicaciones, que se han descargado más de 100 millones de veces en dispositivos Android, recopilan enormes cantidades de datos de las personas, utilizan rastreadores que envían información a Google, Facebook y empresas de Rusia y China, permiten a los usuarios emplear contraseñas débiles y carecen de transparencia sobre su propiedad y los modelos de IA que los impulsan.

Problemas con las políticas de privacidad

En primer lugar, se identifican problemas de seguridad relacionados con la recopilación masiva de datos personales por parte de estas aplicaciones. A pesar de las promesas de privacidad en sus políticas, muchas de estas aplicaciones recopilan una gran cantidad de información de los usuarios, que luego puede ser compartida con terceros. Esta práctica plantea preocupaciones sobre la protección de la privacidad y la posible explotación de los datos de los usuarios.

Por ejemplo, está Romantic AI, un servicio que te permite “crear tu propia pareja de IA”. Los documentos de privacidad de la app, según el análisis de Mozilla, señalan que no venderá los datos de las personas. Sin embargo, cuando los investigadores probaron la aplicación, descubrieron que “enviaba 24,354 rastreadores de anuncios en un minuto de uso”.

Falta de privacidad en las apps de IA chatbots

En el estudio, se señala la falta de transparencia en relación con la propiedad y el funcionamiento de estas aplicaciones. Muchas de ellas no revelan quién está detrás de su desarrollo ni proporcionan información clara sobre los modelos de inteligencia artificial que impulsan sus capacidades. Esta falta de transparencia dificulta que los usuarios tomen decisiones informadas sobre el uso de estas aplicaciones y sus implicaciones para la privacidad y la seguridad.

Otro aspecto preocupante es la vulnerabilidad de la seguridad de los usuarios debido a contraseñas débiles y prácticas de seguridad deficientes en algunas de estas aplicaciones. Los investigadores de Mozilla encontraron que algunas aplicaciones permiten contraseñas extremadamente simples, lo que aumenta el riesgo de acceso no autorizado a las cuentas de los usuarios y la exposición de datos sensibles. Esta falta de protección adecuada podría dejar a los usuarios vulnerables a ataques de hackers y otros riesgos de seguridad.

IA chatbots poco claros

Además de estos problemas, existe una falta de claridad sobre cómo se utilizan exactamente los datos recopilados por estas aplicaciones. Aunque las políticas de privacidad suelen prometer no vender datos de usuarios, la falta de detalles sobre cómo se almacenan y utilizan estos genera incertidumbre sobre la seguridad y privacidad de la información personal de los usuarios.

Otro de los problemas de intercambio de información y de seguridad, según el análisis de Mozilla es que se sabe muy poco sobre las tecnologías específicas que impulsan los chatbots. Algunas de las aplicaciones no parecen disponer de controles que permitan a los usuarios borrar los mensajes. Hay casos en los que no se señala de forma clara que modelos de IA generativa impulsan sus aplicaciones, o si los usuarios pueden elegir si sus conversaciones se pueden usar para modelos de desarrollo en el futuro.

Adoptar las mejores prácticas de seguridad

Si estas pensando en utilizar algúna aplicación de este tipo o ya estás utilizando alguna se recomienda que revises las mejores prácticas de seguras para evitar el robo de tus datos. Por ejemplo; el uso de contraseñas seguras, no iniciar sesión en las aplicaciones a través de Facebook o Google, eliminar información y optar por no participar en la recopilación de datos. Aun que en muchos casos, señala el estudio, es probable que esto no sea suficiente.

En resumen, la investigación de Mozilla destaca una serie de preocupaciones significativas sobre la seguridad y la privacidad de los usuarios en relación con los chatbots de romance y compañía. Estos problemas subrayan la necesidad de una mayor transparencia y protección de datos en el desarrollo y el uso de estas aplicaciones, así como la importancia de que los usuarios adopten prácticas de seguridad online al interactuar con ellas.

También te puede interesar: Tendencias en IA Generativa y automatización robótica para 2024

AutomationEdge con IA Generativa

La convergencia de la Inteligencia Artificial generativa (IA Generativa) y la Automatización Robótica de Procesos (RPA) está remodelando el panorama de la automatización inteligente. Al combinar la precisión y eficiencia de RPA con la creatividad y adaptabilidad de la IA generativa, las empresas pueden desbloquear nuevos niveles de automatización que antes eran inalcanzables.

La tecnología inteligente altamente avanzada de AutomationEdge reúne todas las herramientas esenciales necesarias para la automatización empresarial, como inteligencia artificial, aprendizaje automático, chatbot, ETL, integraciones API listas y automatización de procesos de TI.

Si deseas obtener más información sobre cómo AutomationEdge puede ayudar en tu proceso de transformación digital, ponte en contacto con nuestro equipo y comprueba cómo con la hiperautomatización es posible aumentar la eficiencia, la satisfacción de los empleados, optimizar las operaciones repetitivas, además de aumentar la satisfacción del cliente reduciendo errores, costos y tiempos de resolución.

Consulta la información original.

Guía del CIO para la evaluación de soluciones RPA

En esta guía para CIO’s compartimos las claves para evaluar soluciones de RPA para tu negocio.

Guía de AI Service Desk y Automatización

En este documento te compartimos un modelo probado de automatización de la mesa de servicio de TI, que ayuda a analizar desafíos, evaluar soluciones y elegir el mejor enfoque de automatización.

10 consejos de lectura obligada para seleccionar un sistema ECM

En este eBook te mostramos cómo un sistema ECM y la gestión inteligente de la información puede hacer tu negocio más competitivo

Business Case para la Gestión de Contenido Empresarial

En este eBook te compartimos como la afluencia de contenido muy diverso de una variedad de sistemas y repositorios apunta a la urgente necesidad de las empresas invertir en la gestión de contenidos para tomar control de su contenido.