La IA generativa está dominando el ciclo de noticias, y con razón, ya que las empresas aprovechan las oportunidades para aumentar la productividad y mejorar la experiencia del cliente de muchas maneras.
Pero en medio de esta innovación aparece un nuevo riesgo para las empresas: ¿Cómo pueden mantener seguros los datos?
Los últimos resultados de la Generative AI Snapshot Research Series de Salesforce, un estudio de más de 4.000 colaboradores a tiempo completo, revela que el 73% de los colaboradores cree que la IA generativa introduce nuevos riesgos de seguridad, aunque la mayoría utiliza o planea utilizar la tecnología. A pesar de estas preocupaciones, la investigación revela que pocos saben cómo proteger a sus empresas de dichos riesgos.
Según el estudio, aunque el 61% de los colaboradores utiliza o planea utilizar IA generativa en el trabajo, casi el 60% de los que tienen previsto utilizar esta tecnología no sabe cómo hacerlo utilizando fuentes de datos confiables o garantizando la seguridad de los datos confidenciales.
La adopción de la IA generativa avanza rápidamente: transformará las relaciones con los clientes
Los colaboradores ven el potencial de la IA generativa y ya están utilizando activamente la tecnología o planean utilizarla. Entre las razones que señalan para utilizar la IA generativa, se encuentran ventajas como atender mejor a los clientes y ahorrar tiempo.
- El 68% de los colaboradores afirma que la IA generativa les ayudará a atender mejor a sus clientes.
- El 67% afirma que la IA generativa le ayudará a sacar más partido de sus otras inversiones en tecnología, como otras herramientas de IA y modelos de aprendizaje automático.
- Los colaboradores calculan que ahorran un promedio de cinco horas a la semana -el equivalente a un mes al año para los colaboradores a tiempo completo- utilizando IA generativa.
Los colaboradores aún no saben cómo aprovechar la IA generativa de forma responsable
A medida que aumenta el uso de la IA generativa, surgen problemas de confianza y seguridad. Con pocos conocimientos sobre cómo aprovechar la IA generativa de forma responsable, los colaboradores corren el riesgo de sufrir imprecisiones, sesgos y problemas de seguridad.
Destacado: La IA generativa está llamada a influir en el día a día de los trabajadores más que en el de los directivos. Sin embargo, los estudios muestran que los directivos confían demasiado en su capacidad para aprovechar la IA generativa de forma responsable, lo que expone a riesgos a los colaboradores individuales.
Datos confiables, seguridad y la construcción de una base ética son fundamentales para convertir la IA generativa en una tecnología confiable.
Los colaboradores afirman que estos cuatro elementos principales son necesarios para utilizar con éxito la IA generativa en su puesto y en su organización:
«La IA generativa tiene el potencial de ayudar a las empresas a conectarse con sus audiencias de maneras nuevas y más personalizadas», dijo Paula Goldman, Jefa de Ética y Uso Humano de Salesforce. «A medida que las empresas adoptan esta tecnología, necesitan asegurarse de que existen directrices éticas y límites establecidos para un desarrollo y uso seguro de la IA generativa».