ActualidadEmpresarial

Desafíos empresariales en la era de la IA Generativa: Adaptación y ética en la innovación

La IA Generativa ha sido desarrollada para poder crear ideas y contenidos nuevos, como conversaciones, historias, imágenes, videos, música, toda una infinidad de opciones creadas a partir de los datos del mundo. Sin embargo, este tipo de tecnología busca emular la inteligencia humana en tareas informáticas no tradicionales, como el reconocimiento de imágenes, el natural language processing (NLP, procesamiento de lenguaje natural) y la traducción también está generando una infinidad de retos que deben ser abordados.

Durante el evento “Blend the Future 2024”, desarrollado por CANVIA e IBM, Alberto Indacochea, Director de IA de IBM, señaló que uno de los principales retos en la industria es que los usuarios utilicen la IA como una herramienta para ser dueños de lo que construyen. Sin embargo, la ausencia de nuevos datos generará una disminución en el ritmo de progreso. “Hay mucho por trabajar en la parte de la generación de data, debido a que los datos públicos se han terminado en el mundo. Hoy en día, la IA no tiene más datos con los que entrenar. La industria valora más los datos emergentes que los almacenados.”

Para Hugo Goicochea, CEO de CANVIA, los casos de IA Generativa están ayudando también en los procesos internos dentro de las compañías. “CANVIA creó un chatbot con el uso de IBM Watson Assistant para la gestión de Recursos Humanos que ha permitido a las empresas obtener procesos mucho más eficientes y ágiles, así como atender las consultas que tienen sus colaboradores, desarrollando más de 500 respuestas sobre 20 diferentes temas. Los sectores más avanzados como los servicios financieros y telecomunicaciones, donde se maneja mucha información, han sido de vital importancia en el crecimiento del uso de IA para ganar cuota en el mercado”.

Asimismo, si bien las nuevas tecnologías han permitido optimizar el desarrollo y crecimiento de las empresas, a través de la digitalización de los procesos y la adopción de asistentes virtuales, aún existen diversos desafíos que deben superar para que la IA generativa pueda escalar dentro de sus negocios. “Alguna de las preocupaciones de la industria van por el lado de los sesgos, alucinaciones de la IA que pueden producir su uso indebido, así como la falta de transparencia y los efectos potenciales en la creatividad y la originalidad. El uso de grandes conjuntos de datos para entrenar a los algoritmos de IA también plantea dudas en torno a la protección y la privacidad de los datos, tanto como el uso del Shadow AI por parte de los mismos colaboradores”, señaló Indacochea.

“Es necesario crear una plataforma de IA generativa que pueda integrarse con procesos de negocio y con las aplicaciones, con opciones de modelos en una única plataforma. Asimismo, asegurar su uso de forma ética y segura mediante el establecimiento y cumplimiento de marcos, reglas y normas”, mencionó el vocero de IBM. Por su parte, el CEO de CANVIA, señaló que la generación de datos confiables y de alta calidad será importante. “Un reto principal es cómo tenemos gobernado los datos, muchas veces tenemos una misma versión de un dato en diferentes sistemas que pueden generar inconsistencias. Por ello, el rol humano en la creación de datos emergentes debe ser seguro, confiable y ético para que los modelos creados por las organizaciones tengan decisiones éticas e íntegras que estén alineadas al propósito de sus organizaciones”.

Wordpress Social Share Plugin powered by Ultimatelysocial
YouTube
YouTube
Instagram