Los riesgos de que se use la inteligencia artificial en la empresa sin control

La inteligencia artificial generativa llegó para cambiarnos la vida. Son amplias y variadas las opciones que nos ofrece para ayudarnos a hace mejor y mucho más rápido un sinfín de tareas y procesos, principalmente en ambientes educativos y laborales. No obstante, es un riesgo altísimo que los empleados de una empresa usen estas IA sin que la compañía lo sepa ni lo controle o gestione.

Según datos de IDC de este año, en un estudio ordenado por Microsoft, el mercado de la inteligencia artificial en Colombia ha crecido un 25 por ciento en el último año en especial en sectores como el de la salud, el comercio y el financiero. El 59 por ciento de las grandes empresas ya han implementado IA en menos de seis meses.

(Lea también: Sin tibiezas: la inteligencia artificial se debe regular)

El informe dice que en los próximos dos años el 82 por ciento de las grandes empresas aumentarán su presupuesto para IA, lo que la ubica, de lejos, como una de las tecnologías en que más se hará énfasis para el crecimiento y desarrollo de las empresas.

Rosa Bolger, vicepresidenta global de Defensa Cibernética de IBM, dijo a EL TIEMPO en la pasada feria de Andicom que “han bajado los ataques de ransomware gracias a las tecnologías de automatización, pero estamos observando un aumento de los ataques hacia (soluciones de) inteligencia artificial, hechos con IA”.

“Hemos visto ataques a los modelos de IA con la intención de aprender cómo lo usan en empresas que son objetivo de ataques. Con cada pregunta que se le hace a un modelo, él va aprendiendo”, señala Bolger, por lo que si ese modelo es atacado los malos podrán tener información valiosa de una empresa.

Parte de los puntos para mejorar, precisamente según IBM, por tanto, es la gobernanza de la inteligencia artificial en las empresas. Esto significa contar con una estructura de trabajo y unas políticas claras, un manual de ética, capacitación oficial y una total claridad acerca de cómo, cuándo, quiénes pueden y deben usar IA en los procesos del negocio.

Según la empresa de tecnología, el 62 por ciento de los gerentes de tecnología en Latinoamérica consideran que la gobernanza de IA generativa debe conformarse a la par de su adopción y no luego de ella, lo que es correcto y el camino preciso para evitar grandes peligros para las empresas.

(Lea además: Estos son algunos ejemplos de uso de inteligencia artificial que facilitarán la vida)

El uso no gestionado de la inteligencia artificial generativa en una empresa representa un grave riesgo en varios aspectos:

Ambientes gratuitos. Generalmente, los empleados y las personas hacen uso de modelos de IA generativa gratuitos, versiones sin costo de ChatGPT, Gemini o Copilot, los cuales no poseen las configuraciones de seguridad, privacidad y máxima capacidad técnica que son requeridas e ideales en la operación tecnológica de una empresa. La IA generativa debe contratarse en ambientes privados, una nube segura y con políticas de seguridad precisas.

Información crítica. Por tanto, poner en esos sistemas gratuitos datos y documentos privados de la empresa, operaciones, bases de datos, información sobre estrategias, precios, desarrollo de productos, proyecciones financieras, etc., es de una alta gravedad porque se estarían revelando a sistemas públicos de IA generativa sin control ni seguridad secretos comerciales o información clave para el negocio.

Riesgos de ciberseguridad. Con información que los empleados entregan a las IA generativas sin gestión integral por parte de la compañía, los ciberdelincuentes pueden saber y entrenar a otros modelos para imitar y generar documentaciones, imágenes, correos electrónicos con el mismo estilo de un alto ejecutivo o departamento e incluso suplantar personas en video y voz.

Derechos de autor. Las IA generativas toman datos, documentos e informaciones de todo lado para crear sus respuestas, por lo que existe el riesgo de que puedan crear documentos y contenidos que atenten contra la propiedad intelectual o los derechos de autor de otras empresas y personas, que luego signifiquen serias demandas y líos judiciales a la empresa.

Errores y sesgos por alucinación. Las IA generativas gratuitas pueden constituir respuestas y contenidos no confiables. Esto porque no cuentan con toda la capacidad técnica y de a información, controles y gestión total que sí poseen las soluciones empresariales privadas de esas mismas IA. Esto podría llevar a la empresa a cometer errores con datos, nombres, conceptos e, incluso, sesgos (daños a la inclusión, diversidad, género, raza, etc.).

Privacidad de clientes. Las IA generativas gratuitas almacenan los datos y contenidos que se les entregan para crear respuestas. Si un empleado entrega bases de datos o información, por ejemplo, de clientes, pueden infringirse normas de gestión de privacidad que estén protegidas por contrato, configurando una violación legal que puede ser de gran impacto para la empresa.

(Le puede interesar: Observatorio Nacional TIC y la llegada de Nvidia con Oracle para IA: los anuncios de Andicom 2024)

Cree una política. Debe existir un manual de ética, roles, funciones y procesos en el uso y apropiación de IA en la empresa.

Forme un ‘gobierno de IA’. El talento que se encargará de implementar, vigilar y apoyar con el uso de la IA en la empresa, los responsables de que se use de manera correcta.

Establezca una hoja de ruta. Defina por dónde, los procesos, áreas, que comenzarán a integrar IA, para ir evaluando y corrigiendo, antes de avanzar en otros departamentos del negocio.

Asesórese. Existen muchas empresas expertas en esto de la IA generativa que ofrecen soluciones corporativas, seguras, probadas, con asesoría y acompañamiento para integrar la IA de manera confiable.

JOSÉ CARLOS GARCÍA R.

Editor Multimedia

@JoseCarlosTecno en redes