Actualmente, muchos so\u00f1amos con desarrollar agentes de IA, compartir nuestros logros con familia, amigos y colegas, e incluso animarlos a explorar las distintas plataformas disponibles. Pero\u2026 \u00bfalguna vez nos detenemos a evaluar los riesgos que implica compartir estas iniciativas y la informaci\u00f3n que usamos para validar su funcionamiento?<\/p>\n\n\n\n
Probablemente la respuesta sea no<\/strong>, y no hay que alarmarse: en el \u00e1mbito privado sucede lo mismo.<\/p>\n\n\n\n \u00bfPensaste alguna vez que, para usar un agente de inteligencia artificial en tu trabajo, deber\u00edas informar al \u00e1rea de Seguridad de la Informaci\u00f3n y a la de Gesti\u00f3n de Riesgos?<\/strong><\/p>\n\n\n\n El uso de agentes ha logrado romper barreras de ciberseguridad desde adentro hacia afuera<\/strong>. La informaci\u00f3n interna de las organizaciones, utilizada para mejorar la eficiencia, termina muchas veces incorporada en modelos que no est\u00e1n bajo el \u201cparaguas\u201d de seguridad corporativa. Por ejemplo, si tu empresa opera con el paquete Office365, probablemente Copilot<\/strong> sea la herramienta habilitada, y no ChatGPT<\/strong>, Gemini<\/strong> u otras. Por eso, el primer warning<\/em> como usuario es conocer qu\u00e9 motor de IA est\u00e1 autorizado<\/strong> en tu entorno laboral.<\/p>\n\n\n\n El segundo warning<\/em> es el tipo de informaci\u00f3n que se utiliza para hacer pruebas o pilotos. Imaginemos que la base de precios de la compa\u00f1\u00eda es confidencial. \u00bfSer\u00eda correcto subirla a un motor de IA sin conocer sus niveles de seguridad? Si la informaci\u00f3n es confidencial, su uso debe ser restringido, sin importar la plataforma.<\/em><\/strong><\/p>\n\n\n\n El tercer warning<\/em> es el contenido del prompt<\/em>. Al tener libertad para redactar la ejecuci\u00f3n como creemos m\u00e1s conveniente, podr\u00edamos generar sesgos involuntarios<\/strong> en el procesamiento de la informaci\u00f3n. Esto podr\u00eda derivar en decisiones sesgadas y, eventualmente, en denuncias hacia nuestro empleador. Lo ideal es que los prompts sean aprobados de forma colegiada y luego auditados.<\/em><\/strong><\/p>\n\n\n\n \u00bfEntonces, podemos limitar o frenar el uso de agentes de inteligencia artificial por parte de los empleados?<\/em> <\/p>\n\n\n\n Creo que NO<\/strong>. <\/p>\n\n\n\n El acceso a los mismos es accesible, ya sea de forma gratuita o invirtiendo poco dinero; la sensaci\u00f3n de liberaci\u00f3n de horas en las tareas operativas es real y los equipos buscan ser m\u00e1s \u00e1giles y la informaci\u00f3n que se utiliza para ejecutar las tareas, dif\u00edcilmente no puedan utilizarla para probar los pilotos. Por lo que y para no morir en el intento, te comparto mis recomendaciones para operar en un entorno de descentralizaci\u00f3n de uso de agentes de Inteligencia Artificial para mitigar los riesgos a los que se expone la organizaci\u00f3n<\/em><\/p>\n\n\n\n 1\ufe0f\u20e3 Dise\u00f1ar un marco robusto de gobernanza de datos<\/strong><\/p>\n\n\n\n 2\ufe0f\u20e3 Establecer pol\u00edticas claras sobre acceso y uso de datos<\/strong><\/p>\n\n\n\n 3\ufe0f\u20e3 Definir objetivos y l\u00edmites de cada agente de IA<\/strong><\/p>\n\n\n\n 4\ufe0f\u20e3 Capacitaci\u00f3n continua<\/strong><\/p>\n\n\n\n Jos\u00e9 Francisco Scutella<\/em><\/strong> Actualmente, muchos so\u00f1amos con desarrollar agentes de IA, compartir nuestros logros con familia, amigos y colegas, e incluso animarlos a explorar las distintas plataformas disponibles. Pero\u2026 \u00bfalguna vez nos detenemos<\/p>\n","protected":false},"author":7,"featured_media":0,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_joinchat":[],"footnotes":""},"categories":[1],"tags":[],"class_list":["post-4270","post","type-post","status-publish","format-standard","hentry","category-novedades"],"yoast_head":"\n\n
\n
\n
\n
\n\n\n\n
<\/em>Licenciado en Administraci\u00f3n <\/em>
<\/em>Gerente Corporativo de Procesos & Control Interno en Adium Pharma. especializado en Riesgos y Transformaci\u00f3n Digital. <\/em>
<\/em>Cuenta con amplia trayectoria en el \u00e1mbito corporativo y acad\u00e9mico, especializado en Gobierno Corporativo, Gesti\u00f3n de Riesgos y Transformaci\u00f3n Digital. <\/em>
<\/em>Experto en Gesti\u00f3n de Riesgos, Control Interno y Transformaci\u00f3n Digital.<\/em>
<\/em>Speaker internacional en conferencias para profesionales con un enfoque en la integraci\u00f3n de herramientas digitales en la gesti\u00f3n de riesgos y el gobierno corporativo.<\/em><\/p>\n","protected":false},"excerpt":{"rendered":"