A medida que más proyectos de IA generativa pasen de la prueba de concepto a la fase de producción, los CIO experimentarán mayor presión para establecer políticas de gobernanza de esta tecnología con el fin de proteger no sólo a su empresa sino también sus puestos de trabajo.
El gobierno estadounidense y la Unión Europea, así como los principales analistas del mercado, ofrecen numerosos marcos de gobernanza de la IA, pero no cabe duda de que, a medida que la innovación en IA generativa sobrepase las normas en vigor, en 2025 los CIO tendrán que establecer y perfeccionar las políticas internas de gestión de la IA e implicar a la alta dirección de su organización en el proceso para asegurarse de que no son los únicos responsables, indican los expertos.
En este punto, entran en juego los desequilibrios jurisdiccionales. “En cuanto al establecimiento de políticas de IA responsables y la creación de códigos de conducta, las organizaciones estadounidenses están al mismo nivel que las europeas, según una encuesta de febrero de 2024, pero las primeras van a la zaga de las segundas en el establecimiento de comités de gobernanza multidisciplinares/interdepartamentales, tal y como recomienda la Ley de IA de la UE”, afirma Grace Trinidad, directora de investigación de IDC, que insta a los CIO a no asumir la gobernanza de la IA en solitario.
IDC recomienda seguir las indicaciones tanto del Marco de Gestión de Riesgos de IA del NIST, en el caso de las organizaciones de Estados Unidos, como las disposiciones de la , los fundadores de OpenAI citaron la necesidad de que la IA generativa se gestionara adecuadamente como razón clave para que la empresa fuera sin ánimo de lucro. Desde entonces, todos los fundadores menos dos se han marchado y OpenAI está trabajando para reestructurar su actividad principal y convertirla en una empresa con ánimo de lucro que ya no esté controlada por su junta directiva sin ánimo de lucro.
Sid Nag, vicepresidente de tecnologías y servicios de infraestructura de nube, edge e IA en Gartner, dice que el Consorcio del Instituto de Seguridad de IA del NIST y el Centro para la IA Responsable han avanzado en la gobernanza de la IA desde 2021, pero no hay normas regulatorias aprobadas para guiar a los CIO que están bajo una presión cada vez mayor para salir de la experimentación y ganar dinero con las importantes inversiones en plataformas y herramientas de IA generativa.
Subraya que no existe un documento único que recoja todos los aspectos de los riesgos ni una autoridad clara que imponga el uso de la IA generativa, que avanza día a día. “La IA es un tren desbocado y todo el mundo intenta sacar tajada de ella”, afirma.
Aun así, es raro encontrar a un CIO u otro directivo que desestime la gobernanza de la IA. Las empresas grandes y pequeñas son muy conscientes de que la IA generativa en las manos equivocadas pueden derivar en un desastre. Antonio Marín, CIO de la empresa estadounidense de alquiler de equipos médicos US Med-Equip, afirma que la IA está permitiendo a su empresa crecer rápidamente, pero que todas las manos están puestas en la gobernanza. “Estamos incorporando la gobernanza de la IA como parte de nuestra gobernanza de datos y ciberseguridad”, indica, y añade que los riesgos aumentan cuando los POC pasan de la caja de arena a la producción. “En algunos casos, nuestros directivos ven la IA como una solución a algunos problemas de procesos. Ven la IA como una oportunidad para ganar cuota de mercado o reducir los costes operativos, manteniendo al mismo tiempo una alta calidad de la experiencia del cliente y la excelencia operativa”.
Jeter, de TruStone, espera que la supervisión se convierta en un requisito legal y reglamentario a su debido tiempo. “Veo a los auditores internos y externos como socios, con un propósito compartido que se alinea con nuestros valores”, dice Jeter. “Como resultado, no tengo ninguna preocupación”.
SOCIAL SHARE CARD GENERATOR