Por Beatriz Bugallo Montaño
1.Presentación general
El desarrollo de la Inteligencia Artificial, en adelante IA, durante los últimos años posicionó a sus tecnologías en el cotidiano empresarial, tanto en las empresas productoras de sus aplicaciones como también en las de todo tipo de actividades económicas. En estas últimas no solamente está presente por implementaciones específicas, sino también porque las que todavía no la utilizan directamente evalúan su implementación valorando riesgos y beneficios. Aún tratándose de empresas o microempresas de sectores productivos primarios tradicionales seguramente son usuarias o beneficiarias de aplicaciones de la IA correspondientes a personas con quienes se relacionan o recurren a la comercialización a través de plataformas digitales, de manera que también están alcanzadas por efectos legales correspondientes a los algoritmos de la IA en tales casos.
Esta expansión determina que la IA constituya un factor a analizar desde variadas perspectivas en relación con cada empresa, porque es necesario entender su alcance y eventuales efectos.
No se trata ya solamente de un componente desarrollado mediante los aportes de distintos profesionales, sino de una mirada que centralice la propia temática IA pasando por distintos temas y aspectos convergentes de la empresa que se trate.
2.Qué implica ser un Chief Artificial Intelligence Officer (CAIO)
Al ejecutivo encargado de los distintos aspectos de la aplicación de la IA en la empresa se le denomina en la jerga empresarial Chief Artificial Intelligence Officer, en adelante CAIO. Se lo define más formalmente como el responsable del asesoramiento interno para la implementación de soluciones que consisten en tecnologías de la IA. Es una figura de coordinación interna para el análisis y gestión de los aspectos específicos de la IA en las distintas áreas. La función resulta clave en la transformación digital de la empresa, de manera que pueda maximizar su potencial. En español se habla de Jefe de cumplimiento en IA, Líder IA o incluso Director de la IA en la empresa. Son todas expresiones apropiadas según la cultura organizacional de cada empresa.
Se espera del CAIO la aplicación de habilidades multidisciplinarias en evolución constante para el desarrollo de su función. Son variados los temas que se cruzan en torno a esta figura y la perfilan a nivel empresarial. La base es el conocimiento de las tecnologías de la IA, como de las infraestructuras de datos por un lado, así como conocimiento del negocio que se trate. Corresponde agregar otras áreas de conocimiento, tales como: protección y privacidad de datos; efectos de la regulación de la IA en algunas circunscripciones territoriales; propiedad intelectual; sesgos, parasesgos y las medidas a tomar al respecto; responsabilidad empresarial por la aplicación de la IA, en particular responsabilidad empresarial, societaria y de los directores de las sociedades comerciales respectivos.
Naturalmente, la capacitación en estos ámbitos se complementa de manera necesaria con el conocimiento en la empresa y sus procesos en las distintas áreas del negocio, sin lo cual no podría desplegar la esperada eficiencia. No se trata de una función que pueda desempeñarse aisladamente, requiere siempre la colaboración interdepartamental. En empresas más complejas el CAIO cuenta con un comité o grupo asesor en la IA que lo acompaña como referente en el cumplimiento de su propia gestión.
3.Roles y actividades del CAIO en la empresa
La multiplicidad de situaciones que pueden ser alcanzadas por los efectos de la IA implican la necesidad de definir facetas o roles muy variados para la persona que se ocupe de este aspecto de la gestión. Dependerán de la actividad de cada empresa o de la etapa de la implementación en que se encuentre.
Como actividades generales, los roles del CAIO consisten en investigación, estrategia y gestión: investigación en cuanto a la IA y los parámetros de cumplimiento exigidos en distintas facetas; estrategia midiendo efectos y beneficios a tenor de los objetivos de la empresa y, en cuanto a la implementación o relacionamiento que involucra IA para la empresa, gestionar o supervisar sus distintas etapas.
Se pueden destacar algunas actividades específicas, entre tantas posibles, en cumplimiento de estos roles generales.
En primer lugar, en cuanto a la fiscalización del cumplimiento normativo, el CAIO debe asegurarse de que todas las iniciativas de IA cumplan con las regulaciones legales pertinentes, lo que incluye la regulación de protección de datos y de propiedad intelectual, de manera destacada.
En segundo lugar, en cuanto a la evaluación de riesgos, el CAIO es responsable de identificar y evaluar los riesgos legales asociados con el uso de IA, realizando el análisis de impacto para determinar cómo las aplicaciones de IA afectan los derechos individuales y para asegurar que se tomen medidas adecuadas para mitigar estos riesgos. Asimismo, a distinto nivel, es fundamental la evaluación de los riesgos frente a terceros que pueden derivar de las relaciones con proveedores y socios que involucren el uso compartido o la transferencia de datos, por ejemplo.
En tercer lugar, en cuanto a aspectos de ética y responsabilidad, es muy importante que el CAIO procure diligentemente que las soluciones de IA estén diseñadas y aplicadas de manera ética, evitando sesgos en los algoritmos.
En cuarto lugar, siguiendo la exigencia que se viene universalizando a todo nivel de la IA, debe hacer posible la transparencia en los procesos algorítmicos, lo que incluye disponer de las explicaciones sobre cómo funcionan los sistemas de IA de la empresa y cómo se toman las decisiones basadas en estos sistemas.
En quinto lugar, las propias responsabilidades profesionales del CAIO derivadas de las actividades mencionadas precedentemente, llevan a que deba supervisar y monitorear la implementación de las tecnologías de la IA de la empresa donde trabaja. Lo lógico es que establezca mecanismos que le permitan supervisar el cumplimiento continuo, establecer auditorías regulares e incluso instrumentar protocolos de denuncia o aviso para que otros trabajadores de la empresa reporten hechos relevantes al respecto.
El éxito de todas estas tareas se sustenta, como es natural para el mundo empresarial, en el fomento de la cultura organizacional al respecto, con capacitación y la debida comunicación.
4.Reflexiones sobre la necesidad del CAIO y responsabilidades vinculadas
El CAIO – quedó expuesto - no solamente es un líder tecnológico, sino también un guardián del cumplimiento legal y ético en el entorno de la IA. Lo es tanto a nivel de la actividad privada como pública o estatal. En este análisis se enfoca la empresa de manera general, no corresponde distinguir si su implementación la hacen privados o el Estado, si hay un objetivo de lucro económico o de cumplimiento de fines sociales exclusivamente. La necesidad se encuentra en toda organización.
Destaco dos puntos en particular para reflexionar en torno al CAIO: si su necesidad puede llevar a que sea obligatorio como operador y la relación que tiene con el abanico de responsabilidades de la empresa.
Respecto de la imposición de una figura estructural como el CAIO o de la acreditación del cumplimiento de tales funciones no hay normativa jurídica que la imponga a nivel empresarial privado en el Derecho Comparado. El desarrollo de la regulación de aspectos referidos a las tecnologías de la IA no llegan en este ámbito a la imposición de una figura específica a diferencia de lo que sucede en el ámbito de la protección de datos, por ejemplo, al menos todavía. Evidentemente, hay puntos de cruce entre el Oficial de cumplimiento y el CAIO en temas de protección de datos, cuando estos se refieren a las aplicaciones de la IA, lo que no alcanza a otros principios básicos que la regulan.
A nivel de empresas u organizaciones públicas no es generalizada la imposición del CAIO, salvo en Estados Unidos de América, en adelante USA. Por un lado, analizando su normativa a nivel estatal, la regulación de Vermont es el único y multicitado caso que impone que existan puestos de CAIO que supervisen y monitoreen la implementación de tecnologías adoptadas y políticas públicas del citado Estado (No. 132. An act relating to the use and oversight of artificial intelligence in State government. H.410. 2022. Sec. 8. https://legislature.vermont.gov/Documents/2022/Docs/ACTS/ACT132/ACT132%20As%20Enacted.pdf).
Por otro lado, también en USA, este modelo parece estar consolidado a partir de la publicación realizada por la Presidencia norteamericana en marzo de 2024, calificando como exigencia dirigida a las distintas agencias federales, la designación de funcionarios CAIO a efectos de coordinar el uso de IA con el gobierno federal (https://www.whitehouse.gov/briefing-room/statements-releases/2024/03/28/fact-sheet-vice-president-harris-announces-omb-policy-to-advance-governance-innovation-and-risk-management-in-federal-agencies-use-of-artificial-intelligence/ ). No he encontrado información sobre el avance en gestiones en el cumplimiento en este tema, hay noticias sobre reuniones de tales funcionarios, resaltando la importancia del mecanismo a efectos de asegurar la responsabilidad y supervisión en el uso de tecnologías de IA.
Ni en Europa, ni en otros países se ha avanzado tanto en relación directa con la figura CAIO, a ninguno de los dos niveles (público o privado) pero es notorio que el tema se analiza y ocupa a los expertos de distintas disciplinas. Tal es la situación de Uruguay.
Es evidente que la tendencia del mercado actual sugiere que el CAIO, su rol y la determinación de sus funciones (variadas y eventualmente complejas), se convertirá en un estándar de gestión empresarial en el futuro cercano a medida que las organizaciones sigan enfrentando las necesidades que la IA puede solucionar.
Tal necesidad en los hechos se encuentra ineludiblemente vinculada al tema responsabilidad empresarial o societaria, en particular referencia a la responsabilidad por daños.
Si bien se parte de la experiencia de siglos en preceptos y teorías sobre responsabilidad civil el tema en estudio plantea desafíos particulares.
La imputación de responsabilidad por daños generados en torno a la aplicación de tecnologías de la IA hoy no tiene un marco regulatorio totalmente definido ni unificado, puede resultar algo difusa. En algunas actividades incluso ello lleva a una subutilización de tales tecnologías por causa del temor a las repercusiones legales. La pregunta crítica es ¿quién es el que paga al final? Se continúa transitando hacia soluciones que deberán ser disruptivas.
Los temas de sesgos algorítmicos progresivamente se van solucionando a través del triple mecanismo: cumplimiento normativo de reglas en torno a datos y transparencia, aplicación de mecanismos automatizados de identificación o corrección de sesgos (software antisesgos y afinado análisis exploratorio de datos), y parámetros éticos para guiar la gestión. De todas maneras, siempre constituyen un flanco a controlar.
Asimismo, la ciberseguridad e implementación de medidas que afronten eventuales ataques cibernéticos, son una realidad, a la par de los riesgos del mundo material tradicional.
Estos temas permiten entender la necesidad creciente de la gestión de un CAIO o, al menos, de la ejecución de las funciones que le corresponden en la empresa. Tener las funciones del CAIO presentes y organizadas pasa a ser un componente exigible al “buen hombre de negocios”, dicho en términos del derecho societario uruguayo vigente (Ley Nº 16.060 de 4 de setiembre de 1989), en la medida correspondiente a la empresa que se trate. Por lo tanto, se ha de valorar en el abanico de situaciones en las cuales se reclame cualquier tipo de responsabilidad.
En definitiva: la IA en su expansión a todo nivel de la sociedad determinó como reacción la necesidad de una mirada específica en toda unidad empresarial. Es creciente el número de CAIOs que se consolidan en las empresas en todo el mundo, así como los documentos guías o instructivos respecto de su actividad - en lo público y en lo privado - que se formulan día a día.
Según los requerimientos de cada caso podrá tratarse de un agente u operador específicamente dedicado a esta función, de un comité de implementación de la IA más o menos multidisciplinario o de un operador que cumpla la función analítica en IA como parte de otras que le requiera la empresa. Incluso, como otros servicios o funciones empresariales se podría “tercerizar” (CAIO as a service). Cualquiera sea la intensidad que corresponda, lo cierto es que una empresa que no se involucre en alguna medida en temas como la valoración estratégica, monitoreo de implementación y efectos sobre sí de la IA, presente o futura, estará aislada del mercado y expuesta a riesgos empresariales y jurídicos crecientes. No hay marcha atrás.
RESEÑA BIBLIOGRÁFICA
Allen, T. (2024) What is The Role Of A Chief AI Officer (CAIO)?. The AI Journal.
Crosdale, C. (2024) Growing Demand For Chief AI Officers. Global Finance.
Director of the Executive Office of the President (White House). USA. (2024) Memorandum for the heads of executive departments and agencies.
Drechsler, K. et al. (2022) AI Governance: are Chief AI Officers and AI Risk Officers needed?
Graham, E. (2024) Agencies have met all AI mandates for management and talent, watchdog says
Jacobs, E. (2024) The rise of the chief AI officer. Finantial Times.
Kollman, T. et al. (2023) Artificial Leadership: Digital Transformation as a Leadership Task between the Chief Digital Officer and Artificial Intelligence. International Journal of Business Science and Applied Management. Volume 18, Issue 1. DOI: 10.69864/ijbsam.18-1.172
Mylogiq (2024) The Chief AI Officer
Odelberg, T. (2024) Understanding the Future of Artificial Intelligence Governance: Comparing the EU AI Act and U.S. Executive Order on Safe AI. Science, Technology and Public Policy. University of Michigan.
Pérez Bes, F. (2024) Sobre el CAIO: el Chief Artificial Intelligence Officer.
Petrosyan, L., Akinwumi, M. (2024) From Policy to Practice: Essential Competencies for Federal Chief AI Officers. National Fairhousing Alliance.
Schmitt, M. (2024) Strategic Integration of Artificial Intelligence in the C-Suite: The Role of the Chief AI Officer.
Vélez Maldonado, S. (2025) El papel crítico del Chief AI Officer (CAIO) en la protección de datos y su aplicación en proyectos de IA. https://futuria.substack.com/p/el-papel-critico-del-chief-ai-officer
댓글