Lo esencial de la IA y la ASG: oportunidades, riesgos y perspectivas de gobernanza para los inversores institucionales

Descargar versión PDF

Para aprovechar realmente la IA, los inversores sostenibles deben encender las alarmas de humo

La inteligencia artificial ya está revolucionando nuestra forma de vivir, trabajar y jugar, y está llamada a transformar radicalmente el progreso mundial en materia de sostenibilidad. No es de extrañar, por tanto, que líderes empresariales como Sundar Pichai, CEO de Google, pronostiquen que su impacto en la sociedad humana será tan profundo como el descubrimiento del fuego.

Pero, al igual que el fuego, el poder transformador de la IA también conlleva riesgos. Así pues, la cuestión central para los inversores en estos momentos es cómo aprovechar el potencial de la IA sin quemarse.

El poder del capital a largo plazo se une al de la tecnología

La forma en que los inversores institucionales, en particular, respondan a este reto podría condicionar el futuro de todos nosotros.

Los inversores institucionales son grandes operadores que gestionan enormes fondos de capital, como planes de pensiones y seguros. A diferencia de otros participantes en los mercados mundiales, tienden a adoptar una visión a largo plazo, invirtiendo con el objetivo de producir rendimientos sostenibles dentro de 25 años o más. Esto hace que la sostenibilidad sea una consideración clave para los inversores institucionales, como demuestra el hecho de que más de la mitad de los activos institucionales del mundo estén gestionados por signatarios de los Principios de Inversión Responsable de la^ONU1.

Por todo ello, los inversores institucionales son fundamentales para determinar cómo se integrará la IA en los sectores en los próximos años. En la actualidad, se fijan en la IA para impulsar la sostenibilidad de dos maneras fundamentales:

1) Invertir en la revolución de la sostenibilidad de la IA: Ven cómo la inversión directa o indirecta en empresas que proporcionan o despliegan IA puede ayudar a catalizar la transición hacia una economía sostenible con bajas emisiones de carbono. Esto podría ayudarles tanto a gestionar los riesgos a largo plazo relacionados con el cambio climático y la pérdida de naturaleza como a aprovechar nuevas oportunidades para invertir en los ganadores de la sostenibilidad del mañana^.2

2) Potenciar las decisiones de inversión con IA: Los inversores están considerando la IA como una herramienta para mejorar la velocidad, la calidad, la profundidad y el alcance de sus procesos de toma de decisiones de inversión.

Invertir en la revolución de la sostenibilidad de la IA

La IA tiene el potencial de revolucionar campos tan diversos como la energía, la agricultura, la sanidad y la conservación de los océanos, ayudándonos a supervisar, optimizar y predecir (MOP) el progreso hacia los objetivos globales de sostenibilidad, como se muestra en la Figura 1. Me gusta pensar que los inversores utilizan la IA para "MOP up" los retos de la sostenibilidad.

Al canalizar el capital hacia innovaciones impulsadas por la IA, los inversores no solo aceleran el progreso hacia objetivos mundiales clave, como el Acuerdo de París, los ODS y el objetivo 30×30 del Marco Mundial para la Biodiversidad, sino que también desbloquean oportunidades potenciales para obtener mejores rendimientos ajustados al riesgo. En este doble papel, apoyan una economía más sostenible y baja en carbono, al tiempo que mejoran su propia resiliencia en un mercado en rápida evolución.

Figura 1: Cómo puede utilizarse la IA para mejorar la sostenibilidad

Potenciar las decisiones de inversión con IA: de los datos a la acción

El segundo enfoque de la sostenibilidad que los inversores institucionales están adoptando con la IA es mejorar la velocidad, la calidad, la profundidad y el alcance de sus procesos de toma de decisiones de inversión.

Los inversores institucionales diversifican sus carteras en miles de empresas y valores de todo el mundo, creando un ecosistema de millones de puntos de datos. Esto conlleva retos persistentes en cuanto a la calidad y cobertura de esos datos e información, y cómo convertirlos en conocimiento, sabiduría y acción valiosos. Aparece la IA, con el potencial de remodelar fundamentalmente todas las partes de la pirámide de conocimiento que hay detrás de cada decisión de inversión (véase la figura 2).

Para la recopilación de datos, la IA y el aprendizaje automático tienen un valor incalculable para capturar información de diversas fuentes y formatos (como texto, tablas y gráficos) y mejorar la fiabilidad de los datos. Este control de calidad no es una cuestión marginal. Nuestra investigación descubrió que, en tres proveedores de datos que ofrecían a los clientes los mismos puntos de emisión de datos notificados, los datos eran diferentes el 13% de las veces y mostraban una discrepancia de más del 20%.

La IA también puede ayudar a colmar lagunas de información cuando no se dispone de datos autodeclarados por las empresas, realizando estimaciones más precisas que las medias del sector mediante el uso de conjuntos de información comparables y alternativos, como noticias o datos geoespaciales. Por ejemplo, las herramientas de IA pueden ahora superponer las declaraciones de derechos humanos de las empresas con información extraída de noticias mundiales y fuentes independientes para ver si coinciden.

Para transformar los datos en información práctica, las soluciones de asistente de IA permiten ahora a los inversores institucionales conversar de forma inteligente con sus carteras sobre temas de sostenibilidad. Pueden preguntar sobre fuentes de datos, metodologías, resultados y recomendaciones para mejorar las puntuaciones. Además, la IA se está utilizando para ofrecer perspectivas de futuro. Por ejemplo, utilizamos la IA para analizar los planes de descarbonización de los 400 mayores emisores del mundo y descubrimos que sólo el 40% tiene planes de transición creíbles.

Por último, la IA ya está ayudando a los inversores a informar a sus numerosas partes interesadas en diferentes formatos, estilos e idiomas. Tal vez lo más importante para los inversores hoy en día sea que la IA puede ofrecer formas de optimizar la presentación de informes de cumplimiento, reduciendo la carga de presentación de informes y permitiendo a los inversores responsables centrarse en la toma de decisiones de inversión.

Figura 2: La pirámide del conocimiento

Instalación de los detectores de humo E, S y G

Los beneficios potenciales de la IA son enormes, pero no están exentos de riesgos.

Al igual que las alarmas de humo protegen nuestros hogares, la economía moderna necesita instalar sistemas de alerta temprana y barandillas que nos permitan avanzar con seguridad con el uso de la IA.

Eso significa minimizar el posible mal uso de la IA en las tres áreas clave de riesgo medioambiental, social y de gobernanza. Como suele ocurrir con los inversores, empecemos por la gobernanza.

Gestión de los riesgos de la IA para la gobernanza

Hay muchos factores a tener en cuenta en la gobernanza de la IA, pero una forma simplista de captarlos es utilizando los siguientes puntos principales:

• Responsabilidad y supervisión: Asignar una responsabilidad clara sobre la propiedad y la gestión de la IA en la que se invierte o que se utiliza. Nunca se debe llegar al "¡la culpa es de las IA!".
• Desinformación y alucinaciones: Garantizar que el modelo de IA cuenta con las barreras adecuadas para evitar resultados engañosos o directamente falsos.
• Privacidad y seguridad de los datos: Garantizar que la IA o el usuario que interactúa con ella no utiliza datos a los que no tiene acceso autorizado.
• Equidad y no discriminación: Garantizar que el modelo o algoritmo de IA no se entrena con datos sesgados que puedan dar lugar a un trato injusto o a la exclusión de determinadas personas o grupos.
• Transparencia y explicabilidad: Garantizar que el funcionamiento del modelo de IA se divulgue y explique hasta un punto que lo haga digno de confianza y comprensible.

Incluso en las primeras fases de la IA han surgido casos de mala gobernanza, como el de Clearview AI. La empresa estadounidense de reconocimiento facial se enfrentó a multas de las autoridades reguladoras del Reino Unido, los Países Bajos y otros países por extraer miles de millones de imágenes de redes sociales sin el consentimiento de los usuarios.

Para hacer frente a estos riesgos, los inversores deben aplicar principios de gobernanza y directrices para gestionar la IA. Los principios clave que guían al sector son los Principios de la IA de la OCDE. Actualizados en mayo de 2024 para captar los riesgos emergentes introducidos por herramientas de IA generativa como ChatGPT y Bard de Google, son el principal punto de referencia para cualquiera que desee abordar la IA de forma responsable.

Además, cada vez hay más agentes que ofrecen directrices de gestión de riesgos, como The Partnership on AI, AI4People, Future of Life Institute, The Green Digital Finance Alliance (GDFA) y The Responsible AI Institute (RAI).

Entre las directrices específicas para inversores se encuentran el Responsible AI Playbook for Investors del FEM, Ethics and Artificial Intelligence in Investment Management del CFA Institute y el Guiding Framework for Responsible AI Integration Into ESG Paradigms de la RAI, que aborda específicamente la inversión sostenible.

Estos principios y orientaciones pretenden evitar que la IA amplifique problemas como la parcialidad y la desinformación, o que permita perjuicios como la vigilancia masiva y las violaciones de los derechos humanos. Hacen hincapié en la rendición de cuentas, exigiendo transparencia sobre quién despliega la IA y quién es responsable de sus resultados.

También estamos asistiendo a nuevos debates sobre cuáles son las mejores prácticas para la política de IA, especialmente tras la ratificación de la Ley de IA de la UE. Esperamos que haya más normativas que regulen la IA y estamos viendo cómo surgen ideas políticas sólidas que se centran en equilibrar la innovación con la gestión de riesgos, crear zonas de pruebas, adaptar las normas por sectores y garantizar la interoperabilidad transfronteriza en consonancia con los principios de IA de la OCDE.

Gestión de los riesgos medioambientales de la IA

La IA tiene el potencial de acelerar el progreso hacia los objetivos globales en materia de clima y naturaleza. Sin embargo, también plantea retos medioambientales que deben gestionarse.

Lo más destacado es su uso de la electricidad y el agua.

Los centros de datos, esenciales para la infraestructura de IA, representan entre el 2 % y el 4 % del consumo de electricidad en las principales economías, como Estados Unidos, China y la UE, una cifra que se espera que aumente con la creciente demanda de IA. Del mismo modo, los sistemas de IA requieren una cantidad significativa de agua, con estimaciones que predicen que puede requerir hasta 6.600 millones de m³ de extracción de agua en todo el mundo para 2027, más de la mitad del consumo anual de agua del Reino Unido. Debido a sus inversiones en IA, empresas tecnológicas como Microsoft y Google han visto crecer sus GEI entre un 30 y un 50%, a pesar de sus compromisos de cero emisiones netas.

Los inversores desempeñan un papel clave en la gestión de estos riesgos. El consumo eléctrico de la IA debería basarse cada vez más en energías renovables, razón por la cual las empresas tecnológicas están invirtiendo mucho en energía libre de carbono. Algunos ejemplos son la asociación de Microsoft con Brookfield Renewable y las recientes inversiones de Amazon y Google en pequeños reactores nucleares para obtener energía limpia.

El uso del agua también debe minimizarse mediante sistemas de circuito cerrado y prácticas sostenibles, garantizando que no se desvíe de las necesidades humanas esenciales y que las aguas residuales se gestionen y reutilicen de forma segura, por ejemplo, en sistemas de calefacción locales.

Para reducir el impacto ambiental, los diseños de los modelos de IA también deben ser eficientes en el uso de los recursos y ajustarse a casos de uso específicos: los modelos generativos de IA no siempre son necesarios cuando basta con modelos más sencillos y que consuman menos recursos. En particular, la IA está ayudando a mitigar su propia huella medioambiental. La IA DeepMind de Google, por ejemplo, optimiza el uso de energía en sus centros de datos y ha logrado una reducción del 40% en el uso de energía para refrigeración^.6

Por último, la gestión medioambiental responsable de la IA requiere un abastecimiento sostenible de materiales para los centros de datos y el hardware. Los metales de tierras raras, como el litio y el cobalto, son vitales para la IA, pero conllevan riesgos medioambientales y humanos si se extraen de forma irresponsable. Además, el hardware de la IA utiliza a menudo productos químicos tóxicos y metales pesados como el plomo, el cadmio y el mercurio. Si no se eliminan adecuadamente, pueden filtrarse al suelo y al agua.

Gestión de los riesgos sociales de la IA

Los posibles beneficios sociales de la IA -desde nuevos tratamientos sanitarios hasta un mejor acceso a la educación- son significativos, aunque a menudo menos discutidos que los impactos medioambientales.

Un estudio publicado en Nature Journal en 2020 concluyó que la IA podría contribuir positivamente a 134 de los 169 (79%) Objetivos de Desarrollo Sostenible de la ONU (Figura 3)^7.

Sin embargo, también advirtió de que los riesgos sociales que conlleva la IA podrían obstaculizar el avance en 59 de los 169 ODS (35%) si no se gestiona con^prudencia8. Por ejemplo, existe el riesgo de que la IA exacerbe los prejuicios o el trato injusto en los procesos de contratación.

Figura 3: Efectos positivos y negativos de la IA en la consecución de una muestra de los ODS

Fuente: Revista Nature
Nota: Muestra basada únicamente en los 9 ODS "relacionados con la sociedad".

Una de las preocupaciones sociales más destacadas en relación con la IA es su impacto en el mercado laboral.

Aunque la IA aumentará la productividad y creará nuevas funciones, McKinsey predice que, para 2030, actividades que suponen hasta el 30% de las horas trabajadas actualmente en la economía estadounidense podrían automatizarse debido al uso acelerado de la IA generativa.
Al igual que en el caso del cambio climático, este cambio requerirá una "transición justa", en la que gobiernos y empresas inviertan en formación para ayudar a los trabajadores a adaptarse.

Aunque no es la historia completa, hay algo de cierto en la afirmación tan citada de que "la IA no te va a quitar el trabajo, pero sí alguien que sepa cómo utilizarla".

Resulta alentador que la ética y la gobernanza de la IA ya se estén integrando en los planes de estudios de los institutos universitarios y técnicos pertinentes. Necesitamos ver más de esto y más campañas de concienciación pública por parte de los gobiernos, las ONG y las instituciones educativas para equipar a los ciudadanos con los conocimientos necesarios para navegar por los riesgos de la IA.

Hoja informativa sobre IA para inversores

Los inversores institucionales ya vigilan de cerca los riesgos ASG de la IA. Una reciente encuesta de Capital Group a más de 1.000 inversores institucionales muestra que estos riesgos se consideran importantes en varias regiones y temas. La protección de datos y la privacidad aparecen como las principales preocupaciones, mientras que otras cuestiones de gobernanza, medioambientales y sociales son consideradas importantes por al menos la mitad de los encuestados en una o más regiones de todo el^mundo9.

Para ayudar a los inversores a hacer frente a estos retos, la Figura 4 esboza los principales riesgos y medidas de mitigación. Pueden aplicarse al emplear la IA o utilizarse como criterios al evaluar las inversiones en empresas que desarrollan o implantan la IA.

Figura 4: Principales riesgos ASG de la IA para los inversores sostenibles y las estrategias de gestión

Gobernanza

Riesgos

• Funciones y responsabilidades poco claras
• Alucinaciones de los modelos GenAI
• Violaciones de la privacidad y seguridad de los datos
• Sesgo
• Falta de transparencia y explicabilidad

Estrategias de mitigación

• Asignar una responsabilidad y una supervisión claras (a nivel operativo y del consejo de administración).
• Aplicar modelos de IA juiciosos, específicos para cada caso, y con las salvaguardias adecuadas (por ejemplo, que los humanos estén en el bucle según convenga).
• Garantizar la privacidad, el anonimato y la seguridad de los datos, obteniendo certificaciones adecuadas y reconocidas, y aplicando la legislación vigente y futura (incluida la ley de IA de la UE).
• Pruebe continuamente los modelos de IA para asegurarse de que siguen siendo resistentes a las ciberamenazas y funcionan con precisión.
• Seleccione sus conjuntos de datos de forma adecuada y equitativa para que representen realmente a la población de usuarios a la que atiende.
• Poner coto a las alucinaciones, por ejemplo, proporcionando referencias.
• Ofrecer transparencia sobre las fuentes de datos, el diseño del modelo, los factores utilizados y el enfoque de aprendizaje.
• Compruebe la explicabilidad, ya que es clave y se exige legalmente en distintas jurisdicciones.

Medio ambiente

Riesgos

• El elevado consumo de electricidad aumenta las emisiones de CO2
• Elevado consumo de agua
• Residuos químicos procedentes de la eliminación de hardware antiguo
• Impacto de la minería debido al cobre y otras materias primas específicas necesarias para los centros de datos.

Estrategias de mitigación

• Seleccionar e impulsar el crecimiento de las energías renovables.
• Gestionar los recursos hídricos para garantizar un uso circular (por ejemplo, la calefacción de los hogares), limitar el perjuicio de otros consumos de agua (humanos o agrícolas) y limitar los daños a la biodiversidad (por ejemplo, evitar el vertido de agua caliente en los hábitats).
• Seleccione modelos diseñados para casos de uso específicos, limitando los residuos e impulsando la optimización del uso de la energía.
• Seleccione hardware y chips que impulsen la eficiencia energética.
• Garantizar un seguimiento adecuado de la cadena de suministro para asegurar que los productos proceden de minas responsables.
• Supervisar la correcta eliminación de residuos tóxicos.

Social

Riesgos

• Desplazamiento laboral
• Riesgo de exacerbar los prejuicios y la discriminación
• Violaciones de la privacidad y seguridad de los datos

Estrategias de mitigación

• Colaborar con los gobiernos y los organismos reguladores para garantizar que diseñamos políticas para una transición justa.
• Garantizar que los modelos se auditan y revisan periódicamente para evitar sesgos, especialmente relacionados con la contratación y la salud.
• Ofrezca programas de formación y educación para el personal, la cadena de suministro y los usuarios finales.
• Invierta en programas de reciclaje para ayudar a los empleados en la transición a funciones que complementen la IA, como la supervisión y la estrategia.
• Promover la colaboración entre el ser humano y la IA centrándose en el uso de la IA como herramienta para aumentar la toma de decisiones humana en lugar de sustituirla por completo.
• Adoptar las medidas de Gobernanza anteriormente expuestas.

El retraso no es una opción

¿Qué significa todo esto para los inversores sostenibles?

La IA puede mejorar las decisiones de inversión en todo el ciclo de la cartera -desde la recopilación de datos hasta la elaboración de informes- y transformar los resultados financieros y de sostenibilidad de su actividad inversora. Pero no es gratis. Los inversores deben blindar su uso e inversión en IA diseñando su propio enfoque para gestionar sus riesgos.

El punto de partida es establecer la responsabilidad y la gobernanza para supervisar la estrategia y la aplicación de la IA, utilizando principios como los Principios de la IA de la OCDE, alineándose con los nuevos marcos y normativas, y equilibrando la gestión de riesgos con la innovación.

También deben abordar los riesgos medioambientales y sociales de la IA, por ejemplo, utilizando modelos y chips eficientes desde el punto de vista energético, optando por una IA que dependa de centros de datos alimentados por energías renovables e invirtiendo en la formación en IA del personal técnico y no técnico, al tiempo que apoyan una "transición justa" de la IA.

El retraso no es una opción. La tecnología se desarrolla a gran velocidad, y los inversores institucionales que no den pronto sus primeros pasos corren el riesgo de quedarse atrás.

Referencias

1. Atkin, David. "Meeting Investors Where They're At: PRI lanza una nueva estrategia". Principios de Inversión Responsable. Consultado el 4 de noviembre de 2024. https://www.unpri.org/pri-blog/meeting-investors-where-theyre-at-pri-launches-new-strategy/12636.article.
2. IA para el cambio climático es un buen recurso para explorar el potencial de la IA, especialmente el aprendizaje automático, en la lucha contra el cambio climático.
3. Instituto de Recursos Mundiales. "Global Forest Watch ayuda a los pueblos indígenas a reducir la deforestación". Consultado el 4 de noviembre de 2024. https://www.wri.org/outcomes/global-forest-watch-helps-indigenous-peoples-reduce-deforestation?t.
4. BloombergNEF. "Siemens dice que la IA puede aumentar un 20% el beneficio de las centrales eléctricas: PREGUNTAS Y RESPUESTAS". Consultado el 4 de noviembre de 2024. https://about.bnef.com/blog/siemens-says-ai-can-boost-power-plant-profit-20-qa/?t.
5. Newswire. "IBM amplía la iniciativa Green Horizons a nivel mundial para hacer frente a los acuciantes retos medioambientales y de contaminación". 9 de diciembre de 2015. Consultado el 4 de noviembre de 2024. https://www.newswire.ca/news-releases/ibm-expands-green-horizons-initiative-globally-to-address-pressing-environmental-and-pollution-challenges-561197251.html?t.
6. DeepMind. "La IA de DeepMind reduce un 40% la factura de refrigeración del centro de datos de Google". 20 de julio de 2016. Consultado el 4 de noviembre de 2024. https://deepmind.google/discover/blog/deepmind-ai-reduces-google-data-centre-cooling-bill-by-40/?t. 
7. Rolnick, David, Priya L. Donti, Lynn H. Kaack, Kelly Kochanski, Alexandre Lacoste, Kris Sankaran, Andrew Slavin Ross, et al. "Tackling Climate Change with Machine Learning". Nature Communications 11, no. 1 (2020): Artículo 132. https://www.nature.com/articles/s41467-019-14108-y.
8. Ibid.
9. Jessica Ground. "El auge de la IA y ESG". Capital Groupconsultado el 8 de noviembre de 2024. https://www.capitalgroup.com/institutions/fr/en/insights/articles/the-rise-of-ai-and-esg.html.