PARTE II: El momento generacional de la tecnología con la IA generativa: una guía para CIO y CTO

1. Determinar la postura de la empresa para la adopción de la IA generativa.

A medida que el uso de la IA generativa se generaliza cada vez más, hemos visto a A medida que el uso de la IA generativa se generaliza cada vez más, hemos visto a los Gerentes de sistemas de información (CIO) y los directores de tecnología (CTO) responder bloqueando el acceso de los empleados a las aplicaciones disponibles públicamente para limitar el riesgo. Al hacerlo, estas empresas corren el riesgo de perder oportunidades de innovación, y algunos empleados incluso perciben que estos movimientos limitan su capacidad para desarrollar nuevas habilidades importantes.

En cambio, los CIO y CTO deberían trabajar con los líderes de riesgo para equilibrar la necesidad real de mitigación de riesgos con la importancia de desarrollar habilidades generativas de IA en el negocio. Esto requiere establecer la postura de la empresa con respecto a la IA generativa mediante la creación de consenso sobre los niveles de riesgo con los que la empresa se siente cómoda y cómo la IA generativa encaja en la estrategia general de la empresa. Este paso permite a la empresa determinar rápidamente las políticas y directrices para toda la empresa.

Una vez que las políticas están claramente definidas, los líderes deben comunicarlas a la empresa, y el CIO y el CTO deben brindar a la organización el acceso adecuado y pautas fáciles de usar. Algunas empresas han implementado comunicaciones en toda la empresa sobre la IA generativa, han proporcionado un amplio acceso a la IA generativa para grupos de usuarios específicos, han creado ventanas emergentes que advierten a los usuarios cada vez que ingresan datos internos en un modelo y han creado una página de pautas que aparece cada vez que los usuarios acceden. un servicio de IA generativa disponible públicamente.

2. Identificar casos de uso que generen valor a través de una mayor productividad, crecimiento y nuevos modelos de negocio.

Los CIO y CTO deberían ser el antídoto contra el frenesí de la “muerte por casos de uso” que ya vemos en muchas empresas. Pueden resultar de gran ayuda trabajando con el director ejecutivo, el director financiero y otros líderes empresariales para analizar cómo la IA generativa desafía los modelos de negocio existentes, abre puertas a otros nuevos y crea nuevas fuentes de valor. Con un conocimiento profundo de las posibilidades técnicas, el CIO y el CTO deben identificar las oportunidades y los problemas más valiosos en toda la empresa que pueden beneficiarse de la IA generativa y aquellos que no. En algunos casos, la IA generativa no es la mejor opción.

Proporcionar este nivel de asesoramiento requiere que los líderes tecnológicos trabajen con la empresa para desarrollar una capacidad de FinAI para estimar los verdaderos costos y retornos de las iniciativas de IA generativa. Los cálculos de costos pueden ser particularmente complejos porque la economía unitaria debe tener en cuenta los costos de múltiples modelos y proveedores, las interacciones de los modelos (donde una consulta puede requerir información de múltiples modelos, cada uno con su propia tarifa), tarifas de uso continuo y costos de supervisión humana.

3. Reimaginar la función tecnológica

La IA generativa tiene el potencial de rehacer completamente el funcionamiento de la función tecnológica. Los CIO y CTO deben realizar una revisión exhaustiva del impacto potencial de la IA generativa en todas las áreas de la tecnología, pero es importante tomar medidas rápidamente para generar experiencia y conocimientos. Hay tres áreas donde pueden centrar sus energías iniciales:

• Desarrollo de software: la investigación de McKinsey muestra que el soporte de codificación de IA generativa puede ayudar a los ingenieros de software a desarrollar código entre un 35 y un 45 por ciento más rápido, refactorizar el código entre un 20 y un 30 por ciento más rápido y realizar la documentación del código entre un 45 y un 50 por ciento más rápido.³La IA generativa también puede automatizar el proceso de prueba y simular casos extremos, lo que permite a los equipos desarrollar software más resistente antes del lanzamiento y acelerar la incorporación de nuevos desarrolladores (por ejemplo, haciendo preguntas a la IA generativa sobre una base de código). Captar estos beneficios requerirá una capacitación exhaustiva (ver más en acción 8) y la automatización de los canales de integración e implementación a través de prácticas de DevSecOps para gestionar el aumento en el volumen de código.
• Deuda técnica: La deuda técnica puede representar entre el 20 y el 40 por ciento de los presupuestos de tecnología y ralentizar significativamente el ritmo de desarrollo.⁴Los CIO y CTO deberían revisar sus balances de deuda tecnológica para determinar cómo las capacidades generativas de IA, como la refactorización de código, la traducción de código y la generación automatizada de casos de prueba, pueden acelerar la reducción de la deuda técnica.
• Operaciones de TI (ITOps): los CIO y CTO deberán revisar sus esfuerzos de productividad de ITOps para determinar cómo la IA generativa puede acelerar los procesos. Las capacidades de la IA generativa son particularmente útiles para automatizar tareas como restablecimiento de contraseñas, solicitudes de estado o diagnósticos básicos a través de agentes de autoservicio; acelerar la clasificación y la resolución a través de rutas mejoradas; sacar a la luz un contexto útil, como un tema o una prioridad, y generar respuestas sugeridas; mejorar la observabilidad mediante el análisis de grandes flujos de registros para identificar eventos que realmente requieren atención; y desarrollar documentación, como procedimientos operativos estándar, autopsias de incidentes o informes de desempeño.

4. Aprovechar los servicios existentes o adaptar modelos de IA generativa de código abierto

Existe una variación de la clásica decisión de “alquilar, comprar o construir” cuando se trata de estrategias para desarrollar capacidades generativas de IA. La regla básica es cierta: una empresa debe invertir en una capacidad de IA generativa que le permita crear una ventaja patentada para el negocio y acceder a servicios existentes para aquellos que se parecen más a productos básicos.

El CIO y el CTO pueden pensar en las implicaciones de estas opciones como tres arquetipos:

• Taker : utiliza modelos disponibles públicamente a través de una interfaz de chat o una API, con poca o ninguna personalización. Buenos ejemplos incluyen soluciones disponibles para generar código (como GitHub Copilot) o para ayudar a los diseñadores con la generación y edición de imágenes (como Adobe Firefly). Este es el arquetipo más simple en términos de necesidades de ingeniería e infraestructura y generalmente es el más rápido de poner en funcionamiento. Estos modelos son esencialmente productos que se basan en la alimentación de datos en forma de indicaciones para el modelo público.
• Shaper: integra modelos con datos y sistemas internos para generar resultados más personalizados. Un ejemplo es un modelo que respalda los acuerdos de ventas conectando herramientas de inteligencia artificial generativa a la gestión de relaciones con el cliente (CRM) y a los sistemas financieros para incorporar el historial previo de ventas y participación de los clientes. Otra es ajustar el modelo con documentos internos de la empresa e historial de chat para que actúe como asistente de un agente de atención al cliente. Para las empresas que buscan escalar las capacidades de IA generativa, desarrollar más capacidades patentadas o satisfacer mayores necesidades de seguridad o cumplimiento, el arquetipo Shaper es apropiado.
• Maker : crea un modelo básico para abordar un caso de negocio discreto. Construir un modelo básico es costoso y complejo, y requiere enormes volúmenes de datos, una gran experiencia y una enorme potencia informática. Esta opción requiere una inversión única sustancial (decenas o incluso cientos de millones de dólares) para construir el modelo y entrenarlo. El costo depende de varios factores, como la infraestructura de capacitación, la elección de la arquitectura del modelo, la cantidad de parámetros del modelo, el tamaño de los datos y los recursos expertos.

Fuente: (enero, 2024) El momento generacional de la tecnología con la IA generativa: una guía para CIO y CTO https://www.mckinsey.com/capabilities/mckinsey-digital/our-insights/technologys-generational-moment-with-generative-ai-a-cio-and-cto-guide?cid=eml-web